Microsoft mérnök óvatosságra int a Copilot Designerrel kapcsolatban
Microsoft mesterséges intelligenciára épülő képgenerátora, a Copilot Designer, gyanú alá került, ahogy Shane Jones mérnök figyelmeztet a potenciális veszélyeire. Jones, egy CNBC-interjúban kifejezte aggodalmát az eszköz által létrehozott zavaró és furcsa képek miatt. Annak ellenére, hogy erőfeszítéseket tett a Microsofton belüli felhívásokra, Jones most kormányzati szabályozókhoz fordult beavatkozásért.
Az egyik által Jones által felvetett példa azt tartalmazza, amikor a mesterséges intelligencia képgenerátor démonokat és vért ábrázoló képeket hoz létre, ha a „pro-choice” kifejezéssel kérik. Egy másik esetben, amikor „car accident” kifejezésre kapott képektől volt szexuálisan túlzottan megjelenített nőket fehérneműben látott erőszakos autóbalesetek mellett. Habár Jones elismeri, hogy ezek a képek megsértik a Microsoft Felelős AI irányelveit, a vállalat nem megfelelő módon reagált a képgenerátor felfüggesztésére irányuló kérelmeire.
A Copilot Designer a OpenAI képgenerátorán, a Dall-E 3-on működik, valamint más Microsoft AI eszközökön. Habár a kritikákkal és a tartalmak moderálásának problémáival szembesül, úgy tűnik, hogy a Microsoft valószínűleg nem fogja felfüggeszteni a Copilot Designert. Azonban a friss események más AI képgenerátorokkal kapcsolatban, például a Google Gemini ideiglenes felfüggesztése a biztonsági aggodalmak miatt, arra utalnak, hogy fennállnak kihívások a megfelelő biztonsági intézkedések biztosítása terén az AI termékek esetében.
Az általánosabb kérdés a tartalmak moderálásáról és a biztonsági intézkedésekről az AI eszközök esetében jelentős vitát keltett. Habár ezeknek az eszközöknek a lehetősége van innovatív és kreatív tartalmak létrehozására, a hatékony biztonsági intézkedékek hiánya aggodalmakat vet fel azok hatásait illetően a társadalmi normákra és értékekre. Ahogy a technológia fejlődik, a kreativitás és a felelős AI végrehajtásának egyensúlyának megtalálása kulcsfontosságú kihívás marad a fejlesztők és a szabályozók számára egyaránt.
GYIK szekció:
Q: Mi a Microsoft AI képgenerátora, a Copilot Designer?
A: A Copilot Designer egy olyan AI eszköz, amelyet a Microsoft fejlesztett ki, és képeket generál a felhasználói kérések és bemenetek alapján.
Q: Milyen aggodalmak merültek fel a Copilot Designerrel kapcsolatban?
A: Shane Jones mérnök aggodalmát fejezte ki a Copilot Designer által létrehozott zavaró és furcsa képek miatt. Észrevett olyan eseteket, amikor az eszköz démonokat és vért ábrázoló képeket állított elő bizonyos kifejezésekkel való kérésre, valamint szexuálisan túlzottan megjelenített nőket fehérneműben erőszakos autóbalesetek mellett.
Q: Reagált-e a Microsoft a Copilot Designerrel kapcsolatos aggodalmakra?
A: Jones erőfeszítései ellenére, hogy felhívja a figyelmet a Microsofton belül, a vállalat nem megfelelően reagált az ő kéréseire a képgenerátor felfüggesztésére.
Q: Mi az AI képgenerátor, a Dall-E 3?
A: A Dall-E 3 egy olyan képgenerátor, amelyet az OpenAI fejlesztett ki, és amelyet a Copilot Designer, valamint más Microsoft AI eszközök használnak.
Q: Mérlegelte-e a Microsoft a Copilot Designer felfüggesztését?
A: Habár kritikákkal és a tartalom moderálásának problémáival került szembe, a Microsoft valószínűleg nem fogja felfüggeszteni a Copilot Designert, ahogy azt a vállalat válasza mutatja Jones aggodalmaira.
Q: Más AI képgenerátorok szembesültek-e biztonsági aggodalmakkal?
A: Igen, más AI képgenerátorokkal kapcsolatos esetek, például a Google Gemini ideiglenes felfüggesztése a biztonsági aggodalmak miatt.
Kulcsszavak és kifejezések:
– AI: Mesterséges Intelligencia, amely a számítógépes rendszerek fejlesztésére utal, amelyek olyan feladatokat képesek elvégezni, amelyek általában emberi intelligenciát igényelnek.
– Képgenerátor: Olyan szoftverekre vagy AI eszközökre vonatkozik, amelyek különféle bemenetek vagy kérések alapján képeket létrehoznak.
– Tartalom moderálás: Az online tartalmak ellenőrzésének és felügyeletének tevékenysége annak érdekében, hogy megfeleljen bizonyos irányelveknek vagy normáknak.
– Biztonsági intézkedések: Azok a intézkedések vagy óvintézkedések, amelyeket az esetleges kockázatok vagy veszélyek ellen lehet bevezetni.
– Társadalmi normák és értékek: Arra utal, hogy egy adott társadalomban vagy közösségben elfogadott viselkedési szabályok, hozzáállások és hitrendszerek.
Javasolt Kapcsolódó Linkek:
– Microsoft
– OpenAI
– CNBC
The source of the article is from the blog radiohotmusic.it