Microsoft’s AI-beeldgenerator, Copilot Designer, staat onder toezicht omdat ingenieur Shane Jones waarschuwt voor de mogelijke gevaren ervan. Jones gaf in een interview met CNBC aan bezorgd te zijn over de verontrustende en vreemde beelden die door de tool worden gegenereerd. Ondanks zijn inspanningen om bewustwording binnen Microsoft te vergroten, heeft Jones zich nu tot overheidsinstanties gewend voor ingrijpen.
Een van de voorbeelden die Jones aanhaalt, omvat de AI-beeldgenerator die beelden genereert van demonen en bloed wanneer geprompt met de zin “pro-choice.” Een ander geval betrof beelden van geseksualiseerde vrouwen in lingerie naast gewelddadige auto-ongelukken wanneer geprompt met “auto-ongeluk.” Hoewel Jones erkent dat deze beelden in strijd zijn met de Richtlijnen voor Verantwoorde AI van Microsoft, heeft het bedrijf niet adequaat gereageerd op zijn verzoeken om de beeldgenerator op te schorten.
Copilot Designer werkt op OpenAI’s beeldgenerator, Dall-E 3, samen met andere AI-tools van Microsoft. Ondanks kritiek en problemen met contentmoderatie lijkt Microsoft niet van plan Copilot Designer te pauzeren. Echter, recente incidenten met andere AI-beeldgeneratoren, zoals de tijdelijke pauze van Google Gemini vanwege veiligheidszorgen, geven aan dat er voortdurende uitdagingen zijn bij het bieden van voldoende waarborgen voor AI-producten.
Het bredere vraagstuk van contentmoderatie en waarborgen in AI-tools heeft aanzienlijke controverse veroorzaakt. Hoewel deze tools het potentieel hebben om innovatieve en creatieve inhoud te genereren, roept het gebrek aan effectieve waarborgen zorgen op over hun impact op maatschappelijke normen en waarden. Naarmate de technologie blijft evolueren, blijft het vinden van een balans tussen creativiteit en verantwoorde AI-implementatie een cruciale uitdaging voor zowel ontwikkelaars als toezichthouders.
FAQ-sectie:
The source of the article is from the blog girabetim.com.br