Inženir Shane Jones opozarja na potrebo po previdnosti pri uporabi Copilot Designerja, Microsoftovega orodja za ustvarjanje slik z umetno inteligenco. Jones je v intervjuju za CNBC izrazil skrb glede motečih in nenavadnih slik, ki jih proizvaja to orodje. Njegova prizadevanja za osveščanje znotraj Microsofta so bila zaman, zato se je sedaj obrnil na vlade za posredovanje.
Eden od primerov, ki jih je navedel Jones, vključuje generiranje slik demonov in krvi s strani AI generatorja slik ob geslu “za izbiro.” Drugi primer je vključeval slike seksualiziranih žensk v spodnjem perilu ob violentnih prometnih nesrečah ob geslu “prometna nesreča.” Čeprav Jones priznava, da te slike kršijo smernice odgovorne umetne inteligence podjetja Microsoft, podjetje ni ustrezno odgovorilo na njegove zahteve za začasno ustavitev generatorja slik.
Copilot Designer deluje na generatorju slik Dall-E 3 podjetja OpenAI, skupaj z drugimi AI orodji iz Microsofta. Kljub kritikam in težavam s moderiranjem vsebine se zdi malo verjetno, da bo Microsoft začasno ustavil Copilot Designerja. Vendar pa nedavni incidenti, povezani z drugimi AI generatorji slik, kot je bil začasni odmor Googlovega Geminija zaradi varnostnih pomislekov, kažejo na stalne izzive zagotavljanja ustreznih varoval za AI izdelke.
Širša tema moderiranja vsebine in varoval v AI orodjih je sprožila veliko kontroverz. Čeprav imajo ta orodja potencial za ustvarjanje inovativne vsebine, pomanjkanje učinkovitih varoval vzbuja skrbi glede njihovega vpliva na družbene norme in vrednote. Ker tehnologija še naprej napreduje, je iskanje ravnotežja med ustvarjalnostjo in odgovorno implementacijo AI ključen izziv tako za razvijalce kot za regulatorje.
FAQ:
V: Kaj je Microsoftov AI generator slik, Copilot Designer?
A: Copilot Designer je AI orodje, ki ga je razvila Microsoft in generira slike na podlagi uporabniških navodil.
V: Kateri pomisleki so bili izraženi glede Copilot Designerja?
A: Inženir Shane Jones je izrazil skrbi glede motečih in nenavadnih slik, ki jih generira Copilot Designer. Opazil je primere, ko je orodje ustvarilo slike demonov in krvi ob določenih frazah ter seksualizirane ženske v spodnjem perilu ob nasilnih prometnih nesrečah.
V: Kako je Microsoft odgovoril na pomisleke glede Copilot Designerja?
A: Kljub Jonesovim prizadevanjem za osveščanje znotraj Microsofta, podjetje ni ustrezno odgovorilo na njegove zahteve za začasno ustavitev generatorja slik.
V: Kaj je AI generator slik, Dall-E 3?
A: Dall-E 3 je generator slik, razvit s strani OpenAI, ki ga uporablja Copilot Designer, skupaj z drugimi AI orodji iz Microsofta.
V: Je Microsoft razmišljal o začasni ustavitvi Copilot Designerja?
A: Kljub kritikam in težavam s moderiranjem vsebine se zdi malo verjetno, da bo Microsoft začasno ustavil Copilot Designerja, kot kaže odziv podjetja na Jonesove pomisleke.
V: Ali so se drugi AI generatorji slik soočali z varnostnimi pomisleki?
A: Da, incidenti v zvezi z drugimi AI generatorji slik, kot je Google Gemini, so privedli do začasnih premorov zaradi varnostnih pomislekov.
The source of the article is from the blog smartphonemagazine.nl