Apple je donio odlučan potez kako bi očistio svoj App Store eliminiranjem nekoliko aplikacija pokretanih umjetnom inteligencijom sposobnih za stvaranje golih slika s seksualnim sadržajem. Napredne generativne AI tehnologije imaju značajan potencijal u područjima poput fotografije i grafičkog dizajna. Međutim, zloupotreba tih alata izazvala je zabrinutost zbog proizvodnje lažnih ili seksualno eksplicitnih slika.
Izvješća su otkrila da je Apple bio obaviješten o postojanju aplikacija za stvaranje slika pogonjenih AI-jem promoviranih na njegovom App Storeu s mogućnošću generiranja eksplicitnog sadržaja bez pristanka. Ove aplikacije su dobivale promociju putem Instagram oglasa koji su lažno obećavali uklanjanje odjeće sa slika žena bez naknade, uz linkove koji su korisnike usmjeravali na njihove stranice u App Storeu.
Odgovor tvrtke Apple nije bio odmah dostupan, ali nakon daljnjeg intenzivnog medijskog nadzora, tehnološki div je potražio dodatne detalje i brzo djelovao. Nakon što su primili specifične linkove do spornih oglasa i stranica proizvoda u App Storeu, Apple je uklonio spomenute aplikacije. Djelovanje tvrtke označava čvrsto poštovanje svojih politika i priznavanje propusta, označavajući izgon tri aplikacije koje su prešle kroz proces pregleda i dospjele u ruke korisnika.
Važne činjenice navedene u članku:
– Upotreba AI-ja za generiranje neconsensualnih golih slika izaziva značajne privatnost i etičke zabrinutosti. Ova praksa često se naziva “deepfaking” kada se radi o stvaranju realističnih slika ili videa.
– Apple ima stroge smjernice za pregled App Storea koje zabranjuju eksplicitan sadržaj, a programeri moraju osigurati da njihove aplikacije udovoljavaju svim zakonskim zahtjevima i standardima zajednice.
– AI-om pogonjena tehnologija potaknula je raspravu o digitalnom pristanku i potencijalnim psihološkim utjecajima na osobe čije se slike koriste bez njihova dopuštenja.
– Osim problema privatnosti, postoji rasprava o pravnim implikacijama, poput distribucije neconsensualnog pornografskog materijala, što je nezakonito u mnogim jurisdikcijama.
Važna pitanja i odgovori:
– P: Koji su glavni izazovi povezani s AI-generiranim eksplicitnim sadržajem?
O: Izazovi uključuju zaštitu privatnosti, sprječavanje uznemiravanja, osiguravanje pristanka za korištenje osobnih slika, pravne implikacije i zloupotrebu tehnologije.
– P: Zašto je Apple možda trebao neko vrijeme da odgovori na početku?
O: Apple je možda morao temeljito istražiti tvrdnje, pregledati sadržaj i osigurati da bilo kakvo djelovanje bude u skladu s politikama tvrtke i zakonskim zahtjevima.
Ključne kontroverze:
– Kontroverza se uglavnom usredotočuje na ravnotežu između tehnološke inovacije i etičke uporabe, kao i potencijal za iskorištavanje AI-ja u svrhu stvaranja neconsensualnog eksplicitnog sadržaja.
– Druga kontroverza je učinkovitost procesa pregleda App Storea u identificiranju i zaustavljanju takvih aplikacija od postajanja dostupne javnosti.
Prednosti i nedostaci:
– Prednosti: Appleov potez naglašava važnost imanja odgovornih politika AI-ja i može odvratiti programere od stvaranja aplikacija koje krše privatnost i pristanak. Ovo djelovanje također ističe ulogu tehnološke industrije u zaštiti korisnika od digitalne zloupotrebe.
– Nedostaci: Mogu postojati zabrinutosti oko prekomjerne kontrole ili cenzure ako su politike App Storea previše restriktivne, potencijalno ograničavajući legitimnu inovaciju. Programeri također mogu biti nesigurni o granicama prihvatljivog sadržaja, što dovodi do izazova u stvaranju i moderaciji aplikacija.
Ako vas zanima saznati više o politikama i inicijativama tvrtke Apple za osiguravanje sigurne i etičke uporabe aplikacija na svojoj platformi, možete posjetiti njihovu službenu web stranicu koristeći sljedeću poveznicu: Službena web stranica tvrtke Apple. Imajte na umu da su URL-ovi poveznica provjereni kako bi usmjeravali na glavnu domenu samo, a nisu uključene podstranice.
The source of the article is from the blog papodemusica.com