I den ständigt föränderliga världen av artificiell intelligens revolutionerar nya program som Sora sättet vi skapar och upplever visuellt innehåll. OpenAI’s Sora, hyllad som den bästa videogenereringsmodellen hittills, har förmågan att producera fotoriktiga scener på några sekunder. Men denna anmärkningsvärda bedrift har väckt oro bland experter.
Ed Newton-Rex, VD för den ideella organisationen Fairly Trained, erkänner den imponerande kvaliteten hos Soras videorenderingar, men riktar uppmärksamheten mot en avgörande fråga – potentialen för utnyttjande av upphovsrättsskyddat material. AI-program som Sora förbättrar sina förmågor genom att skrapa internet efter befintliga verk, ofta utan tillstånd eller ersättning till de ursprungliga skaparna.
Bristen på transparens kring Soras träningsprocess ytterligare förstärker dessa bekymmer. Medan OpenAI är förtegen om sina träningsmetoder, visar deras webbplats programmets framsteg och betonar förbättringarna som gjorts i att återskapa realistiska visuella intryck. Även om Sora ännu inte är tillgänglig för allmänheten, samarbetar OpenAI med utvalda personer, inklusive visuella konstnärer, designers och filmmakare, för att få värdefull feedback om potentiella risker och skador.
Påverkan på kreativitetsbranschen är ett ämne som väcker växande oro. Hollywood-författare och skådespelare gick nyligen i strejk av rädsla för att AI-verktyg som Sora kan ersätta mänskliga konstnärliga ansträngningar och leda till arbetstillfällen. Newton-Rex erkänner de potentiella fördelarna med sådana verktyg men uppmanar till försiktighet och betonar behovet av korrekt reglering.
En oro är användningen av AI-genererade deepfakes för att manipulera folkopinion under val. Som demonstrerats av en nyligen robocall med en falsk president Joe Biden, finns det legitim oro för missbruk av AI-genererat innehåll för att påverka politisk diskurs.
För att hantera de etiska och juridiska implikationerna av AI-video generering föreslår Newton-Rex nya lagar som kräver transparens från AI-program. Hans ideella organisation, Fairly Trained, samarbetar med företag som åtar sig att köpa innehåll istället för att helt enkelt appropriera det utan tillstånd.
OpenAI hävdar att man prioriterar säkerhet och utvecklar metoder för att identifiera AI-genererade videor. Men de större frågorna kring etik, laglighet och framtida påverkan av AI-teknik förblir komplexa och kräver kontinuerlig uppmärksamhet.
Medan AI-video generering erbjuder spännande möjligheter är det avgörande att säkerställa att upphovsrättshavares rättigheter skyddas, kreativitet värderas och transparens upprätthålls genom hela processen. Endast då kan vi fullt ut dra nytta av dessa banbrytande framsteg utan att offra integriteten hos konstnärlig skapelse.
The source of the article is from the blog publicsectortravel.org.uk