Meta Platforms, compania-mamă a Facebook și Instagram, a anunțat planurile de a detecta și eticheta imaginile generate de serviciile de inteligență artificială (IA) oferite de alte companii. Compania intenționează să utilizeze mărcări invizibile încorporate în fișierele de imagine pentru a distinge între fotografii reale și conținutul creat digital. Acest sistem de etichetare va fi aplicat oricărui conținut care poartă mărcile și care este distribuit pe platformele Meta.
Introducerea acestui sistem de etichetare este un efort de a aborda problema răspândită a conținutului înșelător și fals produs de tehnologiile generative de IA. Aceste tehnologii au capacitatea de a crea imagini care par realiste în urma unor prompt-uri simple, ridicând preocupări cu privire la posibilele daune asociate utilizării incorecte. Inițiativa de etichetare a Meta face parte dintr-un efort mai amplu în industria tehnologiei pentru stabilirea unor standarde și reducerea impactului negativ al tehnologiei generative de IA.
Nick Clegg, președintele afacerilor globale al Meta, și-a exprimat încrederea în capacitatea companiei de a eticheta imagini generate de IA în mod fiabil. Cu toate acestea, el a recunoscut complexitatea dezvoltării unor instrumente similare pentru conținutul audio și video. În timp ce tehnologia de marcări audio și video nu este încă pe deplin matură, Meta are planuri de a solicita persoanelor să eticheteze propriul conținut audio și video modificat, cu sancțiuni pentru cei care nu respectă această cerință.
Este de remarcat faptul că inițiativa de etichetare a Meta nu se aplică momentan textelor scrise generate de instrumente de IA precum ChatGPT. Clegg a declarat că în prezent nu există un mecanism viabil pentru etichetarea unui astfel de conținut. În plus, nu este clar dacă Meta va aplica etichete pentru conținutul generat de IA distribuit prin serviciul său de mesagerie criptată, WhatsApp.
Recenta examinare a politicii Meta privind videoclipurile manipulatoare și falsificate de către consiliul independent de supraveghere a determinat recunoașterea necesității de măsuri îmbunătățite. Consiliul a recomandat etichetarea în loc de eliminarea unui astfel de conținut. Clegg a fost de acord cu evaluarea consiliului și a afirmat că politica actuală a Meta nu mai este potrivită în contextul creșterii conținutului sintetic și hibrid. Prin stabilirea unui parteneriat de etichetare cu alte companii de tehnologie, Meta își propune să demonstreze angajamentul său de a aborda aceste preocupări.
În concluzie, decizia Meta Platforms de a eticheta imaginile generate de IA reprezintă un pas important în combaterea dezinformării și în consolidarea transparenței pe platformele sale. Pe măsură ce industria tehnologică continuă să se confrunte cu provocările generate de tehnologiile generative de IA, eforturile colaborative precum această inițiativă de etichetare devin cruciale în modelarea unei utilizări responsabile a IA.
Secțiunea de Întrebări Frecvente:
Î: Ce este Meta Platforms?
R: Meta Platforms este compania-mamă a Facebook și Instagram.
Î: Care este planul Meta în ceea ce privește imaginile generate de inteligența artificială (IA)?
R: Meta intenționează să detecteze și să eticheteze imaginile generate de serviciile de IA oferite de alte companii. Vor utiliza mărcări invizibile în fișierele de imagine pentru a distinge între fotografii reale și conținutul creat digital.
Î: De ce implementează Meta acest sistem de etichetare?
R: Meta își propune să abordeze problema răspândită a conținutului înșelător și fals produs de tehnologiile generative de IA.
Î: Ce preocupări ridică tehnologiile generative de IA?
R: Tehnologiile generative de IA au capacitatea de a crea imagini care par realiste în urma unor prompt-uri, ridicând preocupări cu privire la posibilele daune asociate utilizării incorecte.
Î: Este Meta încrezătoare în abilitatea sa de a eticheta imagini generate de IA?
R: Da, Nick Clegg, președintele afacerilor globale al Meta, și-a exprimat încrederea în abilitatea companiei de a eticheta imagini generate de IA în mod fiabil.
Î: Se aplică sistemul de etichetare și conținutului audio și video?
R: În prezent, tehnologia de marcări audio și video nu este încă pe deplin matură. Meta are planuri de a solicita persoanelor să eticheteze propriul conținut audio și video modificat, dar nu dispune de instrumente pentru etichetarea automată a unui astfel de conținut.
Î: Va aplica Meta etichete conținutului generat de IA distribuit pe WhatsApp?
R: Nu este clar dacă Meta va aplica etichete conținutului generat de IA distribuit pe serviciul său de mesagerie criptată, WhatsApp.
Î: De ce a decis Meta să implementeze inițiativa de etichetare?
R: Meta a fost supusă unor critici referitoare la politica sa privind videoclipurile manipulatoare și falsificate, ceea ce a determinat necesitatea de măsuri îmbunătățite. Consiliul de supraveghere independent al Meta a recomandat etichetarea în loc de eliminarea unui astfel de conținut, iar Meta a fost de acord cu această evaluare.
Termeni cheie/Jargon:
– Inteligență artificială (IA): Simularea proceselor de inteligență umană de către mașini, care includ de obicei capacități de învățare, raționament și autocorectare.
– IA generativă: Tehnologii de IA care pot crea conținut nou, cum ar fi imagini, sunet sau video, pe baza prompturilor sau a exemplelor.
– Conținut înșelător: Conținut fals sau care prezintă o realitate distorsionată în scopul înșelării sau manipulării telespectatorilor.
– Sistem de etichetare: Un sistem care atribuie mărci sau etichete conținutului pentru a oferi informații suplimentare sau context.
Linkuri recomandate conexe:
– Meta
– Facebook
– Instagram
The source of the article is from the blog hashtagsroom.com