Inteligența artificială (IA) a revoluționat multe industrii, inclusiv crearea de imagini. Cu toate acestea, odată ce companiile tech își extind activitățile în crearea de imagini cu ajutorul IA, acestea se confruntă cu provocări semnificative, așa cum s-a ilustrat în cazul lui Firefly, un instrument de creare a imaginilor prin IA dezvoltat de Adobe. Firefly, la fel ca și Gemini de la Google, a fost criticat pentru modul incorect în care a reprezentat trăsăturile rasiale și etnice în imaginile generate.
Controversele legate de Gemini au dus la închiderea sa după ce a creat imagini istoric inexacte, precum portretizarea Părinților Fondatori a Americii ca fiind de culoare, refuzând în același timp să reprezinte persoanele albe. Sundar Pichai, CEO-ul Google, a recunoscut greșeala, afirmând că compania „a greșit”.
Semafor, o organizație de testare, a constatat că Firefly a replicat multe din greșelile făcute de Gemini. Ambele instrumente folosesc tehnici similare pentru crearea de imagini din text scris, dar sunt antrenate pe seturi de date diferite. Firefly de la Adobe folosește în mod specific imagini de stoc sau imagini cu licență în procesul său de antrenament.
Chiar dacă Adobe și Google au culturi companiale diferite, provocarea principală constă în tehnologia de bază pentru generarea de imagini. Companiile încearcă să ghideze și să modeleze algoritmii, dar nu există o metodă sigură de a erada toate inexactitățile și parțialitățile.
Întrebări frecvente
1. Ce fel de greșeli a făcut Firefly?
Firefly a generat imagini care înfățișau soldați de culoare luptând pentru Germania nazistă în al Doilea Război Mondial și a inserat bărbați și femei de culoare în scene care îi portretizau pe Părinții Fondatori în 1787. A produs, de asemenea, mai multe variante ale unui personaj de benzi desenate, inclusiv un bărbat alb în vârstă, un bărbat de culoare, o femeie de culoare și o femeie albă. În plus, a creat imagini cu vikingi de culoare, similar cu ceea ce făcuse Gemini.
2. De ce apar aceste greșeli?
Aceste greșeli provin din eforturile designerilor modelului pentru a evita perpetuarea stereotipurilor rasiste. Prin asigurarea reprezentării grupurilor diverse, precum medici sau criminali, ei își propun să combată stereotipurile rasiale. Cu toate acestea, când sunt aplicate contextelor istorice, aceste eforturi pot fi percepute ca o încercare de a rescrie istoria pe baza dinamicii politice contemporane.
3. Sunt aceste provocări limitate la Adobe sau Google?
Nu, aceste provocări nu sunt exclusive unei anumite companii sau modele. Cazul Adobe demonstrează că chiar și o companie cunoscută pentru respectarea liniilor directoare poate întâmpina dificultăți. Asigurarea datelor de antrenament exhaustive și abordarea parțialităților în sistemele de IA rămâne o provocare răspândită în întreaga industrie.
Adobe a întreprins pași semnificativi pentru a atenua aceste probleme. Compania și-a antrenat algoritmul pe imagini de stoc, conținut cu licență deschisă și conținut din domeniul public pentru a evita îngrijorările privind încălcarea drepturilor de autor ale clienților săi.
În timp ce Adobe nu a comentat în mod specific această problemă, controversele legate de crearea de imagini cu ajutorul IA subliniază complexitățile cu care se confruntă companiile tech în dezvoltarea uneltelor de IA precise și imparțiale. Aceste provocări subliniază necesitatea îmbunătățirilor continue și a considerațiilor etice în dezvoltarea și implementarea IA.
Întrebări frecvente
1. Ce fel de greșeli a făcut Firefly?
Firefly a generat imagini care înfățișau soldați de culoare luptând pentru Germania nazistă în al Doilea Război Mondial și a inserat bărbați și femei de culoare în scene care îi portretizau pe Părinții Fondatori în 1787. A produs, de asemenea, mai multe variante ale unui personaj de benzi desenate, inclusiv un bărbat alb în vârstă, un bărbat de culoare, o femeie de culoare și o femeie albă. În plus, a creat imagini cu vikingi de culoare, similar cu ceea ce făcuse Gemini.
2. De ce apar aceste greșeli?
Aceste greșeli provin din eforturile designerilor modelului pentru a evita perpetuarea stereotipurilor rasiste. Prin asigurarea reprezentării grupurilor diverse, precum medici sau criminali, ei își propun să combată stereotipurile rasiale. Cu toate acestea, când sunt aplicate contextelor istorice, aceste eforturi pot fi percepute ca o încercare de a rescrie istoria pe baza dinamicii politice contemporane.
3. Sunt aceste provocări limitate la Adobe sau Google?
Nu, aceste provocări nu sunt exclusive unei anumite companii sau modele. Cazul Adobe demonstrează că chiar și o companie cunoscută pentru respectarea liniilor directoare poate întâmpina dificultăți. Asigurarea datelor de antrenament exhaustive și abordarea parțialităților în sistemele de IA rămâne o provocare răspândită în întreaga industrie.
Definiții:
– Inteligență Artificială (IA): Simularea proceselor de inteligență umană de către mașini, incluzând capacitatea de a învăța și de a rezolva probleme.
– Crearea de Imagini prin IA: Utilizarea algoritmilor de inteligență artificială pentru a genera imagini bazate pe descrieri textuale sau alte intrări.
– Trăsături rasiale și etnice: Caracteristicile fizice asociate cu diferite grupuri rasiale sau etnice.
– Gemini: Un instrument de creare de imagini prin IA de la Google care a fost criticat pentru reprezentarea incorectă a trăsăturilor rasiale și etnice în imaginile generate.
– Sundar Pichai: CEO-ul Google.
– Semafor: O organizație de testare care a constatat greșeli similare în instrumentul de creare de imagini prin IA de la Adobe, Firefly.
Linkuri sugerate:
– Adobe.com
– Google.com
The source of the article is from the blog mivalle.net.ar