Штучний інтелект (AI) генератори зображень революціонізували спосіб створення та візуалізації цифрового контенту. Однак недавні відкриття проливають світло на постійні упередження, вбудовані в ці моделі штучного інтелекту. Один з прикладів – генератор зображень AI від Meta “Imagine”, який має проблеми з уявленням певних міжрасових стосунків.
The Verge дослідила це питання і виявила, що під час запиту на створення зображень “азіатського чоловіка та кавказького друга” або “азіатського чоловіка та білої дружини”, програма систематично генерувала зображення двох азіатських осіб. Це конкретне упередження вразливе, особливо зважаючи на те, що генеральний директор Meta Марк Цукерберг одружений з Прицилою Чан, яка є азіаткою.
Подальші дослідження, проведені Gizmodo, показали, що Imagine від Meta не зіткнувся з такими ж труднощами при створенні зображень інших міжрасових пар, наприклад, білого чоловіка та азіатської жінки. Ці висновки викликають питання про наявні вади та упередження, які притаманні даним, що тренують системи штучного інтелекту для створення зображень.
Варто відзначити, що Imagine від Meta – не єдиний генератор зображень, який стикнувся з скандалами. У лютому Google змушений був закрити свій генератор зображень Gemini після того, як він створив різноманітні, з різних рас особи нацистів. Цей інцидент сприймався як наслідок необдуманої спроби врахувати різноманіття без належного контролю.
Критики стверджують, що ці упередження походять від великої кількості даних, отриманих з Інтернету для тренування генераторів зображень AI. Оскільки Інтернет відображає існуючі расові стереотипи та упередження, він навмисно утримує їх через ці моделі AI. Хоча були зроблені зусилля виправити ці упередження, вони не досить ефективні у вирішенні кореневих проблем.
Генеративний штучний інтелект, включаючи генератори зображень і чат-боти, по-просту мають проблеми з точністю і об’єктивністю. AI чат-боти часто зіткнуться з труднощами у висловленні правди або логічних твердженнях, відображаючи проблеми, з якими стикаються генератори зображень.
Технологічна галузь, зокрема великі технологічні гіганти, повинні продемонструвати свою зобов’язаність у виявленні цих упереджень та усуненні недоліків у своїх системах штучного інтелекту. Расові упередження в технологіях не можуть бути оцінені як ізольовані випадки, вони потребують комплексних рішень для перетворення ландшафту.
Часто задавані питання (FAQ):
Q: Що таке генератори зображень AI?
A: Генератори зображень AI – це інструменти або системи, які працюють на штучний інтелект, щоб генерувати реалістичні зображення на основі певних вхідних даних або запитів.
Q: Чи мають генератори зображень AI упередження?
A: Так, генератори зображень AI можуть мати упередження через дані, на яких вони навчаються, які часто відображають існуючі расові стереотипи та суспільні упередження.
Q: В чому суть проблеми з генератором зображень AI від Meta, Imagine?
A: Imagine від Meta мав труднощі з генерування точних зображень певних міжрасових відносин, систематично створюючи зображення двох азіатських осіб замість задуманої міжрасової пари.
Q: Чи є упередження загальною проблемою в технології AI?
A: Так, упередження – це поширена проблема в технології AI, яка впливає на різні застосування, включаючи генератори зображень, чат-боти та інші системи AI.
Q: Як технологічні гіганти вирішують ці упередження?
A: Технологічні гіганти прагнуть вирішувати проблеми упереджень в системах AI. Проте для ефективного усунення упереджень та забезпечення справедливості та об’єктивності технологій AI ще багато роботи.
Джерела:
– В оригінальній статті не було вказано конкретних джерел.
Штучний інтелект (AI) генератори зображень суттєво вплинули на індустрію створення цифрового контенту. Ці інструменти використовують алгоритми штучного інтелекту для створення реалістичних зображень на основі введених запитів. Проте нещодавні відкриття показали наявність постійних упереджень у моделях AI, що ставить під сумнів їх точність та справедливість.
Один із визначних прикладів – генератор зображень AI від Meta “Imagine”, який продемонстрував певне упередження під час генерації зображень певних міжрасових стосунків. Дослідження The Verge показало, що програма систематично створювала зображення двох азіатських осіб замість точного генерування зображень “азіатського чоловіка та кавказького друга” or “азіатського чоловіка та білої дружини”. Ця упередженість варта уваги, оскільки генеральний директор Meta, Марк Цукерберг, одружений на азіатській жінці, Прицилі Чан.
Gizmodo провела подальші дослідження щодо Imagine від Meta і виявила, що програма не зіткнулася із тими ж труднощами під час генерації зображень інших міжрасових пар, таких як білий чоловік та азіатська жінка. Ці висновки підкреслюють наявність упереджень та недоліків у дані, які використовуються для тренування систем штучного інтелекту для створення зображень.
Imagine від Meta не є єдиним випадком. У лютому Google опинився в центрі скандалу, коли його генератор зображень Gemini створив різноманітні зображення нацистів різних рас, що призвело до закриття системи. Цей випадок підкреслив ризики спроби врахувати різноманіття без належного контролю та якості.
Критики вважають, що ці упередження виникають від широкого використання даних з Інтернету для тренування генераторів зображень AI. Оскільки Інтернет відображає існуючі расові стереотипи та упередження, моделі AI ненавмисно утримують їх. Хоча було зроблено спроби врегулювати ці упередження, все ще є багато роботи для вирішення кореневих проблем.
Проблеми з точністю та об’єктивністю не тільки властиві генераторам зображень. Штучні інтелектуальні чат-боти також мають труднощі із висловленням правди або логічними твердженнями, віддзеркалюючи проблеми, які стикаються генератори зображень.
Головні технологічні гіганти, що займають лідерські позиції в розробці систем штучного інтелекту, повинні пріоритизувати усунення упереджень та виправлення недоліків у своїх технологіях. Расові упередження в технологіях не можуть бути ігноровані як ізольовані випадки, вони потребують комплексних рішень для перетворення ландшафту.
На підсумок, розвиток генераторів зображень AI змінив процес створення цифрового контенту. Однак наявність упереджень у цих моделях AI, як показано у Imagine від Meta та Gemini від Google, породжує занепокоєння стосовно справедливості та точності цих систем. Технологічні компанії повинні докласти зусиль для вирішення цих упереджень комплексно і перетворення ландшафту технологій AI на краще.
Джерела:
– В оригінальній статті не було вказано конкретних джерел.
The source of the article is from the blog lisboatv.pt