Сред страховете от информацията за изборите, популярният AI генератор на изображения Midjourney е предприел стъпки да блокира създаването на фалшиви изображения на президента Джо Байдън и бившия президент Доналд Тръмп, както съобщи Асошиейтед Прес. Главният изпълнителен директор на Midjourney, Дейвид Холц, обяви въвеждането на тези временни мерки по време на събитие за цифрови часове в офиса, като посочи, че процесът на модерация е бил сложен, но необходим, за да се предотврати злоупотребата с инструмента.
Въпреки че компанията не предостави конкретни подробности относно промените в политиката, опитите на АП да създаде изображения на „Тръмп и Байдън, ръкуващи се на плажа“ предизвикаха предупреждение, показващо невъзможността за съответствие с новите правила.
Midjourney, относително малка компания със само 11 служители, изпъкна, като не се присъедини към доброволното споразумение в технологичната индустрия през февруари с цел борба с използваните за измамите на избирателите AI-generirana глубокафейки. Холц поясни, че политическата реч не е фокусът на Midjourney и изрази намерението да даде приоритет на усилията за модериране, без да посвещава излишни ресурси на политическото съдържание.
The Center for Countering Digital Hate (CCDH) наскоро публикува доклад, показващ, че AI генераторът на изображения на Midjourney липсва контроли в сравнение с другите популярни инструменти, което го прави уязвим за произвеждане на изображения, които биха могли да подкрепят дезинформацията или лъжливи твърдения за изборен измама. Изследването на CCDH показа, че Midjourney се справи най-зле сред тестваните инструменти, със спирачен коефициент от 65% при генериране на изборна дезинформация.
Потребителите на платформата на Midjourney съобщиха, че получават предупреждения, когато опитват да създадат изображения на Байдън или Тръмп, което указва ясно промяна в политиката. Въпреки това, за разлика от други генератори на изображения, Midjourney позволява на потребителите да виждат писмените подбуди и изображения на другите си поради обществения характер на форумите им в социалната мрежа Discord.
Холц редовно взаимодейства с масивната група на Midjourney в Discord с над 19 милиона членове, като подчертава бъдещото въздействие на чатботите с deepfake и променящият се пейзаж на политическите кампании.
В бъдеще Холц предвижда, че броят на фалшивите изображения в изборите ще продължи да нараства, предупреждавайки, че към 2028 г. всички кандидати най-вероятно ще имат реално изглеждащи чатботове с „deepfake“ технологии. Въпреки че Midjourney е предприел стъпки за предотвратяване на злоупотребата, Холц признава, че лицата, мотивирани да създават deepfake, вероятно ще намерят алтернативни методи, които са по-ефективни и специално насочени към своите цели.
Основана през 2020 г., Midjourney описва себе си като независим лабораторен център за изследвания, който има за цел да разшири въображението на човешкия вид. Публичната версия на нейния AI генератор на изображения беше представена през юли 2022 г., което доведе до увеличен интерес към технологиите за изкуствен интелект. Холц заяви, че компанията активно забранява обидно и вредно съдържание и разполага с екип модератори за разглеждане на оплакванията на потребителите.
Често задавани въпроси:
1. Какво е Midjourney?
Midjourney е AI генератор на изображения, който позволява на потребителите да създават реалистични изображения въз основа на зададени подбуди.
2. Защо Midjourney блокира създаването на фалшиви изображения на Байдън и Тръмп?
Midjourney е временно блокирала създаването на такива изображения, за да предотврати разпространението на информацията за изборите и злоупотребата с инструмента.
3. Как се различава Midjourney от другите генератори на изображения?
За разлика от другите, Midjourney оперира на социалната мрежа Discord, където потребителите могат да виждат писмените подбуди и изображения на другите потребители.
4. Какво е Центърът за Борба с Цифровата Омраза?
Центърът за Борба с Цифровата Омраза (CCDH) е организация, целяща да се бори с цифровата омраза и дезинформацията.
Източници:
– Асошиейтед Прес: AP News
– Центърът за борба с цифровата омраза: CCDH
Дефиниции:
– AI генератор на изображения: Инструмент, който използва изкуствен интелект, за да създава реалистични изображения на базата на зададени подбуди.
– Deepfakes: Синтетични медийни материали, като изображения или видеоклипове, които се създават или манипулират с използването на изкуствен интелект, за да изглеждат реални, но всъщност са фалшиви.
– Дезинформация: Фалшива или въводеща в заблуждение информация, разпространявана с намерението да заблуди или измами.
– Изборна измама: Незаконно намеса или манипулация в процеса на изборите с цел да се повлияе на неговия резултат.
– Модерация: Процесът на наблюдение и контрол на съдържанието, създадено от потребителите, за да се гарантира съответствие с установените насоки или политики.
The source of the article is from the blog kewauneecomet.com