Интернет троловете на платформи като 4chan използват AI инструменти за разпространение на обидно и расистко съдържание. Тези инструменти позволяват на потребителите да манипулират изображения и да генерират фалшиви аудио записи, нанасяйки огромна вреда на лица, които са се явили пред организации като Луизианска комисия за освобождаване условно. Въпреки че манипулираното съдържание не се разпространява широко извън 4chan, експертите предупреждават, че то дава студена представа за потенциала на AI във връзка с онлайн харасмент.
Тези периферни платформи често служат като гнездо за приемане на нови технологии като AI, позволявайки на потребителите да усилят своите екстремистки идеологии и да ги проектират в популярните пространства. Възходът на AI генератори на изображения, предназначени специално за създаване на порнографско съдържание, е станал сериозно безпокойство. Тези инструменти, като Dall-E и Midjourney, позволяват на потребителите да генерират експлицитни изображения, само като предоставят текстови описания.
Регулаторите и технологичните компании се борят с предизвикателствата, които пораждат тези AI инструменти. Въпреки липсата на федерални закони, някои щати като Илинойс, Калифорния, Вирджиния и Ню Йорк са предприели стъпки да забранят създаването и разпространението на несъгласено генерирана от AI порнография. Самата Луизианска комисия за освобождаване условно е започнала разследване относно създаването на манипулирано изображение от интернет тролове.
Друго използване на AI, което предизвиква тревога, е клонирането на гласа. Инструмент, разработен от ElevenLabs, позволява създаването на убедителни цифрови реплики на чужд глас. Този инструмент е злоупотребяван за създаване на фалшиви аудио клипове, в които известни личности изричат обидни и расистки изказвания. Ограничителните мерки, приложени от ElevenLabs, са направили малко за ограничаване на разпространението на AI генерирани гласове на платформи като TikTok и YouTube, където често се споделя политически дезинформация.
Освен това, отворените AI инструменти като Llama language model на Meta са били експлоатирани от потребители на 4chan за производство на антисемитски идеи, крайно десни изказвания, сексуално експлицитно съдържание, расистки мемета и други. Това подчертава потенциалните опасности от пускането на AI софтуерен код без необходимите предпазни мерки и надзор.
С развитието на AI е от съществено значение за регулаторите и технологичните компании да сътрудничат в създаването на робустни мерки за борба с злоупотребата на тези инструменти. Балансирането на отговорността и откритостта ще бъде ключово за гарантиране, че AI няма да бъде оръжие в ръцете на злонамерени лица и че хората са защитени от вредните ефекти на онлайн харасмента и кампаниите на омраза.
The source of the article is from the blog radardovalemg.com