Сексуално експлицитни изображения на Тейлър Суифт бяха широко разпространени по-рано тази година, генерирани с помощта на напреднали инструменти на изкуствения интелект. Този инцидент е само един сред многото примери, където генеративният изкуствен интелект се използва за измамни цели, включително създаването на фалшиви изображения на обществени личности и разпространяването на фалшифицирано съдържание. Въпреки че лесно е да се фокусираме върху технологията зад тези манипулации, е от съществено значение да разберем, че истинската проблема се крие в това как тези изображения се разпространяват като пожар по социалните мрежи.
Платформите като Facebook, Instagram, TikTok, YouTube и Google Search станаха пазителите на интернет, оформяйки преживяванията на милиарди потребители всеки ден. Тази отговорност е станала още по-значима в ерата на генеративния изкуствен интелект, където всеки може да произвежда висококачествени текстове, видеоклипове и изображения лесно. За да достигне милиони гледания за часове, синтетичните медии се доверяват на обширния обхват и мрежов ефект на тези платформи, за да идентифицират първоначалната аудитория и след това да се разпространят бързо.
В конкурентния пазар за внимание на потребителите, където хората са изложени на огромно количество съдържание, социалните мрежи играят ключова роля като куратори. С нарастването на генеративния изкуствен интелект, броят на потенциалните опции за платформите се умножава експоненциално. Създателите на всеки видеоклип или изображение в момента се състезават агресивно за времето и вниманието на аудиторията. Въпреки това потребителите нямат повече време за консумиране на съдържание, въпреки наличието на все по-голям обем на разположение.
Пролиферацията на генеративния изкуствен интелект вероятно ще доведе до повече случаи като изображенията на Тейлър Суифт. Все пак, това е само връхът на айсберга. Понеже инструментите на изкуствения интелект правят производството на съдържание по-бързо и по-евтино, повечето хора ще намерят още по-голямо предизвикателство в придобиването на видимост в онлайн платформите. Медийните организации, например, няма да произвеждат експоненциално повече новини, дори и да въведат инструменти за изкуствения интелект, които ускоряват доставката и намаляват разходите. В резултат на това техният контент ще заема по-малък дял от вниманието на потребителите. Настоящата ситуация вече показва, че малка част от съдържанието събира мнозинството от гледанията, създавайки значителен дисбаланс.
За да се справят с тези предизвикателства, платформите може да се наложи изрично да дадат приоритет на човешките създатели в техните системи. Въпреки това това е сложна задача, тъй като технологичните компании вече се сблъскват с критики за тяхната роля в определянето на продвижението на съдържанието. Концепцията за „свободно досягане“, мнението че платформите трябва да се разпространяват всички видове реч равнопоставено, е източник на конфликти. Достъпът до истински неутрален алгоритъм или обмисляне на субективни стойностни оценки изглежда невъзможно. Дори хронологичните канали, които дават приоритет на последното съдържание, не могат да удовлетворят всички предпочитания на потребителите.
Миналите отговори на платформите на подобни предизвикателства не бяха много обещаващи. Например, когато Елън Мъск преразгледа системата за потвърждение на X, това доведе до възможно злоупотреба и деградирано потребителско изживяване. Подобно, акцентът на TikTok върху вирусната ангажираност прави по-лесно на сметка на авторитетните профили да привлечат внимание. Тези случаи подчертават необходимостта от конкретни действия за справяне с тези проблеми.
Съществуват три ключови възможности за справяне с тези проблеми. Първо, платформите могат да намалят прекомерния си фокус върху ангажираността на потребителите, който често води до спам и нискокачествено съдържание. Това може да се постигне чрез включването на директни потребителски оценки и увеличаването на външно валидираните създатели. По-строги мерки срещу спама, като налагане на лимити за ставане на нови потребители, също могат да бъдат ефективни.
Второ, публично-здравните инструменти могат да се използват за оценка на въздействието на цифровите платформи върху уязвими групи, като тийнейджъри. Прозрачност около експериментите по дизайн на продукта, провеждани от платформите, би позволила по-добро разбиране на баланса между растежа и други цели. Метрики като оценките на психичното здраве могат да бъдат взети предвид за оценка на потенциалните вреди, причинени от определени функции или алгоритми. Законодателни предложения като Закон за отговорност и прозрачност на платформите допълнително могат да дадат възможност на изследователите да достъпват данни на платформите и да си сътрудничат с регулаторните органи в справянето с тези проблеми.
Накрая, трябва да подчертаем приоритета на образованието на потребителите относно рисковете, свързани с генеративния изкуствен интелект и синтетичните медии. Пропагандирането на медийни умения и умения за критично мислене ще даде възможност на лицата да се справят по-ефективно с цифровия пейзаж. Като създадем култура на отговорно създаване и консумиране на съдържание, можем да се справим с отрицателните последици от развиващия се медиен пейзаж.
Генеративният изкуствен интелект предлага невероятни възможности, но и значителни предизвикателства. Това е отговорност на социалните медии, регулаторите и обществото като цяло да гарантират, че тези технологии служат на колективния интерес и защитават потребителите от манипулации и вреди. Като приемем прозрачността, даваме приоритет на оценките на потребителите и пропагандираме цифрова благополучност, можем да създадем по-включваща и отговорна цифрова екосистема.
Често задавани въпроси
The source of the article is from the blog queerfeed.com.br