Тъмната страна на изкуствения интелект: Подпомагане на онлайн дезинформация
Цифровата епоха донесе появата на близо хиляда уебсайтове управлявани от генериращ изкуствен интелект, разпространяващи неоснователни новини. Това представлява злоупотреба на мощни инструменти за изкуствен интелект, предназначени за отговорна употреба.
Тези платформи, известни като ненадеждни новини, генерирани от изкуствен интелект (UAIN), обхващат 16 езика, включително италиански, и често нямат или имат много малко човешки контрол. Понеже генерираният изкуствен интелект става все по-достъпен, фермите за съдържание и тези, които се стремят да разпространяват дезинформация, злоупотребяват с тази технология.
Тези уебсайтове обикновено носят общи, но правдоподобни имена и произвеждат големи количества съдържание на различни теми, вариращи от политика до пътувания. За съжаление, не всички разкази са истина; някои статии са измислени, като например хоаки за смъртта на знаменитости и фалшиво представени исторически събития. Защо разпространяват дезинформация? Предимно заради печалбата. Преобладаващият бизнес модел е програматичната реклама, която не дискриминира според съдържанието или качеството на уебсайта. Този липсващ контрол означава, че дори добре известни марки ненароком финансират тези платформи, насърчавайки техния растеж.
Подпомагането на дезинформация чрез анонимно финансиране
Докато марките не предприемат мерки да предотвратят показването на техните реклами на ненадеждни източници, те поненароком помагат за финансирането на разпространението на дезинформация.
Дезинформация със злонамерена цел
Отвъд печалбата, за някои от тези сайтове стоят още по-зловещи причини. NewsGuard разкри дезинформационна кампания, свързана с уебсайт, контролиран от китайското правителство. Този сайт използва съдържание, генерирано от изкуствен интелект, за да представи неоснователното твърдение, че САЩ имат лаборатория за биологично оръжие в Казахстан, което як supposedly инфектира камилите, за да нарани китайското население.
Освен това, мрежа от 167 новинарски сайтове, свързани с Русия, публикува фалшива информация за войната в Украйна. Тези източници, които се представят като местни новинарски източници, главно разчитат на изкуствения интелект, за да създадат съдържание, което допринася за глобалния проблем на дезинформацията.
Основни въпроси и отговори:
Как се разпространява AI-генерираната дезинформация?
AI-генерираната дезинформация се разпространява главно чрез уебсайтове, които имитират утвърдени новинарски платформи. Тези сайтове злоупотребяват с AI инструменти, за да генерират бързо убедително, но лъжливо съдържание, често с минимално човешко участие, и го разпространяват чрез социални мрежи, търсачки и мрежи за програматична реклама.
Какви предизвикателства предизвиква AI-генерираната дезинформация?
Основният предизвикател е различаването на достоверна информация от лъжи, тъй като AI може да произвежда много автентично изглеждащо съдържание. Допълнителни предизвикателства включват влиянието върху демократичните процеси, дезинформацията за общественото здраве и геополитическите напрежения, усилени от кампании за дезинформация, спонсорирани от държавата.
Какви са контроверсиалните аспекти на AI-генерираната дезинформация?
Контроверсите се въртят около използването на AI за измамни цели, отговорностите на технологичните компании в регулирането на съдържанието, влиянието върху доверието на обществото и етичните аспекти на AI технологиите в разпространението на информация.
Предимства и недостатъци:
Предимства:
– Технологията на AI зад тези уебсайтове представлява забележителни напредъци в генерирането на естествен език, което може да бъде полезно за различни легитимни приложения като рекламно писане, създаване на съдържание и превод на език.
Недостатъци:
– Дезинформацията може да повлияе на общественото мнение, да манипулира политически резултати и да разпространява вредни разкази.
– Тя подкопава доверието в легитимните новинарски медии и онлайн източници на информация.
– AI-генерираната дезинформация може да се разраства бързо, като я прави предизвикателство да се сдържи и факт-чекне в реално време.
– Това представя риск от финансова експлоатация чрез приходи от реклама, печелени под лъжливи претексти.
За допълнително четене на темата, можете да посетите уважавани организации, които работят за борба с дезинформацията и насърчаване цифровата грамотност, като:
– NewsGuard
– Институт Пойнтер
– First Draft
Имайте предвид, че като посетите гореспоменатите връзки, може да откриете конкретни примери и доклади за AI-генерираната дезинформация и потенциално стратегии за идентифициране и борба с такова съдържание. Винаги уверява о, че URL адресът е правилен и надежден, преди да повярвате в представената информация.
The source of the article is from the blog zaman.co.at