Използването на изкуствен интелект (ИИ) за производство на убедителни пропагандни материали е отбелязало значителна стъпка в еволюцията на стратегиите на ISIS. Наскоро светът стана свидетел на последствията от ужасяващ случай, в който концертна зала в Москва беше атакувана на 22 март, като резултатът беше поне 145 загинали и над 500 ранени. Не дълго след това, отделението на ISIS в Хорасан твърди заслугите, като циркулира новини четири дни след инцидента.
Групата за разузнаване SITE, американска консултантска фирма, известна с проследяването на онлайн дейности на радикални фракции, сподели инсайти с в. „The Washington Post“, разкривайки използването на артифициално генерирани живи новини с цел излъчване на събитието. Специалисти съобщиха, че ISIS е създала видео платформа, News Harvest, специално за предаване на пропаганда, усилена от ИИ.
В детайлен клип от 92 секунди гледателите видяха касков фигура, която твърди, че атаката в Москва не е изолиран терористичен акт, а част от непрекъсната, интензивна война срещу нации, борещи се с ISIS и исляма. Този аватар чете текстове, съставени от медийните крила на ISIS El Naba и Amak, показвайки използването на напредничав ИИ за създаване на виртуални новинари.
Рита Катц, основен член на групата за разузнаване SITE, отбеляза, че от март насам тези ИИ-генерирани новини се споделят седмично. Тя подчерта възможността за промяна в ползата на ISIS, тъй като ИИ им позволява да увеличат своите ужасни послания по целия свят.
„Washington Post“ разкри, че шест видеоклипа са разпространени чрез News Harvest от това разширяване, всеки от които разглежда операции, свързани с групите, асоциирани с ISIS, в няколко държави, включително Нигер, Камерун, Нигерия, Ирак и Сирия. Конкретните ИИ програми, използвани от ISIS, остават неопознати.
Стивън Сталински от Института за изследване на медийните технологии на Близкия изток със седалище във Вашингтон, Д.К., коментира, че тези изявления не са произведени от официалното медийно крило El Hayat на ISIS, но спекулира за възможността ISIS да развие специализиран юнит за ИИ в бъдеще. Видеоклиповете изглежда са качени от единствено наименовано лице на име Hisad, макар че допълнителни детайли за този потребител не са разкрити.
Сталински още посочи използването на платформи за съобщения като Rocket.Chat, Twitter и Telegram от поддръжниците на ISIS за популяризиране на техните цели, като критикува неуспеха на компаниите ефективно да премахнат тези съдържания от техните платформи.
Изкуственият интелект (ИИ) подобрява асиметричните военни възможности на ISIS, като вероятно намалява разходите и рисковете, свързани с производството и разпространението на пропаганда. Пускането на видеоклипове, генерирани от ИИ, позволява анонимност и безопасност за създателите, които вече не се нуждаят от риск за идентификация чрез пряк трансфер или репортажи от първа линия. Сложните новинари, генерирани от ИИ, могат убедително да омамят човешките репортери, предоставяйки на ISIS средството да излъчват своите послания широко, без да разчитат на човешки участници, които могат да бъдат заловени или убити.
Е важно да се попита:
– Как влияе използването на ИИ в пропагандата върху глобалните усилия за борба с насилието искания екстремизъм?
ИИ в джихадистката пропаганда е компликиран, защото прави откриването и спирането повече трудни. Това изисква напреднали инструменти за наблюдение и отваря разисквания за етичното използване на ИИ.
– Какви са предизвикателствата в предотвратяването на разпространението на ИИ-генерирано екстремистко съдържание?
Едно от основните предизвикателства включва отличаването на ИИ генерираното съдържание от истинското съдържание и разработването на контра-ИИ мерки. Социалните медии също имат затруднения с големината на разпространение на съдържание и идентифицирането на какво представлява екстремистко съдържание.
– Какви могат да бъдат предприети мерки за предотвратяване на организации като ISIS да имат достъп и да използват ИИ технологии?
Това е сложно въпрос, тъй като технологията на ИИ става все по-достъпна. Има дебат за регулирането на технологиите на ИИ и предоставянето на образование и ресурси за подобряване на цифровата грамотност по света за борба с дезинформацията.
Полемиката се фокусира върху балансирането на свободата на словото и необходимостта да се предотврати разпространението на вредна пропаганда. Съществува и спор относно отговорността на технологичните платформи за справяне с употребата и разпространението на такова разраствано съдържание.
Предимства:
– ИИ произведените видеоклипове могат да достигнат глобални аудитории, преодолявайки географските ограничения.
– Пропагандата, разпространена чрез ИИ, може да премине през някои методи за наблюдение, насочени към идентификация и ограничаване на екстремисткото съдържание, генерирано от хора.
Недостатъци:
– ИИ улеснява разпространението на пропагандата, като възможно автоматизира процеса, което прави по-трудно за властите да се справят с темпа на създаване на съдържание.
– Тези сложни методи размиват границите между истината и лъжата, поставяйки предизвикателство пред публичната способност да идентифицира автентични новинарски източници.
Относно съответните връзки, тези основни домейни може да предоставят допълнителна информация:
The Washington Post
SITE Intelligence Group
Middle East Media Research Institute
Имайте предвид, че поради актуализациите по уебсайтовете и промените, конкретни връзки не се предоставят. Все пак, домейните, изброени по-горе, са предназначени като основни портали към тези съответни организации, които могат да предоставят допълнителни перспективи по въпроса за използването на ИИ и неговото злоупотребяване от терористически организации.
The source of the article is from the blog meltyfan.es