Roman RemberИзкуственото интелигентно (ИИ) софтуерна технология се използва все по-често не само за положителни цели, но и от екстремистки групи за зловещи цели. Докато точният обхват на използването на ИИ все още остава неопределен, потенциалните последици са тревожни.
Стивън Сталински, директор на институт за медийни изследвания, изрази загриженост за възможното използване на ИИ от терористични организации. Той подчерта бързото приемане на нови технологии от групи като ИСИС и спекулира за създаването на медийни отдели за ИИ. Последните сътрудничества между алианси на Ал-Кайда за онлайн работилници по ИИ подчертават нарастващото сблъсъване между технологията и екстремизма.
Сталински подчерта предизвикателствата, които се поставят от платформи като Telegram и Rocket.Chat в модерирането на съдържание. Бързото създаване на екстремистко съдържание чрез ИИ усложнява усилията на регулаторите и агенциите за борба с тероризма да идентифицират и премахнат вредните материали.
Компании като Rocket.Chat, познати с отворения си източник, изпитват затруднения при премахването на съдържание поради криптирането на съобщенията. С платформи като Telegram, които не отговарят на запитвания относно модерирането на съдържание, задачата за борба с екстремистката пропаганда става още по-сложна.
Възникват контроверзии в екстремистките среди относно използването на съдържание, генерирано от ИИ, със забранени изображения на лица. Инициативите за затъмняване на лицата в видео материали, след консултации с религиозни власти, подчертават етичните дилеми, свързани с технологичните постижения и екстремистките повествования.
Разгръщане на комплексностите на технологията на изкуствен интелект и екстремизма: Просветени погледи
Нарастващото използване на технологията на изкуствен интелигент от екстремистки групи представя сложни рискове и предизвикателства, които изискват подробно проучване. Въпреки че предишни разисквания са разкрили тревожния потенциал на ИИ в ръцете на такива организации, допълнителни аспекти на този проблем заслужават внимание.
Какви са последиците от използването на технологията за дълбок фейк с подпомагане от ИИ в разпространението на екстремистката пропаганда?
Един от належащите проблеми е свързан с нарастващото използване на технология за дълбок фейк, за създаване на много убедително, но фалшиво аудио и видео съдържание. Екстремистки групи използват ИИ-технологията за дълбок фейк, за да разпространяват дезинформация и манипулират общественото мнение, което представлява сериозно предизвикателство за властите и технологичните компании.
Как ИИ алгоритмите съдействат за радикализацията?
ИИ алгоритмите, вградени в социалните мрежи, играят ключова роля в увеличаването на екстремистките идеологии. Чрез анализ на данни и поведение на потребителите, тези алгоритми улесняват целенасоченото разпространение на екстремистко съдържание, което допринася за радикализацията на уязвими лица.
Какви са етичните последици от използването на автономни оръжия, задвижвани от ИИ, в контекста на екстремизма?
Появата на автономни оръжия, задвижвани от ИИ, поражда етични въпроси, когато се преплитат с екстремистки дейности. Потенциалното използване на такива оръжия от радикални групи за извършване на насилствени актове представлява сериозна заплаха за глобалната сигурност, подчертавайки належащата необходимост от регулаторни платформи.
При анализа на предимствата и недостатъците, свързани с сближаването на технологията на изкуствен интелект и екстремизма, се появява изтънчен поглед.
Предимства:
1. Подобрени възможности за откриване: ИИ алгоритмите позволяват бързо откриване на екстремистко съдържание онлайн, което помага за проактивни усилия за намаляване на рисковете.
2. Предварителен анализ: ИИ може да бъде използван, за да се идентифицират шаблоните на радикализация, позволявайки целенасочени намеси, за предотвратяване на екстремистки дейности.
Недостатъци:
1. Нарушаване на личното пространство: Увеличеното използване на ИИ за наблюдение от страна на властите, за борба с екстремизма, поражда загрижености относно нарушаване на индивидуалните права на поверителност.
2. Ескалация на дезинформацията: ИИ-технологията задвижва дълбоки фейкове и пропаганда, представляващи висок риск от разпространение на дезинформация, което подкопава доверието и сближава обществото.
За допълнително проучване на последиците от технологията на ИИ в областта на екстремизма, Wired предлага подробни погледи върху развиващия се пейзаж на технологиите на ИИ и техния отзвук върху екстремистките повествования. Това развиващо се сблъсък на технологията и екстремизма изисква непрекъсната бдителност и колаборативни усилия, за да се справим със сложната мрежа от рискове и предизвикателства, представени от напредъка на ИИ.
