ОтворенИИ, създателят на програмата за разговорна изкуствена интелигенция, наречена ChatGPT, е идентифицирал няколко организации базирани в Русия, Китай и други региони, които явно използват ИИ с цел манипулация на общественото мнение.
Тези групи, които предпочитат да запазят своите идентичности в тайна, са използвали генерирани от ИИ текстове и създаване на профили в социалните мрежи, както и използването на ИИ за програмни задачи. В операциите си те са се съсредоточили върху чувствителни геополитически въпроси, включително руското нашествие на Украйна, конфликтите в Газа и американската политика.
Сред тях е една базирана в Китай организация, която е особено активна и произвежда съдържание, което критикува спорния изпуск на обработена вода от японската ядрена електроцентрала Фукушима Дайичи. Операцията се е разпространила също и в японски език в онлайн публикации. Въпреки това се съобщава, че тези съобщения, създадени от ИИ, не са получили значително внимание в социалните медии.
Освен това, ОтворенИИ разкри, че има случаи, в които опитите да се създадат пропагандистични изображения чрез ИИ инструменти са били отхвърлени от софтуера, подчертавайки етичните мерки за предпазване от злоупотреба. ОтворенИИ е публикувал доклад, който описва тези заплахи в същия ден, в който бяха обявени резултатите, като подчертава важността на наблюдение и регулиране на използването на ИИ, за да се предотвратят подобни манипулативни практики.
Важност и актуалност на ИИ в манипулирането на общественото мнение:
Използването на ИИ за манипулиране на общественото мнение е сериозна загриженост, тъй като той може да влияе на политическите избори, да променя общественото мнение по ключови въпроси и дори да подбужда конфликти между различни групи. Инструментите на изкуствената интелигенция, като тези разработени за създаване на deepfakes или за писане на убедителни текстове, могат да разпространят дезинформация в мащаб и със скорост, която далеч надхвърля човешките способности.
Ключови въпроси и отговори:
– Какви средства използват организациите за манипулиране на общественото мнение с помощта на ИИ?
Организациите използват ИИ за генериране на убедителен текст, фабрикуване на реалистични изображения или видеа (deepfakes), създаване на фалшиви профили в социалните мрежи и автоматизирането на разпространението на дезинформация.
– Как ОтворенИИ предотвратява използването на своите инструменти за пропаганда?
ОтворенИИ въвежда етични мерки за защита и механизми за надзор, които могат да открият и предотвратят софтуера от създаване на съдържание, предназначено за пропаганда или дезинформация.
– Какви предизвикателства са свързани с регулирането на използването на ИИ за манипулиране?
Разпространението на ИИ инструменти и технологии в международната среда прави трудно налагането на регулации. Освен това, развитието на възможностите на ИИ може да превъзмогне установяването на ефективни управленски рамки.
Ключови предизвикателства и контроверзии:
Основните предизвикателства в решаването на използването на ИИ за манипулиране на общественото мнение включват идентифицирането и отделянето на злонамерени дейности на конкретни действащи лица, тъй като мнозина скриват идентичностите си или действат извън страната. Освен това продължава дебатът за баланса между свободата на изразяване и необходимостта да се ограничи лъжливата информация, както и ролята на технологичните компании спрямо държавната власт в регулирането на съдържанието.
Предимства на ИИ:
– Позволява ефективна обработка и анализ на данни за разбиране на тенденциите в общественото мнение.
– Улеснява бързото разпространение на информация за законни новини или спешни предупреждения.
Недостатъци на ИИ:
– ИИ може да се използва за усилване на лъжливи изказвания и създаване на сложни дезинформационни кампании.
– Подава се съмнение за развалянето на доверието в медиите и демократичните институции.
Регулаторни усилия и етични предвидения:
Напредъците в областта на ИИ предизвикват дискусии за етичното използване и регулаторни мерки за предотвратяване на злоупотребите му в политическата сфера. Организации и правителства по целия свят са сега по-запознати и работят все повече за разработването на политики за справяне с етичните предизвикателства, представени от ИИ.
Ако искате да прочетете повече за последиците на ИИ и неговото обществено въздействие, можете да проучите следните връзки:
– ОтворенИИ
– Панела за цифрово сътрудничество на Организацията на обединените нации
– Световната здравна организация (за въпроси, свързани със здравеопазването и ИИ)