ОтворениИзкуствен Интелигентна Инициатива (OpenAI), създателят на програмата за разговорен ИИ ChatGPT, идентифицирал няколко организации, базирани в Русия, Китай и други региони, които предполагаемо използват изкуствен интелект с цел манипулиране на общественото мнение.
Тези групи, които предпочитат да запазят анонимността си, използват генерирани от изкуствен интелект текстове и създаване на профили в социалните мрежи, както и използване на ИИ за програмни задачи. В операциите си те се фокусират върху чувствителни геополитически въпроси, като нападенията на Русия в Украйна, конфликтите в Газа и американската политика.
Сред тях е особено активна организация с китайски произход, която генерира съдържание, критикуващо спорното изтичане на обработена вода от японската атомна електроцентрала „Фукушима Дайичи“. Операцията се разшири и до онлайн публикации на японски език. Въпреки това, докладите показват, че тези изкуствено генерирани съобщения не са привлекли значително внимание в социалните медии.
Освен това, OpenAI разкри, че има случаи, в които опитите за генериране на пропагандистични изображения чрез ИИ инструменти са били отхвърлени от софтуера, което подчертава етичните правила за предотвратяване на злоупотреби. OpenAI публикува доклад, подробно описващ тези заплахи, в същия ден като обявяването на резултатите, като акцентира върху важността на мониторинга и регулирането на ИИ, за да се предотвратят подобни манипулативни практики.
Значение и актуалност на изкуствения интелект при манипулиране на общественото мнение:
Използването на ИИ за манипулиране на общественото мнение е сериозна загриженост, тъй като може да повлияе на политическите избори, да промени общественото мнение по ключови въпроси и дори да провокира конфликти между различни групи. Инструментите на изкуствения интелигент, като тези, разработени за създаване на deepfake видеа или писане на убедителни текстове, могат да разпространят дезинформация в мащаб и със скорост, която далеч надхвърля хуманните възможности.
Ключови въпроси и отговори:
– Какви средства използват организациите за манипулиране на общественото мнение с помощта на ИИ?
Организациите използват ИИ за генериране на убедителни текстове, създаване на реалистични изображения или видеа (deepfakes), създаване на фалшиви профили в социалните мрежи и автоматизирано разпространение на дезинформация.
– Как OpenAI предотвратява използването на своите инструменти за пропаганда?
OpenAI въвежда етични мерки за защита и механизми за надзор, които могат да открият и предотвратят софтуера от генериране на съдържание, предназначено за пропаганда или дезинформация.
– С какви предизвикателства се сблъскваме при регулирането на използването на ИИ за манипулиране?
Продължаващото разпространение на ИИ инструменти и технологии извън граници нареждат затруднения при налагането на регулации. Освен това, иновациите на ИИ може да надминат създаването на ефективни рамки за управление.
Основни предизвикателства и спорове:
Основните предизвикателства при справяне с използването на ИИ за манипулиране на общественото мнение включват идентифицирането и приписването на злонамерени действия на конкретни дейци, тъй като мнозина крият идентичността си или действат отвъд границите. Освен това, все още се води дебат за баланса между свободата на изразяване и необходимостта да се ограничи лъжливата информация, както и ролята на технологичните компании срещу държавната власт в регулирането на съдържание.
Предимства на ИИ:
– Позволява ефективна обработка и анализ на данни за разбиране на тенденциите в обществените мнения.
– Улеснява бързото разпространение на информация за легитимни новини или спешни сигнали.
Недостатъци на ИИ:
– Може да се използва за увеличаване на лъжливи истории и създаване на изискани кампании за дезинформация.
– Предизвиква безпокойство по отношение на ерозията на доверието в медиите и демократичните институции.
Усилия за регулиране и етични съображения:
Продължителното развитие на ИИ подтиква дискусии за етичното използване и регулаторните мерки с цел предотвратяване на злоупотребата му в политическата сфера. Организациите и правителствата по целия свят вече са по-осведомени и работят все повече за разработване на политики за справяне с етичните предизвикателства, предизвикани от ИИ.
Ако търсите допълнителна информация за последиците от ИИ и неговото обществено въздействие, можете да изследвате следните връзки:
– OpenAI
– Организация на Обединените нации за дигитално сътрудничество
– Световна здравна организация (за въпроси свързани със здравеопазването и ИИ)