OpenAI, създателят на конверсационната програма за изкуствен интелект, известна като ChatGPT, идентифицира няколко организации със седалище в Русия, Китай и други региони, които явно използват изкуствения интелект с цел манипулация на общественото мнение.
Тези групи, които предпочитат да запазят идентичността си в тайна, са използвали изкуствен интелект за създаване на текст и профили в социалните мрежи, както и за програмни задачи. В своите действия те са се концентрирали върху чувствителни геополитически въпроси, включително руската инвазия на Украйна, конфликтите в Газа и американската политика.
Сред тях организация със седалище в Китай е била особено активна, създавайки съдържание, което критикува спорното освобождаване на обработена вода от японската атомна електроцентрала „Фукушима Дайичи“. Операцията се е разпространила и в японски езикови публикации онлайн. Въпреки това съобщенията, генерирани от изкуствения интелект, не са събрали значително гледаемост в социалните медии.
Освен това OpenAI разкри, че са имали случаи, в които опитите да се създадат пропагандистични изображения чрез инструменти за изкуствен интелект са били отхвърлени от софтуера, подчертавайки етичните гаранции, предпазващи от злоупотреба. OpenAI публикува доклад, обясняващ тези заплахи, в същия ден, в който са обявени резултатите, подчертавайки важността на мониторинга и регулирането на използването на изкуствения интелект, за да се предотвратят такива манипулативни практики.
Значимост и актуалност на изкуствения интелект за манипулиране на общественото мнение:
Използването на изкуствения интелект за манипулиране на общественото мнение е сериозна загриженост, тъй като може да влияе на политическите избори, да промени общественото мнение по ключови въпроси и дори да подстрекава конфликти между различни групи. Инструментите за изкуствен интелект, като тези, разработени за създаване на deepfakes или писане на убедителни текстове, могат да разпространяват дезинформация в мащаб и със скорост, която далеч превишава човешките възможности.
Ключови въпроси и отговори:
– Какви средства използват организациите за манипулиране на общественото мнение с изкуствен интелект?
Организациите използват изкуствения интелект за генериране на убедителни текстове, фалшифициране на реалистични изображения или видеа (deepfakes), създаване на фалшиви профили в социалните мрежи и автоматизирано разпространение на дезинформация.
– Как OpenAI предотвратява използването на своите инструменти за пропаганда?
OpenAI въвежда етични гаранции и механизми за надзор, които могат да разпознаят и предотвратят софтуера от създаване на съдържание, предназначено за пропаганда или дезинформация.
– Какви са предизвикателствата, свързани с регулирането на използването на изкуствения интелект за манипулиране?
Разпространението на инструментите и технологиите за изкуствения интелект извън граници усложнява налагането на регулации. Освен това, развитието на възможностите на изкуствения интелект може да превъзмине създаването на ефективни рамкове за управление.
Ключови предизвикателства и спорове:
Основните предизвикателства при справянето с използването на изкуствения интелект за манипулиране на общественото мнение включват идентифицирането и приписването на злонамерени дейности на конкретни действащи лица, тъй като мнозина скриват идентичността си или действат отвъд границите на страната. Освен това продължава дебатът за баланса между свободата на изразяване и нуждата от ограничаване на лъжливата информация, както и ролята на технологичните компании срещу държавната власт при регулирането на съдържанието.
Предимства на изкуствения интелект:
– Позволява ефективна обработка и анализ на данни, за да се разберат тенденциите в общественото мнение.
– Спомага за бързото разпространение на информация за законни новини или спешни сигнали.
Недостатъци на изкуствения интелект:
– Изкуственият интелект може да бъде използван за усилване на лъжливи рекламации и създаване на изискани кампании за дезинформация.
– Възникват загрижености относно разрушаването на доверието в медиите и демократичните институции.
Усилия за регулиране и етични предвидения:
Поколебанията в изкуствения интелект предизвикват дискусии за етичното му използване и регулаторни мерки за предотвратяване на неговата злоупотреба в политическата сфера. Организации и правителства от целия свят са все по-осведомени и работят в по-голяма степен за разработване на политики за борба с етичните предизвикателства на изкуствения интелект.
Ако искате да научите повече за последиците от изкуствения интелект и неговото обществено въздействие, можете да изследвате следните връзки:
– OpenAI
– United Nations Digital Cooperation
– World Health Organization (за въпроси, свързани със здравеопазването и изкуствения интелект)