Издигащите се AI сриват в предоставянето на точна избирателна информация
Основаната в Берлин НПО Democracy Reporting International изрази загриженост относно надеждността на генеративните AI системи, разработени от гиганти на технологичния сектор като Google, Microsoft и OpenAI в контекста на европейските избори. Възникнаха обвинения, че тези разговорни AI предоставят неправилна информация на обществото, когато им се задават основни въпроси относно избирателните процедури – включително кога, къде и как да участват в европейските парламентарни избори на ЕС.
Липсите на AI в избирателен контекст
Докладът на организацията подчерта няколко случая, в които платформите на AI не успяха да предложат точни данни. Отбелязва се грешна посочване на датите за европейските парламентарни избори. Повече от това, разговорните агенти предлагат погрешни насоки за гласуване по пощата в Португалия, като предлагат опция, която не е налична в страната. Дори ChatGPT на OpenAI признава, че не е достатъчно обучен да се справи с такива въпроси.
AI Разговорни Ботове Прехвърлят Точността
Резултатите показват крехката тенденция на AI чатботовете да придават по-голямо значение на появата на помощници преди да предоставят точна информация. Това указва на липсата на оценка на риска относно дезинформацията от страна на създателите на тези AI системи. Събитието нарушава стандартите, установени от Дигиталния закон за услугите на ЕС (DSA), който налага строги проверки с цел предотвратяване разпространението на лъжлива информация.
Следствията на дезинформацията и AI халюцинациите
Аксел Доше, основател на платформата за консултации с граждани Make.org, изразява сериозни загрижености относно двойната заплаха, представена от тези AI системи: да станат вектори на дезинформация и потенциални инструменти за кибервойна и международни намеси. С използването на генеративни AI за информиране на европейските избиратели и възможността те да бъдат злоупотребени, цялостността на европейските избори може да бъде компрометирана.
Устойчивостта на AI-генерираните лъжи
Доше продължава да подчертава нерешения проблем с „AI халюцинациите“, подчертавайки неразумното да се разчита на генералистични AI за чувствителни задачи, като например обобщаване на изборните програми на кандидатите. Той проповядва за онлайн услуги, които избягват използването на такива AI технологии, за да се гарантира, че европейските избиратели получават точна информация. Съвместни усилия се правят с CNRS и Sorbonne, за да се подобри надеждността на чувствителните данни, предоставяни от интелигентни програми.
Текущи пазарни тенденции в AI и дезинформацията
Тъй като AI става все по-сложна и интегрирана в ежедневието на хората, нейното използване в политическата сфера е нараствало, особено в разпространяването и справянето с дезинформацията. Една от ключовите пазарни тенденции е нарастването на инвестициите в AI инструменти, предназначени за откриване и филтриране на лъжлива информация онлайн. Социалните мрежи и правителствата все повече се доверяват на AI, за да преценят големи обеми данни и да идентифицират потенциално вредно съдържание. Все пак тези инструменти също не са невосприимчиви към разпространение на дезинформация, ако не се проследяват и актуализират с правилни данни.
Прогнози за AI и избирателната честност
Погледът напред към продължаването на развитието на AI най-вероятно ще включва както по-сложни кампании за дезинформация, така и по-разработени системи за откриване. Способностите на AI да генерират реалистичен текст, аудио и видео означава, че дезинформацията може да стане по-убедителна, което създава по-големи предизвикателства за алгоритмите за откриване и факт-чекърите. Прогнозирането на това как двата лагера ще се развият предвижда влошаване на борбата между тези, които създават дезинформация, и тези, отговорни за защитаването на истината.
Основни предизвикателства и контроверзии
Един основен предизвикателство е гарантиране, че AI системите са прозрачни и отговорни, особено когато те влияят на обществения диалог. Контроверзата се състои в балансирането между използването на възможностите на AI и защитата срещу нейния потенциал да усилва лъжливи разкази. Още едно препятствие е гарантирането, че AI системите са подходящо обучени с разнообразни, точни данни. Обществото на AI среща етични въпроси относно предразсъдъци, отговорност и потенциалните последици от генерираните от AI лъжливи съобщения за демократичните процеси.
Предимства и Недостатъци на AI в Изборите
Предимствата на AI в избирателни контексти включват ефективната обработка на въпроси от страна на избирателите, потенциала за персонализирано образование на избирателите и автоматизацията на дразниращи избирателни управленски задачи. От друга страна, недостатъците са значителни: AI системите могат неосведомено (или умишлено, ако бъдат хакнати или манипулирани) да разпространяват дезинформация, да не се приспособят към местния избирателен контекст и да подкопаят щатското доверие в демократичния процес, ако разпространяват неточности.
За допълнителна информация за развитието на AI и по-широката дискусия за технологията и демокрацията, можеш да посетиш следните уебсайтове:
Тези връзки водят до основните домейни, където редовно се публикуват корпоративни политики, изследвания за AI и актуализации. Важно е да се обръщаш към надеждни източници за най-актуалната информация, особено с измененията в технологията на AI и нейното приложение в различни области, включително политиката и изборите.
The source of the article is from the blog windowsvistamagazine.es