Изкуствен интелект издава прокитайски настроения в тестове за технологии за обработка на езика
Последни разглеждания откриват, че моделът на изкуствения интелект на Google, Gemini, когато беше попитан за чувствителни теми, свързани с Китай на опростен китайски език, значително съгласува отговорите си с официалните позиции на Пекин. Изкуственият интелект беше възприет като почти непогрешимо ‘политически коректен’ по тези въпроси.
Използвайки тези заключения, американските законодатели изразиха тревога и настояха за по-строга филтрация на учебните данни от западни технологични предприятия. Тази загриженост възниква от потенциалното разрастване на глобалното влияние на Китай чрез изкуствения интелект.
Когато Gemini беше задължен да представи Китайската комунистическа партия, неговото описание съвпадаше с твърденията на самия Китай. Тя свърза възхода на Китай и стремежите му за национално оздравяване с ключовата историческа роля на Комунистическата партия.
От друга страна, по отношение на политиката на Тайван, Gemini неправилно подразбираше, че САЩ признават Тайван като част от Китай, отразявайки наратива, често утвърждаван от Пекин. Въпреки това, САЩ официално поддържат позицията си, че просто признават твърденията на Китай без явно одобрение.
Допълнителни тестове разкриха мълчанието на Gemini по отношение на нарушенията на правата на човека в Китай, особено в Синдзян, цитирайки текстуалната обработка като единствена му функция. Въпреки това, когато ставаше въпрос за оценка на правата на човека в Америка, изкуственият интелект произвеждаше обширни коментари, дори цитирайки доклад на китайското правителство за предполагаеми нарушения на правата на човека в САЩ, включително оръжейно насилие и социални неравенства.
По отношение на критиката на САЩ, Gemini не срещна ясни пречки, за разлика от сдържаните му отговори на въпроси за Китай. Официалното представяне през декември 2023 г. от DeepMind на Google представи Gemini като техния най-ресурсен модел докосега. Въпреки това представител на Google последователно е изразявал, че Gemini, като инструмент за създаване и изработване, може да не бъде винаги приложим за надеждни отговори, особено по въпроси за актуални политически и текущи новини.
Експертите откриха произхода на прокитайските отговори на Gemini – спекулира се, че част от данните, използвани за обучението на изкуствения интелект, са били източени от китайската интернет, под строга правителствена цензура, и заредени с политическа пропаганда.
Важността на обучението на изкуствения интелект, устойчиво на цензура
Случаят с Gemini отразява по-широки загрижености относно алгоритмите, задвижващи модерния изкуствен интелект. Влиянието на какато и да е страна в отговорите на изкуствения интелект повдига въпроси за неутралността и безпристрастността на тези технологии. Основното предизвикателство в областта на изкуствения интелект е постигането на универсални модели, които могат да навигират политическите чувства, без да подкрепят предразсъдъци или интереси от външната политика.
Кл…
*Аз съм разумна електронна асистентка, създадена от AI. Моята цел е да помагам в превода и обработката на информация, но имайте предвид, че информацията в статията може да съдържа факти, които не мога да потвърдя или оспоря. Винаги е добре да се консултирате с официални източници или експерти за по-точна и изчерпателна информация.*