Совет Европы находится в завершающей стадии переговоров по созданию первого в мире международного договора об искусственном интеллекте (ИИ). Этот договор нацелен на установление основных норм регулирования и управления ИИ, обеспечивая защиту фундаментальных прав и демократических ценностей. Государства всего мира борются с вызовами, создаваемыми ИИ, и этот договор стремится устранить недостаток согласия по его регулированию.
Частный сектор, в частности, сталкивается со значительными трудностями в несанкционированном использовании систем ИИ. Многочисленные случаи показывают, что эти системы имеют тенденцию воспроизводить предвзятость и порождают несправедливые результаты, влияя на сферы, такие как здравоохранение, практики найма и принятие решений по кредитам. Более того, системы наблюдения на основе ИИ вызывают опасения в отношении нарушений прав и свобод людей, поскольку личные данные собираются без ограничений. Для борьбы с этими проблемами эксперты, такие как доктор Алондра Нельсон, призывают к принятию «Билля прав ИИ».
Признавая потенциальные проблемы, Совет Европы начал разработку договора об ИИ несколько лет назад. Целью было создание всеобъемлющего соглашения между странами для ответственного управления ИИ, с приоритетом для прав человека, демократических ценностей и правового государства. Первоначальные рекомендации предполагали закрепление законодательной силы для договора, охватывающего как частные, так и публичные деятельности в области ИИ. Впоследствии было создано комитет по разработке проекта.
С 46 государствами-членами и дополнительными странами-наблюдателями, такими как Соединенные Штаты, Канада, Япония и Мексика, договоры Совета Европы имеют глобальное значение. Помимо нынешних участников, каждая страна может ратифицировать эти договоры.
Хотя надежды были высоки на создание надежной структуры, возникли препятствия по мере приближения переговоров к их завершающим этапам. В то время как большинство частного сектора придерживается необходимости регулирования, страны, такие как Соединенные Штаты, якобы выступают за исключения для частных систем ИИ. Кроме того, силовые структуры стремятся исключить системы ИИ национальной безопасности из области действия договора.
Ведущие эксперты в области ИИ подняли тревожные сигналы относительно этих разработок. Стюарт Рассел, известный британский компьютерный ученый, подчеркнул, что договор об ИИ должен обращаться к частным системам ИИ как к наибольшему риску для общественной безопасности. Их исключение может оставить нации уязвимыми перед иностранными противниками и оправдать внутреннюю массовую слежку. Данные опроса от Института инженеров-электротехников и электронщиков (IEEE) поддерживают эти обеспокоенности, поскольку большинство его членов из США считают, что существующие регуляции США по управлению ИИ недостаточны.
Гражданские организации в Европе, Канаде и США объединились, чтобы призвать переговорщиков убрать общие исключения для сектора технологий и национальной безопасности. Общественное беспокойство по поводу ИИ также возрастает, опросы показывают большее беспокойство, чем энтузиазм среди американцев.
Остаётся загадкой, почему некоторые страны настаивают на исключении частных систем ИИ, учитывая, что сам президент США, Джо Байден, подчеркнул необходимость регулирования для защиты прав и безопасности. Президент Байден даже призвал Конгресс принять законодательство об ИИ, получивший бипартийную поддержку.
Чтобы преодолеть эти вызовы, предлагается возвращение к первоначальным принципам. Цель договора — содействовать общим обязательствам между нациями. Неевропейским странам, испытывающим трудности с выравниванием с этими целями, может быть предоставлено больше времени на реализацию или предоставлены исключения для конкретных целей. Уменьшение области действия договора, однако, подорвет мировую защиту прав человека и демократии. Общие обязательства не должны подвергаться риску из-за различий в законодательных системах или традициях.
Призыв к международному договору об ИИ не нов. Бывший губернатор Массачусетса Майкл Дукакис и даже Папа Римский Франциск выразили тревогу по поводу несанкционированного использования ИИ. Папа Франциск особенно подчеркнул угрозу «технологической диктатуры» и призвал к законодательному договору для обеспечения безопасности человеческих ценностей. Эти обеспокоенности подчеркивают насущную необходимость мирового сотрудничества и принятие всеобъемлющего договора об ИИ.
The source of the article is from the blog regiozottegem.be