Искусственный интеллект (ИИ) развивается с невиданной скоростью, и федеральное правительство должно незамедлительно принять меры по регулированию этой технологии, согласно заявлению пионера ИИ Йошуа Бенджио. Бенджио, известный как «крестный отец» ИИ, подчеркнул, что текущий путь развития ИИ несет значительные риски для общества, и Оттаве не следует откладывать внедрение законодательства, даже если оно не идеально.
Один из основных опасений, высказанных Бенджио, — это потенциальное злоупотребление ИИ, особенно создание глубокой фейковой видеозаписи, которая может распространять дезинформацию. Эти видео используют ИИ для манипуляции визуальными эффектами и создания иллюзии того, будто общественные деятели говорят или делают то, чего они на самом деле не делали. Кроме того, ИИ может использоваться для обмана пользователей социальных сетей, общаясь с ними и изменяя их политические взгляды, что может привести к потенциальному разрушению демократических принципов.
Кроме того, Бенджио подчеркнул растущую угрозу эксплуатации передовых систем ИИ для кибератак. По мере развития технологии ИИ эти системы могут стать достаточно мощными, чтобы преодолеть существующую систему киберзащиты и нарушить критическую цифровую инфраструктуру. Если эти возможности попадут в неправильные руки, последствия могут быть катастрофическими.
В ответ на эти опасения комитет по промышленности Палаты общин в настоящее время изучает правительственный законопроект, направленный на регулирование систем искусственного интеллекта. Но Бенджио подчеркивает необходимость немедленной реализации определенных положений, а не ожидания длительного регулятивного процесса. Он предложил создание реестра, который бы требовал от компаний, разрабатывающих системы ИИ определенного уровня способностей, докладывать в правительство. Это переложило бы ответственность за обеспечение безопасности этих систем на технологические компании, а не на налогоплательщиков.
Бенджио также выступает за расширение определения «высокоэффективных» систем ИИ, чтобы включать те, которые представляют угрозу национальной безопасности и обществу. Это включает системы ИИ, которые могут быть использованы для разработки кибератак и оружия, или те, которые проявляют автономное воспроизведение, несмотря на противоположные программные инструкции.
Неотложность правительственного регулирования ИИ также была подчеркнута Катрин Реджи, профессором Университета Монреаля. Реджи подчеркнула быстрое развитие ИИ в масштабах всего мира и подчеркнула, что Канада должна определить свою позицию по регулированию ИИ, чтобы иметь значимую роль в глобальных дискуссиях о правлении.
В заключение, быстрые достижения в области технологии ИИ требуют немедленного государственного регулирования. Предварительное решение проблем, связанных с ИИ, позволит правительству смягчить потенциальные общественные и безопасностные угрозы, вызванные этой мощной технологией.
Секция FAQ:
В: Каково основное опасение Йошуа Бенджио относительно ИИ?
О: Йошуа Бенджио обеспокоен потенциальным злоупотреблением ИИ, особенно созданием глубоких фейковых видео, которые могут распространять дезинформацию.
В: Как ИИ может обманывать пользователей социальных сетей?
О: ИИ может взаимодействовать с пользователями социальных сетей и манипулировать их политическими взглядами, что потенциально может привести к разрушению демократических принципов.
В: Какая еще угроза была подчеркнута Бенджио?
О: Бенджио также подчеркнул угрозу эксплуатации передовых систем ИИ для кибератак, что может иметь катастрофические последствия, если попадут в неправильные руки.
В: Какое предлагается решение для регулирования систем ИИ?
О: Бенджио предложил создать реестр, который бы требовал от компаний, разрабатывающих системы ИИ с определенными способностями, докладывать в правительство, перекладывая ответственность за их безопасность на технологические компании.
В: Что подчеркивает Катрин Реджи относительно регулирования ИИ в Канаде?
О: Катрин Реджи подчеркивает, что Канада должна определить свою позицию по регулированию ИИ, чтобы занять значимое место в глобальных дискуссиях о правлении.
Ключевые термины и определения:
1. Искусственный интеллект (ИИ): Технология, которая позволяет компьютерам выполнять задачи, обычно требующие человеческого интеллекта, такие как распознавание речи, решение проблем и принятие решений.
2. Глубокая фейковая: Тип синтетических медиа, использующий ИИ для манипуляции или создания ложных видео, аудио или изображений, которые могут выглядеть реальными, но на самом деле изменены или полностью подделаны.
3. Дезинформация: Ложная или вводящая в заблуждение информация, которая распространяется намеренно, чтобы обмануть людей и манипулировать общественным мнением.
4. Кибератаки: Злонамеренные попытки нарушить, повредить или получить несанкционированный доступ к компьютерным системам, сетям или цифровым устройствам.
5. Автономия: Способность системы ИИ действовать независимо, без вмешательства человека или основываясь на явном программном указании.
Предлагаемые связанные ссылки:
— Инициатива Белого дома по искусственному интеллекту
— Правительство Великобритании: Консультация о регулировании искусственного интеллекта
— Законы ИИ: База данных регулирования ИИ
— Всемирный экономический форум: Доклад о глобальной конкурентоспособности 2019 года
The source of the article is from the blog mendozaextremo.com.ar