Гэрри Тан призывает к разумному регулированию искусственного интеллекта
Во время обсуждения в Economic Club в Вашингтоне генеральный директор Y Combinator Гэрри Тан подчеркнул неотложную необходимость регулирования в индустрии искусственного интеллекта. Общаясь с Терезой Карлсон из венчурной фирмы Basic Catalyst, он выразил широкую поддержку регулятивным мерам, аналогичным разрабатываемым Национальным институтом стандартов и технологий (NIST).
В ходе беседы с Таном были затронуты такие темы, как присоединение к Y Combinator и нынешний ландшафт технологий искусственного интеллекта. Он отметил, что сейчас никогда еще не было лучшего времени для заниматься технологической работой. Он поддержал указ президента Байдена, который направлен на установление ряда мандатов для агентств, фокусирующихся на искусственном интеллекте, начиная от обмена данными о безопасности и до обеспечения равного доступа для малых разработчиков.
Тан указал на то, что рамки NIST предполагают несколько инициатив, таких как обеспечение соответствия искусственного интеллекта действующим правилам, регулирующим конфиденциальность данных и авторские права, раскрытие использования генеративного искусственного интеллекта конечным пользователям и введение правил для предотвращения создания материалов, изображающих сексуальное эксплуатирование детей.
Несмотря на одобрение федерального регулирования, Тан выразил обеспокоенность законодательными предложениями в Калифорнии и Сан-Франциско, назвав их особенно беспокоящими. Это включает закон, представленный штатным сенатором Скоттом Уинером, который разрешил бы судебные действия против компаний в области искусственного интеллекта, если их продукция будет признана вредоносной.
Этический курс искусственного интеллекта
Тан подчеркнул необходимость обдуманного обсуждения «как на самом деле должно выглядеть хорошее регулирование [искусственного интеллекта]», указав на фигуры, такие как Иэн Хогарт в Великобритании, который оставляет фокус на контроле и балансе и поощряет инновации, при этом смягчая потенциальные вреды.
Позиция Y Combinator по вопросам этической ответственности ясна: они не финансируют стартапы, если не согласны с их миссией или потенциальным общественным влиянием, заявил Тан. Даже когда они пересматривают прошлых заявителей, которые попадают в заголовки новостей, Тан раскрывает, что часто обнаруживают, что их первоначальное решение не инвестировать было ради блага общества.
Стартапы в области искусственного интеллекта процветают, несмотря на опасения
Несмотря на опасения относительно управления искусственным интеллектом, Y Combinator продолжает способствовать развитию множества стартапов в области искусственного интеллекта. Согласно их директории стартапов, закрытая зимняя когорта 2024 года увидела увеличение количества до 86 компаний в области искусственного интеллекта, почти вдвое больше, чем в когорте 2023 года.
Недавние высокопрофильные ошибки лидеров в области искусственного интеллекта вызвали вопросы о надежности продавцов продуктов искусственного интеллекта. Упразднение команды по этике Искусственного интеллекта OpenAI и спорное использование голоса, напоминающего Скарлетт Йоханссон, в новой презентации GPT-4 являются примерами внимания, которое придается компаниям в области искусственного интеллекта.
Взирая вперед, Тан оптимистично смотрит в будущее индустрии искусственного интеллекта, предвидя технологическую экосистему, кипящую от выбора для потребителей и основателей, способных достичь миллиарда людей. Его самый большой страх не заключается в злонамеренном искусственном интеллекте, а в отсутствии выбора в моделях искусственного интеллекта, что может привести к монополизации технологического рынка, мире, который он решительно не хотел бы населять.
Ключевые вопросы и ответы:
— Какова позиция генерального директора Y Combinator относительно регулирования искусственного интеллекта? Гэрри Тан поддерживает разумное регулирование искусственного интеллекта, гарантирующее ответственную инновацию, подобное тем, которые разрабатываются NIST. Он подчеркивает важность регулирования для руководства этическим развитием и использованием искусственного интеллекта.
— Какими регулятивными рамками обращается Гэрри Тан? Тан ссылается на указ президента Байдена и инициативы NIST, направленные на обеспечение соответствия искусственного интеллекта действующим законам о конфиденциальности данных и авторских правах, среди прочих.
— Какие беспокойства испытывает Тан относительно регулирования искусственного интеллекта? Тан обеспокоен излишне строгими законодательными инициативами на уровне штата, такими как закон штата Калифорния, который может разрешить судебные действия против компаний по искусственному интеллекту, если их продукция будет признана вредной, что потенциально может задушить инновации.
— Имеет ли Y Combinator этическую позицию относительно стартапов в области искусственного интеллекта? Да, Y Combinator не финансирует стартапы, если их миссия или потенциальное общественное влияние не соответствуют, соотнося инвестиции с этическими соображениями.
Ключевые вызовы и контроверзии:
— Баланс между инновациями и регулированием: Сложность заключается в создании регулирований, которые защищают общество, не затрудняя технологические прогрессы и не задушивая стартапы, основанные на искусственном интеллекте.
— Монополизация искусственного интеллекта: Тан опасается, что недостаток выбора в моделях искусственного интеллекта может привести к монополизации, уменьшая инновации в отрасли и возможности для потребителей.
— Доверие к искусственному интеллекту: Высокопрофильные инциденты вызвали сомнения в надежности продуктов искусственного интеллекта и в приверженности компаний по искусственному интеллекту этическим соображениям, например, упразднение команды по этике от OpenAI.
Преимущества и недостатки регулирования искусственного интеллекта:
Преимущества:
— Защита потребителя: Регулирование может защищать потребителей от нарушений конфиденциальности и пристрастных или недостоверных решений, принимаемых искусственным интеллектом.
— Стандартизация: Предоставляет единую систему стандартов и рекомендаций, которым могут следовать разработчики и компании в области искусственного интеллекта для ответственного развертывания искусственного интеллекта.
— Этический контроль: Способствует развитию искусственного интеллекта таким образом, который соответствует общественным ценностям и смягчает потенциальный ущерб.
Недостатки:
— Ограничение инноваций: Слишком строгие регулирования могут препятствовать исследованиям и разработкам в области искусственного интеллекта, особенно для начинающих стартапов, у которых может не хватать ресурсов для соблюдения сложных правовых требований.
— Глобальная конкурентоспособность: Если регулирования не будут гармонизированы международно, страны с менее строгими регулированиями могут привлечь больше инноваций в области искусственного интеллекта, что потенциально приведет к технологическому и экономическому разрыву.
Предлагаемые связанные ссылки:
— Для получения дополнительной информации о Y Combinator и их роли в поддержке стартапов посетите Y Combinator.
— Для понимания регулирования и стандартов в области искусственного интеллекта изучите официальный сайт Национального института стандартов и технологий (NIST).
— Для информации о правительственных усилиях в области управления искусственным интеллектом указы о искусственном интеллекте обычно можно найти на официальном сайте Белого дома.
Эти ресурсы предоставляют дополнительную информацию о инновациях в области искусственного интеллекта, финансировании стартапов и изменяющемся ландшафте регулирования искусственного интеллекта.