Ґеррі Тан закликає до розумного регулювання штучного інтелекту
Під час обговорення в Економічному клубі у Вашингтоні керівник Y Combinator, Геррі Тан, підкреслив нагальну потребу у законодавчих актах у галузі штучного інтелекту. У розмові з Терезою Карлсон з венчурного капіталу фірми Basic Catalyst, він висловив свою широку підтримку щодо регулятивних заходів, аналогічних тим, які розробляються Національним інститутом стандартів та технологій (NIST).
Розмова з Таном охопила тематику від вступу до Y Combinator до поточного ландшафту технології штучного інтелекту, де він зазначив, що ніколи раніше не було кращого часу для зайняття технологічною роботою. Він підтримав указ адміністрації Байдена, спрямований на встановлення ряду наказів для агентств, які спрямовані на штучний інтелект, від обміну даними з безпеки до надання рівного доступу малим розробникам.
Тан відзначив, що фреймворк NIST вказує на кілька ініціатив, таких як забезпечення того, що штучний інтелект відповідає існуючим правилам, що врегульовують конфіденційність даних та авторське право, розкриття використання генеративного штучного інтелекту користувачам та впровадження правил для запобігання створенню матеріалів, які зображують сексуальну експлуатацію дітей.
Незважаючи на його згоду на федеральне регулювання, Тан висловив стурбованість законодавчими пропозиціями в Каліфорнії та Сан-Франциско, назвавши їх особливо тривожними. Серед них — законопроект внесений сенатором штату Скоттом Вінером, який дозволив би правові дії проти компаній із штучним інтелектом, якщо їх продукти визнані шкідливими.
Етичний курс штучного інтелекту
Тан підкреслив потребу у ретельній дискусії про “такий вигляд регулювання штучного інтелекту, якій дійсно має бути”, вказавши на фігури, такі як Іан Хогарт в Великобританії, який зосереджується на контролі та балансі та сприяє інноваціям, уникаючи можливих збитків.
Підхід Y Combinator до етичної відповідальності кристалічний; вони не фінансують стартапи, якщо не погоджуються із їх місією чи потенційними суспільними наслідками, зауважив Тан. Навіть переглядаючи минулих заявників, які потрапили в заголовки, Тан розкрив, що часто вони виявляють, що їхня початкова відмова інвестувати була на благо суспільству.
Стартапи зі штучним інтелектом розквітли незважаючи на збентеження
Незважаючи на сумніви щодо управління штучним інтелектом, Y Combinator продовжує сприяти багатьом стартапам зі штучним інтелектом. Згідно з їх каталогом стартапів, зимовий когорт 2024 року побачив збільшення до 86 компаній зі штучним інтелектом, майже вдвічі більше, ніж у когорті 2023 року.
Нещодавні помітні проколи від лідерів у галузі штучного інтелекту породили питання про надійність виробників продуктів із штучним інтелектом. Знищення власної етичної команди штучного інтелекту OpenAI та польове використання голосу, схожого на Скарлетт Йоханссон, у новій презентації GPT-4 свідчать про критику, яку стикаються компанії із штучним інтелектом.
У майбутньому Тан оптимістично дивиться на галузь штучного інтелекту, уявляючи технологічну екосистему, багату на вибір для споживачів та засновників, здатних досягти мільярди людей. Його найбільший страх — не злий штучний інтелект, а нездатність вибору в моделях штучного інтелекту, що може призвести до монополізації — світ, в якому він наполегливо не бажає жити.
Ключові питання та відповіді:
– Яка позиція керівника Y Combinator щодо регулювання штучного інтелекту? Геррі Тан підтримує обережне регулювання штучного інтелекту, яке забезпечує відповідальну інновацію, таке, як те, яке розробляє NIST. Він підкреслює важливість регулювань у направленні етичної розробки та використання штучного інтелекту.
– На які регулятивні рамки посилається Геррі Тан? Тан звертається до указу адміністрації Байдена та ініціатив NIST, які мають на меті забезпечити відповідність штучного інтелекту існуючим законами про конфіденційність даних та авторське право, серед іншого.
– Які стурбованості має Тан стосовно регулювання штучного інтелекту? Тан стурбований занадто обмеженою законодавчою діяльністю на рівні штату, наприклад, законом Каліфорнії, який може дозволити правові дії проти компаній зі штучним інтелектом, якщо їх продукти визнані шкідливими, що може заглушити інновації.
– Чи має Y Combinator етичну позицію стосовно стартапів зі штучним інтелектом? Так, Y Combinator не фінансує стартапи, якщо їхня місія чи потенційні суспільні наслідки не погоджуються, узгоджуючи свої інвестиції з етичними міркуваннями.
Ключові виклики та контроверсії:
– Баланс між інновацією та регулюванням: Трудності полягають у створенні регуляцій, що забезпечують безпеку суспільства без уповільнення технологічних досягнень та заглушення стартапів на основі штучного інтелекту.
– Монополізація штучного інтелекту: Тан боїться, що відсутність вибору для споживачів у моделях штучного інтелекту може призвести до монополізації, зменшуючи інновації у галузі та варіанти для споживачів.
– Довіра у штучний інтелект: Високопрофільні інциденти викликали сумніви щодо надійності продуктів з штучним інтелектом та зобов’язань компаній зі штучним інтелектом до етичних міркувань, наприклад, розпускання етичного відділу штучного інтелекту OpenAI.
Переваги та недоліки регулювання штучного інтелекту:
Переваги:
– Захист споживачів: Регуляції можуть захищати споживачів від порушень конфіденційності та упереджених або несправедливих рішень ШІ.
– Стандартизація: Забезпечує єдиний набір стандартів та посилань, яких можуть дотримуватися розробники ШІ та компанії для відповідального впровадження ШІ.
– Етичний нагляд: Заохочує розвиток ШІ у відповідності зі суспільними цінностями та зменшує можливі ризики.
Недоліки:
– Обмеження інновацій: Штучно строгі регуляції можуть гальмувати дослідження та розвиток ШІ, особливо для молодих стартапів, які можуть не мати ресурсів для відповіді на складні юридичні вимоги.
– Глобальна конкурентоспроможність: Якщо регуляції не будуть міжнародно узгоджені, країни з менш строжими регуляціями можуть привертати більше інновацій у галузі ШІ, що може призвести до технологічного та економічного розриву.
Рекомендовані пов’язані посилання:
– Дізнайтеся більше про Y Combinator та їхню роль у підтримці стартапів за посиланням Y Combinator.
– Для отримання інформації про правила та стандарти ШІ дослідіть офіційний сайт Національного інституту стандартів та технологій (NIST) за посиланням National Institute of Standards and Technology (NIST).
– Для дізнання про урядові заходи у галузі управління ШІ інформацію про указ про ШІ зазвичай можна знайти на офіційному сайті Білий дім.
Ці ресурси надають подальшу інформацію щодо інновацій у галузі штучного інтелекту, фінансування стартапів та змінюючогося ландшафту регулювання та етичних питань.