Ключові особи в етиці ШШІ, включаючи співзасновників ChatGPT, залишають компанію через розбіжності у суперінтелектуальній розробці
Стратегічна переорієнтація в OpenAI призвела до ліквідації команди з безпеки суперінтелекту, а також до реорганізації персоналу в інших дослідницьких підрозділах компанії. Підтверджуючи чутки, що з’явилися з внутрішніх джерел, OpenAI заявила, що ця реструктуризація вже тривала кілька тижнів. Цей крок об’єднує команди з безпеки і розробки ШШІ, забезпечуючи колективні зусилля в напрямку створення відповідального ШШІ.
Два відомих менеджера розійшлися шляхами з американською фірмою з досліджень зі штучного інтелекту через фундаментальні розбіжності у напрямку компанії. Один експерт, який був ключовим у проведенні команди спрямування суперінтелекту, публічно оголосив свою відставку через конфлікти з управлінням щодо балансу між інноваціями та безпекою. Увага цього інженера була спрямована на забезпечення того, щоб будь-який евентуальний ШШІ поділив наші людські цінності.
Відхід був сприйнятий змішаними почуттями від Сема Альтмана, співзасновника та керівника OpenAI, який висловив сум у зв’язку з відхідом, але зазначив необхідність подальшого прогресу в аспекті співвідношення ШШІ та досліджень у галузі безпеки. Альтман натякнув на те, що в майбутньому можна очікувати докладніше звернення.
Крім того, співзасновник Ілля Суцкевер, який ділив керівництво командою спрямування суперінтелекту, також покинув OpenAI. У своїй прощальній мові Суцкевер висловив впевненість у можливостях OpenAI створення безпечного та корисного загального штучного інтелекту.
ChatGPT спровокував революцію generative AI, збудивши технологічний хаб та викликавши побоювання у багатьох регуляторів від Каліфорнії до Брюселя. Побоювання стосуються можливостей загального ШШІ з когнітивними здібностями, схожими на людські. Недавно OpenAI представила нову версію ChatGPT, спроможну учащається у більш біглих усних розмовах, розширюючи межі персоналізованих та ефективних ШШІ асистентів.
Важливі питання та ключові виклики:
Одне з найважливіших питань, яке виникає щодо реструктуризації OpenAI, полягає у тому, як це вплине на розвиток та управління етикою штучного інтелекту. Ключові виклики включають:
– Забезпечення того, що розширення можливостей ШШІ не відбувається за рахунок безпеки та етичних врахувань.
– Збереження довіри громадськості до ШШІ, по мірі того, як штучний інтелект стає більш інтегрованим у повсякденне життя, особливо відносно конфіденційності, автономії та потенційного переміщення робочих місць.
– Вирішення потенційних наслідків прийняття рішень ШШІ у критичних галузях, таких як охорона здоров’я, правоохоронні органи та військові додатки.
– Балансування комерційних інтересів з більш широкими соціальними наслідками досягнень у галузі ШШІ.
Суперечки:
– Перехід OpenAI від неприбуткової до обмежено-прибуткової моделі породив питання щодо її зобов’язання до прозорого та етичного розвитку ШШІ.
– Дебати щодо того, чи слід регулювати ШШІ, і, у випадку позитивної відповіді, як краще це робити без обмеження інновацій, тривають.
– Питання щодо потенційних упереджень в ШШІ та впливу, який вони можуть мати на суспільство, посилюючи існуючі соціальні нерівності.
Переваги та недоліки:
Переваги:
– Об’єднання команд може призвести до кращої інтеграції цілей з безпеки та розробки, що можливо створить більш координований підхід до етики ШШІ.
– Оптимізація ресурсів може прискорити розвиток нових технологій ШШІ та їх застосувань, надаючи суспільні та економічні переваги.
Недоліки:
– Відхід ключових фігур в етиці ШШІ може свідчити про ослаблення зобов’язань організації стосовно адаптації розвитку ШШІ до людських цінностей.
– Різниці у поглядах щодо напрямку досліджень ШШІ можуть призвести до розпаду громадськості в галузі етики ШШІ, що може сповільнити прогрес у цьому важливому напрямку.
Я не можу надавати перевірку фактів у реальному часі або перевірку URL для пов’язаних посилань, але для отримання додаткової інформації щодо цієї теми вам може бути корисно відвідати основний веб-сайт OpenAI для офіційних заяв та оновлень: OpenAI.
The source of the article is from the blog radiohotmusic.it