Ілон Маск, технологічний магнат, нещодавно висловив свою стурбованість щодо вбудованих упереджень в сучасних алгоритмах штучного інтелекту (ШІ). Під час виступу на Viva Tech Paris 2024, Маск підкреслив потребу в ШІ-системах, що присвячені пошуку правди та відстоюють тенденцію до політичної коректності. Він виділив приклад пов’язаний з ШІ компанії Google Gemini, яку критикували за невірну ідентифікацію гендерної належності Кейтлін Дженнер.
Маск попередив про небезпеку тренування ШІ систем на обман, посилаючись на минулі випадки, коли ШІ створювали контент, який був історично неточний та соціально упереджений.
Для вирішення цих питань, Маск заснував свою власну компанію ШІ, xAI, метою якої є пріоритет пошуку правди та цікавості в розвитку штучного інтелекту. Хоча xAI – це новий учасник, Маск вважає, що до кінця 2024 року вона може конкурувати з великими гравцями ринку, такими як Google Deepmind та OpenAI.
Його погляд збігається з понад 2 600 технічними експертами, які підтримують тимчасову зупинку розвитку ШІ через можливі суспільні та людські ризики. Участь Ілона Маска на Viva Tech Paris підкреслює важливі етичні аспекти для майбутньої технології ШІ.
Упередженість ШІ та важливість етичних практик ШІ – критичні теми в галузі технологій, в основному через великий вплив, який ШІ має в різних сферах, від охорони здоров’я до кримінальної юстиції. Такі упередження можуть виникати з різних причин, включаючи дані, що використовуються для тренування систем ШІ, які можуть відображати історичні упередження або соціальні нерівності. Ці упередження можуть виявитися у різних формах, таких як расові упередження в програмному забезпеченні для розпізнавання облич.
Одним з важливих питань, які порушуються, є: Як ми можемо забезпечити, щоб системи ШІ були справедливими, відповідальними та прозорими? Для вирішення цього питання необхідно впроваджувати суворі етичні керівні принципи та процедури аудиту упереджень під час розробки технологій ШІ. Крім того, ми повинні забезпечити, що у розробці ШІ беруть участь різноманітні команди, щоб зменшити ризик закодування навіть несвідомих упереджень у системи.
Основні виклики, пов’язані з цією темою, включають ускладненість ідентифікації та усунення упереджень у системах ШІ, відсутність комплексних регуляторних каркасів та можливий опір від зацікавлених сторін, які користуються існуючим станом речей. Крім того, часто виникають суперечки щодо балансу між інноваціями та необхідністю захисту від етичних ризиків.
Обговорюючи переваги та недоліки ініціатив, подібних до xAI венчурі Маска, можна оцінити можливість створення екосистеми ШІ, яка пріоритизує правду та об’єктивність. Однак це також може призвести до труднощів у визначенні того, що складає правду, хто вирішує це та як це втілюється у ШІ.
З позитивного боку, системи ШІ, спроектовані для непередвзятих і пошукають правду, можуть значно підвищити процеси прийняття рішень, збільшити довіру суспільства до технологій та зменшити шкоду від автоматизованих помилок. З іншого боку, розробка таких систем ШІ може зіткнутися з опором через укорінені інтереси, плюс є технічна складність у створенні складних алгоритмів, здатних розуміти змістовні поняття людини, такі як правдивість та справедливість.
Для отримання додаткової інформації про більший контекст ШІ, Deepmind та OpenAI є провідними організаціями дослідження штучного інтелекту з обширними ресурсами. Крім того, обговорення про етику та політики ШІ часто можна знайти на сайтах, таких як AIESEC або IEEE, які надають відомості про пов’язані досягнення та етичні аспекти.
Загалом, оскільки технології ШІ стають все більш важливими для нашого життя, важливо забезпечити, щоб ці інструменти сприяли позитивному розвитку суспільства, не зберігаючи упередження або сприяючи обману. Участь Ілона Маска підкреслює зросла увагу галузі до цих питань та виступає як заклик до дії для розробки більш етично зорієнтованих систем ШІ.
The source of the article is from the blog klikeri.rs