Штучний Інтелект (ШІ) став предметом занепокоєнь у останні роки, багато хто боїться, що він може замінити робочі місця, поширювати dezinformaцію і навіть загрожувати існування людей. Незважаючи на ці хвилювання, звіт KPMG 2023 року показав, що тільки двоє з п’яти людей вважають поточні правила достатніми для забезпечення безпечного використання ШІ. У зв’язку з цим, роль етичного нагляду в розробці ШІ стає все важливішою.
Однією з осіб, що стоїть на передовій цього напрацювання, є Паула Голдман, головний етичний і гуманний використання офіцер у компанії Salesforce. Її робота полягає в забезпеченні того, що розроблена компанією технологія буде корисною для всіх. Це включає тісну співпрацю з інженерами та менеджерами продукту для виявлення потенційних ризиків і розробки захисних механізмів. Також це передбачає співпрацю з групою політики для встановлення принципів прийняття ШІ та просування доступності продукту та інклюзивного дизайну.
Питаючись про етичне та гуманне використання, Голдман наголошує на важливості узгодження продуктів із сукупністю цінностей. Наприклад, у випадку генеративного ШІ, точність є основним принципом. Salesforce постійно працює над покращенням актуальності та точності створених моделей ШІ шляхом використання динамічного заземлення, яке направляє їх на використання правильної та оновленої інформації для уникнення неправильних відповідей або “ШІ галюцинацій”.
Розмова про етику ШІ набула обертів, і лідери технологічної галузі, такі як Сем Альтман, Ілон Маск і Марк Цукерберг, займаються закритими зустрічами з законодавцями для обговорення регулювання ШІ. Незважаючи на зростаючу свідомість про ризики, пов’язані з ШІ, Голдман визнає потребу в більшій кількості голосів та широкому прийнятті етичних позицій у політичних дискусіях.
Salesforce та інші компанії, такі як OpenAI, Google і IBM, добровільно зобов’язалися дотримуватися стандартів безпеки ШІ. Голдман підкреслює спільні зусилля відомства у сфері проведення семінарів і участі у консультативних радах з етики ШІ. Однак вона також визнає різницю між корпоративним та споживчим простором, наголошуючи на важливості встановлення стандартів та норм, специфічних для кожного контексту.
Робота в сфері ШІ є одночасно захоплюючою і викликаючою. Лідери на цьому полі активно формують майбутнє, прагнучи розробляти надійні та відповідальні продукти ШІ. Проте, швидкий темп прогресу вимагає постійного навчання і адаптації.
Заключно, етичне використання ШІ – це надзвичайно важлива умова для його успішної інтеграції в суспільство. Зусилля людей, таких як Паула Голдман, і спільні ініціативи сприяють розвитку відповідального ШІ, що відкриває шлях до кращого майбутнього.
ЧАСТІ ЗАПИТАННЯ:
П: Які деякі проблеми стосовно ШІ?
В: Проблеми включають можливість витіснення робочих місць, поширення dezinformaції та загрози існуванню людей.
П: Чи вважають люди, що поточні правила забезпечують безпечне використання ШІ?
В: Згідно з звітом KPMG 2023 року, тільки двоє з п’яти людей вважають поточні правила достатніми.
П: Хто така Паула Голдман і в якій вона ролі?
В: Паула Голдман є головним етичним і гуманним використання офіцером у компанії Salesforce. Її роль полягає в забезпеченні того, що розроблена компанією технологія буде корисною усім і співпраці з інженерами та менеджерами продукту для виявлення потенційних ризиків і розробки захисних механізмів.
П: Яка важливість узгодження продуктів ШІ зі сукупністю цінностей?
В: Узгодження продуктів ШІ зі сукупністю цінностей допомагає забезпечити етичне та гуманне використання. Наприклад, точність є основним принципом для генеративного ШІ.
П: Які компанії зобов’язалися дотримуватися стандартів безпеки ШІ?
В: Salesforce, OpenAI, Google і IBM серед компаній, що добровільно зобов’язалися дотримуватися стандартів безпеки ШІ.
Основні терміни і поняття:
ШІ: Штучний Інтелект, відсилає до моделювання людського інтелекту в машинах, що програмуються мислити і вчитися, як люди.
Генеративне ШІ: моделі ШІ, які здатні генерувати новий контент, такий як текст, зображення або відео.
Офіцер етики і гуманного використання ШІ: посада, відповідальна за нагляд за етичним та відповідальним використанням ШІ в межах компанії.
ШІ галюцинації: неправильні відповіді, що генеруються моделями ШІ через невірну або застарілу інформацію.
Група політики: команда в компанії, відповідальна за розробку та впровадження принципів і політик, пов’язаних з використанням ШІ.
Консультативні ради з етики ШІ: панелі або ради, складені з експертів у сфері етики ШІ, які радять компаніям щодо етичного використання ШІ.
Пропоновані посилання для додаткової інформації:
1. KPMG
2. Salesforce
3. OpenAI
4. Google
5. IBM
VqFqWIqOB1g
The source of the article is from the blog radiohotmusic.it