Слак, платформа для обміну повідомленнями, що належить Salesforce, нещодавно опинилася в центрі скандалу з приводу приватності. Зазначається, що система штучного інтелекту компанії, відома як Slack AI, залишила негативне враження у корпоративних користувачів через те, що говорили, що навчається за допомогою повідомлень клієнтів.
Користувачам було пообіцяно, що Slack не навчає свій ШІ за допомогою даних клієнтів, однак перевірка політики конфіденційності виявила інше. У політиці були включені положення про використання машинного навчання та штучного інтелекту для покращення продукту, а саме аналіз даних користувачів, таких як повідомлення і контент, для створення моделей ШІ/МЛ.
Цей конфлікт заяв призвів до вимог користувачів уточнення в принципах конфіденційності Slack для кращого розуміння того, як їхні дані використовуються для його ШІ та майбутніх оновлень ШІ. Відповідаючи на запит, представник Salesforce визнав необхідність оновлення політики конфіденційності.
У відредагованій політиці було уточнено, що Slack не розробляє генеративних моделей ШІ, включаючи великі мовні моделі (LLM), використовуючи дані клієнтів. Крім того, було наголошено, що Slack AI працює на побудованих наперед LLM і що дані клієнтів ніколи не покидають довірене середовище платформи, запобігаючи їх спільному використанню з постачальниками LLM.
Незважаючи на ці виправлення, основна проблема залишається. Користувачі ніколи не дали погодження на використання їх інформації для навчання ШІ Slack. Цей розбіжності залишаються невирішеними, оскільки компанія продовжує зіштовхуватися з інтенсивною критикою і ризикує втратити корпоративних клієнтів через турботу щодо конфіденційності.
Важливі питання та відповіді:
П: Що спонукало користувачів більше хвилюватися щодо використання Slack даних клієнтів?
В: Користувачі були занепокоєні після виявлення, що політика конфіденційності Slack дозволяє використання їх повідомлень та контенту для навчання моделей ШІ/МЛ, що суперечило раніше заявам компанії, яка вказувала, що вони не навчають ШІ за допомогою даних клієнтів.
П: Як Slack відреагував на побоювання щодо конфіденційності?
В: Slack оновив свою політику конфіденційності, щоб уточнити, що використовуючи ШІ для покращення платформи, вони не використовують дані клієнтів для розробки великих мовних моделей або інших генеративних моделей ШІ.
П: Чи були побоювання повністю вирішені?
В: Незважаючи на зміни в політиці конфіденційності, основна проблема – користувачі не виражали явної згоди на використання їх даних для навчання ШІ – залишається предметом суперечки.
Основні виклики та контроверзії:
– Основний виклик стосується конфіденційності даних та згоди. Користувачі онлайн-платформ очікують прозорої та чіткої комунікації щодо використання їх даних, особливо у випадку навчання моделей ШІ.
– Є проблема із довірою, яка виникає, коли дії компанії суперечать її заявленим політикам, що призводить до критики та можливих втрат користувачів.
– Існує дискусія про баланс між покращенням технологій, таких як системи ШІ, і потребою захищати конфіденційність користувачів.
Переваги та недоліки:
Переваги:
– Використання даних клієнтів для навчання ШІ може значно покращити продуктивність системи ШІ, зробивши платформу більш ефективною та корисною для користувачів.
– Розширене ШІ може запропонувати кращу персоналізацію та оптимізовані користувацькі враження.
Недоліки:
– Використання даних клієнтів без чіткої згоди може призвести до серйозних проблем з конфіденційністю і порушити закони про захист даних.
– Є ризик втрати довіри користувачів та бізнесу, оскільки клієнти можуть перенести свої операції на інші платформи, які вони вважають більш безпечними.
Пов’язано із темою ШІ та побоювань щодо конфіденційності, ви можете дізнатися більше про Salesforce, материнську компанію Slack, за наступним посиланням: Salesforce.
Крім того, читачам, які стурбовані онлайн-конфіденційністю та захистом даних, може бути корисно дізнатися про загальні вказівки та найкращі практики. Інформативні ресурси можна знайти в організаціях, таких як Electronic Frontier Foundation (EFF) або International Association of Privacy Professionals (IAPP).
The source of the article is from the blog j6simracing.com.br