Компанія Microsoft, провідний технологічний гігант, недавно оголосила значний зміни в політиці, яка фактично забороняє правоохоронним органам у всьому світі використовувати генеративний ШІ для розпізнавання обличчя через службу Azure OpenAI, про що повідомляє TechCrunch. Директива широка і стосується всіх правоохоронних органів у всьому світі.
Заборона спрямована конкретно на технології реального часу розпізнавання обличчя, що використовуються в портативних пристроях, таких як корпусні камери та відеореєстратори. Цей крок узгоджується зі зростаючими обуреннями з приводу конфіденційності та можливих упереджень, пов’язаних з шІ-полегшеним наглядом.
Зміни відбулися на тлі викриттів, що Axon, відомий виробник військової та правоохоронної техніки та зброї, оголосив розробку нового продукту, що використовує генеративну модель тексту OpenAI GPT-4 для узагальнення аудіо з корпусних камер. Критики зауважили можливе появу неточної інформації та расових упереджень від подібної технології, що може призвести до особливо серйозних наслідків у взаємодії між поліцією та людьми кольору шкіри.
Досі невідомо, чи належить продукт Axon до служби Azure OpenAI, чи як це вплинуло на оновлену політику Microsoft. Технічне співтовариство уважно спостерігає, як це рішення вплине на розвиток технологій та практики правопорядку в майбутньому.
Технологія розпізнавання обличчя стала дуже обговорюваною проблемою з численними дискусіями про конфіденційність, етичні наслідки та можливість зловживання. Ось деякі важливі деталі та обгрунтування, які доповнюють інформацію статті:
Важливість теми:
Цей рішення Microsoft є значущим через його потенціал встановити приклад у технологічній галузі. Позиція Microsoft може вплинути на політику інших технологічних компаній у використанні правоохоронними органами інструментів шІ.
Ключові виклики та суперечки:
1. Проблеми конфіденційності: Існує широка обуреність тим, що технологія розпізнавання обличчя може призвести до масового нагляду та порушення прав людини на конфіденційність.
2. Упередження і дискримінація: Багато досліджень показали, що системи розпізнавання облич легко можуть бути упередженими проти людей кольору шкіри, жінок та інших маргіналізованих груп, що може призвести до дискримінації.
3. Балансування інтересів: Правоохоронні органи стверджують, що розпізнавання облич є цінним інструментом для громадської безпеки та запобігання злочинам, ставлячи виклик у балансування легітимних випадків використання проти можливих зловживань.
Переваги розпізнавання обличчя для правоохоронних органів:
– Збільшена ефективність у виявленні підозрюваних та зниклих осіб.
– Корисна для виявлення осіб, причетних до злочинів.
– Надає неінвазивний метод нагляду.
Недоліки розпізнавання обличчя для правоохоронних органів:
– Ймовірність порушення громадянських прав окремих осіб.
– Високий ризик помилкових ідентифікацій та невиправданих арештів.
– Зловживання технологією може призвести до стану нагляду.
Пов’язані посилання: Для отримання додаткової інформації про політику Microsoft та розробки шІ відвідайте головний домен компанії за посиланням Microsoft.
Важливо зауважити, що рішення Microsoft заборонити використання своєї служби Azure OpenAI для розпізнавання облич у поліції може мати значний вплив на відносини компанії з правоохоронними та урядовими клієнтами. Цей крок може спонукати інші компанії оцінювати етичні аспекти своїх технологічних пропозицій, особливо в контексті нагляду та громадянських свобод.
У майбутньому розвитку ймовірно будуть обговорення щодо створення керуючих принципів та регуляцій, які допоможуть управляти використанням цих технологій шляхом збалансування громадської безпеки та особистих свобод.