Microsoft niedawno zmienił swoje zasady, wprowadzając nowe ograniczenia dotyczące korzystania z usługi Azure OpenAI Service przez amerykańskie departamenty policji. Ta aktualizacja wyraźnie zabrania wdrażania usługi Azure OpenAI do analizowania tekstu i mowy w amerykańskich agencjach egzekutywy.
Obszerniejsze dyrektywy obejmują teraz działalność policyjną na skalę globalną, w szczególności zabraniając zastosowań rozpoznawania twarzy w czasie rzeczywistym w urządzeniach mobilnych, takich jak kamery policyjne. Zmiany te wyraźnie skierowane są przeciwko potencjałowi nieuregulowanych prób identyfikacji w czasie rzeczywistym w przestrzeni publicznej.
Ta rewizja polityki następuje po prezentacji produktu przez firmę Axon – specjalizującą się w technologiach policyjnych – który integruje model GPT-4 OpenAI do analizy dźwięku z kamer policyjnych. Ta informacja wzbudziła obawy dotyczące wrodzonych wad sztucznej inteligencji, takich jak tworzenie niedokładności i osadzonych uprzedzeń rasowych w algorytmach, co może nierówno oddziaływać na społeczności kolorowe.
Pełny zakres zakazu jest jasny co do jego ograniczeń: dotyczy on wyłącznie departamentów policji w Stanach Zjednoczonych. Warunki nie wyłączają rozpoznawania twarzy za pomocą kamer stacjonarnych w określonych miejscach. Rozwój ten jest zgodny z podejściem Microsoftu i OpenAI do ostrożnego zaangażowania w projekty związane z egzekutywą i obroną. OpenAI, znane z dotychczasowego oporu wobec współpracy z wojskiem, obecnie aktywnie uczestniczy w inicjatywach Pentagonu, włączając w to cyberbezpieczeństwo.
W miarę jak usługa Azure OpenAI Service wspina się na szczyty aprobaty rządowej, dążąc do dalszych poparć dla projektów Departamentu Obrony, partnerzy technologiczni zachowują częściowe embargo komunikacyjne, wstrzymując się od komentarzy na temat ostatnich zmian polityki.
W odniesieniu do tematu ograniczenia dostępu policji do technologii generatywnej sztucznej inteligencji przez Microsoft, pojawia się kilka istotnych pytań i problemów.
Kluczowe pytania i odpowiedzi:
1. Jakie obawy wynikają z użycia technologii AI przez agencje egzekutywy?
Obawy dotyczące AI obejmują ryzyko uprzedzeń w algorytmach AI, które mogą prowadzić do profilowania rasowego oraz naruszenia prywatności i swobód obywateli.
2. Dlaczego Microsoft ogranicza użycie swoich technologii AI przez policję?
Microsoft może dążyć do zapobieżenia nadużyciom i potencjalnym kontrowersjom, które mogą wyniknąć z niezamierzonych skutków technologii, w tym potencjalnych problemów etycznych i prawnych.
3. Jakie inne przypadki istnieją, w których firmy technologiczne regulują użycie AI przez policję?
Kilka firm technologicznych, w tym IBM, Amazon i Microsoft, wcześniej zwracało się do problemów, wstrzymując lub zawieszając sprzedaż technologii rozpoznawania twarzy departamentom policji.
Kluczowe wyzwania i kontrowersje:
– Uprzedzenia algorytmiczne: Generatywna sztuczna inteligencja może wykazywać uprzedzenia na podstawie danych, na których została przeszkolona, co rodzi obawy o dyskryminację i niesprawiedliwość w egzekutywie.
– Prywatność: Użycie AI w monitorowaniu może naruszać prywatność, zwłaszcza jeśli byłoby szeroko wdrożone na przestrzeni publicznej.
– Odpowiedzialność: Gdy AI popełnia błędy, trudno jest określić odpowiedzialność, zwłaszcza w kontekście działań policyjnych i sprawiedliwości karno-administracyjnej.
Zalety i Wady:
Zalety:
– AI może przetwarzać ogromne ilości danych szybciej i dokładniej niż ludzie w wielu przypadkach, co może pomóc w śledztwach oraz alokacji zasobów.
– Narzędzia AI mogą pomóc zidentyfikować wzorce i wnioski, które mogą wymknąć się analizie człowieka.
Wady:
– Poleganie na AI może prowadzić do nadmiernej egzekucji, zwłaszcza w społecznościach z historią nadmiernego nadzoru.
– Potencjał AI do utrwalania istniejących uprzedzeń i praktyk dyskryminacyjnych.
– Układy AI mogą być nieprzejrzyste, co sprawia, że trudno jest zrozumieć, w jaki sposób wyciągane są wnioski.
Aby uzyskać więcej informacji na temat firmy Microsoft i jej inicjatyw z zakresu sztucznej inteligencji, można odwiedzić główną stronę internetową Microsoft: Microsoft.com.
Dla zrozumienia szerszych kwestii etycznych związanych z technologią AI, można odwiedzić główną stronę internetową OpenAI, rozpoznając to jako wiodącą organizację w dziedzinie sztucznej inteligencji: OpenAI.com.