Az utóbbi időkben a Microsoft módosította irányelveit, új korlátozásokat vezetve be az Azure OpenAI szolgáltatás használatára az Egyesült Államok rendőrségi osztályai számára. Ez a frissítés kifejezetten tiltja az Azure OpenAI szolgáltatás telepítését az amerikai rendőrségi szervek által szöveg- és beszédanalízisre.
Távolabbra mutató irányelvek most a globális méretű rendőrségi tevékenységeket is érintik, különösen tiltva a valós idejű arcfelismerés alkalmazását mobil eszközökön, például testkamerákon. Ezek a változások közvetlenül látszanak megelőzni az ellenőrizetlen, valós idejű azonosítási kísérleteket nyilvános terekben.
Ezt a politikai módosítást Axon vállalat termékének előállítása előzte meg – ez a cég a rendőrségi technológiára specializálódott -, amely integrálja az OpenAI GPT-4 modellt a rendőrségi testkamerák által rögzített audió elemzésére. Ez az bejelentés aggodalmakat váltott ki az AI-be véve rejtett hibák, például a pontatlanságok és a beépített etnikai előítéletek az algoritmusokban, amelyek aránytalanul érintik a színes bőrű közösségeket.
A tiltás teljes körvonalai világosak a korlátaikat tekintve: kizárólag az Amerikai Egyesült Államok rendőrségeit érinti. Az irányelvek nem zárják ki a statikus kamerák felhasználásával történő arcfelismerést meghatározott környezetekben. A fejlesztés összhangban van a Microsoft és az OpenAI óvatos hozzáállásával a rendvédelemmel és védelmi projektekkel kapcsolatban. Az OpenAI-ról ismert, hogy korábban ellenállt a katonai együttműködéseknek, most azonban aktívan részt vesz a Pentagon kezdeményezéseiben, többek között a kibervédelem terén.
Ahogy az Azure OpenAI szolgáltatás felfelé lépked a kormányzati jóváhagyások felé, törekedve a Védelmi Minisztérium projektek további támogatására, a technológiai partnerek részleges kommunikációs cenzúrát tartanak fent, tartózkodva a friss irányelv-változásokkal kapcsolatos kommentáltól.
A Microsoft által az AI technológia korlátozott hozzáféréséről szóló témában felmerülő fontos kérdésekről és problémákról:
Fontos Kérdések és Válaszok:
1. Milyen aggodalmak vetődnek fel a rendőrségi szervek AI technológiájának használata kapcsán?
Az AI-vel kapcsolatos aggodalmak közé tartozik az AI algoritmusok előítéletekre való hajlama, amely etnikai profilozáshoz és a polgárok magánéletének és polgári szabadságjogaiknak megsértéséhez vezethet.
2. Miért korlátozná a Microsoft a rendőrség AI technológiákhoz való hozzáférését?
A Microsoft lehet, hogy a technológia lehetséges visszaéléseinek és lehetséges vitás helyzeteknek próbál gátat szabni, amelyek a technológia véletlen következményeiből, például lehetséges etikai és jogi problémákból eredhetnek.
3. Milyen egyéb esetek vannak arra, hogy technológiai vállalatok szabályozzák az AI rendőrségi felhasználását?
Több technológiai vállalat, például az IBM, az Amazon és a Microsoft, korábban már foglalkozott aggályokkal, vagy felfüggesztette az arcfelismerési technológia értékesítését a rendőrségi szerveknek.
Kihívások és Viták:
– Algoritmusbeli elfogultság: A generatív AI lehet, hogy előítéleteket tükröz, az adatokon alapulva, amelyekre képzett, emiatt felmerülhetek a diszkrimináció és az igazságtalanság aggodalmai a rendőrségi munkában.
– Magánéletvédelem: Az AI használata a megfigyelésben csorbíthatja a magánéletet, különösen, ha széles körben alkalmazzák nyilvános terekben.
– Felelősségteljes működés: Amikor az AI rendszerek hibákat vétenek, nehéz lehet meghatározni a felelősséget, különösen a rendőrségi és büntetőjogi összefüggésekben.
Előnyök és Hátrányok:
Előnyök:
– Az AI sok esetben gyorsabban és pontosabban képes feldolgozni nagy mennyiségű adatot, mint az emberek, ami segítheti a nyomozásokat és az erőforrások elosztását.
– Az AI eszközök segíthetnek azonosítani a mintázatokat és az összefüggéseket, amelyek elkerülhetik az emberi elemzést.
Hátrányok:
– Az AI iránti függés túlzott rendőri jelenléthez vezethet, különösen a korábban állandó megfigyelés alatt álló közösségekben.
– Az AI elősegítheti a meglévő elfogultságok és diszkriminatív gyakorlatok folytatását.
– Az AI rendszerek átláthatatlansága nehezítheti a következtetések módjának megértését.
További információkért a Microsoftról és AI kezdeményezéseikről, meglátogathatja a Microsoft főoldalát: Microsoft.com.
Az AI technológia széles körű etikai aggályaira vonatkozóan látogathatja az OpenAI főoldalát is, amely vezető szervezet a mesterséges intelligencia területén: OpenAI.com.