Využití umělé inteligence (AI) v kybernetickém průmyslu získalo uznání od FBI díky svým potenciálním výhodám. Agentura si však také uvědomuje etické výzvy a rizika spojená s AI. Jonathan Lenzner, šéf štábu ředitele FBI Christophera Wraye, zdůraznil tříprvkový pohled agentury na AI: aktivně předcházet hrozbám, chránit inovace Spojených států a stanovit etický rámec správy.
FBI zahrnula AI do svých operací použitím jak svých vlastních nástrojů strojového učení, tak komerčních. Zatímco úřad je uživatelem generativní AI a velkých jazykových modelů, zaměřuje se spíše na testování a evaluaci, aby předešel jakýmkoli zkreslením nebo chybám v modelech AI. Cynthia Kaiser, zástupkyně asistenta ředitele FBI pro kybernetickou divizi, zdůraznila důležitost důkladného hodnocení zajištění etického použití AI, zejména při překladu dat a analýze tipů, které agentura obdržela.
Spolupráce s jinými agenturami je také důležitým aspektem přístupu FBI k AI. Tím, že využívá nástroje od jiných agentur a kombinuje data z FBI a z komunity zpravodajských služeb, zvyšuje agentura své schopnosti v identifikaci infrastruktury poradenství v oblasti kybernetických hrozeb.
Specifické technologie AI jsou také zkoumány FBI, jako například Amazonova softwaru pro analýzu obrazu a videa Rekognition. Nicméně, agentura je stále ve fázi zahájení využití a aktivně určuje limity a vhodné případy použití této kontroverzní technologie. FBI dává přednost dodržování zákonů Spojených států a udržuje úzkou spolupráci se svým generálním poradcem pro zajištění odpovědné implementace technologií AI.
Zatímco AI přináší obrovské příležitosti, vyžaduje opatrnou rovnováhu mezi využíváním svých odměn a adresováním etických obav. FBI si uvědomuje důležitost zodpovědného přístupu k AI pro ochranu sítí, podporu inovací a prevenci zneužití nebo vykořisťování technologie.
Pro více informací se můžete obrátit na článek CyberScoop.
Často kladené otázky (FAQs)
1. Jak FBI využívá AI?
– FBI využívá AI různými způsoby, včetně analýzy kybernetických hrozeb, ochrany sítí, překladu dat, identifikace kybernetické infrastruktury poradenství, vyhodnocení tipů a posouzení potenciálního kriminálního použití AI.
2. Jaké jsou etické obavy spojené s AI?
– Hlavní etické obavy zahrnují zkreslení v modelech AI, zneužití soupeři, důsledky pro soukromí, potřebu správné správy a dohledu a možnost zneužití AI krymiňáky pro zdokonalení vlastností.
3. Jak FBI zajišťuje etické používání AI?
– FBI následuje důkladný proces hodnocení, který zohledňuje účel, výhody, rizika, kontrolu soukromí, sledování, auditaci a odhalování chyb spojené s využíváním AI. Agentura spolupracuje s komunitou zpravodajských služeb na srovnání struktur správy.
4. Jaká omezení jsou ukládána na použití technologií AI, jako je Amazon Rekognition?
– FBI je ve fázi počátků využití Amazon Rekognition a aktivně pracuje na určení vhodných případů použití a omezení. Agentura dává přednost dodržování zákonů Spojených států a udržuje úzkou spolupráci se svým generálním poradcem pro zajištění zodpovědné a zákonné implementace technologií spjatých s AI.
The source of the article is from the blog jomfruland.net