Využitie umelej inteligencie (AI) v kybernetickej bezpečnosti získalo uznávanie od FBI kvôli jeho potenciálnym výhodám. Avšak agentúra si je vedomá aj etických výziev a rizík spojených s AI. Jonathan Lenzner, šéf štábu FBI Christophera Wraya, zdôraznil trojnásobný pohľad agentúry na AI: proactive predchádzanie problémom, ochrana inovácií USA a stanovenie etického rámca riadenia.
FBI implementovalo AI do svojich operácií použitím svojich vlastných nástrojov na strojové učenie a komerčných. Zatiaľ čo agentúra je používateľom generatívnej AI a modelov s veľkým jazykom, zameriava sa viac na testovanie a hodnotenie, aby predišla akýmkoľvek zkresleniam alebo chybám v modeloch AI. Cynthia Kaiser, zástupca šéfa FBI pre kybernetickú divíziu, zdôraznila dôležitosť dôkladného hodnotenia na zabezpečenie etického využitia AI, najmä pri prekladoch dát a analýze tipov, ktoré agentúra dostáva.
Spolupráca s inými agentúrami je tiež kľúčovým aspektom prístupu FBI k AI. Využívaním nástrojov od iných agentúr a kombinovaním dát zo FBI a komunity získava agentúra ďalšie schopnosti pri identifikácii kybernetických poradných infraštruktúr a pri riešení kybernetických hrozieb.
Špecifické technológie AI sú tiež preskúmané FBI, ako napríklad softvér na analýzu obrazu a videa Amazonu Rekognition. Avšak agentúra stále prechádza počiatočnou fázou používania a aktívne určuje obmedzenia a vhodné použitie tohto kontroverzného technologického riešenia. FBI dáva prednosť dodržiavaniu zákonov USA a udržiava úzku spoluprácu so svojím generálnym poradcom na zabezpečenie zodpovedného nasadenia technológií AI.
Zatiaľ čo AI ponúka obrovské príležitosti, vyžaduje opatrnú rovnováhu medzi tým, aby sme z neho ťažili výhody a zároveň riešili etické obavy. FBI si uvedomuje dôležitosť zodpovedného prijímania AI na ochranu sietí, podporu inovácií a zabránenie zneužitiu alebo využívaniu technológie.
Často kladené otázky (FAQs)
1. Ako FBI využíva AI?
FBI využíva AI rôznymi spôsobmi, vrátane analýzy kybernetických hrozieb, ochrany sietí, prekladania dát, identifikácie kybernetických poradných infraštruktúr, hodnotenia tipov a posudzovania potenciálneho kriminálneho využitia AI.
2. Aké sú etické obavy spojené s AI?
Hlavné etické obavy zahŕňajú skreslenie v modeloch AI, zneužitie od protivníkov, následky na súkromie, potrebu primeraného riadenia a dohľadu, a možnosť, že zločinci budú využívať AI na získanie zlepšených schopností.
3. Ako zabezpečuje FBI etické využitie AI?
FBI dodržiava dôkladný proces hodnotenia, ktorý zohľadňuje účel, výhody, riziká, ochranu súkromia, monitorovanie, auditovanie a odhalenie chýb spojených s využitím AI. Agentúra spolupracuje aj s komunitou získaných informácií na zarovnanie štruktúr riadenia.
4. Aké obmedzenia sú zavedené pri používaní technológií AI ako napríklad Amazon Rekognition?
FBI je na začiatku používania Amazon Rekognition a aktívne pracuje na stanovení vhodných prípadov použitia a obmedzení. Agentúra dáva prednosť dodržiavaniu zákonov USA a úzko spolupracuje so svojím generálnym poradcom na zabezpečenie zodpovedného a zákonného nasadenia technológií AI.
Zdroje:
– FBI Seeks to Balance Risks, Rewards of Artificial Intelligence | CyberScoop (URL: cyberscoop.com)
The source of the article is from the blog radardovalemg.com