Microsoft nedávno odhalil, že americkí protivníci, konkrétne Irán a Severná Kórea, používajú generatívnu umelej inteligenciu (AI) na spúšťanie útočných kybernetických operácií. Okrem toho aj Rusko a Čína začali využívať túto technológiu, hoci v menšej miere. Aj keď tieto techniky sú stále vo svojich začiatkoch a nie sú veľmi nové, Microsoft verí, že je dôležité ich verejne odhaliť, pretože tieto krajiny využívajú veľké jazykové modely na prelomenie sieťov a vykonávanie operácií ovplyvňovania.
Generatívna AI, najmä vedená OpenAI’s ChatGPT, zvýšila konfrontáciu medzi kybernetickými firmami a kriminálnymi/útočnými hackermi. Microsoft, ktorý investoval veľké množstvo prostriedkov do OpenAI, varoval, že generatívna AI má potenciál rozvíjať zlomyseľný sociálny inžiniering, čo vedie k vytváraniu sofistikovanejších deepfake a hlasových klónov. Toto predstavuje významnú hrozbu pre demokratické procesy, najmä v roku, keď mnoho krajín vykonáva voľby a tak sa zvyšuje šírenie dezinformácií.
Microsoft poskytol rôzne príklady toho, ako tieto americké súperi využívajú generatívnu AI. Severokórecká skupina Kimsuky využila tieto modely na výskum zahraničných think-tankov a generovanie obsahu pre kampaňe spear-phishingu. Írská Revolučná garda využívala veľké jazykové modely na sociálny inžiniering, odstraňovanie chýb v softvéri a skúmanie metód vyhýbania sa detekcii v sieti vrátane vytvárania phishingových e-mailov. Ruská vojenská spravodajská jednotka GRU, známa ako Fancy Bear, skúmala satelitné a radarové technológie súvisiace s konfliktom na Ukrajine. Čínske skupiny kybernetického špionáže Aquatic Panda a Maverick Panda tiež skúmali, ako veľké jazykové modely môžu zlepšiť ich technické operácie.
Avšak OpenAI upresnila, že jej aktuálny model chatbota GPT-4 poskytuje obmedzené schopnosti pre zlomyseľné kybernetické úlohy, ktoré už zvládajú nástroje bez použitia AI. Avšak výskumníci v oblasti kybernetickej bezpečnosti predpokladajú, že sa to v budúcnosti zmení.
Riaditeľka americkej agentúry pre kybernetickú bezpečnosť a infraštruktúru Jen Easterly zdôraznila význam Číny a umelej inteligencie ako hrozby a výzvy, ktoré zmienia obdobie. Dôrazne zdôraznila potrebu, aby sa umelá inteligencia stavia s bezpečnosťou na mysli. Kritici vyjadrili obavy ohľadom uvoľnenia veľkých jazykových modelov, pričom tvrdia, že bezpečnosť nebola pri ich vývoji dostatočne zohľadnená.
V budúcnosti je dôležité, aby organizácie ako Microsoft nielen riešili zraniteľnosti veľkých jazykových modelov, ale aj dávali prioritu ich zabezpečeniu. Použitie generatívnej AI a veľkých jazykových modelov, hoci nie je okamžitou hrozbou, by mohlo sa stať jednou z najmocnejších zbraní vo výzbroji každého vojenského štátu. Pre kybernetickú bezpečnostnú komunitu je nevyhnutné, aby zostala ostražitá a aktívne pracovala na vypracovávaní silnejších bezpečnostných opatrení v kontexte sa rozvíjajúcej AI technológie.
FAQ na základe hlavných tém a informácií uvedených v článku:
Otázka: Čo je generatívna umelej inteligencia (AI)?
Odpoveď: Generatívna AI odkazuje na použitie inteligentnej technológie na vytváranie nového a originálneho obsahu, ako je text, obraz alebo video.
Otázka: Ako využívajú americkí protivníci, konkrétne Irán a Severná Kórea, generatívnu AI?
Odpoveď: Tieto krajiny využívajú generatívnu AI, konkrétne veľké jazykové modely, na prelomenie sieťov, vykonávanie operácií ovplyvňovania, zapojenie sa do sociálneho inžinierstva a vytváranie phishingových kampaní.
Otázka: Ktoré ďalšie krajiny začali používať generatívnu AI?
Odpoveď: Rusko a Čína tiež začali používať túto technológiu, hoci v menšej miere ako Irán a Severná Kórea.
Otázka: S čím sú spojené obavy v súvislosti s používaním generatívnej AI?
Odpoveď: Generatívna AI má potenciál zvýšiť zlomyseľné sociálne inžinierstvo, vytvárať sofistikovanejšie deepfake, klony hlasov a šíriť dezinformácie. To predstavuje významnú hrozbu pre demokratické procesy, najmä počas obdobia volieb.
Otázka: Ako prispelo OpenAI’s ChatGPT k využívaniu generatívnej AI?
Odpoveď: OpenAI’s ChatGPT, generatívny AI model, vytvoril konkurenčnú hru medzi kybernetickými firmami a útočnými hackermi tým, že poskytuje pokročilé schopnosti pre zlomyseľné úlohy.
Otázka: Aké príklady uviedol Microsoft týkajúce sa využitia generatívnej AI protivníkmi USA?
Odpoveď: Severná Kórea využila generatívnu AI na výskum think-tankov a vytváranie obsahu pre kampane spear-phishingu. Írska Revolučná garda použila veľké jazykové modely na sociálne inžinierstvo a odstraňovanie chýb v softvéri. Ruská vojenská spravodajská jednotka GRU skúmala satelitné a radarové technológie súvisiace s konfliktom na Ukrajine. Čínske skupiny kybernetického špionáže Aquatic Panda a Maverick Panda skúmali, ako veľké jazykové modely môžu zlepšiť ich operácie.
Otázka: Môže sa generatívna AI používať na zlomyseľné kybernetické úlohy, ktoré presahujú nástroje bez umelej inteligencie?
Odpoveď: Momentálna verzia Chatbota GPT-4 od spoločnosti OpenAI má obmedzené schopnosti pre takéto úlohy. Kybernetickí výskumníci však predpokladajú, že to sa v budúcnosti zmení.
Otázka: Aký je postoj americkej agentúry pre kybernetickú bezpečnosť a infraštruktúru (CISA) k využívaniu umelej inteligencie?
Odpoveď: Riaditeľka CISA, Jen Easterly, zdôraznila význam Číny a umelej inteligencie ako epochálnych hrozieb a výziev. Dôrazne zdôraznila potrebu, aby sa umelej inteligencii venovala pozornosť aj vo vzťahu k bezpečnosti.
Otázka: Na čom by sa mali organizácie ako Microsoft sústrediť v súvislosti s veľkými jazykovými modelmi?
Odpoveď: Je dôležité, aby organizácie ako Microsoft nielen riešili zraniteľnosti veľkých jazykových modelov, ale aj dávali prioritu ich zabezpečeniu. Použitie generatívnej AI a veľkých jazykových modelov by sa mohlo stať jednou z najmocnejších zbraní v rukách vojenských štátov.
Otázka: Aké opatrenia by mala kybernetická bezpečnostná komunita podniknúť v reakcii na sa rozvíjajúcu AI technológiu?
Odpoveď: Kybernetická bezpečnostná komunita by mala zostať ostražitá a aktívne pracovať na vypracovaní silnejších bezpečnostných opatrení v súvislosti so sa rozvíjajúcou AI technológiou.
Definície:
– Generatívna AI: Technológia AI používaná na vytváranie nového a originálneho obsahu.
– Veľké jazykové modely: AI modely, ktoré boli naučen
The source of the article is from the blog coletivometranca.com.br