Microsoft nedávno odhalil, že protivníci Spojených států, konkrétně Írán a Severní Korea, používají generativní umělou inteligenci (AI) k provádění útočných kybernetických operací. Navíc i Rusko a Čína začaly využívat tuto technologii, i když ve menší míře. Ačkoliv jsou tyto techniky stále ve svém počátečním stadiu a zcela nové nejsou, Microsoft považuje za důležité je veřejně odhalit, protože tyto země využívají velké jazykové modely k prolomení sítí a provádění manipulativních operací.
Generativní AI, zejména pod vedením OpenAI’s ChatGPT, zvýšilo hru na kočku a myš mezi bezpečnostními firmami a kriminálními hackerskými skupinami. Microsoft, který investoval velké prostředky do OpenAI, varoval, že generativní AI má potenciál zlepšit zákeřné sociální inženýrství, což vede ke vzniku sofistikovanějších deepfake videí a klonování hlasu. Toto představuje významnou hrozbu pro demokratické procesy, zejména v roce, kdy mnoho zemí pořádá volby, čímž se zvyšuje šíření dezinformací.
Microsoft poskytnul různé příklady toho, jak tito protivníci Spojených států využívají generativní AI. Severokorejská skupina Kimsuky použila tyto modely k výzkumu zahraničních think-tanků a tvorbě obsahu pro spear-phishingové kampaně. Íránská Revoluční garda využila velké jazykové modely k sociálnímu inženýrství, řešení softwarových chyb a studiu metod, jak se vyhnout odhalení v sítích, včetně tvorby phishingových e-mailů. Ruská vojenská zpravodajská služba GRU, známá jako Fancy Bear, zkoumala satelitní a radarové technologie související s konfliktem na Ukrajině. Čínské skupiny pro kybernetickou špionáž Aquatic Panda a Maverick Panda také zkoumaly, jak mohou velké jazykové modely vylepšit své technické operace.
Nicméně OpenAI objasnilo, že jejich současný chatbot GPT-4 model poskytuje omezené schopnosti pro škodlivé kybernetické úkoly, které již neexistují mimo AI poháněné nástroje. Přesto bezpečnostní výzkumníci předpovídají, že se to v budoucnosti změní.
Ředitel agentury pro kybernetickou bezpečnost a infrastrukturu Spojených států, Jen Easterly, zdůraznil význam Číny a umělé inteligence jako hrozby a výzvy definující epochu. Vyzdvihla potřebu stavět AI s ohledem na bezpečnost. Kritici vyjádřili obavy ohledně uvolňování velkých jazykových modelů a tvrdí, že bezpečnost nebyla během jejich vývoje dostatečně zohledněna.
Je důležité, aby organizace jako Microsoft nejen řešily zranitelnosti velkých jazykových modelů, ale také přizpůsobily jejich zabezpečení prioritu. Použití generativní AI a velkých jazykových modelů, i když nejsou okamžitou hrozbou, by mohlo se potenciálně stát jednou z nejsilnějších zbraní v ofenzivě každého státního vojenského útvaru. Je naprosto nezbytné, aby kybernetická komunita zůstala ostražitá a aktivně pracovala na rozvoji silnějších bezpečnostních opatření v reakci na neustále se vyvíjející technologii AI.
FAQ na základě hlavních témat a informací představených v článku:
Otázka: Co je generativní umělá inteligence (AI)?
Odpověď: Generativní umělá inteligence se odkazuje na použití AI technologie k vytváření nového a originálního obsahu, jako je text, obrázky nebo videa.
Otázka: Jak protivníci Spojených států, konkrétně Írán a Severní Korea, využívají generativní AI?
Odpověď: Tyto země využívají generativní AI, konkrétně velké jazykové modely, k prolomení sítí, provádění manipulativních operací, sociálnímu inženýrství a tvorbě phishingových kampaní.
Otázka: Které další země začaly používat generativní AI?
Odpověď: Rusko a Čína také začaly tuto technologii využívat, i když v menší míře než Írán a Severní Korea.
Otázka: Jaká jsou rizika spojená s použitím generativní AI?
Odpověď: Generativní AI má potenciál zvýšit zákeřné sociální inženýrství, vést k vytváření sofistikovanějších deepfake videí, klonování hlasu a šíření dezinformací. To představuje významnou hrozbu pro demokratické procesy, zejména během volebních období.
Otázka: Jaký přínos má ChatGPT od OpenAI pro používání generativní AI?
Odpověď: ChatGPT od OpenAI, generativní AI model, ztížil kybernetickým firmám a útočným hackerům jejich hru na kočku a myš poskytováním pokročilých schopností pro škodlivé úkoly.
Otázka: Jaké příklady uvedl Microsoft týkající se použití generativní AI protivníky Spojených států?
Odpověď: Severokorejská skupina Kimsuky použila generativní AI k výzkumu think-tanků a tvorbě obsahu pro spear-phishingové kampaně. Íránská Revoluční garda použila velké jazykové modely k sociálnímu inženýrství a řešení softwarových chyb. Ruská vojenská zpravodajská služba GRU zkoumala satelitní a radarové technologie související s konfliktem na Ukrajině. Čínské skupiny pro kybernetickou špionáž Aquatic Panda a Maverick Panda zkoumaly, jak mohou velké jazykové modely vylepšit své operace.
Otázka: Může generativní AI sloužit pro škodlivé kybernetické úkoly mimo nástroje nepoháněné AI?
Odpověď: V současnosti poskytuje GPT-4 model od OpenAI, chatbot, omezené schopnosti pro takové úkoly. Nicméně bezpečnostní výzkumníci předpovídají, že se to v budoucnosti změní.
Otázka: Jaký je postoj agentury pro kybernetickou bezpečnost a infrastrukturu Spojených států (CISA) k používání umělé inteligence?
Odpověď: Ředitelka CISA, Jen Easterly, zdůraznila význam Číny a umělé inteligence jako hrozeb a výzev definujících epochu. Vyzdvihla potřebu stavět AI s ohledem na bezpečnost.
Otázka: Na co by se měly organizace jako Microsoft zaměřit ohledně velkých jazykových modelů?
Odpověď: Pro organizace jako Microsoft je důležité řešit zranitelnosti velkých jazykových modelů a prioritizovat jejich větší zabezpečení. Použití generativní AI a velkých jazykových modelů by mohlo se potenciálně stát jednou z nejsilnějších zbraní používaných státními vojenskými útvary.
Otázka: Co by měla kybernetická komunita udělat v reakci na se rozvíjející technologii AI?
Odpověď: Kybernetická komunita by měla zůstat ostražitá a aktivně pracovat na rozvoji silnějších bezpečnostních opatření v reakci na se rozvíjející technologii AI.
Definice:
– Generativní AI: AI technologie používaná k vytváření nového a originálního obsahu.
– Velké jazykové modely: AI modely, které byly trénovány na rozsáhlém množství textových dat pro generování obsahu podobného lidskému.
– Spear-phishingové kampaně: Cílené kybernetické kampaně prostřednictvím e-mailu, které si klade za cíl přimět jednotlivce, aby odhalili citlivé informace nebo vykonali určité akce.
– Sociální in
The source of the article is from the blog maestropasta.cz