Americká vláda pod vedením prezidenta Bidena má za cieľ posilniť svoje technologické hranice zavedením prísnych kontrol nad špičkovými modelmi umelej inteligencie (AI). Tento krok je motivovaný potenciálnym ohrozením týchto nástrojov zneužitím zo strany globálnych protivníkov ako Čína a Rusko. Jadrová technológia systémov AI, podobná ChatGPT, ktorá tvorí chrbát tejto iniciatívy, môže poskytnúť podstatné zlepšenia v úsilí o kybernetickú bezpečnosť.
Pokročilé modely AI sú uznávané pre svoju schopnosť spracovávať a sumarizovať veľké objemy textových a vizuálnych obsahov. Táto schopnosť vyvoláva obavy u domácich a súkromných výskumníkov o potenciálne zneužitie AI rivalmi pri kybernetických útokoch alebo dokonca pri vývoji sofistikovaných biologických zbraní.
Použitie AI pri distribúcii deepfakes a dezinformácií je obzvlášť znepokojujúce. Umele inteligentné nástroje môžu teraz vytvárať presvedčivé fámy a šíriť dezinformácie s ešte nikdy nevidenou ľahkosťou. Existujúce platformy, napriek svojim úsiliam obmedziť takýto obsah, sa stretávajú s nekonzistentnými úspešnosťami v moderovaní týchto klamlivých výstupov.
AI vytvárané deepfakes rozmazávajú hranice medzi realitou a fikciou, najmä v silne polarizovanom politickom klíme Spojených štátov. Toto je stále väčší problém nielen v médiách a zábave, ale aj v oblasti, kde môže ovplyvňovať vnímanie voličov a výsledky volieb.
Okrem oblasti dezinformácií viedol pokrok v oblasti AI k obavám týkajúcim sa biologických hrozieb. Výskumníci skúmali, ako by tieto modely AI mohli pomôcť zlým aktérom pri generovaní biologických zbraní poskytnutím podrobných poznatkov do oblastí životných vied.
Pokiaľ ide o kybernetickú bezpečnosť, hodnotenia Úradu pre domácu bezpečnosť (DHS) pre rok 2024 vyjadrujú obavy, že AI by mohla byť použitá na zvýšenie rozsahu a sofistikovanosti kybernetických útokov. Tieto nástroje môžu prispieť k vytváraniu kybernetických zbraní, ktoré sú ťažšie odhaliteľné a na ktoré je ťažšie sa brániť.
Preliminárny plán vlády si kládol za cieľ vytvoriť prekážky na ochranu posvätnosti a zabezpečenie etického využívania technológií AI, a tak preventívne bojovať proti zneužitiu AI na zlomyseľné účely.
The source of the article is from the blog radardovalemg.com