Okupljanje za sigurniju budućnost umjetne inteligencije: Globalni tehnološki lideri uspostavljaju međunarodne sigurnosne standarde
U prekretničkom pothvatu, istaknute tehnološke tvrtke iz Kine i Sjedinjenih Američkih Država udružile su snage kako bi uspostavile skup međunarodnih standarda s ciljem jačanja aplikacija umjetne inteligencije i velikih jezičnih modela (LLM) protiv kibernetičkih prijetnji. Ant Group, Baidu i Tencent Holdings iz Kine surađuju s globalnim tehnološkim divovima poput OpenAI-a, Microsofta i Nvidia-e. Ova koalicija rodila je dva sveobuhvatna smjernice: jednu usmjerenu na sigurnosnu autentifikaciju sintetskih AI aplikacija, a drugu na metode sigurnosne evaluacije za LLM-ove.
Ovi okviri odgovor su na brzu proliferaciju AI tehnologija, uključujući ChatGPT tvrtke OpenAI i Copilot tvrtke Microsoft. Korporacijski divovi poput Baidu-a, Tencenta i Ant Groupa svaki su razvili svoje napredne AI chatbotove i jezične modele za različite upotrebe, što signalizira rastuću ovisnost tržišta o ovim tehnologijama.
Proizvedeni od tima stručnjaka iz raznih tehnoloških konglomerata uključujući Nvidia-u i Meta Platforms, i provjereni od divova poput Amazona i Google-a, novi standardi pružaju temelj za testiranje i verifikaciju sigurnosnog položaja aplikacija GenAI. Ant Group je značajno doprinio s 17 svojih zaposlenika osmišljavajući iscrpne standarde za LLM-ove, što uključuje skup simulacija napada radi ocjene njihove otpornosti.
Kako GenAI tehnologije dosežu nove visine na tržištu i osobnom korisničkom prostoru, industrijski lideri naglašavaju imperativ zaštite ovog remetećeg inoviranja. Sam Altman, izvršni direktor tvrtke OpenAI, istaknuo je prioritet ulaganja u sveobuhvatne sigurnosne mjere kako AI aplikacije postaju sve integriranije u naš svakodnevni život.
Osim toga, proaktivni stav zemalja poput Kine, koja je već u srpnju 2023. uvela regulacije za GenAI i povezane usluge, ilustrira rastuće globalno priznanje upravljanja AI-jem. Susret međunarodnih standarda, poput onih koje je pokrenula UNESCO i Međunarodna organizacija za standardizaciju, s strateškim savezom vodećih tehnoloških korporacija, ističe suradnički napor za navigaciju porasta AI-ja s oprezom i integritetom.