V historickom kroku sa popredné technologické korporácie, vrátane priemyselných obrov ako Microsoft, Amazon a OpenAI, dohodli na kolektívnom dodržiavaní dobrovoľných záväzkov zameraných na zabezpečenie bezpečného vývoja sofistikovaných modelov umelej inteligencie (AI). Táto dohoda bola uzavretá na Summit bezpečnosti umelej inteligencie v Soule.
Kľúčové body Medzináčodnej dohody o bezpečnosti AI:
Ako súčasť dohody, technologické spoločnosti z rôznych krajín vrátane USA, Číny, Kanady, Veľkej Británie, Francúzska, Južnej Kórey a Spojených arabských emirátov sa zaviazali implementovať bezpečnostné rámce pre svoje AI modely. Tieto rámce budú opisovať meranie výziev svojich systémov a zahŕňať „červené čiary“, ktoré stanovia jasné hranice pre neprijateľné riziká, vrátane, ale nie obmedzené na, obranu proti automatizovaným kybernetickým útokom a prevenciu biologických hrozieb zbraňami.
Na riešenie extrémnych situácií, ktoré môžu vyplynúť z týchto pokročilých AI systémov, spoločnosti oznámili svoje plány na eventuálnu implementáciu „zabíjacej spínača“. Táto mimoriadna opatrenie by pozastavila vývoj AI modelu, ak spoločnosti nedokážu zabezpečiť zmierňovanie stanovených rizík.
Medzinárodná jednota a záväzok k bezpečnému vývoju AI:
Premiér Spojeného kráľovstva v stanovisku zdôrazňujúcom význam dohody, poukázal na globálnu jednotu a sľub transparentnosti a zodpovednosti niektorých najvýznamnejších AI podnikov na svete. Upozornil na bezprecedentný konsenzus o bezpečnostných záväzkoch AI.
Budúce kroky a právne rámce:
Úlohy, ktoré boli prijaté sú špecifické pre moderné modely známe ako „frontier models“, vrátane generatívnych AI ako OpenAI’s GPT séria, napájajú modely AI ako ChatGPT chatbot. Zatiaľčo Európska únia sa snažila zaviesť Zákon o AI na reguláciu neobmedzeného vývoja AI, britská vláda si zvolila tolerančný regulačný prístup, čo naznačuje uvažovanie o budúcej legislatíve týkajúcej sa zákonov frontier models bez stanoveného harmonogramu.
Táto dohoda z utorokov predstavuje rozšírenie predchádzajúceho súboru záväzkov uzavretých v novembri týkajúcich sa vývoja softvéru pre generativné AI. Rovnako sa zaviazali, že zahrnú spätnú väzbu od „doverných aktérov“, vrátane ich domácich vlád, do svojich bezpečnostných opatrení pred nasledujúcim summitom AI v rámci akcie vo Francúzsku, ktorý je naplánovaný na začiatok roku 2025.
Dôležité otázky a odpovede:
O1: Čo sú etické praktiky vývoja AI?
A1: Etické praktiky vývoja AI sa vzťahujú na súbor princípov a usmernení určených na vytvorenie AI systémov, ktoré sú spravodlivé, transparentné, zodpovedné a rešpektujú súkromie používateľa a ľudské práva. Etické úvahy často zahŕňajú zabezpečenie nestrannosti algoritmov, zodpovedné zaobchádzanie s osobnými údajmi, bezpečnosť a spoľahlivosť AI systémov a zrozumiteľnosť procesov rozhodovania AI.
O2: Prečo je záväzok technologických gigantov k etickému AI dôležitý?
A2: Záväzok technologických gigantov je dôležitý, pretože disponujú prostriedkami, dosahom a technickou expertízou, ktoré významne formujú globálny vývoj AI. Ich dodržiavanie etických usmernení pomáha zabrániť zneužitiu technológie AI a adresuje potenciálne riziká spojené s jej nasadením, takto posilňujúc verejnú dôveru v aplikácie AI.
O3: Aké sú výzvy spojené s vývojom etického AI?
A3: Výzvy zahŕňajú zabezpečenie nestranného zhromažďovania a spracovania údajov, komplexnosť vývoja transparentných modelov so zvyšujúcou sa úrovňou pokroku AI, potenciálne zneužitie AI na zlé účely, obtiažnosť definovania a presadzovania etických noriem na globálnej úrovni a rovnováha medzi inováciou a reguláciou.