Rada Európy (COE) sa blíži ku skončeniu rokovaní o vytvorení prvého medzinárodného zmluvného dokumentu na svete týkajúceho sa umelej inteligencie (IA). Tento dokument má za cieľ stanoviť základné normy pre reguláciu a riadenie IA, zabezpečujúc ochranu základných práv a demokratických hodnôt. Svetové vlády sa sústreďujú na otázky, ktoré IA predstavuje, a táto zmluva sa snaží vyriešiť nedostatok dohody o jej kontrole.
Pokusy súkromného sektora čelia značným výzvam v nekontrolovanom využívaní IA systémov. Mnohé prípady ukázali, že tieto systémy majú tendenciu replikovať predsudky a generovať nespravodlivé výsledky, ovplyvňujúce oblasti ako zdravotníctvo, náborové praktiky a rozhodnutia o pôžičkách. Okrem toho systémy IA podporované sledovacími systémami spôsobujú obavy o porušovanie práv a slobôd ľudí, pretože sa zbiera osobné údaje bez obmedzení. Na boj proti týmto problémom významní odborníci, ako je Dr. Alondra Nelson, požiadali o Chartu práv IA.
Poznávajúc možné problémy Rada Európy zahájila vývoj zmluvy o IA pred niekoľkými rokmi. Cieľom bolo vytvoriť komplexnú dohodu medzi národmi na zodpovednom riadení IA, s dôrazom na ľudské práva, demokratické hodnoty a pravidlá práva. Počiatočné odporúčania navrhovali právne záväznú zmluvu, ktorá by pokrývala činnosti súkromného i verejného sektora v oblasti IA. Následne bola založená skupina na vypracovanie návrhu.
So 46 členskými štátmi a ďalšími pozorovateľskými krajinami, ako sú Spojené štáty, Kanada, Japonsko a Mexiko, majú zmluvy Rady Európy globálny dosah. Okrem súčasných účastníkov sa každá krajina môže zaviazať k týmto zmluvám.
Hoci očakávania boli veľké pre robustný rámec, na scéne sa objavili prekážky, keď sa rokovania blížia k finálnym štádiám. Zatiaľ čo väčšina súkromného sektora súhlasí s potrebou regulácie, krajiny ako Spojené štáty údajne presadzujú výnimky pre systémy IA v súkromnom sektore. Navyše, bezpečnostné sily sa snažia vylúčiť systémy umelej inteligencie pre národnú bezpečnosť zo záberu zmluvy.
Významní odborníci na IA zazvonili na poplach v súvislosti s týmito udalosťami. Stuart Russell, prominentný britský počítačový vedec, zdôraznil, že zmluva o IA musí riešiť systémy IA súkromného sektora ako najväčšie riziko pre verejnú bezpečnosť. Ich vylúčenie by mohlo spôsobiť, že by krajiny boli zraniteľné voči cudzím nepriateľom a uplatňovali domáce hromadné sledovanie. Prieskumné údaje z Ústavu pre elektroniku a elektrotechniku (IEEE) podporujú tieto obavy, pretože väčšina jeho amerických členov považuje súčasné americké predpisy na riadenie IA za nedostatočné.
Občianske organizácie z celej Európy, Kanady a Spojených štátov sa spojili, aby vyzvali rokovateľov, aby odstránili všeobecné výnimky pre technologický sektor a národnú bezpečnosť. Verejný záujem o IA rastie, prieskumy naznačujú väčšiu obavu než nadšenie medzi Američanmi.
Je stále záhadné, prečo niektoré krajiny presadzujú výnimku pre systémy IA súkromného sektora, keď americký prezident Joe Biden sám zdôrazňuje potrebu nariadení na ochranu práv a bezpečnosti. Prezident Biden dokonca vyzval Kongres, aby prijal zákon o IA, čím získal podporu oboch politických strán.
Na prekonanie týchto výziev sa navrhuje návrat k prvým zásadám. Účelom zmluvy je podpora spoločných záväzkov medzi národmi. Neurópske krajiny, ktoré majú ťažkosti so zosúladením týchto cieľov, by mohli byť ďalej podporované pri implementácii alebo udelené výnimky pre konkrétne účely. Zúženie záberu zmluvy by však oslabilo globálnu ochranu ľudských práv a demokracie. Spoločné záväzky by nemali byť ohrozené rozdielmi v právnych systémoch alebo tradíciách.
Výzva k medzinárodnej zmluve o IA nie je nová. Bývalý guvernér Massachusetts Michael Dukakis a dokonca aj pápež František vyjadrili obavy o neregulovanú IA. Pápež František osobitne zdôraznil hrozbu „technologickej diktatúry“ a vyzval k právne záväznej zmluve na zabezpečenie ochrany ľudských hodnôt. Tieto obavy poukazujú na naliehavú potrebu globálnej spolupráce a prijatie všestrannú zmluvy o IA.
OTE: Medzinárodná zmluva o umelej inteligencii
The source of the article is from the blog elperiodicodearanjuez.es