Singapur nedávno predstavil návrh koncepcie riadenia pre generatívnu umelú inteligenciu (GenAI), vyzdvihujúci potrebu riešiť nové výzvy. Táto koncepcia sa snaží nadviazať na existujúcu koncepciu riadenia umelej inteligencie (AI) v Singapure, s dôrazom na hlásenie incidentov a dôkazy o pôvode obsahu. GenAI má potenciál prekonať tradičné schopnosti AI, no zároveň nesie so sebou inherentné riziká, podľa organizácie AI Verify Foundation a Infocomm Media Development Authority (IMDA).
S ohľadom na globálny vplyv umelej inteligencie si Singapur vytýčil cieľ uľahčovať medzinárodný dialóg medzi tvorcami politík, priemyselnými zainteresovanými stranami a výskumnou komunitou prostredníctvom tejto navrhnutej koncepcie. Dokument zahrňuje návrhy z predchádzajúcej diskusnej správy zverejnenej IMDA v júni, ktorá identifikovala šesť rizík spojených s GenAI, vrátane halucinácií, autorských práv a skreslení.
Návrh koncepcie riadenia GenAI je zameraný na deväť kľúčových oblastí, ktoré Singapur považuje za kľúčové pre vytvorenie dôveryhodného ekosystému umelej inteligencie. Tieto princípy zdôrazňujú dôležitosť transparentnosti, vysvetliteľnosti a spravodlivosti pri rozhodovaní založenom na umelej inteligencii. Koncepcia taktiež poskytuje praktické odporúčania pre vývojárov modelov umelej inteligencie a tvorcov politík na implementáciu ako prvých krokov.
Jednou z kľúčových súčastí koncepcie riadenia je dôkaz pôvodu obsahu. Zabezpečenie transparentnosti pri vytváraní a zdroji obsahu je nevyhnutné, aby sa zabránilo dezinformáciám, najmä v kontexte ľahko vytvoriteľného obsahu generovaného umelou inteligenciou, ako sú deepfake videá. Návrh koncepcie odporúča spoluprácu s vydavateľmi pri zakomponovaní digitálnych vodotlačidiel a ďalších údajov o pôvode do online obsahu.
Bezpečnosť je ďalším kritickým hľadiskom, ktoré koncepcia adresuje. GenAI prináša nové bezpečnostné riziká, ako sú rýchle útoky a možná exfiltrácia dát. Návrh navrhuje vývoj konceptov založených na bezpečnosti v návrhu, vrátane implementácie kontrol vstupu v prirodzenom jazyku a využívania digitálnych forenzných nástrojov pre účely vyšetrovania.
Singapur si uvedomuje zložitosť riadenia umelej inteligencie a verí, že je potrebný praktický a celostný prístup. Krajina aktívne žiada o spätnú väzbu na svoj návrh až do 15. marca. Tiež zdôrazňuje potrebu medzinárodnej spolupráce na vytvorenie zhody a zarovnania medzi rôznymi koncepciami riadenia umelej inteligencie na celom svete, vrátane partnerských vzťahov so Spojenými štátmi.
Záverom, návrh koncepcie riadenia GenAI zo Singapuru si kládne za cieľ vytvoriť bezpečné a dôveryhodné prostredie pre vývoj a nasadenie umelej inteligencie. Singapur sa snaží podporovať inovácie a zároveň chrániť užívateľov riešením kľúčových oblastí, ako je dôkaz pôvodu obsahu a bezpečnosť. Koncepcia slúži ako dôležitý krok v globálnej diskusii o riadení umelej inteligencie a vyzýva zainteresované strany na spätnú väzbu.
The source of the article is from the blog regiozottegem.be