I ei markant trekk, har leiande teknologiselskap, inkludert industri-giganter som Microsoft, Amazon og OpenAI, samstemde blitt einige om å halde seg til ei sett med frivillige forpliktingar retta mot å sikre trygg utvikling av avanserte kunstig intelligens (AI)-modellar. Denne avtalen vart gjort under Artificial Intelligence Safety Summit i Seoul.
Dei viktigaste høgdepunkta i den internasjonale AI-sikkerhetspakta:
Som ein del av avtalen har teknologiselskap frå ulike nasjonar over heile verda, som USA, Kina, Canada, Storbritannia, Frankrike, Sør-Korea og Dei sameinte arabiske emirata, lova å implementere tryggleiksrammer for sine AI-modellar. Slike rammeverk vil skissere måten dei utfordringane deira system står overfor vert målt på, og inkluderer «røde linjer» som set klare grenser for uakseptable risikoar, inkludert, men ikkje berre, forsvar mot automatiserte dataangrep og forebygging av biologiske våpen-true.
For å ta tak i ekstreme tilfelle som kan oppstå med desse avanserte AI-systema, kunngjorde selskapa planane sine om potensielt å innføre ein «nødstopp». Dette nødtiltaket vil stanse utviklinga av AI-modellen dersom selskapa ikkje kan sikre at nedtoninga av dei skisserte risikoane blir oppfylt.
Internasjonal samhald og forplikting til trygg AI-utvikling:
Den britiske statsministeren, i ei utsegn som understrekar den historiske avtalens natur, fremheva den globale samhalden og løftet om gjennomsiktighet og ansvar frå nokre av verdas fremste AI-entreprenørar. Han peika på det unike samspillet om tryggleiksforpliktingane for AI.
Fråtidssteg og juridiske rammer:
Dei lovnadane som vart vedtekne, er spesifikke for avanserte modellar kjent som «frontier models», som inkluderer generativ AI som OpenAI sin GPT-serie, som driv populære AI-verktøy som ChatGPT-chatbotten. Medan Den europeiske unionen har forsøkt å innføre AI-lova for å regulere ukontrollert AI-utvikling, har den britiske regjeringa valt ein meir tillatande reguleringstilnærming, som indikerer ein omsyn for framtida lovgjeving om «frontier models» utan ein fastsett tidslinje.
Denne tirsdagspakta representerer ei utviding av ei tidlegare rekkje forpliktingar gjort i november når det gjeld utvikling av generativ AI-programvare. Dei forplikta seg også til å innarbeide tilbakemeldingar frå «tillitsskapande aktørar», inkludert deira heimland, i tryggleikstiltaka deira før den neste AI Action Summit i Frankrike, planlagd tidleg i 2025.
Viktige spørsmål og svar:
Spørsmål 1: Kva er etiske AI-utviklingspraksisar?
Svar 1: Etiske AI-utviklingspraksisar refererer til ein sett prinsippar og retningsliner som er meint å skape AI-system som er rettferdige, gjennomsiktige, ansvarlege og respekterer brukartryggleik og menneskerettar. Etiske omsyn inkluderer oftast å sikre ikkje-bias av algoritmar, ansvarleg handtering av persondata, tryggleik og pålitelegheit av AI-system, og klarleik rundt AI-beslutningsprosessar.
Spørsmål 2: Kvifor er det viktig at teknologigigantane forpliktar seg til etisk AI?
Svar 2: Forpliktinga til teknologigigantane er vital fordi dei har ressursar, rekkevidde og teknisk ekspertise som i stor grad formar AI-utviklinga globalt. Deira fylgje av etiske retningsliner bidrar til å førebyggje misbruk av AI-teknologi og takle potensielle risikoar knytte til bruken av den, og slik fremjar offentleg tillit til AI-applikasjonar.
Spørsmål 3: Kva er utfordringane knytte til utvikling av etisk AI?
Svar 3: Utfordringar inkluderer å sikre den ubias-varsame innsamling og prosessering av data, kompleksiteten ved å utvikle gjennomsiktige modellar når AI blir meir avansert, potensialet for misbruk av AI til ondsinnete formål, vanskelegheita med å definere og håndheve etiske standardar globalt, og balansen mellom innovasjon og regulering.
Viktige utfordringar eller kontroversar:
Ein kontrovers er potensialet for at globale sel