OpenAI deler blåkopi for ansvarleg AI
OpenAI har avslørt eit banebrytande utkast til dokument som fungerer som ein blåkopi for skaping av etiske og ansvarlege system for kunstig intelligens (AI). Dette dokumentet skisserer mangfoldige faktorar som AI bør ta omsyn til når dei responderer på brukarforespurnader, alt frå å gagne mennesket og å overhalde juridisk samsvar til å respektere skaparar og deira rettar. OpenAI har stadfesta at alle deira AI-modellar, inkludert GPT, Dall-E og den snart å verte lanserte Sora, vil følgje desse atferdsprinsippa.
Innovativ modellspec legg grunnlag for etisk AI-forsking
I det OpenAI kallar Modellspesifikasjonen, ser selskapet det som ein rettleiande norm for korleis forskarar og datamarkørar skal gå fram når dei skaper data gjennom ei teknologi kjend som Forsterkningslæring frå Menneskekritikk (RLHF). Sjølv om desse spesifikasjonane enno ikkje har vorte anvendt i si noverande forma, er dei grunnleggjande basert på dokument tidlegare brukt i RLHF hos OpenAI. I tillegg utviklar OpenAI teknikkar som vil tillate modellane deira å lære direkte frå desse modellspefikasjonane.
Å handheve strenge reglar for avanserte AI-system
Blant dei kritiske reglane som er detaljerte, er leiarkjedet som sikrar at AI-en ikkje kan overstyre utviklarinstruksjonar, overhald av eksisterande lover, respekten for skaparar og deira rettar og vern om individuell privatliv. Ein spesifikk regel krev at AI-en ikkje skal gi informasjon som medfører risiko for kjemiske, biologiske, radiologiske eller nukleære (KBRN) farar.
Vidare fastset utkastet ei samling standard atferdskode for alle AI-modellar. Desse inkluderer å anta dei beste intensjonane frå brukarar eller utviklarar, stille oppklarande spørsmål, hjelpe utan å gå for langt, halda objektive synspunkt, halda seg unna å prøve å forandre meiningar, uttrykka usikkerheit og annan respektfull og uklår åtferd.
AI-spesifikasjonar utviklar seg med kontinuerlig påverknad
Merk at Modellspesifikasjonen ikkje er det einaste referansepunktet for OpenAI. Den skal kompletterast med selskapets bruksreglar som styrer korleis folk forventast å bruke API-et og deira ChatGPT-produkt. OpenAI understrekar tanken om at akkurat som modellane deira, vil spesifikasjonane vere dynamiske og vil kontinuerleg utviklast, drive av aktiv engasjement med brukarar og tilbakemelding frå interessentar.
Nøkkelspørsmål og svar
1. Kva er hovudmåla til OpenAI sin Modellspesifikasjon?
Hovudmåla er å sikre at AI-systema oppfører seg etisk, overheld juridiske standardar, respekterer skaparar og deira rettar og vern om individuell privatliv, blant anna andre ansvarlege atferdsaspekt.
2. Korleis vil OpenAI handheve desse retningslinjene?
OpenAI planlegg å utvikle teknikkar som gjer at AI-modellane deira, som GPT og Dall-E, skal kunne lære direkte frå Modellspesifikasjonen ved å bruke Forsterkningslæring frå Menneskekritikk (RLHF).
3. Er det spesifikke reglar for AI-åtferd OpenAI har framheva?
Ja, reglane inkluderer å halde seg til leiarkjedet, etterleve lovar, respektere skaparar og rettar, beskytte privatlivet og unngå å spre informasjon som kan føre til KBRN-farar.
4. Vil Modellspesifikasjonen vere statisk eller endre seg over tid?
Modellspesifikasjonen er dynamisk og vil utviklast, påverka av brukar- og interessenttilbakemeldingar og pågåande engasjement.
Utfordringar og kontroversar
– Handheving: Å sikre at AI-systema konsistent overhelder etiske retningslinjer og avgjere kva handlingar som skal takast når avvik oppstår.
– Dynamisk natur: Kontinuerleg oppdatering av retningslinjer for etisk AI-modell som svar på nye utfordringar, teknologiar og samfunnsnormar.
– Forutinntatthet og diskriminering: Takling av problema med innebygd forutinntatthet i AI-system og sikre at etiske retningslinjer er godt nok for å hindre diskriminerande praksis.
Fordelar
– Auka tillit: Etiske retningslinjer bidrar til auka tillit frå publikum og styresmaktene til AI-teknologiar.
– Betra tryggleik: Slike retningslinjer har som mål å dempe risikoane knytt til avansert AI og hindre misbruk.
– Sosial og juridisk overhald: Sikre at AI-systema overheld eksisterande lover og respekterer rettane og privatlivet til individ.
Ulempar
– Potensiell kveling av innovasjon: Strenge reglar kan potensielt sakke ned forsking og innovasjon innafor AI-feltet.
– Avgrensingar på AI sine mogleikar: Etiske avgrensingar kan avgrense dei fulle moglegheitene til AI-system for å løse komplekse problem.
For meir informasjon om AI-etikk og ansvarleg AI-utvikling, kan du finne desse domenene relevante:
– OpenAI
– AIEthicsLab
– Partnership on AI
– AI Now Institute