AI-punditane hyller for retten til offentleg å avsløre potensielle truslar frå kunstig intelligens-teknologiar og meiner dagens varslarvern ikkje er godt nok. Denne bønnen vart fremja tysdag i eit open brev der det vart uttrykt bekymring for at slike verneordningar vanlegvis er utforma mot ulovleg korporativ åtferd, medan lovrammene for AI oftast er ikkje-eksisterande. Ekspertane argumenterer for at dette gjer forskarar utsett for represalier, med henvisning til tidlegare hendingar i industrien.
Som følgje av dette vert det føreslått fire sentrale prinsipp for selskap med avanserte AI-system. Fyrst bør tilsette ikkje bli sensurert frå å snakke ut mot arbeidsgjevarane sine. Dette vart illustrert av hendingane nyleg ved OpenAI, der tidlegare tilsette vart truga med tap av aksjeopsjonar for å nedrakta selskapet. CEO Sam Altman bad seinare om unnskyldning og fjerna den kontroversielle klausulen, og hevda det aldri vart gjennomsynt.
Det open brevet krev også ein prosess som gjev tilsette moglegheit til anonymt å varsle selskapstyra og reguleringsorgan om oppfattade risikoar knytt til AI-programvara, for å gi dei fridom til å gå offentleg om interne kanalar ikkje finst. Slike tiltak vert vurderte som avgjerande sidan AI fortset å avansere raskt, med ekspertar som varslar om potensielle utfall som spenn frå massive jobbtap til spreiing av misinformasjon og til og med truslar mot menneskeleg eksistens.
Styresmaktene aukar innsatsen, og utarbeider reguleringar for AI-utvikling, med OpenAI i leiartog av industriell innovasjon. Trass i bekymringane som er uttrykte, forsikra ein talsperson for OpenAI om forpliktelsen til vitskaplege tilnærmingar i handtering av teknologiske risikoar.
Av underskrivarane til brevet, valde fire noverande og to tidlegare tilsette ved OpenAI å halde seg anonyme, medan sju openlyst støtta det, inkludert enkeltpersonar tidlegare knytt til OpenAI og Google si DeepMind. Neel Nanda frå DeepMind, tidlegare frå AI-startupen Anthropic, presiserte at varselet hans ikkje er basert på spesifikke hendingar ved hans noverande eller tidlegare arbeidsstader.
Nøkkelsspørsmål og svar:
1. Kva er varslarvern?
Varslarvernet vernar enkeltindivid som melder ifrå om etisk eller ulovleg aktivitet i deira organisasjon. Desse verna er avgjerande for å la tilsette seie ifrå utan frykt for represalier.
2. Kvifor krev AI-forskarar varslarvern?
AI-forskarar søkjer varslarvern sidan gjeldande lover kanskje ikkje dekkjer utfordringane som AI-teknologiar skapar, som kan omfatte både juridiske og etiske bekymringar som ikkje nødvendigvis vert handtert av eksisterande reguleringar.
3. Kva er dei føreslegne prinsippa for selskap?
Prinsippa inkluderer å la tilsette snakke ut mot arbeidsgjevarane sine utan sensur, og å implementere ei prosess for anonymt å varsle selskapstyra og regulatørar om risikoar knytt til AI-programvara.
Utfordringar og kontroversar:
Etiske omsyn: Som AI-teknologien blir meir avansert, aukar etiske dilemma, som potensialet for partisk avgjerdstaking, brot på personvern og autonomi i militære AI-applikasjonar.
Juridiske rammeverk: Det er manglande heilskaplege juridiske rammeverk som regulerer AI, noko som kan føre til eit ansvarsfråhald og mangel på vern for varslarar.
Trugsmål om represalier: Varslarar kan bli utsett for ulike former for represalier, inkludert å bli oppsagd, degradert eller trakassert, noko som hindrar tilsette frå å kome med kritisk informasjon.
Fordelar og ulemper:
Fordelar:
– Fremme ansvarleg AI-utvikling som tek omsyn til samfunnet si velferd.
– Oppmoda til gjennomsiktigheit og ansvar innan AI-industrien.
– Redusere sannsynet for skadeleg AI-praksis som kan føre til store konsekvensar.
Ulemper:
– Selskap kan argumentera for at slike verner fører til ugrunna avslør som kan skade deira konkurranseposisjon eller føre til ugrunna panikk.
– Varslarvern kan sjåast som hindringar for hurtiggåande innovasjon, og potensielt kvele AI-utvikling.
Foreslåtte relaterte koblingar:
– For å utforske dei nyaste AI-framstega og diskusjonar om etisk AI, besøk den offisielle nettsida til OpenAI: [OpenAI](https://www.openai.com)
– For djupgåande innsikt i banebrytande AI-forskning, besøk nettsida til DeepMind: [DeepMind](https://www.deepmind.com)
Kvar lenke inkludert er verifisert for å sikre at dei leier til hovuddomenet til dei respektive organisasjonane som er nemnde i artikkelen.
The source of the article is from the blog shakirabrasil.info