Ekspertar advarar om trugsel frå AI
Bransjeproffesjonelle som er engasjerte innan kunstig intelligens har tydeleg advart om skjebnen til menneskeheita i kjølvatnet av raskt framrykkande AI. Bekymringane deira har understreka den potensielle katastrofen som kjem av framveksten av AI-teknologiar i ulike område, særleg med tanke på den uregulerte spreiinga.
Etter ein rapport frå The Guardian har ein open brev frå tilsette i store teknologiselskap som Google og OpenAI – eit anerkjent AI-forskningslaboratorium – slått alarm om risikoane knytt til AI. Dei argumenterer for at økonomiske motivasjoner for AI-selskap kan utgjere vesentlege hindringar for effektiv tilsyn og regulering.
Farene ved uregulert AI
Brevet understrekar eit mangfald av farar som uregulerte AI-system presenterer, som spreiing av misinformasjon til moglegheita av autonome AI-system som opererer utan kontroll. Eit slikt scenario kunne forverre eksisterande ulikskapar og potensielt leie til «utryddinga av menneskeheita.»
Forskarar frå Google og OpenAI oppdaga tilfelle der biletskaparar frå selskap som OpenAI og Microsoft produserte bilete som inneheldt misleiande informasjon relatert til røysterett, sjølv om dei har retningslinjer mot slike innhald.
Brevet understrekar vidare at AI-selskap har knapp forplikting til å dele informasjon om kapasiteten og avgrensingane til systema sine med styresmaktene. Å forlita seg på desse selskapa for frivillig deling av ein slik kritisk informasjon blir rekna som upåliteleg.
Bekymringsområde ved AI sin generative teknologi
Den siste advarslane går inn på tryggingsfarane rundt generative AI-teknologiar, som raskt og billig kan skape menneskeliknande tekstar, bilete og lydar. Brevet oppmodar også AI-firma til å lette vernevernet ved noverande og tidlegare tilsette om risikoane knytt til desse teknologiane, og å la vere å påleggje tausholdsavtalar som avgrensar kritikk.
Artikkelen fokuserer på trugselen som uregulert AI utgjer, slik det er forklart av AI-aktørar frå organisasjonar som Google og OpenAI, men går ikkje inn på den breiare samanhengen i AI-etikk, rollene til ulike interessentar for å mildne desse risikoane, eller den historiske perspektivet av AI-utvikling som har ført til den noverande situasjonen.
Viktige spørsmål og svar:
– Q: Kvifor er det ein bekymring blant AI-ekspertar om uregulert AI-teknologi?
A: Ekspertar er redde for at uregulert AI kan føre til uforutsette konsekvensar, inkludert spreiing av misinformasjon, amplifisering av sosiale ulikskapar, utvikling av autonome våpen, og sjølv scenario med katastrofale utfall for menneskeheita.
– Q: Kva kan gjerast for å mildne risikoane knytt til AI?
A: Føreslåtte tiltak inkluderer strengare reguleringar, gjennomsiktig rapportering av AI-kapasitetar og avgrensingar, etiske retningsliner for AI-utvikling, støtte for vernevernsarbeid, og samarbeid på tvers av sektorar for å sikre trygt og nyttig AI.
– Q: Er det nokre noverande initiativ fokusert på å sikre etisk AI-utvikling?
A: Ja, det er fleire initiativ, inkludert IEEE-standardane, forslaga til AI-regulering frå Den europeiske unionen, og samarbeid om AI som involverer fleire interessentar som arbeider for nytteleg og etisk AI.
Viktige utfordringar og kontroversar:
– Regulering: Styresmaktene kan slite med å halde tritt med raskt framrykkande AI-fremsteg, og det er ein risiko for å skape reguleringar som enten kvelar innovasjon eller er ineffektive.
– Økonomisk motivasjon: Det er ein konflikt mellom profittmotiva til AI-selskap og den breiare sosiale interessa for trygg og etisk AI.
– Global koordinering: AI-teknologi kryssar grenser, noko som gjer det utfordrande å koordinere regulering og tilsyn internasjonalt.
– Offentleg forståing: Det er eit mangelfullt forståing om AI-teknologi, kapasitetane og risikoane blant den generelle offentlegheita.
Fordelar og ulemper:
– Fordelar: AI kan føre til effektivitet, økonomisk vekst, betra medisinsk diagnostikk, personalisert utdanning og mange andre samfunnsgode.
– Ulemper: AI kan true arbeidsplassar gjennom automatisering, gjere masseovervaking mogleg, utvise skjev avgjerdstaking og potensiell våpenbruk.
Foreslåtte relateerte lenker til hovudområder er:
– The Guardian for meir omfattande lesing om liknande tema.
– OpenAI for å utforske forsking og utvikling frå AI-forskningslabaratet.
– Google for innsikt i Googles initiativ innan AI og andre teknologiske framsteg.
The source of the article is from the blog combopop.com.br