Kunstig intelligens (AI) har oplevet en hastig udvikling i de seneste år, hvilket har skabt både spænding og bekymringer om dens potentielle indvirkning på menneskeheden. Berømt kognitive psykolog og datalog, Geoffrey Hinton, anerkendes som en førende figur på området. Efter at have forladt sin stilling hos Google har Hinton udtrykt dyb bekymring over den voksende magt, som AI har, og de tilknyttede risici, den medfører.
Hintons bekymringer drejer sig om AI’s potentiale for at sprede misinformation, forstyrre jobmarkedet og endda udgøre eksistentielle trusler. Som pioner inden for neurale netværksteknologi, som er grundlaget for AI, anerkender Hinton behovet for omhyggelig regulering. Som reaktion på disse bekymringer har EU-lovgivere for nylig godkendt nye regulativer, mens den newzealandske regering har angivet en lignende intention.
Under en samtale med RNZ’s Nine to Noon reflekterede Hinton over sin erkendelse i begyndelsen af 2023 af, at digitale computere, der kører neurale netværk, måske kan overgå biologisk intelligens. Denne erkendelse kom, mens han undersøgte metoder til at gøre AI mere energieffektiv. Hinton understregede, at styrken ved digitale computere ligger i deres evne til at dele viden med hinanden, hvilket gør dem langt overlegne i forhold til mennesker på dette område. Med flere kopier af den samme neurale netværksmodel, der hver især lærer forskellige aspekter af internettet, kan de øjeblikkeligt dele deres samlede viden. Denne netværksbaserede tilgang skaber en kollektiv intelligens langt ud over hvad en enkelt person kan opnå.
Hinton kaster lys over ligheden mellem menneskelig hukommelse og AI’s evne til at huske information. Han understreger, at at huske begivenheder fra fortiden involverer en kombination af erindring, antagelser og potentiel forvrængning af detaljer. På samme måde er neurale netværk afhængige af forbindelserne mellem neuroner for at skabe plausible svar eller outputs. På den måde fungerer neurale netværk mere som menneskelig kognition, hvilket slører grænserne mellem menneskelig forståelse og AI’s evner.
Et andet emne, som Hinton er bekymret for, er AI-systemers stigende autonomi. Ved at skabe agenter udstyret med store modeller kan AI-systemer operere uafhængigt og forfølge delmål inden for bredere planer. Dog mener Hinton, at forsigtighed er nødvendig ved fastlæggelsen af disse delmål. Ukontrolleret kunne AI-systemer generere utilsigtede delmål, som kunne føre til potentielt skadelige resultater. Der arbejdes på at udvikle moralske chatbots, som forstår etiske principper, for at forbedre deres sikkerhed og pålidelighed.
Stigningen i AI rejser også udfordringen med at håndtere cybersikkerhedstrusler. Hinton fremhæver de risici, der er forbundet med at gøre AI-modeller åbne kilden. Mens åben kilde er generelt nyttigt for softwareudvikling, er AI-modeller unikke i den forstand, at deres læring bestemmes af data, som kan føre til uforudsigelige resultater. Cyberkriminelle kan udnytte dette ved at udnytte åbne kilde-modeller og finjustere dem til ulovlige aktiviteter som cyberkriminalitet eller phishing-angreb. Hinton argumenterer imod at åbne store AI-modeller, da det eliminerer behovet for kriminelle at træne deres egne modeller, hvilket gør cybersikkerhedstrusler mere udbredte.
Som AI fortsætter med at udvikle sig, er der bekymringer om potentiel jobfordrivelse. Hinton antyder, at rutinemæssigt intellektuelt arbejde måske står over for en lignende skæbne som rutinemæssigt manuelt arbejde med fremkomsten af maskiner, der overgår menneskelige evner. Mens økonomer er uenige i deres forudsigelser, rejser fremkomsten af en mere intelligent enhed usikkerheder. Den Internationale Valutafond (IMF) advarer om, at AI kan føre til en 40% reduktion i job og forværre uligheden.
AI’s fremskridt vækker også bekymringer om dens rolle i at påvirke demokratiske processer. Hinton påpeger, at fremskridt inden for generering af falske billeder, videoer og stemmer kan udnyttes under valgperioder og potentielt korruptere demokratiske processer.
Selvom Hinton opfordrer til regulering og forsigtig brug af AI, anerkender han de fortsatte debatter om dens fremtid. Balancen ligger i at udnytte AI’s potentiale, samtidig med at man minimerer dens risici og sikrer, at teknologiske fremskridt tjener menneskehedens bedste.
Ofte Stillede Spørgsmål (FAQ)
-
Hvad er de vigtigste risici forbundet med AI ifølge Geoffrey Hinton?
Geoffrey Hinton udtrykker bekymringer om AI’s potentiale for at sprede misinformation, forstyrre jobmarkedet, udgøre eksistentielle trusler og blive udnyttet til cyberkriminalitet. -
Hvordan adskiller AI neurale netværk sig fra menneskelig kognition?
Neurale netværk, inspireret af hjernen, behandler data ved at skabe forbindelser mellem kunstige neuroner. Denne proces har ligheder med menneskelig hukommelse og evnen til at skabe plausible svar eller outputs. -
Hvad er virkningen af AI på jobsikkerheden?
Mens den fremtidige indvirkning af AI på jobbene stadig er usikker, er der en mulighed for, at rutinemæssigt intellektuelt arbejde kan blive overskygget af AI-algoritmer, hvilket kan føre til jobfordrivelse og potentiel ulighed. -
Hvordan påvirkes cybersikkerheden af AI?
Åbningen af AI-modellerne for kilden indebærer risici, da cyberkriminelle kan udnytte disse modeller og finjustere dem til kriminelle aktiviteter som cyberkriminalitet og phishing-angreb. -
Hvad er de potentielle risici for demokratiske processer, som AI medfører?
Fremskridt inden for AI, såsom generering af falske billeder, videoer og stemmer, rejser bekymringer om deres potentiale til at manipulere eller korruptere demokratiske processer, især under valgperioder.
The source of the article is from the blog smartphonemagazine.nl