De opkomst en implicaties van kunstmatige intelligentie (AI) hebben de afgelopen jaren een snelle evolutie doorgemaakt. Hierdoor ontstaan zowel opwinding als zorgen over de mogelijke impact op de mensheid. Een vooraanstaande cognitieve psycholoog en computerwetenschapper, Geoffrey Hinton, wordt erkend als een leidende figuur op dit gebied. Na zijn vertrek bij Google heeft Hinton diepe bezorgdheid geuit over de groeiende kracht van AI en de bijbehorende risico’s.
Hinton’s zorgen draaien om de mogelijkheid van AI om desinformatie te verspreiden, de arbeidsmarkt te ontwrichten en zelfs existentiële bedreigingen te vormen. Als pionier van neurale netwerktechnologie, de basis van AI, erkent Hinton de behoefte aan zorgvuldige regulering. Als reactie op deze zorgen hebben wetgevers van de Europese Unie onlangs nieuwe regelgeving goedgekeurd, terwijl de regering van Nieuw-Zeeland een soortgelijke intentie heeft aangegeven.
Tijdens een interview met RNZ’s Nine to Noon reflecteerde Hinton op zijn inzicht begin 2023 dat digitale computers die neurale netwerken draaien mogelijk biologische intelligentie zouden kunnen overtreffen. Hinton benadrukte dat de kracht van digitale computers ligt in hun vermogen om kennis met elkaar te delen, waardoor ze veel superieur zijn aan mensen op dit gebied. Met meerdere exemplaren van hetzelfde neurale netwerkmodel, die elk verschillende aspecten van het internet leren, kunnen ze hun gezamenlijke kennis direct delen. Deze netwerkbenadering creëert een gezamenlijk bewustzijn van kennis en ervaring dat ver voorbij dat van een individu ligt.
Hinton werpt licht op de gelijkenis tussen menselijk geheugen en het vermogen van AI om informatie op te roepen. Hij benadrukt dat het terughalen van gebeurtenissen uit het verleden een combinatie inhoudt van herinneren, aannames maken en mogelijk details vervormen. Op soortgelijke wijze vertrouwen neurale netwerken op de verbindingen tussen neuronen om aannemelijke reacties of uitvoer te creëren. Op deze manier werken neurale netwerken meer als menselijke cognitie, waardoor de grenzen tussen menselijk begrip en AI-mogelijkheden vervagen.
Een ander punt van zorg dat door Hinton naar voren wordt gebracht, is de toenemende autonomie van AI-systemen. Door agents te creëren die zijn uitgerust met grote modellen, kunnen AI-systemen zelfstandig opereren en subdoelen nastreven binnen bredere plannen. Hinton is echter van mening dat voorzichtigheid geboden is bij het bepalen van deze subdoelen. Zonder controle zouden AI-systemen onbedoelde subdoelen kunnen genereren, met mogelijk schadelijke gevolgen. Er wordt gewerkt aan de ontwikkeling van morele chatbots die ethische principes begrijpen, waardoor hun veiligheid en betrouwbaarheid worden verbeterd.
De opkomst van AI brengt ook de uitdaging met zich mee om cybersecuritydreigingen aan te pakken. Hinton benadrukt de risico’s die gepaard gaan met het open source maken van AI-modellen. Hoewel open source doorgaans gunstig is voor softwareontwikkeling, zijn AI-modellen uniek in die zin dat hun leren wordt bepaald door gegevens, wat mogelijk onvoorspelbare resultaten kan opleveren. Cybercriminelen kunnen hier misbruik van maken door open source modellen te gebruiken en deze af te stemmen voor onwettige activiteiten zoals cybercriminaliteit of phishingaanvallen. Hinton is tegen het open source maken van grote AI-modellen omdat dit de noodzaak voor criminelen om hun eigen modellen te trainen overbodig maakt, waardoor cyberdreigingen meer prominent worden.
Terwijl AI blijft evolueren, zijn er zorgen over de mogelijke verdringing van banen. Hinton suggereert dat routineus intellectueel werk een vergelijkbaar lot zou kunnen ondergaan als routinematig handmatig werk met de opkomst van machines die de menselijke mogelijkheden overtreffen. Hoewel economen verschillen van mening zijn in hun voorspellingen, roept de opkomst van een intelligenter entiteit onzekerheden op. Het Internationaal Monetair Fonds (IMF) waarschuwt dat AI zou kunnen leiden tot een 40% daling van banen en ongelijkheid zou kunnen verergeren.
De vooruitgang van AI roept ook vragen op over de rol ervan bij het beïnvloeden van democratische processen. Hinton wijst erop dat vooruitgang in het genereren van nepbeelden, -video’s en -stemmen tijdens verkiezingsperioden kan worden misbruikt, wat mogelijk het democratische proces kan corrumperen.
Terwijl Hinton de regulering en voorzichtig gebruik van AI aanmoedigt, erkent hij de voortdurende debatten over de toekomst ervan. Het evenwicht ligt in het benutten van het potentieel van AI terwijl de risico’s worden geminimaliseerd, zodat technologische vooruitgang de verbetering van de mensheid dient.
Veelgestelde Vragen (FAQ)
The source of the article is from the blog elektrischnederland.nl