Kunstmatige intelligentie (KI) ontwikkelt zich met een ongekende snelheid en de federale overheid moet onmiddellijk maatregelen nemen om deze technologie te reguleren, aldus KI-pionier Yoshua Bengio. Bengio, die bekend staat als een “godfather” van KI, benadrukte dat de huidige koers van KI aanzienlijke maatschappelijke risico’s met zich meebrengt en dat Ottawa niet zou moeten wachten met het implementeren van wetgeving, zelfs als deze nog niet perfect is.
Een van de belangrijkste zorgen die Bengio naar voren bracht, is het potentiële misbruik van KI, met name door het creëren van deepfake-video’s die desinformatie kunnen verspreiden. Deze video’s maken gebruik van KI om visuele beelden te manipuleren en het te laten lijken alsof publieke figuren dingen zeggen of doen die ze in werkelijkheid nooit hebben gedaan. Bovendien kan KI worden gebruikt om social media-gebruikers te misleiden door in dialoog te gaan en hun politieke overtuigingen te veranderen, wat kan leiden tot een mogelijke aantasting van democratische principes.
Bovendien benadrukte Bengio het groeiende risico van geavanceerde KI-systemen die geëxploiteerd kunnen worden voor cyberaanvallen. Naarmate KI-technologie blijft evolueren, kunnen deze systemen krachtig genoeg worden om de huidige cyberverdediging te doorbreken en vitale digitale infrastructuur te verstoren. Als deze mogelijkheden in verkeerde handen vallen, kunnen de gevolgen rampzalig zijn.
Als reactie op deze zorgen bestudeert de House of Commons industry committee momenteel een overheidsvoorstel gericht op de regulering van kunstmatige intelligentiesystemen. Bengio benadrukte echter de noodzaak om bepaalde bepalingen onmiddellijk te implementeren in plaats van te wachten op een langdurig regelgevingsproces. Hij stelde de oprichting van een register voor dat bedrijven verplicht zou stellen om aan de overheid te rapporteren bij het ontwikkelen van KI-systemen met een bepaald niveau van capaciteit. Dit zou de verantwoordelijkheid voor de veiligheid van deze systemen verleggen van belastingbetalers naar techbedrijven.
Bengio pleitte er ook voor om de definitie van “hoogimpact” KI-systemen in het wetsvoorstel uit te breiden, zodat deze systemen ook nationale veiligheids- en maatschappelijke bedreigingen omvatten. Dit zou KI-systemen omvatten die kunnen worden gebruikt voor het ontwerpen van cyberaanvallen en wapens, of systemen die autonoom repliceren ondanks programmeerinstructies die het tegendeel aangeven.
De urgentie van overheidsmaatregelen ter regulering van KI werd verder benadrukt door Catherine Regis, een professor aan de Université de Montréal. Regis vestigde de aandacht op de snelle ontwikkeling van KI wereldwijd en benadrukte dat Canada zijn standpunt over KI-regulering moet bepalen om een zinvolle rol te kunnen spelen in wereldwijde governance-discussies.
Concluderend vereisen de snelle ontwikkelingen in KI-technologie onmiddellijke overheidsregulering. Door proactief de risico’s van KI aan te pakken, kan de overheid de potentiële maatschappelijke en veiligheidsdreigingen die gepaard gaan met deze krachtige technologie beperken.
Veelgestelde vragen:
V: Wat is de belangrijkste zorg betreffende KI volgens Yoshua Bengio?
A: Yoshua Bengio maakt zich zorgen over het potentiële misbruik van KI, met name door het creëren van deepfake-video’s die desinformatie kunnen verspreiden.
V: Hoe kan KI social media-gebruikers misleiden?
A: KI kan in dialoog gaan met social media-gebruikers en hun politieke overtuigingen manipuleren, wat kan leiden tot een aantasting van democratische principes.
V: Wat is een andere zorg die Bengio benadrukt?
A: Bengio benadrukte ook het risico van geavanceerde KI-systemen die kunnen worden gebruikt voor cyberaanvallen, wat rampzalige gevolgen kan hebben als ze in verkeerde handen vallen.
V: Wat is de voorgestelde oplossing voor het reguleren van KI-systemen?
A: Bengio stelde de oprichting van een register voor waar bedrijven die KI-systemen ontwikkelen met een bepaald niveau van capaciteit aan de overheid zouden moeten rapporteren, waardoor de verantwoordelijkheid voor hun veiligheid bij techbedrijven komt te liggen.
V: Wat benadrukt Catherine Regis met betrekking tot KI-regulering in Canada?
A: Catherine Regis benadrukt dat Canada zijn standpunt over KI-regulering moet bepalen om een zinvolle rol te kunnen spelen in wereldwijde governance-discussies.
Belangrijke termen en definities:
1. Kunstmatige Intelligentie (KI): Technologie die computers in staat stelt taken uit te voeren die normaal gesproken menselijke intelligentie vereisen, zoals spraakherkenning, probleemoplossing en besluitvorming.
2. Deepfake: Een vorm van synthetische media die gebruikmaakt van KI om video’s, audio of afbeeldingen te manipuleren of onjuist te creëren, waardoor ze er echt uitzien maar in werkelijkheid gemanipuleerd of volledig verzonnen zijn.
3. Desinformatie: Valse of misleidende informatie die met opzet wordt verspreid om mensen te misleiden en de publieke opinie te manipuleren.
4. Cyberaanvallen: Kwaadwillende pogingen om computer systemen, netwerken of digitale apparaten te verstoren, beschadigen of ongeoorloofde toegang te verkrijgen.
5. Autonomie: Het vermogen van een KI-systeem om zelfstandig te handelen, zonder menselijke tussenkomst of afhankelijkheid van expliciete programmeerinstructies.
Aanbevolen gerelateerde links:
– The White House AI Initiative (Engels)
– UK Government: Regulation of Artificial Intelligence Consultation (Engels)
– AI Laws: Database of AI Regulations (Engels)
– World Economic Forum: The Global Competitiveness Report 2019 (Engels)
The source of the article is from the blog lisboatv.pt