De Canadese overheid heeft AI omarmd in meerdere departementen en instanties, gebruikt het om processen te stroomlijnen, besluitvorming te verbeteren en openbare diensten te verbeteren. Een recente analyse van overheidsgegevens heeft echter de omvang van AI-gebruik aan het licht gebracht en vragen opgeworpen over transparantie en verantwoording.
De analyse, uitgevoerd door onderzoeker Sarah Redden, belicht de wijdverbreide adoptie van AI binnen Canadese overheidsorganen. Redden betoogt dat bestaande wetgeving, zoals het voorgestelde Artificial Intelligence and Data Act, tekortschiet in het aanpakken van het gebruik van AI in overheidsoperaties. Hoewel wetsvoorstel C-27 nieuwe verplichtingen introduceert voor “hoogimpact” systemen, met name op het gebied van werkgelegenheid, laat het een aanzienlijke lacune achter als het gaat om overheidsgebruik van AI.
Het Ministerie van Nationale Defensie heeft bijvoorbeeld eerder geëxperimenteerd met AI om vooringenomenheid bij aannamebeslissingen te verminderen. Door AI-platforms te gebruiken om kandidaten te selecteren en hun geschiktheid voor specifieke rollen te beoordelen, wilde het departement menselijke besluitvorming informeren en eerlijke wervingspraktijken bevorderen.
Ook maakt Immigratie, Vluchtelingen en Burgerschap Canada gebruik van AI-tools om tijdelijke visumaanvragen voor verblijfplaatsen te sorteren en te triëren. Deze tools helpen ambtenaren positieve geschiktheid te identificeren, waarbij uiteindelijk het visumaanvraagproces wordt versneld. Het is echter belangrijk op te merken dat de uiteindelijke besluitvorming nog steeds berust op menselijk oordeel, aangezien AI-systemen geen afwijzingen kunnen aanbevelen.
Hoewel sommige AI-experimenten, zoals het gebruik van door stem geactiveerde technologie door de Koninklijke Canadese Marine om opdrachten naar schepen door te geven, vooruitgang hebben geboekt, moeten beveiligingszorgen worden aangepakt voordat volledige integratie kan plaatsvinden. Op soortgelijke wijze maken andere departementen, zoals Volksgezondheid Canada, gebruik van AI in specifieke gebieden. Zo gebruikt het departement een tool voor sociale monitoring met rudimentaire AI-componenten om online nieuws te monitoren op incidenten met consumentenproducten.
In het juridische domein maakt de Canada Revenue Agency gebruik van een AI-systeem dat potentiële uitkomsten van gerechtelijke zaken voorspelt. Door relevante variabelen in te voeren, analyseert het systeem historische gerechtelijke beslissingen en geeft verwachte uitspraken, wat ondersteuning biedt bij besluitvormingsprocessen. De Canadian Institutes of Health Research maken ook gebruik van AI om beslissingen in arbeidsverhoudingen te simuleren, waarbij hypothetische scenario’s worden vergeleken met eerdere gevallen.
Verder maakt het Bureau van de Superintendent van Faillissementen gebruik van AI om afwijkingen in faillissementsaanvragen te detecteren, wat helpt bij het identificeren van mogelijke niet-naleving op basis van specifieke kenmerken die worden gevonden in de aanvragen. Deze gesignaleerde gevallen worden vervolgens door analisten onderzocht voor verdere evaluatie.
De Canadese overheid heeft ook de inzet van AI in wetshandhaving en grenscontrole omarmd. De Koninklijke Canadese Bereden Politie (RCMP) maakt gebruik van AI om materiaal voor seksueel misbruik van kinderen te identificeren en bij te dragen aan de redding van slachtoffers. De woordvoerder van de RCMP bevestigde het gebruik van gezichtsherkenningstechnologie, genaamd “face matching,” op wettig verkregen interne gegevens om onderzoeken te ondersteunen. Op soortgelijke wijze gebruikt de Canadese Border Services Agency gezichtsherkennings technologie op vrijwillige basis om de identiteiten van inkomende reizigers te verifiëren.
Terwijl de uitbreiding van AI in verschillende overheidssectoren duidelijk is, zijn er zorgen geuit over transparantie en verantwoording. Redden betoogt dat de overheid een uitgebreider overzicht van haar AI-implementatie moet bieden, inclusief details over de introductie, het doorlopende gebruik, de bijbehorende gegevens en eventueel gerapporteerde problemen. Hoewel de overheid een richtlijn heeft voor geautomatiseerde besluitvorming die een algoritmische impactbeoordeling voorschrijft in gevallen met grote gevolgen, zijn momenteel slechts een beperkt aantal vermeldingen beschikbaar in het openbare register.
Bovendien onthult de analyse verschillende gevallen waarin pilotprojecten met AI werden genoemd, maar updates of aanvullende informatie ontbraken. Zo noemde de Canadese Border Services Agency bijvoorbeeld de ontwikkeling van een algoritme voor postale röntgens om automatisch vuurwapens en onderdelen te detecteren, terwijl Global Affairs Canada experimenteerde met door AI gegenereerde briefingnotities. Echter, verdere details en voortgang werden niet verstrekt.
Nu AI blijft zorgen voor revolutie in de operaties en diensten van de Canadese overheid, is het essentieel om transparantie en verantwoording te waarborgen. De analyse uitgevoerd door Redden belicht de uitgebreide en diverse toepassingen van AI binnen overheidsorganen. Om zorgen aan te pakken en het publieke vertrouwen te bevorderen, is het van cruciaal belang dat de overheid een uitgebreid en toegankelijk overzicht van de AI-implementatie verstrekt, inclusief regelmatige updates over pilotprojecten en hun resultaten.
The source of the article is from the blog karacasanime.com.ve