De Rol van Kunstmatige Intelligentie in Moderne Oorlogsvoering Brengt Nieuwe Bedreigingen met Zich Mee
In het zich ontwikkelende landschap van oorlogsvoering vormen autonome wapensystemen aangedreven door kunstmatige intelligentie (AI) een dringende zorg voor de mondiale veiligheid. Professor Karl Hans Bläsius, een gepensioneerde hoogleraar computerwetenschappen gespecialiseerd in AI, slaat alarm over het potentieel van dergelijke technologieën om snelle escalatiecycli te veroorzaken die buiten menselijke controle liggen.
Prof. Bläsius schetst de voordelen van autonomie in technologie, zoals het potentieel voor zelfrijdende auto’s en robots in gevaarlijke omgevingen. Hij benadrukt echter de ernstige risico’s verbonden aan autonoom functionerende wapens die zijn ontworpen voor vernietiging. Hij stelt dat het automatiseren van het doden ongewenst is en waarschuwt voor bijzonder gevaarlijke ontwikkelingen, waaronder die gerelateerd aan nucleaire wapens.
Parallellen trekkend met de high-speed handelsalgoritmen in de financiële wereld, die plotse marktcrashes hebben veroorzaakt die bekend staan als “flash crashes,” waarschuwt Prof. Bläsius dat op AI gebaseerde wapens op vergelijkbare wijze onvoorziene interacties kunnen aangaan, resulterend in snelle en oncontroleerbare “flashoorlogen.” Deze scenario’s schetsen een toekomst waar geautomatiseerde systemen betrokken zijn bij oorlogsvoering op snelheden die de menselijke vermogens om tegen te gaan te boven gaan, waardoor een opwaartse spiraal van agressie en tegenagressie ontstaat.
Met de bestaande toepassing van AI in militaire doelbepaling, zoals het gebruik door Israël om Hamas-strijders en hun locaties te identificeren, uit Prof. Bläsius bezorgdheid over het gebrek aan menselijke verificatie in deze situaties, wat uiteindelijk ertoe kan leiden dat machines beslissen wie leeft en wie sterft, inclusief burgers.
Bläsius concludeert door te wijzen op de noodzaak van AI bij het beheer van de immense complexiteit en tijdsdruk van moderne militaire operaties. Hij erkent echter het problematische karakter van deze ontwikkelingen, gezien hun potentieel om het menselijke oordeel te omzeilen en de ethische implicaties die daaruit voortvloeien.
Uitdagingen en Controverses van Op AI-gebaseerde Autonome Wapens
AI-gedreven autonome wapens stellen een reeks complexe vragen en uitdagingen die controverse hebben veroorzaakt in verschillende sectoren zoals militaire, politieke, ethische en juridische gebieden. Hier zijn enkele van de belangrijkste uitdagingen en controverses:
Verantwoordelijkheid: Een van de belangrijkste kwesties met autonome wapensystemen is de vraag wie verantwoordelijk moet worden gehouden in het geval van onbedoelde vernietiging of onrechtmatige dood. Zonder duidelijke richtlijnen kan het moeilijk zijn om verantwoordelijkheid toe te wijzen voor acties ondernomen door AI.
Ethische Overwegingen: Het gebruik van AI in oorlogsvoering roept ethische vragen op over de devaluatie van het menselijk leven. Een machine waardeert menselijk leven niet en kan dat niet, wat zorgen oproept dat hun inzet in oorlogsvoering kan resulteren in een grotere neiging om conflicten aan te gaan en meer verlies van leven.
Ondermijning van Politieke Besluitvorming: Traditioneel is de beslissing om tot oorlog over te gaan een politieke beslissing, genomen door verkozen vertegenwoordigers of leiders. Met op AI gebaseerde systemen die in milliseconden kunnen reageren op bedreigingen, bestaat de vrees dat het politieke proces kan worden omzeild en oorlogen kunnen beginnen zonder behoorlijk democratisch proces.
Militaire Escalatie: De inzet van autonome wapens kan leiden tot een wapenwedloop, aangezien landen proberen niet onder te doen voor de capaciteiten van anderen. Dit kan leiden tot verhoogde militaire spanningen en instabiliteit wereldwijd.
Risico op Fouten: AI-gedreven systemen zijn vatbaar voor technische storingen en defecten. In het geval van een softwarefout of een hackincident kunnen autonome wapens betrokken raken bij ongewenst of onvoorspelbaar gedrag dat kan escaleren tot een conflict.
Voor- en Nadelen
Voordelen:
– Verhoogde efficiëntie en snelheid bij het reageren op bedreigingen
– Verminderd risico voor menselijke soldaten in gevechtssituaties
– Precisie bij het richten die in bepaalde contexten de nevenschade kan verminderen
– Werking in omgevingen die te gevaarlijk zijn voor mensen
Nadelen:
– Potentieel verlies van verantwoordelijkheid en verminderd menselijk toezicht
– Ethische kwesties met betrekking tot de waarde van menselijk leven en besluitvorming bij het gebruik van dodelijk geweld
– Mogelijkheid van storingen of gecompromitteerd te worden door tegenstanders
– Risico op escalatie en proliferatie van militaire conflicten (flashoorlogen)
– Dilemma bij het programmeren van AI om in overeenstemming te zijn met het internationaal humanitair recht
Belangrijke Vragen:
1. Wie is verantwoordelijk voor de acties ondernomen door een autonoom wapensysteem?
2. Hoe kan op AI-gebaseerde oorlogsvoering in overeenstemming zijn met het internationaal humanitair recht?
3. Welke mechanismen kunnen worden ingesteld om adequaat menselijk toezicht te garanderen over autonome wapens?
4. Hoe kan de internationale gemeenschap de proliferatie en escalatie van op AI-gebaseerde autonome wapens voorkomen?
Naarmate de discussie over op AI-gebaseerde autonome wapens voortduurt, is de Verenigde Naties een platform waar deze uitdagingen worden bediscussieerd, met als doel een mondiaal consensus te bereiken over de regulering en controle van dergelijke wapens.
Over het algemeen, hoewel er mogelijke voordelen zijn aan de inzet van AI in militaire operaties, benadrukken de nadelen en risico’s de noodzaak van zorgvuldige overweging en regulering op internationaal niveau. Het vooruitzicht van “flashoorlogen” dient als een sombere herinnering aan de mogelijke gevolgen van een overhaaste toepassing van AI in oorlogsvoering zonder de nodige checks and balances.