Rådet för Europa (COE) närmar sig slutet av förhandlingarna om skapandet av världens första internationella avtal om artificiell intelligens (AI). Detta avtal syftar till att etablera grundläggande normer för reglering och styrning av AI, vilket säkerställer skyddet av grundläggande rättigheter och demokratiska värden. Regeringar över hela världen brottas med de utmaningar som uppstår genom AI och detta avtal strävar efter att adressera bristen på konsensus när det gäller dess kontroll.
Den privata sektorn, i synnerhet, står inför betydande utmaningar med den oreglerade användningen av AI-system. Flera exempel har visat att dessa system tenderar att replikera fördomar och generera orättvisa utfall, vilket påverkar områden som hälso- och sjukvård, anställningspraxis och kreditbeslut. Dessutom har övervakningssystem drivna av AI väckt farhågor om kränkningar av människors rättigheter och friheter, eftersom personuppgifter samlas in utan återhållsamhet. För att bekämpa dessa problem har experter som Dr Alondra Nelson krävt en AI-kravlist.
Med medvetenheten om de potentiella problemen inledde Rådet för Europa utvecklingen av ett AI-avtal för flera år sedan. Målet var att skapa ett omfattande avtal bland nationer för att ansvarsfullt styra AI, med prioritering av mänskliga rättigheter, demokratiska värden och rättsstatsprincipen. De inledande rekommendationerna föreslog ett rättsligt bindande avtal som täcker både privata och offentliga AI-aktiviteter. Därefter etablerades en utarbetningskommitté.
Med 46 medlemsländer och ytterligare observatörsländer som USA, Kanada, Japan och Mexiko har Europarådets avtal global påverkan. Utöver de nuvarande deltagarna kan vilket land som helst ratificera dessa avtal.
Även om förhoppningarna var höga på en robust ramverk har hinder uppkommit när förhandlingarna närmar sig sitt slutskede. Medan de flesta inom den privata sektorn är överens om behovet av reglering, hävdar länder som USA enligt uppgift undantag för privata sektor- AI-system. Dessutom strävar säkerhetsstyrkor efter att utesluta AI-system för nationell säkerhet från avtalets omfattning.
Ledande AI-experter har slagit larm om dessa utvecklingar. Stuart Russell, en framstående brittisk datavetenskapsman, betonade att ett AI-avtal måste adressera privata sektor-AI-system som den största risken för allmänhetens säkerhet. Att utesluta dem kan göra nationer sårbara för främmande motståndare och rättfärdiga inhemsk massövervakning. En enkät från Institute of Electronic and Electrical Engineers (IEEE) stöder dessa farhågor, där en majoritet av dess medlemmar i USA anser att nuvarande amerikanska regler kring hantering av AI är otillräckliga.
Civilsamhällesorganisationer i hela Europa, Kanada och USA har gått samman för att uppmana förhandlare att eliminera de generella undantagen för tekniksektorn och nationell säkerhet. Den allmänna oro för AI ökar också, med enkäter som visar större oro än entusiasm bland amerikanerna.
Det återstår att se varför vissa länder driver på för undantag för privata sektor-AI-system, med tanke på att till och med USA:s president Joe Biden själv har betonat behovet av regleringar för att skydda rättigheter och säkerhet. President Biden har till och med uppmanat kongressen att anta lagstiftning om AI, och har fått tvärpartsstöd.
För att övervinna dessa utmaningar förespråkas en återgång till grundläggande principer. Syftet med avtalet är att främja gemensamma åtaganden mellan nationerna. Icke-europeiska länder som kämpar med att anpassa sig till dessa mål kan ges mer tid för genomförande eller beviljas undantag för specifika ändamål. Att begränsa avtalets omfattning skulle dock underminera det globala skyddet av mänskliga rättigheter och demokrati. Gemensamma åtaganden bör inte offras på grund av skillnader i rättssystem eller traditioner.
Uppmaningen till ett internationellt AI-avtal är inte ny. Den tidigare guvernören i Massachusetts, Michael Dukakis, och även påve Franciskus har uttryckt farhågor för oreglerad AI. Påve Franciskus betonade specifikt hotet om en ”teknologisk diktatur” och uppmanade till ett rättsligt bindande avtal för att skydda mänskliga värden. Dessa farhågor understryker det brådskande behovet av globalt samarbete och antagandet av ett allomfattande AI-avtal.
FAQs:
Q: Vad är syftet med AI-avtalet som förhandlas fram av Europarådet?
A: AI-avtalet syftar till att etablera grundläggande normer och regler för att styra artificiell intelligens för att skydda mänskliga rättigheter och demokratiska värden.
Q: Varför behövs reglering inom den privata sektorn när det gäller AI-system?
A: Oreglerade AI-system inom den privata sektorn har visat sig replikera fördomar och producera orättvisa utfall, vilket påverkar områden såsom hälso- och sjukvård, kreditbeslut och anställningspraxis.
Q: Varför finns det farhågor kring avtalets omfattning?
A: Länder som USA driver för undantag för privata sektor-AI-system, vilket reser frågor kring skyddsnivån för mänskliga rättigheter och demokrati.
Q: Vilken roll spelar civilsamhällesorganisationer i förhandlingsprocessen?
A: Civilsamhällesorganisationer i hela Europa, Kanada och USA har uppmanat förhandlare att ta bort generella undantag för tekniksektorn och nationell säkerhet.
Q: Vilka internationella röster kräver ett AI-avtal?
A: Tidigare guvernören i Massachusetts, Michael Dukakis, och påven Franciskus har båda understrukit behovet av ett rättsligt bindande internationellt avtal för att reglera AI och skydda mänskliga värden.
Definitioner:
– Europarådet (COE): En internationell organisation bestående av 47 medlemsländer, inklusive europeiska länder och observatörsländer. Den syftar till att främja och skydda mänskliga rättigheter, demokrati och rättsstatsprincipen i Europa.
– Artificiell intelligens (AI): Ett simulering av mänsklig intelligens i maskiner som är programmerade för att utföra uppgifter och fatta beslut autonomt.
– Grundläggande rättigheter: Basala rättigheter och friheter som skyddas av lag, såsom rätten till liv, frihet och personlig säkerhet, yttrandefrihet och integritet.
– Demokratiska värden: Principer och övertygelser som stödjer demokratiskt styre, såsom jämlikhet, frihet och rättsstatsprincipen.
Relaterade länkar:
– Rådet för Europa
– Artificiell Intelligens
The source of the article is from the blog myshopsguide.com