Ny teknologi och artificiell intelligens (AI) har haft en betydande påverkan på samhället de senaste åren och har förändrat olika aspekter av vår tillvaro. Från juridiska myndigheter och hälso- och sjukvården till sociala skyddsnät och rättssystemet infiltrerar nu AI alla delar av våra liv. Trots den entusiasm som omger dessa framsteg måste vi även uppmärksamma de oavsiktliga konsekvenser som kan uppstå när AI implementeras utan noggrann eftertanke.
I början av sommaren 2016 fick en kvinna i Amsterdam ett brev från borgmästarens kontor som skulle förändra hennes familjs liv för alltid. Brevet avslöjade att en av hennes söner, som hade en problematisk historia med polisen, nu fanns med på en lista över våldsamma unga brottslingar. Chockerande nog visade brevet också att hennes andra son hade placerats på en separat databas över tonåringar som ansågs riskera att bli brottslingar i framtiden. Dessa listor hade skapats med hjälp av ProKid, ett maskininlärningssystem utvecklat av forskare i samarbete med den holländska polisen.
ProKid använde sig av en mängd olika data, inklusive en ung persons adress, relationer, tidigare interaktioner med rättshandläggning (även om de inte var åtalade eller fällda) och skolnärvaroregistreringar för att förutsäga deras benägenhet att delta i brottslig verksamhet. Det underliggande antagandet var att tidig intervention, såsom social service, psykologiskt stöd och skolengagemang, kunde förhindra att dessa barn hamnade i kriminalitet.
Verkligheten blev emellertid långt ifrån det avsedda resultatet. Istället för att minska potentiellt brottsligt beteende hade ProKid ofta motsatt effekt. Stigmatiserade av att finnas med på dessa listor kände sig många av dessa barn främmande och såg sitt värde minskas i myndigheternas ögon. Följaktligen vänder sig vissa av dem till brott som en direkt reaktion på uppfattningen att de redan betraktas som brottslingar. Modern till en 16-årig pojke från Amsterdam beskriver systemet som ”galet” då det oupplösligen skadade hennes sons liv.
Denna oroande situation, påminnande om Philip K Dicks novell ”Minority Report”, belyser en större fråga som är förknippad med AI-system: bristen på transparens och ansvarsskyldighet. Som framhävt i Madhumita Murgias tankeväckande bok, ”Code Dependent”, ges det ofta liten förklaring till hur AI-system når sina beslut eller hur dessa bedömningar kan ändras. Även Amsterdams stadsmyndigheter, vid begäran om information, erkände att de hade begränsad förståelse för varför ProKid valde vissa familjer framför andra. Faktum är att dessa algoritmer ofta är utformade som ”opaka system”, vars inre funktioner förblir outgrundliga även för deras skapare.
”Code Dependent” går djupt in på AI:s påverkan på samhället och lyser upp de liv som påverkas och till och med förstörs av dessa obegripliga system. Murgia, Financial Times första redaktör för artificiell intelligens, fokuserar på vanliga individer, särskilt de från marginaliserade samhällen, som finner sig själva i skuggan av AI. Med tio väl skrivna kapitel utforskar hon hur maskininlärningsmodeller påverkar grundläggande aspekter av våra liv, från våra rättigheter och identiteter till våra kroppar och levebröd.
Medan framstegen och komplexiteten hos AI främst härstammar från Silicon Valley undviker Murgia medvetet denna centro av innovation och lyfter istället fram vardagsmänniskors upplevelser över hela världen som brottas med konsekvenserna av AI. Genom att göra det riktar hon vår uppmärksamhet mot det akuta behovet av en omfattande förståelse för AI:s långtgående konsekvenser för samhället.
FAQ
1. Vad är artificiell intelligens (AI)?
Artificiell intelligens, vanligtvis kallad AI, är en gren inom datavetenskapen som syftar till att skapa intelligenta maskiner som kan utföra uppgifter som vanligtvis kräver mänsklig intelligens. Dessa uppgifter kan inkludera röstigenkänning, problemlösning, beslutsfattande och mönsterigenkänning.
2. Hur fungerar ProKid?
ProKid är ett maskininlärningssystem utvecklat av forskare i samarbete med den holländska polisen. Det använder en mängd olika data, som en ung persons adress, relationer, gripanderegistreringar (oavsett åtal eller fällning) och skolnärvaro för att förutsäga sannolikheten för deras inblandning i brottslig verksamhet.
3. Vilka är de oavsiktliga konsekvenserna av AI?
Även om AI erbjuder många fördelar och innovationer kan det också ha oavsiktliga konsekvenser. Dessa konsekvenser kan uppstå på grund av snedvriden data, brist på transparens i beslutsfattandeprocesserna och förstärkning av befintliga samhälleliga ojämlikheter. Till exempel kan AI-system som ProKid stigmatisera individer och leda till replikering av kriminellt beteende.
4. Hur kan vi adressera den negativa inverkan av AI?
För att möta den negativa inverkan av AI är det avgörande att prioritera transparens och ansvarsskyldighet vid utformningen och implementeringen av dessa system. Regelbundna granskningar, offentlig granskning och olika perspektiv kan hjälpa till att identifiera och mildra snedvridningar. Dessutom kan främjandet av etiska diskussioner och deltagande från marginaliserade samhällen i beslutsfattandeprocesserna säkerställa en mer rättvis integrering av AI i samhället.
*Källa: [The Guardian](https://www.theguardian.com/books/2021/oct/28/code-dependent-undoes-your-liberty-identity-and-livelihood-by-madhumita-murgia-review)*
The source of the article is from the blog lokale-komercyjne.pl