I en konstant udviklende teknologisk landskab er det klart, at at forudsige retningen for innovation er en udfordrende opgave. Førende videnskabsmænd og teknologer har ofte taget fejl om fremtiden for banebrydende teknologier. Selv Albert Einstein var ikke immun over for at begå fejl, da han berømt tvivlede på gennemførligheden af kernekraft lige inden dens realisering.
I dag er eksperter uenige om de potentielle risici ved kunstig generel intelligens (AGI). Nogle mener, at en AGI-dommedag er overhængende, mens andre argumenterer for, at store sprogmodeller allerede har nået deres højeste kapaciteter. Dog i disse debatter findes der en kategori af AI-risiko, der kan forudsiges på forhånd – risici, der opstår på grund af manglende overensstemmelse mellem et selskabs økonomiske incitamenter og samfundsinteresser i, hvordan AI-modeller skal anvendes og monetiseres.
For at effektivt imødegå disse risici og regulere nye teknologiske fremskridt inden for AI, er det afgørende at tage hensyn til det samfundsøkonomiske miljø, hvori AI-modeller opererer og er designet til profit. At fokusere udelukkende på tekniske evner uden at overveje de økonomiske konsekvenser er opskriften på uvidenhed og potentielt katastrofe.
At håndtere de økonomiske risici i AI begrænser sig ikke til bekymringer om monopol, selvforetrækning eller Big Tech-dominans. Det går ud over det og sigter mod at sikre, at innovationsfremmende økonomiske miljøer ikke belønner uforudsigelige teknologiske risici. Når virksomheder prioriterer hurtig vækst og markedsdominans uden at overveje de bredere samfundsmæssige virkninger, kan konsekvenserne være alvorlige.
Det er lige så vigtigt at sikre, at fordelene ved AI deles bredt i stedet for at være koncentreret i hænderne på nogle få. At opmuntre tilgængeligheden af nye AI-værktøjer tillader et mangfoldigt økosystem af nye virksomheder, start-ups og innovation at trives.
OpenAI har f.eks. allerede etableret sig som en dominerende spiller i branchen. Med milliarder i årlige salg og millioner af brugere er deres indflydelse uomtvistelig. Dog er det afgørende, at OpenAIs GPT-butik og udviklerværktøjer returnerer værdi til dem, der bidrager til dens skabelse. På denne måde kan innovationsøkosystemer blomstre og forblive decentralt.
Ved kritisk at vurdere de underliggende økonomiske incitamenter og hvordan teknologier monetiseres på markeder, kan vi opnå en bedre forståelse af både de økonomiske og teknologiske risici. Markedsstruktur, ud over antallet af selskaber, omfatter omkostningsstruktur, økonomiske incitamenter, myndighedsreguleringer og tilgængelig finansiering.
Det er instruktivt at undersøge, hvordan algoritmiske teknologier, der oprindeligt var designet til at gavne brugerne, kan omprogrammeres til profitdrevne formål. Platforme som Amazon, Google og Facebook har mødt kritik, når deres algoritmer prioriterer profitvækst over deres brugeres velbefindende.
I tilfældet Amazon var deres produktsøgealgoritmer oprindeligt designet til at forenkle brugeroplevelsen og hjælpe med at finde de bedste produkter. Dog har jagten på profit over tid ført til nedbrydning af den information af kvalitet, der vises for brugerne. Sponsorerede produktplaceringer modtager f.eks. ofte flere klik, selvom de er af lavere kvalitet. Denne mangel på overensstemmelse mellem brugerværdi og profitmaksimering underminerer den tillid, brugerne har til algoritmer.
Udtrækningen af økonomiske lejekontrakter eller supernormale profitter er en bekymring på digitale platforme. Disse lejekontrakter tjenes ved at udøve kontrol over en knap ressource i stedet for gennem konkurrenceprægede markedsmekanismer. I tilfældet Amazon giver kontrol over brugernes opmærksomhed og visningen af sponsorerede produkter f.eks. platformen mulighed for at tjene penge på bekostning af leverandører og brugere.
For at sikre en bæredygtig fremtid er det afgørende at afstemme økonomiske incitamenter med samfundets interesser. Dette kræver regulering og tilsyn for at forhindre udnyttelse af algoritmer til kortsigtet profit på bekostning af langsigtede samfundsmæssige velbefindende. Ved at fremme gennemsigtighed, fair konkurrence og retfærdig fordeling af værdi kan vi navigere de kompleksiteter, AI bringer med sig.
FAQ:
The source of the article is from the blog zaman.co.at