Kevin TopolskyHeving av uro for framtida
Å diskutere dei potensielle farene med kunstig intelligens går ut over berre tryggingsomsyn. Sjølv om debattane oftast fokuserer på dei katastrofale risikoane som blir sett av kunstig generell intelligens (AGI), ligg det eigentlege spørsmålet i sambruk. Er AI-modellar i stand til å produsere resultat som samsvarar med verdiar og mål til brukarane og skaparane deira? Desse debattane har ført til scenarioar der overintelligent AI øydelegg menneskeheita, noko som har ført selskap som Anthropic til å inkorporere etiske prinsipp i modellane deira. Men å ta for gitt at AI-system har einskapsstatus fører til feilretta løysingar. Å kontrollere teknologien og måla til den, heller enn å antropomorfisere den, viser seg avgjerande for å handtere tryggheit.
Dei reelle truslane
Sjølv på vegen mot AGI (kunstig generell intelligens) stammar umiddelbare risikar frå ikkje overintelligent AI som blir brukt ondsinna. Før nokon gjennombrot med AGI, opererer AI-system under menneskeleg tilsyn. Det teiknar seg eit stort spørsmål: Kven held i tøylene? Menneskelege agentar, anten individ eller einheitsar som X Corporation, har vid AI-moglegeheiter. Fokuset flyt over til korleis desse einheitsane utnyttar AI, noko som potensielt kan undergrave demokratiske verdiar eller samfunnssamhald. Førebyggande tiltak bygde inn i AI-modellar blir frukteslause når dei blir brukt ondsinna, noko som krev robust institusjonelt tilsyn for å svekkje makta til teknologigigantane.
Ein appell om sterkare styring
Sjølv om ønsket om at AI skulle samsvara med menneskelege mål vedvarar, ligg den verkelege tryggheita i overordna føreburande tiltak og demokratiske omsyn på einheitsar som kontrollerer AI. Å redusere systematiske skjevheter og sikra at AI harmonerer med samfunnsverdiar krev meir enn tekniske justeringar – det krev uovertrufne føreburande tiltak og sivil deltaking. Utfordringa for handa avvik mykje frå berre teknisk finjustering, noko som understrekar den uunnverlege rolla til robuste institusjonar og demokratisk årvåkenheit i å navigera den etiske gruva til kunstig intelligens.
…
