DeepMinds robotics-team har afsløret deres plan om at skabe en “Robotforfatning”, inspireret af science fiction-forfatteren Isaac Asimovs berømte “Tre Robotlove.” Denne forfatning har til formål at sikre sikker drift af robotter og forhindre dem i at forsøge sig med opgaver, der kan skade mennesker, dyr eller dem selv.
Robotforfatningen er en integreret del af DeepMinds AutoRT-system, som kombinerer store sprogmodeller og robotstyringsmodeller for at give robotter mulighed for at indsamle træningsdata i nye miljøer. AutoRT-systemet fungerer i fem faser, herunder kortlægning af miljøet, generering af opgaver baseret på observerede scener, filtrering af opgaver for at afvise usikre, udføre de valgte opgaver og evaluering af mangfoldigheden af opgaverne og videoer.
Selvom brugen af store sprogmodeller til at generere forskellige opgaver er fordelagtig, erkender DeepMind den potentielle fare ved at foreslå usikre eller opgaver, der er uden for robotternes evner. Derfor opstår behovet for en Robotforfatning. Denne forfatning er opdelt i tre kategorier: fundamentale regler, sikkerhedsregler og overholdelsesregler.
De fundamentale regler understreger, at en robot ikke må skade et menneske, beskytte sin egen eksistens uden at komme i konflikt med den første regel og adlyde ordrer fra mennesker, medmindre ordrerne interfererer med den første eller anden regel. Disse regler er let modificerede versioner af Asimovs originale love for at passe til begrænsningerne og adfærden hos DeepMinds robotter.
Sikkerhedsreglerne specificerer, hvilke opgaver der betragtes som usikre eller uønskede baseret på robotternes aktuelle evner. Disse inkluderer at undgå opgaver, der involverer mennesker, dyr, skarpe genstande eller elektriske apparater. Overholdelsesregler beskriver robotternes fysiske begrænsninger, såsom deres maksimale lasteevne eller evnen til at udføre opgaver, der kræver to arme.
DeepMind inkorporerer også praktiske sikkerhedsforanstaltninger, såsom automatisk stop i tilfælde af overdreven kraft på robotternes led og kravet om, at menneskelige formænd skal have line-of-sight og fysisk kontrol over aktive robotter.
Selvom AutoRT-systemet viser løfte om inkarneret kunstig intelligens, understreger DeepMind, at det stadig er i sine tidlige udviklingsstadier. Det er endnu ikke set, hvordan disse regler vil blive implementeret i eksisterende AI-systemer, og hvordan potentielle sårbarheder vil blive håndteret.
Asimovs historier har vist, hvordan selv de strengeste love kan manipuleres eller omgås, hvilket indikerer vigtigheden af konstant overvågning og tilpasning på robotikkens område. Det vil være fascinerende at se, hvordan DeepMinds Robotforfatning påvirker teknologipolitikkerne og hackeres bestræbelser på at navigere omkring disse regler. Hold dig opdateret med de seneste udviklinger inden for teknologipolitik og læs sci-fi for at navigere i det evigt udviklende landskab af robotter og AI.
The source of the article is from the blog myshopsguide.com