Il team di robotica di DeepMind ha svelato il loro piano per creare una “Costituzione del Robot,” ispirata alle famose “Tre leggi della robotica” dello scrittore di fantascienza Isaac Asimov. Questa costituzione mira a garantire il funzionamento sicuro dei robot e a impedire loro di tentare compiti che potrebbero nuocere agli esseri umani, agli animali o a se stessi.
La Costituzione del Robot è parte integrante del sistema AutoRT di DeepMind, che combina grandi modelli di linguaggio e modelli di controllo dei robot per consentire ai robot di raccogliere dati di addestramento in ambienti insoliti. Il sistema AutoRT opera in cinque fasi, tra cui la mappatura dell’ambiente, la generazione di compiti basati sulle scene osservate, il filtraggio dei compiti per respingere quelli pericolosi, il tentativo dei compiti selezionati e la valutazione della diversità dei compiti e dei video.
Sebbene l’uso di grandi modelli di linguaggio per generare compiti diversificati sia vantaggioso, DeepMind riconosce il potenziale pericolo di suggerire compiti non sicuri o al di là delle capacità. Da qui nasce la necessità di una Costituzione del Robot. Questa costituzione è divisa in tre categorie: regole fondamentali, regole di sicurezza e regole di incarnazione.
Le regole fondamentali sottolineano che un robot non deve nuocere ad un essere umano, deve proteggere la propria esistenza senza entrare in conflitto con la prima regola, e deve obbedire agli ordini degli esseri umani a meno che gli ordini interferiscano con la prima o la seconda regola. Queste regole sono versioni leggermente modificate delle leggi originali di Asimov per adattarsi alle limitazioni e al comportamento dei robot di DeepMind.
Le regole di sicurezza specificano quali compiti sono considerati non sicuri o indesiderati in base alle attuali capacità del robot. Questi includono evitare compiti che coinvolgono gli esseri umani, gli animali, oggetti appuntiti o apparecchiature elettriche. Le regole di incarnazione descrivono le limitazioni fisiche del robot, come la sua capacità di carico massima o l’incapacità di svolgere compiti che richiedono due braccia.
DeepMind incorpora anche misure di sicurezza pratiche, come stop automatici in caso di forza eccessiva sulle articolazioni del robot e l’obbligo per i supervisori umani di avere una linea di vista e un controllo fisico sui robot attivi.
Sebbene il sistema AutoRT mostri promesse per l’intelligenza artificiale incarnata, DeepMind sottolinea che è ancora nelle prime fasi di sviluppo. Resta da vedere come queste regole saranno implementate nei sistemi AI esistenti e come saranno affrontate le eventuali vulnerabilità.
Le storie di Asimov hanno dimostrato come anche le leggi più rigorose possono essere manipolate o aggirate, indicando l’importanza di una costante vigilanza e adattamento nel campo della robotica. Sarà affascinante osservare come la Costituzione del Robot di DeepMind influenzerà le politiche tecnologiche e gli sforzi degli hacker nel navigare attorno a queste regole. Manteniti aggiornato sulle ultime novità nella politica tecnologica e nella lettura di fantascienza per orientarti nel panorama sempre in evoluzione dei robot e dell’IA.
The source of the article is from the blog radiohotmusic.it