Kevin TopolskyPagrindiniai figūros šioje etikos AI srityje, įskaitant ChatGPT bendradarbio įkūrėją, palieka pareigas dėl ginčų dėl Super AI vystymo
Strateginis persiorientavimas OpenAI sukėlė superinteligentumo saugos komandos išsiskyrimą ir jos personalo persiorientavimą į kitas įmonės tyrimų skyrius. Patvirtinus gandus, kilusius iš vidinių šaltinių, OpenAI pareiškė, kad šis pertvarkymas vykdomas jau kelias savaites. Šis žingsnis sujungia AI saugos ir vystymo komandas, užtikrinant bendrą pastangų atsakomybę kuriant atsakingą AI.
Dvi svarbios vadovų asmenybės išsiskyrė su Silicio slėnio pagrindu esančia AI tyrimų įmone dėl fundamentalios nesutarimo dėl įmonės krypties. Vienas ekspertas, kuris vadovavo Super Suvalignavimo komandai, viešai paskelbė savo atsistatymą dėl konfliktų su vadovybe, susijusiais su inovacijų ir saugos pusiausvyra. Šio inžinieriaus tikslas buvo užtikrinti, kad bet koks potencialus bendras intelektas turėtų mūsų žmogiškas vertybes.
Išėjimą lydėjo Samo Altmano, OpenAI įkūrėjo ir vadovo, dalinai jausmas. Jis pareiškė liūdesį dėl išėjimo, tačiau pripažino poreikį daugiau pažangos AI suvalignavimo ir saugumo tyrimuose. Altman pažadėjo išplėsti savo pareiškimą artimiausiu metu.
Be to, bendrasis įkūrėjas Ilya Sutskever, kuris dalijosi Super Suvalignavimo komandos vadovybe, taip pat paliko OpenAI. Savo atsisveikinimo kalboje Sutskever pareiškė tikėjimą OpenAI gebėjimui sukurti saugią ir naudingą bendrą dirbtinį intelektą.
ChatGPT privertė generuojančią AI revoliuciją, sužavėdama technologijų centrą ir kelianti rūpesčių daugelyje reguliuotojų nuo Kalifornijos iki Briuselio. Rūpesčiai susiję su bendra AI perspektyva su žmogaus panašiomis kognityvinėmis gebėjimais. OpenAI neseniai pristatė naują ChatGPT versiją, galinčią dalyvauti sklandesnėse burnos pokalbiuose, išstumiant asmenines ir efektyvias AI asistentes ribas.
Svarbūs klausimai ir pagrindinės iššūkiai:
Vienas svarbiausių klausimų, susijusių su OpenAI persikėlimu, yra tai, kaip tai paveiks AI etikos plėtrą ir valdymą. Pagrindiniai iššūkiai apima:
– Užtikrinant, kad besivystantys AI gabumai nesumažėtų dėl saugos ir etikos apsvarstymų.
– Išlaikyti visuomenės pasitikėjimą, kai AI vis labiau integruojamas į kasdieninį gyvenimą, ypač dėl privatumo, autonomijos ir potencialių darbo vietų keitimosi.
– Adresavus galimus AI sprendimų pasekmes kritinėse srityse, tokiomis kaip sveikatos priežiūra, teisėsauga ir karo taikymas.
– Balansavimas tarp komercinių interesų su platesniomis socialinėmis AI plėtros pasekmėmis.
Kontroversijos:
– Kilo klausimų dėl OpenAI pereikvoje iš ne pelno siekiančios įmonės į apribotai pelno siekiančią įmonę, susijusius su įsipareigojimu skaidraus ir etiško AI vystymo srityje.
– Debatai dėl to, ar AI turėtų būti reguliuojama ir, jei taip, kaip geriausiai tai padaryti be inovacijų slopinimo, vis dar tęsiamas.
– Klausimai dėl potencialių AI pasibaisėjimų ir jų poveikio visuomenei, sustiprinant esamus socialinius nelygybių.
Privalumai ir trūkumai:
Privalumai:
– Komandų sujungimas gali padėti geriau integruoti saugos ir vystymo tikslus, galbūt sukuriant koordinuotesnį požiūrį į AI etiką.
– Resursų supaprastinimas gali pagreitinti naujų AI technologijų ir jų taikymų plėtrą, teikiant socialinius ir ekonominius privalumus.
Trūkumai:
– Pagrindinių figūrų AI etikos srityje išėjimas galėtų rodyti organizacijos silpnumą, siekiant suderinti AI plėtrą su žmogiškomis vertybėmis.
– Nuomonės skirtumai dėl AI tyrimų krypties gali vesti prie AI etikos bendruomenės fragmentacijos, galbūt sulėtinant pažangą šioje svarbioje srityje.
Aš negaliu suteikti realaus laiko faktų patikrinimo ar URL validavimo susijusiais nuorodomis, tačiau norėdami gauti išsamesnės informacijos apie šį klausimą, galbūt norėsite naršyti OpenAI pagrindinį tinklalapį oficialiems pranešimams ir naujienoms: OpenAI.
