Saugumo klausimai nusilpsta prieš ‘žavėtojus produktus’ OpenAI, anksčiau dirbusio vykdomojo pareigūno teigimu.
Svarbus išėjimas įvyko OpenAI eilėse, kai Jan Leike, viršūninis saugumo srities tyrėjas, pasitraukė iš savo pareigų. Išėjimas įvyko po to, kai Leike pasiekė tai, ką jis pažymėjo kaip išskirtinę stotelę. Jo priežastis skamba akmeningai, kad Samo Altmano įmonė palaipsniui prioritetizuoja blizgančius naujus produktus virš išlaikymo tvirtų saugumo priemonių.
Disonansas dėl įmonės prioritetų stoja už nugaros OpenAI saugumo ekspertui.
Trys dienos po pasitraukimo, Leike išaiškino savo sprendimą per išsamų siūlą. Jis pabrėžė poslinkį OpenAI, kurioje dėmesys nukrypo nuo saugaus kultūros užkirtimo kelio link kurių akį traukiančių produktų kūrimo. Prisijungęs prie AI firmos su ambicija krypti ir kontroliuoti dirbtinį bendrąjį intelektą (AGI), Leike vis labiau nesiderino su įmonės pagrindiniais prioritetais, kulminuodamas jo išėjimu.
Pabrėžiant AGI saugumą ir etinius padarinius.
Pasak Leike, pabrėžtina išlikti tvirtai saugumo, priežiūros, pasiruošimo, apsaugos, atsparumo prieš priešus, suderinamumo, paslapties, visuomenės poveikio srityje. Jis pažymėjo, kad jo komanda, kuri siekia suderinti AI sistemas su žmonijos didžiausiais interesais, susiduria su sunkiu mūšiu OpenAI viduje.
Papildomi aukšto lygio pasitraukimai iš OpenAI saugumo komandos.
Antradienį taip pat buvo pažymėtas Ilya Sutskever pasitraukimas, Superalignment komandos bendrovės bendrininkas. Altman paminėjo Sutskeverį už jo genialumą ir įtaką OpenAI. Tuo tarpu pranešama, kad dueto AI rizikos komanda buvo suduota į ruošą, su jos nariais perkirstais į skirtingas įmonių sritis.
OpenAI, kūrėjai neseniai pristatyto kalbos modelio GPT-4o, pajuto šių šiurpų aukštų pakeitimų bangas. Toks judėjimas, lydimas kelių kitų viršūnių vykdomųjų ir tyrėjų pasitraukimų, sukėlė susirūpinimą dėl įmonės įsipareigojimo atsakingai AI plėtrai, nes ji greitėja link AGI.
Svarbu apsvarstyti platesnį kontekstą ir potencialias pasekmes dėl OpenAI Saugumo vadovo Jan Leike pasitraukimo ir pranešto saugumo nepersvara siekiant produktų kūrimo.