Aku būsimosios AI raiškos grėsmės kelia potencialius rizikos žmonijos ateities pavojus
Paskutinės deklaracijos, pateiktos tiek dabartinių, tiek buvusių OpenAI darbuotojų, iš viso 16 signatarų, nulemė skubų klausimą pirmaujančioje AI pramonėje. Šie asmenys perspėja dėl fakto, kad reikšmingos dirbtinio intelekto įmonės stokoja būtinų skaidrumo ir atskaitomybės suteikimo, kas yra esminė, siekiant išspręsti galimas AI grėsmes, dalykas. To gali trukdyti žmogaus saugumui, plečiant nuvertėjimą iki iškraipytos klaidingos informacijos plitimo, ir net šalinant scenarijų, kai autonomiškos AI sistemos neišvengiamai gali išeiti iš kontroliavimo, atnešdamos katastrofines pasekmes.
Signatariai, įskaitant AI srities žvaigždžių iš Google DeepMind, yra pažymėję, kad AI įmonės yra didelių komercinių spaudimų poveikyje vengti griežtų priežiūros priemonių, dėl to savireguliacija yra nepakankama.
OpenAI susiduria su dėmesio ir teisinių iššūkių metu
Pranešta, kad dėl baimės atgais elgtis įmonėje keturi aktyvūs darbuotojai anonimiškai parašė šį kritišką atvirą laišką. Laiške yra dokumentuota ne viešai prieinama informacija apie AI įmones, pabrėžiant jų sistemų galimybes ir ribas, saugumo priemonių veiksmingumą ir galimų žalos spektrą, informacija, kuri nėra pakankamai dalinamasi su valdžios institucijomis ar viešumu.
Šis klausimas sukėlė pritarimą didesnėms apsaugos priemonėms, kad saugotų tuos, kurie perduoda esminę viešumui žinomeninę informaciją. Tuo tarpu technologinis magnatas Elon Musk pateikė ieškinį prieš OpenAI ir jos vykdančiuoju direktoriumi Samu Altmanu, apkaltindamas įmonę nukrypimais nuo jos įkūrimo sumanymų aukštinti technologijas žmogaus naudai, o ne pelnui. Musk pareiškė rūpesčius dėl paskutinio GPT-4, orientuoto į komerciją, uždaro modelio, kuriame pateikiamoje informacijoje buvo teigiamų kontraktų pažeidimų ir nesąžiningų verslo praktikų kaltinimų, visų tuo reikalaujant atstatyti įmonės įsipareigojimą laikytis atviro šaltinio principų.
Pagrindinės klausimai ir atsakymai:
– Kokios svarbiausios kontroversijos susijusios su AI plėtra
Svarbiausios kontroversijos apima skaidrumo trūkumą ir atskaitomybę iš pagrindinių AI įmonių, potencialias rizikas žmonių saugumui, socialinių nelygybių padidėjimą, dezinformacijos plitimą ir pavojų autonominėms AI sistemoms veikiančioms už žmogaus kontrolę. Be to, savireguliacijos ir vyriausybės priežiūros debatas yra centrinė tema.
– Kodėl skaidrumas svarbus AI plėtrai?
Skaidrumas yra svarbus, nes jis gali padėti suinteresuotosioms šalims suprasti AI galimybes ir ribas. Tai ima prižiūrėti, skatina pasitikėjimą ir užtikrina, kad AI pažanga būtų suderinama su visuomenės interesais ir etiniais normomis.
– Kokius iššūkius susiduria AI įmonės, išlaikant skaidrumą ir atskaitomybę?
Įmonės susiduria su komerciniais spaudimais, kurie skatina pirmumą greitumui ir pelningumui saugumui, intelektinės nuosavybės vagystę, išlaikant konkurencinį pranašumą ir sudėtingų AI technologijų pobūdis, kuris padaro priežiūrą sudėtingą.
– Kas yra slaptosio žvalgybininko apsaugos priemonės, ir kodėl jos reikalaujamos AI industrijoje?
Slaptosios žvalgybininko apsaugos priemonės yra teisiniai reikalavimai, kurių tikslas – užkirsti kelią atkeršymui prieš darbuotojus, kurie atskleidžia nesąžiningumą organizacijoje. AI industrijoje jos yra būtinos, kad užtikrintų, jog asmenys gali pranešti apie etinius ar saugumo rūpesčius be baimės dėl neigiamų atšaukimo pasekmių.
Privalumai ir trūkumai:
Privalumai:
– Skaidrumas: Skatina atsakingą AI naudojimą, skatina inovacijas ir gali vesti prie patikimų ir patikimų sistemų.
– Atskaitomybė: Padeda sukurti standartus, kurie gali užkirsti kelią AI piktnaudžiavimui ir apsaugoti visuomenės interesus.
– Slaptosios žvalgybininko apsaugos: Leidžia pramonės viduje veikiantiems asmenims dalintis rūpesčiais be diskriminacijos ir prisidėti prie saugesnės ir etiškesnės AI aplinkos.
Trūkumai:
– Skaidrumas: Gali atskleisti gamyklinę informaciją, galimai kompromituoja konkurencinius pranašumus ir intelektinę nuosavybę.
– Atskaitomybė: Gali padėti didinti reguliavimo dėmesį ir galbūt sulėtinti inovacijas dėl laikymosi reikalavimų.
– Slaptosios žvalgybininko apsaugos: Gali atgrasyti kai kuriuos nuo informacijos atskleidimo dėl baimės nekaltai apkaltinti atkeršymu ar susidurti su socialine atskirtimi.
Norint gauti daugiau informacijos apie AI rūpesčius bei skaidrumo ir atskaitomybės ginčus, galite apsilankyti pirmaujančių AI organizacijų svetainėse, nors svarbu užtikrinti, kad pateikti URL būtų teisingi. Čia yra kelios rekomendacijos:
– OpenAI: OpenAI
– Google DeepMind: Google DeepMind
– AI Now Institute: AI Now Institute
– Future of Life Institute: Future of Life Institute
The source of the article is from the blog maestropasta.cz