Romāns Jampolskijs, pētnieks darbā ar mākslīgo intelektu, izsaka bažas par AI potenciālo cilvēces iznīcināšanu, novērtējot apbrīnojamo 99,9% varbūtību šādam katastrofālam rezultātam. Atšķirībā no ticības drošiem AI modeļiem, Jampolskijs uzsver, ka nav esamībā kļūdu brīvo modeļu un nākotnes modeļu beztraucējuma zemu varbūtību.
Nesenā podcasta sērija Lex Fridman iegrimst dažādu AI inženiertu perspektīvās, ar lielāko daļu, kuri novērtē 1% līdz 20% iespēju, ka AI galu galā izraisīs cilvēku iznīcināšanu. Prognozēs esošās atšķirības izriet no dažādām pieejām jautājumu uzdodam, uzsvērstot AI risku novērtēšanas sarežģītību.
Jampolskijs, Datorzinātņu profesors Luvilas Universitātē un grāmatas “AI: Neizskaidrojams, Neprognozējams, Neizkontrolējams” autors, dialogā ar Fridmanu apstiprina kritisko svarīgumu atzīt potenciālās briesmas, ko rada AI attīstība. Viņš apgalvo, ka cilvēces liktenis atkar, no spējas radīt būtiski beztraucējumu, ļoti sarežģītu programmatūru nākamajā gadsimtā—nelabvēlīga uzdevuma dēļ, ņemot vērā pastāvīgās neaizsargātības, kas saistītas ar cilvēkcentrētu AI dizainu.
Pēdējo gadu laikā AI tehnoloģijas izstrādes progresi ir parādījuši brīdinājuma zīmes par ļaunprātīgas izmantošanas un dezinformācijas iespējamību, sākot no deepfake satura izplatīšanas līdz AI ģenerētai dezinformācijai politisko notikumu ietekmē. Īpaši izceklīgā veidā Google Gemini AI modelim vadīta “AI pārskatu” funkcija ieguva uzmanību, radot nesaprotamas atbildes, piemēram, iesakot izmantot līmi, lai pagatavotu picu vai apgalvojot, ka Āfrikas valstīs nav valstu, kuru nosaukums sākas ar “K.”
Jampolskijs uzsver nepieciešamību pēc noturīgiem drošības mehānismiem, lai efektīvi kontrolētu AI attīstību. Lai gan nozares pārstāvji, piemēram, OpenAI Sam Altman ir ierosinājuši smilšu kastes regulējumu, AGI (Vispārējā mākslīgā intelekts) neprognozējamā daba paliek būtisks izaicinājums, ar Jampolskiju brīdinot par ļoti inteligentu sistēmu iespējamo atvasinājumu nevajadzīguma nepietiekamu vērtēšanu.
Papildu fakti:
– AI potenciālais ietekme uz darba tirgu ir būtisks jautājums, ar novērtējumiem, kas liecina, ka automatizācija varētu izraisīt miljonu darbu pārvietošanu dažādās nozarēs.
– AI sistēmas ir demonstrējušas nožēlojamās tendences balstoties uz datiem, uz kuriem tās tiek apmācītas, kas var novest pie potenciālas diskriminācijas jomās, piemēram, pieņemšanas, kredītu izsniegšanas prakses un krimināltiesībās.
– Autonomo ieroču attīstība, kas tiek darbināta ar AI palīdzību, rada etiskus jautājumus par šo ieroču spēju pieņemt dzīvībai svarīgus lēmumus bez cilvēka iejaukšanās.
Galvenie jautājumi:
1. Kādas ir veiktās darbības, lai risinātu AI attīstības etisko implikāciju jautājumus?
2. Kā nodrošināt skaidrību un atbildību AI sistēmu lēmumu pieņemšanas procesos?
3. Kāda ietekme būs plašai AI pieņemšanai uz sociālo nevienlīdzību un darba pārvietošanu?
Priekšrocības:
– AI ir potenciāls radikāli pārveidot dažādas nozares, uzlabojot efektivitāti, produktivitāti un inovācijas.
– AI tehnoloģijas var palīdzēt risināt sarežģītas problēmas veselības aprūpē, klimata pārmaiņu un katastrofu reaģēšanas jomās.
– Automatizācija caur AI var novest pie izmaksu samazināšanas un produktu un pakalpojumu kvalitātes uzlabošanas.
Nepilnības:
– AI tehnoloģiju ļaunprātīga izmantošana var radīt būtiskas riskus privātumam, drošībai un demokrātijai.
– Ja netiek rūpīgi izstrādāti un uzraudzīti, AI sistēmas var uzturēt esošās tendences un nevienlīdzības.
– AI straujā attīstība var pārspēt regulējošos ietvarus, rada izaicinājumus, nodrošinot atbildīgu attīstību un izvietošanu.
Saistītie saites:
– Elektronisko brīvību fonda
– Amerikas mākslīgā intelekta asociācija
– Oksfordas Martina Skola