Kunstliku intelligentsuse (KI) valdkonnas on tekitanud nii teadlaste kui ka avalikkuse tähelepanu vastuoluline nähtus, mida tuntakse kui hallutsinatsioone. Need kujuteldavad faktid, mis pärinevad suurtest keelemudelitest (LLM) nagu ChatGPT, on tekitanud universaalset ebamugavust ja kriitikat. Siiski peituvad murede taga intrigeerivad võimalused loovuseks ning inimese ja KI koosolemise oluline puhver.
KI start-up Vectara on sukeldunud hallutsinatsioonide uurimisse, kogudes andmeid nende levimuse kohta erinevate mudelite seas. Nende uuringud näitavad, et LLM-ide kokkusurutud koolitusandmete repretseerimine viib sageli peente detailide kaotsiminekuni, mis omakorda viib informatsiooni väljamõtlemiseni. Kuigi OpenAI väidab, et GPT-4 hallutsinatsioonimäär on umbes 3 protsenti, siis Google’i aegunud Palm Chat’il oli šokeeriv 27 protsendiline määr, rõhutades nende väärteabe minimeerimise või kõrvaldamise tähtsust.
Siiski seisneb hallutsinatsioonide võlu mitte ainult nende teaduslikus selgituses, vaid ka inimestes tekitatavas kogemuses. Mõnikord võivad need väljamõeldised tunduda usutavamad kui tegelikkus ise, tõmmates meid maailma, mis tundub vähem häiriv. Oluline on märkida, et vestlusrobotid kalduvad välja mõtlema detaile, mis on statistiliselt kooskõlas nende ulatuslike koolitusandmetega, sarnaselt fiktsiooni kirjanikule, kes loob romaani reaalsetest sündmustest inspireerituna. Selle protsessi eesmärk on luua sügavamat tõde ja midagi, mis on rohkem reaalne kui tegelikkus.
Hoolimata nende võimalikest ohtudest, saab hallutsinatsioone kasutada loovuse tööriistana. Mõeldes erinevalt inimestest, pakuvad LLM-id statistilisi lennureise, mis inspireerivad kunstnikke ja mõtlejaid. Need generatiivsed süsteemid lükkavad inimese kujutlusvõime piire, luues ideid, mis muidu poleks võib-olla sündinud. Kuna KI jätkab inimkonna kõige keerukamate probleemide lahendamist, osutub LLM-ide võime nii faktitruudusele kui ka kujutlusvõimetesse liikumisele hindamatuks.
Lisaks tuleneb hallutsinatsioonide olulisest ebatäpsusest oluline kasu. Kui LLM-idele ei saa pimesi kindel olla, sunnib see meid nende tulemusi faktikontrollima ja jääma ühendatud reaalsusega. See kontrolli- ja tasakaaluprotsess tugevdab inimeste otsustusvõimet ning võimaldab meil tõele kindlaks jääda. Siiski, liikudes superintelligentse KIga koosolemise suunas, pakuvad hallutsinatsioonid ajutist hingamisruumi, sundides meid jääma kaasatud kriitilisse kontrollimise ülesandesse.
Kuigi hallutsinatsioonide üle käib jätkuv arutelu, on üksmeel selles, et nende täielik hävitamine pole ehk soovitav. Selle asemel pakuvad KI eksperdid välja “nuppu”, mida saab reguleerida, võimaldades LLM-idel toota vajadusel täpset teavet ja soodustada hallutsinatsioonilist väljundit, kui otsitakse loovust või inspiratsiooni.
Kokkuvõttes on KI hallutsinatsioonid keeruline maastik, mis sisaldab nii riske kui ka tasusid. Kuigi nende minimeerimise või kõrvaldamise pingutused on olulised, on nende potentsiaali kasutamine loovuseks ja sillaks inimese ja KI koosolemise suunas sama oluline. Väljakutse seisneb õige tasakaalu leidmises, kasutades hallutsinatsioone innovatsiooni toetamiseks, samas püsides tõelisuses kindlalt juurdununa.
The source of the article is from the blog be3.sk