Visuomenės dėmesys keliają dėl dirbtinio intelekto sukeltos dezinformacijos. Socialinėje platformoje X individai susidūrė su klaidingais atsakymais iš AI Apžvalgos įrankio. Pavyzdžiui, įrankis neteisingai nustatė buvusį prezidentą Baracką Obamą kaip musulmoną, nors jis yra krikščionis. Be to, absurdiškas atsakymas patarė žmonėms kasdien suvartoti bent vieną nedidelį akmenį, neteisingai cituodamas UC Berkeley geologų patvirtinimą praktikai.
Oficialūs pareiškimai susirūpinimo kontekste. „Google“ atstovo Colette Garcia teigimu, nors AI Apžvalga paprastai teikia aukštos kokybės informaciją, patvirtintą išsamiais nuorodomis, paminėtos netikslumai gali kilti iš manipuliuotų internete plintančių vaizdų. Įmonė pabrėžia vartotojų galimybę plačiam tyrimui, tuo pat metu siekdama patikimumo savo paslaugose.
Tikslaus AI atsakymo svarba. Tikslių informacijos paskirstymas AI yra kritiškas, nes vis daugiau žmonių pasitiki šiais sistemomis kaip greitais ir patikimais atsakymais. Vartotojai dažnai pasitiki AI rezultatais be antrinės patvirtinimo, todėl klaidingi atsakymai gali būti potencialiai žalingi.
Svarbiausios klausimai:
1. Kaip galima pagerinti AI sistemas, kad jos teiktų tiksliau informaciją?
2. Kokie mechanizmai yra įdiegti, kad būtų nagrinėjama ir ištaisyta dezinformacija, kurią platiną AI?
3. Kokios yra etinės atsakomybės, kylančios iš AI kūrėjų, siekiant išvengti dezinformacijos plitimo?
Atsakymai:
1. Norint pagerinti AI tikslumą, būtina nuolat tobulinti mokymus su įvairiais, aukštos kokybės duomenų rinkiniais ir reguliariai atnaujinti algoritmus. Svarbu taip pat įdiegti daugiau konteksto supratimo ir naudotis patvirtinta informacija iš patikimų informacijos saugyklų.
2. Siekiant išspręsti AI dezinformaciją, reikia kombinuoti automatinius patikrinimus ir žmogaus priežiūrą. AI turėtų turėti įmontuotas korekcijų mechanikas, kad nuolat galėtų atnaujinti savo žinių bazę. Be to, kūrėjai dažnai įdiegia pranešimų sistemas, kad vartotojai galėtų pranešti apie neteisingą informaciją.
3. AI kūrėjai turi etinę atsakomybę mažinti žalą, užtikrindami, kad jų sistemos būtų kiek įmanoma tikslios, ir įdiegiant apsaugos priemones prieš klaidingos informacijos plitimą.
Pagrindiniai iššūkiai/Kontroversijos:
– Užtikrinti AI faktinį tikslumą nuosekliai yra iššūkinis dėl labai didelio turimų informacijos kiekio ir šaltinių patikimumo kaitos.
– Subalansuoti AI autonomiją ir priežiūrą, siekiant užkirsti kelią dezinformacijos plitimui, kelia ginčų.
– Nors technologijos bendrovės teisingai ištaiso ar pašalina vadinamą klaidingą turinį, yra vykstantis ginčas dėl cenzūros prieš informacijos laisvę.
Privalumai:
– AI sistemos gali greitai apdoroti ir analizuoti didelius duomenų kiekius, siūlydamos greitą prieigą prie informacijos.
– Jos gali padėti sumažinti žmonių darbo apkrovą automatizuojant rutininius informacijos paieškos uždavinius.
– AI gali pagerinti sprendimų priėmimą teikdama duomenimis pagrįstus įžvalgus.
Trūkumai:
– AI gali skatinti dezinformacijos plitimą, jeigu ji neteisingai prižiūrima.
– Per didelis pasitikėjimas AI gali sumažinti kritinį mąstymą ir priklausomybę nuo žmonių patirties.
– AI gali sustiprinti pasirinktinius įpročius, jei ji mokoma naudojant neišsamius ar nusistovėjusius duomenų rinkinius.
Norint giliau susipažinti su šia tema, patikimos informacijos galima rasti pirmaujančių AI tyrimų institutų ir technologijų bendrovių tinklalapiuose, pavyzdžiui:
– MIT Dirbtinis Intelektas
– DeepLearning.AI
– Google AI
Užtikrinus, kad šie nuorodos nukreiptų į pagrindinį domeną, o ne į subpuslapius, jos tikėtiniau išliks aktualios ir suteiks stabilų pradžios tašką norintiems panagrinėti AI tikslumą ir jo padarinius toliau.