Mokslininkai vis dažniau pasitelkia dirbtinio intelekto (AI) įrankius savo tyrimams. Tačiau du žinomi mokslininkai, JAV Jaučlio universiteto profesorė Liza Meseri ir Prinstono universiteto profesorė Moli Kroketa, įspėja apie pavojų per daug atiduoti užduotis algoritmams. Jų naujausioje straipsnyje, paskelbtame žurnale Nature, jos tvirtina, kad pernelyg daug pasitikėjimas AI gali vesti į mokslinio tyrimo etapą, kuriame daugiau yra sukuriama, bet mažiau iš tikrųjų suprantama.
Atlikus išsamų publikuotų straipsnių, rankraščių, konferencijų pranešimų ir knygų peržiūrą, Meseri ir Kroketa nustatė keletą „iliuzijų”, kurios gali apgauti tyrėjus ir įkvėpti per daug pasitikėti AI tyrimų priemonėmis. Šios iliuzijos, kaip nurodyta žurnale Nature, apima:
1. Paaiškinimo gylio iliuzija: Pasitikėjimas AI ar kita žmogaus žiniomis gali sukelti klaidingą įsitikinimą, kad supratimas yra gilesnis nei iš tikrųjų.
2. Ištyrimo ploties iliuzija: AI sistemos gali neteisingai iškraipyti tyrimus, palankiai vertindamos temas, kurias lengvai galima išbandyti algoritmais, galbūt ignoruodamos tuos, kurie reikalauja fizinių inkarnacijų.
3. Objektyvumo iliuzija: Tyrėjai gali neteisingai suvokti AI sistemas kaip turinčias visas galimas požiūrių, arba neturinčias jokios pozicijos. Tačiau šie įrankiai atspindi tik požiūrius, esančius duomenyse, kuriuose buvo išmokyti, įskaitant visas iškraipas.
Remiantis Meseri ir Kroketa, šios iliuzijos kyla iš mokslininkų neteisingų nuostatų ar idealizuotų vizijų, ką gali pasiekti AI. Jos išskiria tris dažnas vizijas:
1. AI kaip orakulas: Tyrėjai gali laikyti AI įrankus gebančius išsamiai peržiūrėti mokslinę literatūrą ir suprasti jos turinį. Tai gali paskatinti juos pasitikėti įrankiais išsamesniu nei žmonės vykdyti tyrimų nagrinėjimą.
2. AI kaip arbitras: Automatizuotos sistemos gali būti laikomos objektyvesnėmis nei žmonės, pirmenybę teikiant joms ginčus ginant. Tačiau AI įrankiai gali vis tiek turėti iškraipas arba rėmti ypatingus požiūrius.
3. AI kaip kiekių analitikas: Tikėjimas, kad AI pralenkia žmogaus sugebėjimus analizuojant sudėtingus duomenų rinkinius, gali vesti tyrėjus pasitikėti vien AI kiekybinėje analizėje.
Nature redakcija pabrėžia, kad mokslinė bendruomenė turi žiūrėti į AI naudojimą ne kaip į neišvengiamą sprendimą, bet kaip sąmoningą pasirinkimą su susijusiais rizikais ir naudomis, kuriuos būtina atidžiai įvertinti.
The source of the article is from the blog regiozottegem.be