Brīnumi, ko piedāvā AI tehnoloģijas, var šķist gandrīz maģiski, bet mums jāatceras, ka sistēmas kā ChatGPT galvenokārt ir matemātiskas mašīnas, paredzot vārdu vai pikseļu virknes. AI start-up Alembic produktu direktors Džeidens Zīglers ir skaidrojis, ka šīs valodas modeļi nav apzināti savas zināšanas vai tendences, ko tie var pastāvīt, parādot iedzimtu nespēju atšķirt tendencainu un netendencainu vai iekļaujošu un izslēdzošu saturu.
Atspoguļojot sabiedriskās priekšnojautas
Noklusētajā stāvoklī, ja kāds mudinātu AI pieprasīt attēlu par uzņēmuma izpildītāju, vairāk nekā ne reizēm rezultāts nobīdītos uz attēliem ar baltiem vīriešiem tērpos. Pēc Teksasas cilvēktiesību nevalstiskās organizācijas direktora Džošuas Vīvera domām, šie modeļi vienkārši atspoguļo mūsu vēsturi un kultūru.
Nenoteiktības izaicinājums
Juristu uzsvērtās riskas ir nonākšana viltīgā ciklā, kur tendences ir iebrauktās AI, tādējādi pastiprinot mūsu jau esošās idejas. Pilnīgi pārkvalificēt pamata modeļus ar netendencainu datu ir izaicinošs uzdevums, gan dārgs, gan ilgstošs, jo īpaši ņemot vērā trūkumu lielmērogu “neitrālu” informācijas kopu.
Lai pretotos tam, uzņēmumi cenšas “saskaņot” modeļus ar noteiktām vērtībām, iestataot noteikumus. Daudzi čatbotes ir programmēti izvairīties no izpausmēm, ko tās nevar izjust, un radīt daudzveidīgākus rezultātus. Tomašs Puigs, Alembic līdzdibinātājs, līdzina to, likvidējot sociālo filtru AI.
Tehnoloģiskās inovācijas un izglītība
Šī metodes ierobežojumi bija redzami, kad Google Gemini pakalpojums, atbildot uz konkrētiem attēlu pieprasījumiem, radīja vēsturiski neatbilstošus rezultātus. Ar lietotāju uzmanības centrā pastāvīgi izstumjot AI robežas, Sasha Luccioni no AI platformas Hugging Face iesaka, ka prioritātevajam būtu tehnoloģisku risinājumu uzsvēršana, pievirzoties tehnoloģisku risinājumu virzienā varētu novirzīt.
Dotais laiks tagad ir izglītot cilvēkus par šiem rīkiem, kuri var tikt pieķerti uzskatitt ka piedero ievērībai. Džošua Vīvers abolicē prāta izpratni un aicina veidot dažādus inženieru komandas.
Uzlabojumi un izpēte
Ar caurspīdīgumu, piemēram, OpenAI’s ChatGPT, kas var “lasīt” emocijas, rodas jautājums, vai tas var precīzi interpretēt sejas izteiksmes dažādās kultūrās. Kamēr radotie AI vēl ir bērnībā, start-upi kā Pinecone virzās uz priekšu “RAG” (atgūstot pastiprinātu ģenerāciju), lai izveidotu datu bāzes AI palīdzībai.
Minētās kompānijas CTO Ram Sriharsha, ilustrē potenciālu, salīdzinot juridisku AI palīgu ar enciklopēdisku advokātu, kurš var piekļūt un piemērot plašas daudzuma tiesību prakses informācijas.
Valodas modeļu AI ierobežojumu saprašana
AI valodas modeļi darbojas, pamatojoties uz plašu apmācības datu bāzi, bet tiem nav apziņas, pašapziņas vai spējas patiešām saprast nozīmi. Ievērojama ierobežojuma ir tas, ka šiem modeļiem nav saprāta spējas vai kopējas prāta spējas kā cilvēkiem. Viņi veic prognozes, identificējot datus, kas dažkārt var nesaprotams vai faktiski nepareizs izvads, ja paraugi nesakrīt ar realitāti.
Svarīgais izaicinājums: Tendences un pārstāvība
Galvenais izaicinājums ir nodrošināt, ka AI valodas modeļi nesazinās vai nepastiprina sabiedriskās tendences. Ņemot vērā to, ka šo modeļu apmācības dati bieži nāk no interneta, kas atspoguļo vēsturiskās un kultūras priekšnojautas, AI mācās atkārtot šīs tendences. Pielietotie pasākumi, lai izveidotu mazāk tendencainu AI, bieži ietver apmācības datu kurēšanu vai papildinošu likumu slāņu ieviešanu, lai vadītu AI reakcijas.
The source of the article is from the blog macholevante.com