Digitālajā laikmetā tiek novērtēta tiešsaistes informācijas nozīme dažādās nozarēs. Tehnoloģiju uzņēmumi, piemēram, “Meta” un “Google”, jau ilgu laiku izmanto datus mērķētai tiešsaistes reklamēšanai. Straumēšanas platformas kā “Netflix” un “Spotify” balstās uz datiem, lai ieteiktu personalizētus filmus un mūziku saviem lietotājiem. Pat politiskie kandidāti ir pauduši interesi par datiem, lai iegūtu ieskatu vēlētāju uzvedībā. Tomēr ir skaidrs, ka digitāliem datiem ir ļoti svarīga loma mākslīgā intelekta (AI) attīstībā.
Viena no galvenajām jomām, kas nosaka AI sistēmu veiksmi, ir piekļuve tam datiem. Tāpat kā students kļūst gudrāks, lasot vairāk grāmatu, lielas valodas modeļi – tērzētprogrammu pamata – kļūst precīzāki un spēcīgāki, jo tiem tiek padoti vairāk datu. Jo vairāk datus apstrādā AI sistēma, jo precīzākas un cilvēciskākas kļūst tās atbildes.
Šeit liecina OpenAI pētījums par izcilu AI modeļu zinātni, kas pazīstams kā GPT-3 (īsziņāme no Generative Pre-trained Transformer 3), un kas tika izlaists 2020. gadā. GPT-3 tika apmācīts pie vairākām simtiem miljardu “tokeniem”, kas ir galvenokārt vārdi vai vārdu gabali. Šis lielais apmācības datu apjoms GPT-3 atļāva ģenerēt neiedomājami reālistiskas un kontekstiski piemērotas atbildes.
Dati, kas izmantoti, lai apmācītu lielus valodas modeļus, piemēram, GPT-3, tiek iegūti no dažādām tiešsaistes platformām. OpenAI GPT-3 tika apmācīts pie miljardiem tīmekļa vietnēm, grāmatām un Vikipēdijas rakstiem, kas savukārt tika ģenerētas visā internetā. Tomēr ir svarīgi atzīmēt, ka OpenAI neatklāja specifiskus datus, ko izmantoja, lai apmācītu savus pēdējos modeļus.
Bieži uzdotie jautājumi:
The source of the article is from the blog scimag.news