Programmatūras izstrādātājs Ishan Anand ir novedis tabulu atkarību uz jaunu līmeni, integrējot GPT-2, lielu valodu modeli, Microsoft Excel. Vērā ņemami, viņa radījums darbojas bez traucējumiem, nodrošinot vērtīgus ieskatus par valodu modeļu darbību un pamatā esošā Transformer arhitektūras nākamās-tokena paredzēšanas spējas. Anand drosmīgi apgalvo, ka AI sapratne ir tikpat vienkārša kā tabulu saprašana, demonstrējot šīs apvienošanas milzīgo potenciālu.
1.25 GB lielais GPT-2 darblapa tagad ir pieejams lejupielādei GitHub, ļaujot ikvienam eksperimentēt un izpētīt tā funkcionalitāti. Lai gan GPT-2 nav jaunākā valodu modeļu iterācija, jo tā ieguva virsrakstus 2019. gadā, tā joprojām kalpo kā vērtīgs solis saprast šo modeļu spējas.
Būtiski atcerēties, ka GPT-2 nolūks nav izstrādāts konversāciju mijiedarbībām, jo tas ir pirmsčatmodelu, piemēram, ChatGPT, ēras iepriekšā. Svarīgi ir uzsvērt, ka šajā projektā izmantotais GPT-2 Small modelis sastāv no 124 miljoniem parametriem. Salīdzinājumā pilnais GPT-2 izmantoja 1,5 miljardus parametru, savukārt jaunākais GPT-3 pārsniedza cerības ar biedējošiem 175 miljardiem parametru.
GPT-2 galvenā funkcija saistīta ar gudru nākamā tokena paredzēšanu. Tas tiek panākts, izmantojot valodu modeļa Transformer arhitektūru, kas spēj precīzi paredzēt visdrīzāko pabeigšanu noteiktam ieejas virknē. Šīs darblas GPT-2 implementācija darbojas ar ierobežotu ievades ierobežojumu tikai 10 tokeniem, ievērojami mazāk nekā 128 000 tokeni, ko apstrādā GPT-4 Turbo. Tomēr šis ierobežojums nedrīkst mazināt Anand projekta vērtību, jo tas kalpo kā praktisks un izglītojošs ievads valodas modeļos dažādiem profesionāļiem, ieskaitot tehnoloģiju izpilddirektorijus, mārketinga speciālistus, produktu vadītājus, AI politikas veidotājus, ētikas speciālistus, izstrādātājus un zinātniekus, kuri iegrimst AI jomā.
Anand uzsver, ka tāda pati Transformer arhitektūra, kas izmantota šajā projektā, kalpo par pamatu citiem valodu modeļiem, piemēram, OpenAI ChatGPT, Anthropic Claude, Google Bard/Gemini, Meta Llama un daudziem citiem.
Detalizētā apskatā Anand parāda, kā GPT-2 darbplāna implementācija darbojas vairākos lapās. Pirmajā lapā ir veltīta iedrošināšanai, ar nelielu ierobežojumu tikai 10 iedrošinājumiem. Viņš turpina izskaidrot būtiskus jēdzienus, piemēram, vārdu tokenizāciju, teksta pozīcijas un svēršanu, iteratīvu nākamā vārda paredzēšanas precizēšanu un izvēle pēdējā vārda prognozēšanai pārstāvējā prognozēto sekvences pēdējo vārdu.
Lai gan Anand izmanto relatīvi kompaktu GPT-2 versiju, ir svarīgi atzīmēt, ka viņa implementācija pārsniedz Excel spējas. Tomēr vajadzētu izvairīties no mēģinājumiem izmantot šo Excel failu uz Mac, jo tas var izraisīt uzliesmojumus un aukstumus. Turklāt darblapa pašlaik nesaderīga ar mākoņa bāzēm balstītajām tabulu lietojumprogrammām. Lielākā spiediena rezultātā ir ieteicams izmantot jaunāko Excel versiju, lai nodrošinātu optimālu veiktspēju. Būtiski ir uzsveram, ka šī darblapa galvenokārt kalpo ka izglītojošs pasākums un izklaidējošs pasākums Anand.
Viena būtiska priekšrocība, palaizot šo valodu modeli Excel darbplānā savā datorā, ir tas, ka tas darbojas pilnīgi bezsaistē, neprasot API izsaukumus uz mākoņu. Tas nodrošina pilnīgu lokālu darbību un datu privātumu.
Bieži uzdodamie jautājumi (BUJ):
Kas ir GPT-2? GPT-2 nozīmē “Generatīvā priekšapmācītā Transformer 2” un ir liels valodu modelis, ko izveidoja OpenAI. Tas izmanto dziļās apmācības arhitektūras, lai ģenerētu cilvēka līdzīgu tekstu, balstoties uz ievades iedrošinājumiem.
Kas ir Transformer arhitektūra? Transformer arhitektūra ir veida dziļās mācīšanās modelis, kas izceļas uzdevumos, kas saistīti ar secīgiem datiem, piemēram, valodu tulkošanu vai teksta ģenerēšanu. Tā balstās uz vairākkanaļu pašuzmanības mehānismiem, kas uztver stipras kontekstuālās atkarības.
Kāda ir Anand GPT-2 implementācijas Excel nozīme? Ananda integrējot GPT-2 Microsoft Excel sniedz unikālu skatu uz tabulas tehnoloģijas un mākslīgā intelekta apvienošanas potenciālu. Tas piedāvā aizraujošu izglītojošu iespēju profesionāļiem dažādās jomās, lai saprastu valodu modeļu darbību praktiskā veidā.
Vai Ananda GPT-2 implementācija ir saderīga ar visām Excel versijām? Nē, ieteicams izmantot jaunāko Excel versiju, lai nodrošinātu optimālu veiktspēju ar Ananda GPT-2 darblapas implementāciju.
Avoti:
GitHub,
OpenAI
The source of the article is from the blog aovotice.cz