En ung och talangfull programutvecklare, Ishan Anand, har tagit beroendet av kalkylblad till en helt ny nivå genom att integrera GPT-2, en stor språkmodell, i Microsoft Excel. Hans skapelse fungerar enastående väl och ger värdefulla insikter i hur språkmodeller och underliggande Transformer-arkitektur förutsäger nästa token. Anand påstår modigt att förståelse för AI är lika enkelt som att förstå ett kalkylblad och visar därmed det enorma potential som denna fusion innebär.
Den 1,25 GB stora GPT-2-kalkylbladet är nu tillgängligt för nedladdning på GitHub, vilket ger alla möjlighet att experimentera och utforska dess funktioner. Även om GPT-2 inte är den senaste iterationen av språkmodeller och gjorde rubriker 2019, fungerar den fortfarande som en värdefull tröskel för att förstå dessa modellers kapaciteter.
Det är viktigt att komma ihåg att GPT-2 inte är utformat för konversationella interaktioner eftersom det föregår eran av chattrummodeller som ChatGPT. Det är viktigt att betona att implementationen i detta projekt använder GPT-2 Small-modellen, som består av 124 miljoner parametrar. Jämfört med detta har GPT-2:s fullständiga version använt 1,5 miljarder parametrar, medan den mer nyligen utvecklade GPT-3 har överträffat förväntningarna med otroliga 175 miljarder parametrar.
GPT-2:s huvudsakliga funktion kretsar kring intelligent förutsägelse av nästa token. Detta uppnås genom språkmodellens Transformer-arkitektur, som noggrant kan förutse den mest sannolika avslutningen för en given inmatningssekvens. Implementeringen av GPT-2 i detta kalkylblad fungerar med en begränsad inmatningsgräns på endast 10 token, mycket lägre än de imponerande 128 000 token som hanteras av GPT-4 Turbo. Trots detta bör inte denna begränsning underminera värdet av Anands projekt, då det fungerar som en praktisk och utbildande introduktion till språkmodeller för olika yrkesverksamma, inklusive tekniska ledare, marknadsförare, produktchefer, AI-policytillverkare, etiker, utvecklare och forskare som ger sig in i AI-världen.
Anand betonar att samma Transformer-arkitektur som används i detta projekt utgör grunden för olika andra språkmodeller, som OpenAIs ChatGPT, Anthropics Claude, Googles Bard/Gemini, Metas Llama och många fler.
I en detaljerad genomgång illustrerar Anand hur GPT-2-kalkylbladsimplementeringen fungerar på flera ark. Det första arket är dedikerat åt att ange frågor med en liten begränsning på endast 10 frågor. Han fortsätter att förklara viktiga begrepp som ordtokenisering, textpositioner och vikter, iterativ förbättring av nästaordsförutsägelse och det slutliga valet av utmatningstoken, som representerar det förutsagda sista ordet i sekvensen.
Även om Anand använder en relativt kompakt version av GPT-2 är det viktigt att notera att hans implementering pushar gränserna för Excels kapaciteter. Dock varnar han för att försöka använda detta Excel-fil på Mac, eftersom det kan leda till krascher och frysningar. Dessutom är kalkylbladet för närvarande inte kompatibelt med molnbaserade kalkylbladsapplikationer. Det rekommenderas starkt att använda den senaste versionen av Excel för optimal prestanda. Det är avgörande att betona att detta kalkylblad primärt fungerar som en utbildningsinsats och en källa till nöje för Anand.
En anmärkningsvärd fördel med att köra denna språkmodell inom Excel på din dator är att den fungerar helt offline utan att behöva API-anrop till molnet. Detta säkerställer fullständig lokal drift och dataskydd.
Vanliga Frågor (FAQ):
The source of the article is from the blog radardovalemg.com