Meta, technologijų gigantas, pristatė šįmet dar vieną svarbų žingsnį dirbant su dirbtine intelektika (AI). Įmonė pristatė du naujausios kartos GPU klasterius, kuriuose įrengti įspūdingi 24,576 GPU. Šie klasteriai yra skirti laikyti ir paremti AI modelius įvairioms sritims, įskaitant labai laukiamą „Llama 3“.
Turėdama tvirtą įsipareigojimą atvira skaičiavimo ir atvira šaltine, Meta pastatė šiuos klasterius ant Grand Teton, OpenRack ir PyTorch pagrindų. Ši investicija yra tik vienas žingsnis Meta ambicingame infrastruktūros plane, nes įmonė siekia toliau plėsti savo GPU infrastruktūrą nuo stulbinančių 350,000 NVIDIA H100 GPU iki 2024 metų pabaigos. Ši investicija reikšmingai padidins Meta skaičiavimo galimybes, leisiantiems jiems eiti pirmyn AI plėtros kelyje.
Metos AI Klasterių Buvimas:
Metos ilgalaikis vizijos tikslas yra sukurti dirbtinę bendrąją išmintį (AGI), kuri būtų atvira, atsakinga ir prieinama visiems. Šios vizijos dalis yra pasirinkti Meta ištekliai, siekiant išplėsti jų AI klasterius, kurie tarnauja kaip jų AI tyrimų ir plėtros pastangų pagrindas. Pažanga, padaryta link AGI, ne tik skatina naujus, AI orientuotus produktus, bet taip pat atidaro pažangias AI funkcijas jau esančioms programoms.
Iki šių naujausių klasterių, Metos AI infrastruktūra įtraukė AI Tyrimų Superklasterį (RSC), kuriame buvo įrengti 16,000 NVIDIA A100 GPU. Šis superklasteris buvo esminis atviro ir atsakingo AI tyrimo plėtros kūrimas, skatinantis pažangųjį AI modelių kūrimą, tokių kaip Llama ir Llama 2. Šie modeliai rado taikymo sričių įvairiose srityse, nuo kompiuterinės regos ir natūralios kalbos apdorojimo (NLP) iki kalbos atpažinimo ir paveikslėlių generavimo.
Inovacijų skatinimas efektyviais AI sistemais:
Vienas iš RSC sėkmingo projekto pagrindimo faktorių, Meta sutelkė dėmesį į visapusiškų AI sistemų plėtrą su stipriu mokslininkų ir kūrėjų patirties pabrėžimu. Nauji AI klasteriai integruoja aukštos našumo tinklo audinius ir saugojimo sprendimus, leisdami jiems priimti ir remti didesnius ir kompleksines modelius, nei RSC.
Meta sukurė vieną iš klasterių su nuotoliniu tiesioginiu atminties adresavimu (RDMA) revtą integruotu Ethernet (RoCE) tinklo struktūros sprendimu, pagrįstų Arista 7800 su Wedge400 ir Minipack2 OCP stalų jungikliais. Kitas klasteris turi „NVIDIA Quantum2 InfiniBand“ audinį. Abiejų sprendimų greitintuvo santykiuos yra 400 Gb/s, leidžiantis Meta įvertinti šiuos skirtingus sąsajos tipus ir jų tinkamumą dideliems mokymams. Ypatingai šie klasteriai parodė puikų veikimą nepraradus tinklo pralaidumo.
Kalbant apie skaičiavimo galimybes, abu klasteriai naudoja „Grand Teton“, Meta viduje sukurta GPU aparatinės įrangos platforma, kuri prisideda prie „Atviro Skaičiavimo Projekto“. Ši aparatinė platforma užtikrina greitą plečiamumą, lankstumą, pagerintą veikimą, signalo vientisumą ir termologinę efektyvumą. Kartu su Meta „Atvira Rack“ energijos ir laikiklių architektūra, „Grand Teton“ leidžia kurti klasterius, pritaikytus dabartinėms ir būsimoms AI programoms.
Augimo difrakcija „Tectonic”
Metos įveikiama sklaida laikoma jų AI klasterių laikymo poreikiais per jų nuosavybės Linux Failų Sistemos naudotojo erdvėje (FUSE) API, naudojant jų pasiskirstytos laikmenos sprendimo versiją, vadinamą „Tectonic“. Šis sprendimas palaiko sinchronizuotą taškų išsaugojimo ir įkrovimo darbą tūkstančiams GPU, išlaikydamas didelio pralaidumo laikmeną duomenų įkrovimui. Be to, Meta bendradarbiavo su Hammerspace, kad būtų išvystytas paralelinis tinklo failų sistema (NFS) diegimas, pagerinant kūrėjų patirtį, suteikiant interaktyvų derinimą ir darbą su darbais, kuriuose dalyvauja tūkstančiai GPU.
Dažnai Užduodami Klausimai
1. Kokia yra Meta naujų GPU klasterių paskirtis?
Meta naujieji GPU klasteriai skirti remti AI modelius ir tyrimus, įskaitant „Llama 3“ plėtrą ir įvairias taikymo sritis tiesioginės AI ir kitose srityse.
2. Kaip šie klasteriai prisideda prie Meta ilgalaikės vizijos?
Meta siekia sukurti dirbtinę bendrąją išmintį (AGI), kuri būtų atvore ir atsakinga. Šie GPU klasteriai yra svarbi investicija siekiant pasiekti šią viziją, nes jie skatins pažangių AI modelių kūrimą ir leis naujų AI produktų kūrimą.
3. Kas yra unikalu Meta požiūris į AI sistemų kūrimą?
Meta fokusuojasi į efektyvias AI sistemas, teikdama didelį dėmesį mokslininkų ir kūrėjų patirties pagerinimui. Jų klasteriai integruoja aukštos našumo tinklo audinius ir saugojimo sprendimus, leidžiantiems jiems priimti didesnius ir kompleksines AI modelius nei bet kada anksčiau.
4. Kaip Meta užtikrina efektyvų savo AI duomenų centrų veikimą?
Meta pritaiko savo, daugiausiai, paties kūrybos apie aparatinę įrangą, programinę įrangą ir tinklų audinius, leidžiantiems optimizuoti AI mokslininkų patirtis ir efektyvias duomenų centrų operacijas. Šis požiūris užtikrina labai pažangią ir lankstią infrastruktūrą, galinčią tvarkyti milžinišką AI modelių vykdymo mastą.
Šaltiniai: meta.com
Pagrindinės sąvokos ir jų apibrėžimai:
– AGI: Dirbtinė bendroji išmintis – tai labai savarankiškos sistemos, kurios pranoksta žmones daugelyje ekonomiškai vertingų darbų.
– GPU: Grafikos apdorojimo vienetas yra specializuotas elektroninis grandinė, kuri pagreitina vaizdų, vaizdo įrašų ir animacijų kūrimą ir atvaizdavimą.
– PyTorch: Populiari atviro kodo mašininio mokymosi biblioteka, kuri dažnai naudojama kurti ir mokyti AI modelius.
– Grand Teton: Meta viduje sukurta GPU aparatinio įrengimo platforma, kuri prisideda prie Atviro Skaičiavimo Projekto, teikianti greitą plečiamumą, lankstumą, pagerintą veikimą, signalo vientisumą ir termologinį efektyvumą.
Pasiūlytos susijusios nuorodos:
– Meta oficiali svetainė
The source of the article is from the blog mendozaextremo.com.ar