Microsoftas pagerino žaidimą debesų skaičiavimo sektoriuje pristatydama naujus „Azure“ virtualius kompiuterius su naujausiais „AMD Instinct MI300X“ dirbtinio intelekto pagreitintuvais. Šie galingi kompiuteriai buvo pabrėžti „Microsoft Build 2024“ renginyje ir jau buvo priimti iškilios AI šiam sektoriui skirtos įmonių.
„Azure AI Production“ darbo apkrovos, įskaitant „Azure OpenAI“ paslaugas, kurios naudoja didelius kalbos modelius, tokius kaip GPT-3.5 ir GPT-4, yra šios pažangios skaičiavimo infrastruktūros naudos gavėjai. „Hugging Face“, pirmaujanti prancūzų-amerikiečių AI įmonė, greitai perėjo savo AI modelius į „Azure ND MI300X“ mašinas per vieną mėnesį, liudijančią apie mašinos galimybę ir pritaikomumą.
Šiam greitam prisitaikymui padeda „AMD“ atviro kodo programinės įrangos platforma „ROCm“. Ši platforma yra sukurtas paprastam modelių perkėlimui įvairiuose sistemose ir papildo „Azure AI“ architektūrą. Ji palaiko įvairias AI bibliotekas ir karkasus, tokius kaip „TensorFlow“, „PyTorch“, „ONNX Runtime“, „DeepSpeed“ ir „MSCCL“, kurie yra svarbūs čiaudžiant stabilius AI taikymus.
„Microsoft“ pripažino svarbų stipraus skaičiavimo aparatinės įrangos ir būtinos optimizacijos derinį tiek sistemose, tiek programinėje įrangoje, siekiant pasiekti įspūdingą AI veikimą ir ekonominį efektyvumą. Šis bendradarbiavimo su „AMD“ pastangas naudoja „ROCm“ ir „MI300X“, kad „Microsoft“ AI kūrėjai galėtų pasiekti puikius rezultatus sąnaudų ir veikimo santykių srityje.
„Azure ND MI300X“ galios aplinkybės apima 304 skaičiavimo blokus ir 192 GB HBM atminties kiekviename „AMD Instinct MI300X“ pagreitinyje, pagrįstame inovatyvia „CDNA 3“ architektūra. Vienas toks kompiuteris su aštuoniais šiais pagreitinais turės 2432 skaičiavimo blokų, 1,5 TB atminties ir įspūdingą maksimalų dažnių kanalą, siekiantį 42,4 TB/s.
Šie virtualūs kompiuteriai yra pagrindas „Microsoft“ AI infrastruktūroje, veikiantys GPT-4 Turbo ir palaikant svarbias užduotis „M365 Copilot“, kaip šneka, teksto apdorojimas ir susitikimų rengimas komandose.
Be to, vaizdo srautų darbinei apkrovai, kaip pvz., „Teams“ ir „SharePoint“ taikymuose, „Microsoft“ įdiegė „AMD“ „Alveo MA35D“ AI medijos pagreitintuvą. Ši platforma specializuojasi AI sustiprintai vaizdo kokybei ir palaiko AV1 kodavimo standartą, parodant įmonės įsipareigojimą tiekti aukštos kokybės multimedijos patirtį.
Kadangi „Microsoft“ pristato šias pažangias „Azure AI“ virtualias mašinas, veikiamas „AMD“, daug kyla svarbių klausimų ir apmąstymų dėl technologijos potencialo, taikymo atvejų ir pramonės poveikio.
Svarbūs klausimai:
– Kaip „Azure ND MI300X“ virtualiosios mašinos lyginamos su kitais debesų paslaugų teikėjų pasiūlymais?
– Koks yra „Azure“ AI infrastruktūros potencialus įtaka įmonių masto AI sprendimų plėtrai?
– Kokios yra saugumo reikšmės statydami tokius galingus AI modelius debesyje?
– Kaip šios pažangios virtualiosios mašinos prieinamos mažosioms ir vidutinėms įmonėms?
Atsakymai:
– Microsoftas „Azure“ AI virtualias mašinas sukūrė siekdamas konkuruoti su kitų didžiųjų debesų paslaugų teikėjų, tokių kaip AWS ir „Google Cloud“, siūlymais, ypač AI ir mašininio mokymosi specializuotais skaičiavimo uždaviniais. Dažnai jie lyginami pagal veikimą, kainą ir palaikomus ekosistemas.
– Ši pažangi infrastruktūra turi potencialą ženkliai pagreitinti įmonių masto AI sprendimų plėtrą ir įdiegimą, suteikdama įmonėms padidintą skaičiavimo galios, reikalingos sudėtingoms AI modeliavimo užduotims.
– Didelė galia reikalauja didelės atsakomybės, ir šios galingos AI galimybės gali kelti saugumo klausimus. Microsoftas turi patikimas saugumo priemones, tačiau AI diegimas debesyje pareikalaus papildomo budrumo dėl duomenų privatumo ir teisinių reikalavimų.
– Nors tokių pažangių virtualių mašinų paprastai kainuoja labai brangiai, todėl mažesnėms įmonėms jos gali būti sunkiau prieinamos, debesų pagrindu modelis leidžia skalauti pagal poreikį, padarant šias AI galimybes panaudojimui mažosioms ir vidutinėms įmonėms potencialiai efektyvesnes.
Pagrindinės iššūkiai ar ginčai:
Vienas iš iššūkių, susijusių su debese pagrįstomis AI VM, yra užtikrinti duomenų privatumą ir saugumą. Tokių galingų AI įrankių naudojimas duomenų apdorojimui kelia klausimus apie duomenų apsaugą ir atitikimą reglamentams, tokiais kaip GDPR ar HIPAA. Be to, gali pasireikšti etiniai klausimai, susiję su AI naudojimu, tokie kaip algoritminis pasibaisėjimas ir technologijos piktnaudžiavimas.
Privalumai:
– „AMD Instinct MI300X“ pagreitintuvai leidžia pasiekti išskirtinį skaičiavimo veikimą, kas yra naudinga AI darbų našumui, reikalaujantiems didelių skaičiavimų.
– „AMD“ atviro kodo „ROCm“ platformos įtraukimas skatina bendradarbiavimą ir lengvai plėtros per įvairias sistemas galimybes.
– „Microsoft“ infrastruktūra palaiko naujausius AI modelius, padedant įmonėms išlikti technologijų priekyje.
Trūkumai:
– Tokių labai specializuotų VM naudojimo kaštai gali būti kliūtis mažesnėms įmonėms su ribotomis biudžetais.
– AI technologijų kompleksiškumas reikalauja profesionalų, kurie gali būti ne prieinami kiekvienai įmonei.
– Kadangi AI technologija sparčiai tobulėja, gali prireikti dažnų atnaujinimų ir investicijų, kad būtų galima išlikti su naujausiomis patobulinimais.
Norėdami gauti daugiau informacijos apie „Microsoft“ „Azure“ paslaugas, galite apsilankyti jų oficialiame tinklalapyje: Azure.
Išsamesniam „AMD“ ir jų technologijų pasiūlymų informacijai galite kreiptis į oficialų „AMD“ tinklalapį: AMD.
Pateikiau tik bendrus nuorodas į pagrindinius domenus, kadangi tikslumas ir aktualumas būtų išlaikyti, nurodžius per daug specifinių URL, kurie laikui bėgant gali pasikeisti arba tapti pasenusiais.