ML/AI-kehityksen nopeatempoisessa maailmassa on ensiarvoisen tärkeää, että infrastuktuuri pystyy vastaamaan ML-insinöörien vaatimuksiin. Hidastuvat rakennusajat ja tehottomuudet pakkaus- ja jakelutiedostojen hallinnassa voivat hidastaa tuottavuutta ja tuhlata arvokasta aikaa.
Näiden haasteiden käsittelemiseksi tiimimme ryhtyi proaktiivisiin toimenpiteisiin hidastuvien rakennusten ja tehottomuuksien käsittelyssä, mikä johti merkittävään yläpuolisen toiminnan vähenemiseen ja parantuneeseen tehokkuuteen.
Sen sijaan, että luottaisimme toistuvaan rakentamiseen ja linkittämiseen vaativiin vanhentuneisiin versioihin, keskityimme minimointiin virtaviivaistamalla rakennuskaavioita ja optimoimalla riippuvuuksien laskennat. Tämä lähestymistapa vähensi merkittävästi kattavaa uudelleenrakennusta ja paransi kokonaisrakennuksen nopeutta.
Toinen suuri haasteemme oli suoritettavien tiedostojen pakkaus ja jakelu. Ratkaistaksemme tämän haasteen otimme käyttöön CAF (Content Addressable Filesystem) -nimisen inkrementaalisen lähestymistavan. Hyödyntämällä sisältöön perustuvaa lähestymistapaa CAF älykkäästi väistää toistuvat tiedostojen lataukset, jotka ovat jo läsnä sisältöä osoitettavassa tallennuksessa (CAS). Tämä vähentää paitsi pakkausaikaa myös suurten suoritettavien tiedostojen käsittelyn aiheuttamaa hakkuuskapasiteettia.
Parantaaksemme CAF-järjestelmän tehokkuutta, olemme asentaneet CAS-daemonin suurimpaan osaan datakeskuksemme isäntiä. Tämä daemoni vastaa paikallisten välimuistien ylläpidosta, organisaatiosta vertaisverkkoon muiden CAS-daemonien instanssien kanssa ja sisällön hakun optimoinnista. Hyödyntämällä tätä verkkoa voimme hakea sisältöä suoraan muilta instansseilta, mikä vähentää viiveitä ja tallennustilan kaistanleveyttä.
Toisin kuin perinteiset kerrosperusteiset ratkaisut, kuten Dockerin OverlayFS, lähestymistapamme asettaa suoran tiedostojen käytön ja älykkään yhtäläisyysreitityksen etusijalle. Tämä mahdollistaa monen erilaisen riippuvuuden tehokkaan hallinnan useiden suoritettavien tiedostojen yli ilman kerrosjärjestelyn monimutkaisuutta. Lisäksi käyttämällä tiedostojärjestelmänä Btrfs:ää saamme hyötyä sen pakkausominaisuuksista ja kyvystä kirjoittaa pakattua tallennusdataa suoraan laajoiksi.
Käsittelemällä hidaiden rakennusten ja tehottoman suoritettavien tiedostojen pakkaus- ja jakeluhaasteet olemme mahdollistaneet ML-insinööreidemme työskentelyn tehokkaammin ja toimittaneet huippuluokan ratkaisuja. Painopisteemme uudelleenrakentamisen vähentämisessä, riippuvuuksien hallinnan optimoinnissa ja inkrementaalisessa pakkausratkaisussa on johtanut merkittäviin aikasäästöihin ja parantuneeseen tuottavuuteen AI/ML-kehitysprosessissamme.
UKK-osio:
K: Mitkä olivat tiimin kohtaamat haasteet AI/ML-kehityksessä?
V: Tiimi kohtasi haasteita hitaissa rakennusajoissa, tehottomuuksissa suoritettavien tiedostojen pakkaamisessa ja jakelussa sekä monien suoritettavien tiedostojen monipuolisten riippuvuuksien hallinnan monimutkaisuuksissa.
K: Miten tiimi käsiteli hitaita rakennuksia?
V: Tiimi käsiteli hitaita rakennuksia virtaviivaistamalla rakennuskaaviota ja optimoimalla riippuvuuksien laskennat, mikä vähensi kattavan uudelleenrakentamisen tarvetta ja paransi kokonaisrakentamisen nopeutta.
K: Miten tiimi ratkaisi suoritettavien tiedostojen pakkaus- ja jakeluhaasteet?
V: Tiimi otti käyttöön inkrementaalisen lähestymistavan nimeltä Content Addressable Filesystem (CAF), joka älykkäästi ohittaa toistuvat tiedostojen lataukset, jotka ovat jo läsnä sisältöä osoitettavassa tallennuksessa (CAS). Tämä vähentää pakkausaikaa ja minimoituu tiedostojen hakemisesta aiheutuva ylimääräinen työ.
K: Mikä on datakeskuksen isäntiin asennetun CAS-daemonin tarkoitus?
V: CAS-daemoni vastaa paikallisten välimuistien ylläpidosta, organisaatiosta vertaisverkkoon muiden CAS-daemonien instanssien kanssa ja sisällön hakun optimoinnista. Se mahdollistaa sisällön suoran noutamisen muilta instansseilta, mikä vähentää viiveitä ja tallennustilan kaistanleveyttä.
K: Miten tiimi hallitsee riippuvuuksia kerrosjärjestelyn monimutkaisuutta välttäen?
V: Toisin kuin perinteiset ratkaisut, tiimi asettaa etusijalle suoran tiedostojen käytön ja älykkään yhtäläisyysreitityksen kerrosperusteisten ratkaisujen, kuten Dockerin OverlayFS:n, sijasta. Tämä lähestymistapa mahdollistaa monipuolisten riippuvuuksien tehokkaan hallinnan useiden suoritettavien tiedostojen yli.
K: Mitä tiedostojärjestelmää tiimi käyttää ja mitä etuja se tarjoaa?
V: Tiimi käyttää tiedostojärjestelmänä Btrfs:ää, joka tarjoaa pakkausominaisuuksia ja kyvyn kirjoittaa pakattua tallennusdataa suoraan laajoiksi. Tämä tehostaa tehokkuutta ja tallennustilan ominaisuuksia.
Määritelmät:
– AI/ML: Lyhenne sanoista Artificial Intelligence/Machine Learning, viittaa algoritmeihin ja malleihin, jotka mahdollistavat tietokoneiden suorittaa tehtäviä ilman nimenomaista ohjeistusta.
– ML-insinöörit: Viittaa koneoppimiseen erikoistuneisiin insinööreihin, jotka kehittävät, toteuttavat ja optimoivat koneoppimisalgoritmeja ja -malleja.
– Uudelleenrakentaminen: Ohjelmiston tai koodin uudelleen rakentamisen tai jälleenrakentamisen prosessi.
– Pakkaus: Ohjelmiston valmistelu jakelua varten niputtamalla se liittyviin tiedostoihin ja riippuvuuksiin.
– Content Addressable Filesystem (CAF): Tiedostojärjestelmä, joka tunnistaa tiedostot niiden sisällön perusteella sijainnin tai nimen sijaan, mahdollistaen tehokkaan tallennuksen ja huolenpidon.
– Content Addressable Storage (CAS): Tallennusjärjestelmä, jossa sisältöä viitataan ja tunnistetaan ainutlaatuisilla tunnisteilla, helpottaen päällekkäisyyksien poistamista ja tehokasta tiedon noutoa.
– Riippuvuus: Ohjelmiston komponentti tai kirjasto, josta toinen ohjelmisto riippuu suorittaakseen oikein.
– Viive: Aikaviive pyynnön tekemisen ja vastauksen saamisen välillä.
– Kaistanleveys: Maksimaalinen tiedonsiirtonopeus tietyllä polulla tai verkossa.
– Btrfs: Linuxille suunniteltu ”copy-on-write” -tiedostojärjestelmä, joka tarjoaa ominaisuuksia kuten täydellisesti kopioiva tilannevedos, aliotteet, pakkaus ja skaalautuvuus.
Liittyvät linkit:
– Hajautettu reaktiivinen ohjelmointi
– Amazonin koneoppiminen
– Tehokas hajautettu koneoppiminen: Yhden solmun näkökulma
The source of the article is from the blog macnifico.pt