V rychle se rozvíjejícím světě vývoje umělé inteligence a strojového učení (AI/ML) je klíčové mít infrastrukturu, která dokáže držet krok s požadavky ML inženýrů. Pomalé časy kompilace a neefektivnost v balení a distribuci spustitelných souborů mohou brzdit produktivitu a plýtvat cenným časem.
Abychom se vypořádali s těmito výzvami, náš tým podnikl preventivní opatření, abychom se postavili proti pomalým kompilacím a neefektivitě v balení. Výsledkem bylo výrazné snížení nadbytečných nákladů a zvýšení efektivity.
Namísto spoléhání se na zastaralé úpravy, které vyžadují opakované kompilace a odkazování, jsme se zaměřili na minimalizaci opakovaných kompilací optimalizací závislostí. Tento přístup významně snížil potřebu rozsáhlého opětovného kompilování a zlepšil celkovou rychlost kompilace.
Další velkou překážkou, které jsme čelili, bylo balení a distribuce spustitelných souborů. Pro překonání této výzvy jsme zavedli postupný přístup pomocí systému souborů obsahově zaměřeného (CAF). Díky tomu, že CAF inteligentně přeskakuje zbytečné nahrávání souborů, které již jsou přítomny v obsahově zaměřeném úložišti (CAS), se snižuje čas balení a minimalizuje odbavovací režim při práci s velkými spustitelnými soubory.
Pro zvýšení efektivnosti systému CAF jsme nasadili CAS démona na většině našich serverů v datovém centru. Tento démon je zodpovědný za udržování lokální cache, organizaci peer-to-peer sítě s dalšími instancemi démonů CAS a optimalizaci získávání obsahu. Díky této síti můžeme přímo získávat obsah z jiných instancí, což snižuje latenci a kapacitu šířky pásma úložiště.
Na rozdíl od tradičních řešení založených na vrstvách, jako je Docker OverlayFS, náš přístup upřednostňuje přímý přístup k souborům a chytré směrování provázanosti. To nám umožňuje efektivně spravovat různé závislosti mezi více spustitelnými soubory bez složitosti vrstvové organizace. Navíc, používáním Btrfs jako našeho souborového systému, těžíme z jeho kompresních funkcí a schopnosti zapisovat komprimovaná úložná data přímo do rozsahů.
Díky řešení pomalých kompilací a neefektivního balení a distribuce spustitelných souborů jsme umožnili našim ML inženýrům pracovat efektivněji a dodávat špičková řešení. Naše snaha o snížení opakovaných kompilací, optimalizaci správy závislostí a zavedení postupného balení přineslo značné úspory času a zlepšenou produktivitu v našem procesu vývoje AI/ML.
Časté otázky:
Otázka: S jakými výzvami se tým potýkal při vývoji AI/ML?
Odpověď: Tým se potýkal s pomalými časy kompilace, neefektivitou v balení a distribuci spustitelných souborů a složitostí správy různých závislostí mezi více spustitelnými soubory.
Otázka: Jak tým řešil pomalé kompilace?
Odpověď: Tým se s pomalými kompilacemi vypořádal optimalizací závislostí, což snížilo potřebu rozsáhlého opětovného kompilování a zlepšilo celkovou rychlost kompilace.
Otázka: Jak tým zvládl balení a distribuci spustitelných souborů?
Odpověď: Tým zavedl postupné přístupy pomocí systému souborů obsahově zaměřeného (CAF), který inteligentně přeskakuje zbytečné nahrávání souborů, které již jsou přítomny v obsahově zaměřeném úložišti (CAS). Tím se snižuje čas balení a minimalizuje se odbavovací režim.
Otázka: Jaký je účel CAS démona nasazeného na serverech v datovém centru?
Odpověď: CAS démon je zodpovědný za udržování lokální cache, organizaci peer-to-peer sítě s dalšími instancemi démonů CAS a optimalizaci získávání obsahu. Umožňuje přímé získávání obsahu z jiných instancí, což snižuje latenci a kapacitu šířky pásma úložiště.
Otázka: Jak tým spravuje závislosti bez složitosti vrstvové organizace?
Odpověď: Na rozdíl od tradičních řešení tým upřednostňuje přímý přístup k souborům a chytré směrování provázanosti místo vrstvových řešení, jako je Docker OverlayFS. Tento přístup umožňuje efektivní správu různých závislostí mezi více spustitelnými soubory.
Otázka: Jaký souborový systém tým používá a jaké výhody poskytuje?
Odpověď: Tým používá Btrfs jako svůj souborový systém, který poskytuje kompresní funkce a schopnost zapisovat komprimovaná úložná data přímo do rozsahů. To zvyšuje efektivitu a úložnou kapacitu.
The source of the article is from the blog be3.sk