마이크로소프트는 클라우드 컴퓨팅 부문에서 게임을 강화했으며, 새로운 Azure 가상 머신을 소개했습니다. 최첨단 AMD Instinct MI300X 인공 지능 가속기로 적재되어 있습니다. 이 강력한 머신들은 마이크로소프트 빌드 2024 이벤트에서 강조되었으며, 이미 유명한 AI 중심 기업들에 의해 받아들여졌습니다.
Azure AI 프로덕션 워크로드, 특히 GPT-3.5와 GPT-4와 같은 방대한 언어 모델을 활용하는 Azure OpenAI 서비스는 이러한 고급 컴퓨팅 인프라의 수혜자입니다. 프랑코-미국 인공 지능 기업 중 하나인 Hugging Face는 AI 모델을 1개월 만에 Azure ND MI300X 머신으로 신속히 전환하여, 이 머신의 능력과 적응성을 입증했습니다.
이 신속한 적응을 돕는 데 AMD의 오픈소스 소프트웨어 플랫폼인 ROCm이 있습니다. 이 플랫폼은 다양한 시스템 간에 간단한 모델 이식을 가능하게 하는 것으로, Azure AI 아키텍처를 보완합니다. TensorFlow, PyTorch, ONNX Runtime, DeepSpeed, MSCCL 등 다양한 AI 라이브러리와 프레임워크를 지원하여 강력한 AI 응용프로그램 개발에 기여합니다.
마이크로소프트는 강력한 계산 하드웨어와 시스템 및 소프트웨어의 필요한 최적화의 중요한 결합을 인정했습니다. 이 AMD와의 협업은 ROCm 및 MI300X를 활용하여 마이크로소프트 AI 개발자가 뛰어난 비용 대 성능 결과를 달성할 수 있도록 합니다.
Azure ND MI300X의 파워는 혁신적인 CDNA 3 아키텍처를 기반으로 한 AMD Instinct MI300X 가속기마다 304개의 컴퓨팅 유닛과 192 GB의 HBM 메모리를 포함합니다. 이러한 가속기가 8개 탑재된 단일 머신은 총 2432개의 컴퓨팅 유닛, 1.5 TB 메모리, 그리고 42.4 TB/s의 놀라운 최대 대역폭을 자랑합니다.
이 가상 머신들은 마이크로소프트의 AI 인프라의 핵심이며, GPT-4 Turbo의 작동을 담당하며 Teams에서의 채팅, 워드 처리, 및 회의를 지원합니다.
더 나아가, Teams 및 SharePoint와 같은 애플리케이션에서 볼 수 있는 비디오 스트리밍 워크로드를 위해, 마이크로소프트는 AMD의 Alveo MA35D AI 미디어 가속기를 구현했습니다. 이 플랫폼은 AI로 향상된 이미지 품질 최적화에 특화되어 있으며 AV1 인코딩 표준을 지원하여 높은 품질의 멀티미디어 경험 제공에 대한 회사의 약속을 보여줍니다.
마이크로소프트가 AMD의 파워를 이용하여 소개하는 이러한 고급 Azure AI 가상 머신들과 관련하여 기술의 잠재력, 사용 사례, 및 산업 파급 효과에 대한 몇 가지 주요한 질문 및 고려 사항이 있습니다.
주요 질문:
– Azure ND MI300X 가상 머신이 다른 클라우드 서비스 제공업체들의 제공물과 어떻게 비교되는가?
– 마이크로소프트의 Azure AI 인프라가 기업 규모의 AI 솔루션 개발에 미치는 잠재적 영향은 무엇인가?
– 이러한 강력한 AI 모델을 클라우드 상에 배포하는 것이 일으키는 보안적 영향은 무엇인가?
– 이러한 고급 가상 머신들이 중소기업들에게 얼마나 접근하기 쉬운가?
대답:
– 마이크로소프트의 Azure AI 가상 머신들은 AWS나 Google Cloud와 같은 주요 클라우드 제공업체들의 제공목과 경쟁하도록 디자인되었습니다, 특히 AI 및 머신 러닝 전문 컴퓨팅 작업 측면에서. 그들은 종종 성능, 비용, 그리고 그들이 지원하는 생태계를 기반으로 비교됩니다.
– 이러한 고급 인프라는 기업 규모의 AI 솔루션 개발 및 배포를 크게 가속화시킬 수 있는 잠재력이 있어, 복잡한 AI 모델링을 위한 필요한 증가된 컴퓨팅 파워를 기업에 제공합니다.
– 커다란 파워가 따르며, 이러한 강력한 AI 능력은 보안 문제도 제기할 수 있습니다. 마이크로소프트는 강력한 보안 조치를 취하지만, 클라우드에서 AI를 배포하는 것은 데이터 개인 정보 보호와 규정 준수 측면에서 추가적인 주의를 요구합니다.
– 이러한 고급 가상 머신이 전반적으로 매우 비싼지라, 이러한 AI 능력을 활용하는 것이 작은 기업들에게는 접근하기 어려울 수 있지만, 클라우드 기반의 모델을 통해 필요에 따라 확장이 가능하므로, 중소기업들이 이러한 AI 능력을 활용할 수 있는 가능성이 있습니다.