Nvidia가 Microsoft와 협력하여 AI 기반 애플리케이션의 성능을 Nvidia의 RTX 그래픽 카드에서 바로 발휘할 수 있도록 하였습니다. Computex 2024에서 두 회사는 뉴럴 프로세싱 유닛(NPU)에만 의존하는 대신 개발자들이 다양한 Small Language Models (SLMs)—Copilot+ 런타임의 중요 기능—를 사용자의 GPU에서 사용할 수 있도록 허용하는 Application Programming Interface (API)에 대한 협력을 발표했습니다.
기억 및 실시간 자막과 같은 특징의 기초로 사용되는 SLMs는 이제 GPU의 높은 일반적인 AI 성능을 활용할 수 있습니다. 이러한 개발은 Copilot+ 환경에 묶인 AI 애플리케이션을 해제하여 NPU를 갖추지 않은 PC들에게까지 도달할 수 있도록 합니다.
이전에 Copilot+ 개인 컴퓨터들은 적어도 초당 40조 연산을 실행할 수 있는 NPU가 필요했습니다. 현재는 Snapdragon X Elite 칩셋만이 이러한 요구 사항을 충족시킬 수 있었습니다. 그러나 GPU는 이러한 성능을 능가하며, 하위 모델에서는 100 TOPS에 이르기도 하고 고급 모델에서는 이보다 훨씬 뛰어난 성능을 제공합니다.
새로운 API는 Copilot 런타임으로 Enhanced Retrieval Generation (ERG) 기능을 가져오며, AI 모델이 특정 지역 정보에 액세스하여 더 관련성 있는 솔루션을 제공할 수 있도록 합니다. 이는 이전에 Nvidia의 Chat with RTX에서 이미 증명되었습니다.
API 이외에도 Nvidia는 Computex에서 RTX AI 툴킷을 발표했습니다. 6월에 출시 예정인 이 툴킷은 다양한 개발자 도구와 소프트웨어 개발 키트(SDKs)를 결합하여 특정 애플리케이션에 대한 미세 조정된 AI 모델을 가능케 합니다. Nvidia에 따르면, RTX AI 툴킷은 오픈 소스 대안에 비해 모델 생성을 최대 4배 빠르고 3배 작게 만들 수 있습니다.
개발자 도구의 급속한 발전은 사용자별 AI 애플리케이션의 창조를 촉진합니다. Copilot+ PC에서 일부 기능은 이미 보여졌지만, 더 정교한 AI 애플리케이션이 내년에 기대됩니다. 이제 적절한 하드웨어가 위치하고 있으므로, 개발자들은 이러한 애플리케이션의 전체 잠재력을 활용하기 위한 프로그래밍만 필요합니다.
중요 질문 및 답변:
1. Nvidia와 Microsoft의 파트너십은 새롭게 발표된 API를 통해 어떤 목표를 이루고자 합니까?
이 파트너십은 개발자들이 Small Language Models (SLMs)를 Nvidia의 RTX GPU에서 실행하여 Neural Processing Units (NPUs)로 제한되는 것을 방지하고, Recall 및 Live Captions와 같은 AI 기반 기능을 NPU 기능이 없는 기기로도 확장할 수 있도록 하기 위한 것입니다.
2. 이 협력은 NPU가 없는 PC에 어떻게 이익을 줄까요?
이 협력을 통해 AI 작업에 특화된 기존 Nvidia RTX GPU를 사용하여 NPU 하드웨어가 없는 PC에서도 AI 애플리케이션을 위해 SLMs를 실행할 수 있게 되어, 기술을 보다 접근 가능하게 만들 수 있습니다.
3. AI 애플리케이션 개발에 대한 잠재적인 영향은 무엇인가요?
Nvidia의 새로운 RTX AI 툴킷을 통해 개발자들은 고급 도구와 SDK에 액세스할 수 있으며, 이는 효율적이고 강력한 AI 모델을 만드는 능력을 크게 향상시킬 것으로 기대됩니다. 생성 프로세스를 가속화하고 모델 크기를 줄이면서 혁신적이고 맞춤화된 AI 애플리케이션 범위를 더욱 확대할 것으로 예상됩니다.
주요 도전과 논란:
데이터 개인 정보 보호 및 보안: AI가 더 많은 장치 및 애플리케이션에 통합되는 가운데, 데이터가 어떻게 사용되고 보호되는지에 대한 우려가 있습니다. 지역 GPU에서 SLMs를 사용하는 것은 데이터를 보호하기 위한 적절한 조치가 없으면 취약점으로 이어질 수 있습니다.
접근성과 공평성: AI 발전은 고급 하드웨어를 갖춘 사용자에게만 제공되어서는 안 됩니다. 이러한 발전을 보다 다양한 사용자들이 이용할 수 있도록 노력해야 하며, 그렇지 않으면 기술 접근 격차가 커질 우려가 있습니다.
장점:
– 더 넓은 접근: 개발자들은 널리 사용되는 RTX GPU의 계산 능력을 활용하여 AI 기반 애플리케이션을 만들 수 있습니다.
– 성능: Nvidia RTX GPU는 높은 TOPS 성능을 제공하여 보다 강력한 AI 애플리케이션을 가능케 합니다.
– 개발 속도: RTX AI 툴킷은 오픈 소스 대안에 비해 AI 모델을 빠르고 효율적으로 만들 수 있습니다.
단점:
– 하드웨어 의존: 이 협력은 접근을 확대하지만 Nvidia RTX GPU가 필요하므로 일부 사용자에게는 장벽이 될 수 있습니다.
– 복잡성: 고급 AI 애플리케이션 개발에는 상당한 기술 전문지식이 필요하며, 이는 새로운 도구를 활용할 수 있는 사람을 제한할 수 있습니다.
Nvidia와 Microsoft의 도메인에 대한 더 자세한 내용은 다음을 방문하실 수 있습니다:
– Nvidia
– Microsoft