**대형 언어 모델 (LLMs)과 생성 타 공능 인공지능 기술은 기업이 운영하는 방식을 변화시키고 있습니다**, 회사들이 이러한 발전을 시스템에 쉽게 통합할 수 있도록 됨에 따라 LLMs의 배치가 이전보다 더 접근 가능해졌습니다. 오픈 소스 모델, 클라우드 기반 AI 서비스, 다양한 라이선싱과 같은 옵션들을 통해 LLMs를 배치하는 것이 가능해졌습니다.
LLMs를 비즈니스 환경에서 적용할 때, **회사들은 특정한 요구사항과 예산에 기반한 다양한 옵션들을 고려해야 합니다**. 주요 LLM 통합 방법에는 직접 회사 시스템에 통합하는 방법이나 벤더가 제공하는 기존 AI 도구를 활용하는 방법이 포함됩니다.
직접 통합은 주로 API를 통해 이루어지며, 이를 통해 OpenAI와 같은 AI 벤더의 LLM에 접근할 수 있습니다. 반면, 회사들은 Microsoft의 AI 어시스턴트 ‘Microsoft Copilot’과 같은 사용 준비 도구 또는 OpenAI의 ‘GPT’ 변형 ‘OpenAI Codex’가 제공하는 자동 완성과 제안을 통해 코딩을 가속화하는 GitHub의 자동 코딩 도구 ‘GitHub Copilot’과 같은 사용 준비 도구를 선택할 수 있습니다.
거기에 Salesforce, Oracle, SAP와 같은 소프트웨어 거물은 자사 서비스 내에서 LLM에 대한 액세스를 제공합니다. Oracle은 ‘Oracle Cloud Infrastructure’ (OCI)를 통해 LLM의 사용을 허용하면서 동시에 프로플리어리 데이터로 사용자 지정 LLM을 훈련할 수 있도록 지원합니다. SAP는 고객 데이터를 LLM과 통합함으로써 자사 ERP 시스템 ‘SAP S/4HANA Cloud’ 내에서 벡터 형태의 데이터를 관리하며 기업 데이터에 기초한 쿼리에 답변할 수 있도록 LLM을 활용합니다.
**비즈니스 활용을 위한 적합한 LLM을 선택하는 것**은 신중하게 고려해야 합니다. 특히 고유의 또는 오픈 소스 LLM 중 선택하는 것은 대부분의 경우 고유 LLM 모델의 즉시 사용 가능성과 구독 혜택을 오픈 소스 모델의 잠재적인 비용 절감과의 대비하여 고려해야 합니다. 후자의 경우 운영 및 훈련 비용을 고려해야 합니다. LLM의 훈련을 위해서는 종종 상당한 컴퓨팅 자원이 필요하며, 서버 벤더들은 AI 워크로드를 효과적으로 처리하기 위해 특별히 설계된 제품을 제공합니다.
주요 오픈 소스 LLM에는 Meta Platforms의 ‘LLaMa2’, Google의 ‘BERT’, 그리고 기술 혁신 연구소의 ‘Falcon-40B’ 등이 있습니다. 회사들은 ‘Hugging Face’의 ‘Open LLM Leaderboard’와 같은 비교 도구를 활용하여 다양한 LLM의 강점, 약점 및 하드웨어 효율성에 대해 보다 잘 이해할 수 있습니다.
기업들이 채택 가능한 옵션으로서의 개인 LLM의 탐색은 계속될 것입니다.