I grandi modelli linguistici (LLM) e la tecnologia AI generativa stanno trasformando il modo in cui le aziende operano, rendendo sempre più facile per le aziende integrare tali avanzamenti nei loro sistemi. Con opzioni come modelli open source, servizi di intelligenza artificiale basati su cloud e diverse licenze, il dispiegamento dei LLM non è mai stato così accessibile.
Quando si tratta di applicare i LLM in un contesto aziendale, le aziende hanno una varietà di opzioni da considerare in base alle proprie esigenze specifiche e al budget. I principali metodi di integrazione dei LLM includono l’inserimento diretto nei sistemi aziendali o l’utilizzo di strumenti AI esistenti forniti dai fornitori.
L’integrazione diretta viene spesso realizzata tramite API, consentendo l’accesso ai LLM dai fornitori di AI come OpenAI. In alternativa, le aziende possono optare per strumenti AI pronti all’uso, come l’assistente AI di Microsoft ‘Microsoft Copilot’, che sfrutta i LLM per rispondere a query in linguaggio naturale, e lo strumento di auto-codifica di GitHub ‘GitHub Copilot’, che accelera la codifica attraverso completamento automatico e suggerimenti, alimentato dalla variante ‘GPT’ di OpenAI ‘OpenAI Codex’.
Inoltre, giganti del software come Salesforce, Oracle e SAP offrono accesso ai LLM nei loro servizi. Oracle consente l’uso dei LLM tramite ‘Oracle Cloud Infrastructure’ (OCI), facilitando anche l’addestramento di LLM personalizzati con dati proprietari. SAP è impegnata nell’integrare i dati dei clienti con i LLM, gestendo i dati in forma vettoriale all’interno del suo sistema ERP, ‘SAP S/4HANA Cloud’, consentendo ai LLM di rispondere a query basate sui dati aziendali.
Scegliere il giusto LLM per l’utilizzo aziendale richiede una considerazione attenta. Nel decidere tra LLM proprietari o open source, bisogna valutare l’usabilità immediata e i vantaggi della sottoscrizione dei modelli proprietari rispetto ai potenziali risparmi dei modelli open source, anche se i costi di funzionamento e di addestramento devono essere considerati con questi ultimi. Spesso sono necessarie risorse computazionali significative per l’addestramento dei LLM, e i fornitori di server offrono prodotti progettati specificamente per gestire efficientemente i carichi di lavoro dell’AI.
I principali LLM open source includono ‘LLaMa2’ di Meta Platforms, ‘BERT’ di Google e ‘Falcon-40B’ dell’Istituto per l’Innovazione Tecnologica. Le aziende possono utilizzare strumenti di confronto come il ‘Quadro dei migliori LLM aperti’ di Hugging Face per comprendere meglio i punti di forza, i punti deboli e le efficienze hardware dei vari LLM.
L’esplorazione del mondo dei LLM privati continuerà mentre le imprese li considerano come opzioni valide per l’adozione.