In un’imprevista svolta di eventi, il lancio del chatbot di intelligenza artificiale (AI) Gemini da parte di Google è stato messo sotto scrutinio, rivelando una mancanza di adesione alle politiche interne. Secondo un ex dipendente di alto livello, Google ha abbandonato il proprio focus sulla “equità” e ha preso significativi “cortocircuiti” per portare Gemini sul mercato, nonostante le preoccupazioni sollevate durante la Revisione dei Principi di AI.
In passato conosciuto come Bard, Gemini è stato sottoposto a un rigoroso processo di revisione da parte di esperti che lo hanno giudicato non sicuro e hanno consigliato di non rilasciarlo. Tuttavia, le accuse suggeriscono che all’epoca la Direttrice dell’Innovazione Responsabile (RESIN), Jen Gennai, abbia modificato le risposte e spinto il prodotto per il rilascio, ignorando questi avvertimenti. Mentre Gennai ha difeso la sua decisione affermando che si trattava di un prodotto di anteprima con diversi standard di revisione, gli addetti ai lavori hanno respinto le sue affermazioni come infondate.
Durante lo sviluppo di Gemini, alcuni dipendenti hanno espresso preoccupazioni sui risultati iniziali dei set di dati e degli embedding utilizzati. Un dipendente ha addirittura suggerito di costruire uno strumento per analizzare gli apprendimenti del modello. Tuttavia, la fonte sostiene che le loro preoccupazioni siano state respinte, poiché l’urgenza di competere con ChatGPT, un’AI emergente, ha avuto la priorità.
Fino a novembre 2022, Google è stato il principale attore nel campo dell’AI e i suoi strumenti erano liberamente disponibili per altri per costruire aziende su di essi. Tuttavia, il rilascio di ChatGPT, che vantava capacità di AI superiori, ha interrotto il predominio di mercato di Google. I suoi prodotti principali in termini di entrate, come i guadagni pubblicitari di YouTube e la ricerca Google, stavano subendo erosioni da parte di concorrenti come TikTok.
L’emergere di ChatGPT senza alcun prodotto concorrente ha mandato Google nel panico, con rapporti riguardanti una situazione di “codice rosso” che circolavano all’interno dell’azienda. Il CEO Sundar Pichai ha guidato incontri per pianificare la risposta di Google, portando a riassegnazioni e un rinnovato focus sull’AI generativa in dipartimenti vitali come Google Research. Per rimanere avanti, Google ha deciso di prendere dei “cortocircuiti”, ignorando le preoccupazioni sulla equità e il bias, a condizione che non danneggiasse individui o non influenzasse negativamente l’immagine dell’azienda.
Questa svolta nella strategia ha coinciso con dei cambiamenti all’interno del team RESIN. Il team è stato assorbito da altri dipartimenti, come l’Ufficio della Conformità e Integrità e i team della fiducia e della sicurezza. Di conseguenza, il processo di revisione dei principi di AI si è spostato dal focus sull’impatto degli utenti ai rischi aziendali per Google.
La causa alla base di questi problemi risiede nella cultura di Google, che dà priorità al lancio e all’atterraggio di nuovi prodotti sopra ogni altra cosa. I dipendenti vengono valutati per la loro capacità di creare e lanciare nuove cose, anziché migliorare i prodotti esistenti. La pressione per lanciare e dimostrare leadership crea una mentalità che spesso trascura adeguata coordinazione e test approfonditi.
Inoltre, la mancanza di coordinazione tra team con differenti leadership aggrava queste sfide. Il team di AI generativa o il team di ricerca dell’immagine, ad esempio, non erano obbligati a collaborare o consultare il team della equità o coloro responsabili delle pratiche etiche dei dati. Questa mancanza di coordinazione ha probabilmente contribuito al caos che è seguito quando Gemini è stato rilasciato al pubblico.
Nella corsa per competere, Google ha fatto compromessi e le conseguenze stanno emergendo. Il lancio di Gemini AI ha gettato luce sui meccanismi interni e sui potenziali difetti nei processi decisionali dell’azienda. Serve come promemoria che nella ricerca dell’innovazione, le considerazioni etiche e i test approfonditi non dovrebbero mai essere sacrificati.
Domande frequenti
- Cos’è Gemini AI?
Gemini AI è un chatbot di intelligenza artificiale sviluppato da Google. - Quali preoccupazioni sono state sollevate durante la Revisione dei Principi di AI per Gemini AI?
Gli esperti responsabili della revisione hanno giudicato Gemini non sicuro e hanno consigliato di non rilasciarlo. - In che modo l’emergere di ChatGPT ha influito su Google?
Il rilascio di ChatGPT ha rappresentato una minaccia significativa per il modello di business di Google poiché superava le offerte di Google in termini di capacità di AI. - Perché Google ha dato priorità al lancio di Gemini AI?
La decisione di Google di affrettare il lancio di Gemini AI è stata determinata dalla necessità di competere con ChatGPT e proteggere la propria posizione di mercato. - Quali fattori hanno contribuito ai problemi relativi al rilascio di Gemini?
La cultura di Google che dà priorità ai nuovi lanci di prodotti, la mancanza di coordinazione tra i team e lo spostamento del focus sui rischi aziendali sono tra i fattori che hanno contribuito ai problemi con il rilascio di Gemini.
Fonti:
Per ulteriori informazioni sull’industria dell’AI, le previsioni di mercato e le problematiche relative al settore dell’AI, puoi fare riferimento alle seguenti fonti.
The source of the article is from the blog kunsthuisoaleer.nl