Într-o mișcare surprinzătoare, lansarea chatbot-ului de inteligență artificială (AI) Gemini de către Google a stârnit controverse, dezvăluind o lipsă de respectare a politicilor interne. Conform unui fost angajat de rang înalt, Google a abandonat focusul lor pe „echitate” și a luat „shortcuturi” semnificative pentru a aduce Gemini pe piață, în ciuda îngrijorărilor ridicate în timpul Revizuirii Principiilor de AI.
Cunoscut anterior sub numele de Bard, Gemini a trecut printr-un proces exhaustiv de revizuire efectuat de experți care l-au considerat nesigur și au sfătuit împotriva lansării sale. Cu toate acestea, acuzațiile sugerează că atunci-Directorul de Inovație Responsabilă (RESIN), Jen Gennai, a editat răspunsurile și a impulsionat produsul pentru lansare, ignorând aceste avertismente. În timp ce Gennai și-a apărat decizia afirmând că era un produs de previzualizare cu standarde de revizuire diferite, insderii au respins afirmațiile ei ca fiind fără temei.
Pe durata dezvoltării lui Gemini, unii angajați au exprimat îngrijorări legate de rezultatele inițiale ale seturilor de date și embeddings folosite. Un angajat a sugerat chiar construirea unei unelte pentru a analiza învățăturile modelului. Cu toate acestea, sursa pretinde că îngrijorările lor au fost respinse, deoarece urgența de a concura cu ChatGPT, o AI emergentă, a avut prioritate.
Până în noiembrie 2022, Google era jucătorul dominant în domeniul AI, iar instrumentele sale erau disponibile gratuit pentru alții pentru a construi companii. Cu toate acestea, lansarea lui ChatGPT, care se lăuda cu capacități AI superioare, a perturbat poziția de lider pe piață a Google. Produsele sale de venituri de bază, cum ar fi veniturile din reclame de pe YouTube și Google Search, erau erodate de competitori precum TikTok.
Apariția lui ChatGPT fără niciun produs concurent a determinat Google să intre în panică, cu rapoarte despre o situație de „cod roșu” care circulă în cadrul companiei. CEO-ul Sundar Pichai a condus întâlniri pentru a elabora strategia de răspuns a Google, ceea ce a dus la redistribuiri și o concentrare sporită asupra AI generative în departamente vitale precum Google Research. Pentru a rămâne în frunte, Google a decis să ia scurtături, dând la o parte îngrijorările legate de echitate și bias, cu condiția să nu afecteze negativ persoanele sau imaginea companiei.
Această schimbare de strategie a coincis cu modificările din cadrul echipei RESIN. Echipa a fost absorbită de alte departamente, cum ar fi Biroul de Conformitate și Integritate și echipele de încredere și siguranță. Ca rezultat, procesul de revizuire a principiilor de AI s-a axat de la impactul asupra utilizatorului la riscurile de afaceri pentru Google.
Cauza subiacentă a acestor probleme stă în cultura Google, care prioritizează lansarea și încununarea noilor produse mai presus de orice. Angajații sunt măsurați după abilitatea lor de a crea și lansa lucruri noi, mai degrabă decât de a îmbunătăți produsele existente. Presiunea de a lansa și de a demonstra leadership-ul creează o mentalitate care adesea trece cu vederea coordonarea corectă și teste amănunțite.
Mai mult, lipsa de coordonare între echipele aflate sub conducere diferită agravează aceste provocări. Echipa de AI generativ sau echipa de căutare a imaginii, de exemplu, nu erau obligate să colaboreze sau să consulte echipa de echitate sau cei responsabili pentru practici etice de date. Această lipsă de coordonare a contribuit probabil la haosul care a urmat când Gemini a fost lansat în public.
În cursa pentru competiție, Google a făcut compromisuri, iar consecințele încep să iasă la lumină. Lansarea lui Gemini AI a adus în prim-plan funcționarea internă și posibilele defecte din procesele decizionale ale companiei. Servește ca un memento că, în încercarea de a inova, considerațiile etice și testarea riguroasă nu ar trebui niciodată să fie sacrificate.
Întrebări frecvente
1. Ce este Gemini AI?
Gemini AI este un chatbot de inteligență artificială dezvoltat de Google.
2. Ce îngrijorări au fost ridicate în timpul Revizuirii Principiilor de AI pentru Gemini AI?
Experții responsabili de revizuire au considerat că Gemini este nesigur și au sfătuit împotriva lansării sale.
3. Ce impact a avut apariția lui ChatGPT asupra Google?
Lansarea lui ChatGPT a reprezentat o amenințare semnificativă la modelul de afaceri al Google, deoarece acesta depășea ofertele Google în ceea ce privește capacitățile AI.
4. De ce a prioritizat Google lansarea lui Gemini AI?
Decizia Google de a grăbi lansarea lui Gemini AI a fost determinată de necesitatea de a concura cu ChatGPT și de a-și proteja poziția pe piață.
5. Care au fost factorii care au contribuit la problemele legate de lansarea lui Gemini?
Cultura Google de a prioritiza noi lansări de produse, lipsa de coordonare între echipe și o schimbare a focusului pe riscurile de afaceri au fost printre factorii care au contribuit la problemele cu lansarea lui Gemini.
Pentru mai multe informații despre industria AI, previziuni de piață și probleme legate de industria AI, puteți consulta următoarele surse:
– Raport al Industriei AI: Oferă o analiză detaliată a industriei AI, incluzând dimensiunea pieței, tendințele și perspectivele viitoare.
– Proiecție de Piață pentru AI: Oferă perspective asupra creșterii proiectate a pieței AI și factorii care o conduc.
The source of the article is from the blog regiozottegem.be