I ei overraskande vending har Google si lansering av den kunstige intelligensen (AI) chatbot Gemini komme under gransking, og avdekka ein mangel på overhalding til interne retningslinjer. Kjelda avslører at Google forlot fokuset på «rettferd» og tok betydelege «snarvegar» for å få Gemini ut på marknaden, til tross for bekymringar som blei reist under AI-prinsippane gjennomgang.
Tidlegare kjend som Bard gjennomgjekk Gemini ein grundig vurderingsprosess av ekspertar som meinte at det var utrygt og råda mot lansering. Likevel tyder påstandar på at den tidlegare direktøren for Ansvarleg innovasjon (RESIN), Jen Gennai, endra responsane og pressa produktet for utgjeving, og ignorerte desse advarslane. Medan Gennai forsvara avgjerda si med at det var eit forhåndsprodukt med ulike vurderingsstandardar, har insiderar avvist krava hennar som grunnlause.
Under utviklinga av Gemini uttrykte noen tilsette bekymringar om dei innleiande resultatane frå datamengdene og inngjerder som blei brukt. Ein tilsett til og med foreslo å byggje eit verktøy for å analysere modellens læringar. Likevel hevdar kjelda at bekymringane deira blei avviste, då presset med å konkurrere med ChatGPT, ein framvaksande AI, tok prioritet.
Inntil november 2022 hadde Google vore den dominerende aktøren på AI-feltet, og verktøya deira var fritt tilgjengelege for andre selskap å byggje på. Likevel forstyrra utgjevinga av ChatGPT, som skrøyt av overlegne AI-eigenskapar, Googles marknadsleiarar. Kjerneprodukta deira, som annonseinntektane på YouTube og Google-søk, blei underminert av konkurrentar som TikTok.
ChatGPT si framvekst utan nokon konkurrerande produkt sende Google ut i ein panikk, med rapportar om ein «kode raud» situasjon som sirkulerte internt. Administrerande direktør Sundar Pichai leia møte for å strategere Googles respons, som førte til omorganiseringar og ein fornya fokusering på generativ AI innan vitale avdelingar som Google Research. For å ligge føre, bestemte Google seg for å ta snarvegar, og sette bekymringar om rettferd og fordommar til side, så lenge det ikkje skada enkeltpersonar eller påverka selskapet sitt image negativt.
Denne endringa i strategi samanfall med endringar internt i RESIN-teamet. Teamet blei absorbert av andre avdelingar, som Kontoret for samsvar og integritet og tillit og sikkerheits-teama. Som følgje skifta AI-prinsipp-gjennomgangsprosessen fokus frå brukarinverknad til forretningsrisikoar for Google.
Den underliggjande årsaka til desse problema ligg i Googles kultur, som prioriterer lansering og etablering av nye produkt over alt anna. De tilsette blir målt ut frå deira evne til å skape og lansere nye ting, heller enn å forbetre eksisterande produkt. Presset for å lansere og vise leiarskap skaper ein mentalitet som ofte overser ordentleg samordning og grundige testar.
Vidare forverrar mangelen på samordning mellom team under ulike leiinga desse utfordringane. Generativ AI-teamet eller eit biletsøk-team var til dømes ikkje pålagt å samarbeide eller rådføre seg med rettferd-teamet eller dei som er ansvarlege for etiske datapraksisar. Denne mangelen på samordning truleg bidre til kaoset som oppstod da Gemini blei løyst laus på publikum.
I kappløpet for å konkurrere gjorde Google kompromiss, og konsekvensane kjem no fram i lyset. Lancinga av Gemini AI har kastet lys over dei interne arbeidsprosessane og potensielle manglar innan selskapet si avgjerdsprosess. Det står som ein påminning om at i jakta på innovasjon bør ikkje etiske omsyn og grundig testing bli ofra.
### Ofte stilte spørsmål
– Hva er Gemini AI?
– Gemini AI er ein kunstig intelligens chatbot utvikla av Google.
– Kva for bekymringar blei reist under AI-prinsippane gjennomgang for Gemini AI?
– Ekspertane ansvarlege for gjennomgangen meinte at Gemini var utrygt og råda mot å lansere det.
– Kva for ein innverknad hadde framveksten av ChatGPT på Google?
– Utgjevinga av ChatGPT utgjorde ei betydeleg trussel mot Google si forretningsmodell då det overgjekk Google sine tilbod når det kom til AI-eigenskapar.
– Kvifor prioriterte Google å lansere Gemini AI?
– Googles avgjerd om å skynde seg med lanseringa av Gemini AI blei drive av behovet for å konkurrere med ChatGPT og beskytte marknadsposisjonen deira.
– Kva for faktorar bidrog til problema rundt utgjevinga av Gemini?
– Googles kultur med å prioritere nye produktlanseringar, mangelen på samordning mellom team og eit skifte i fokus mot forretningsrisikoar var blant faktorane som bidrog til problema med Gemini si utgjeving.
The source of the article is from the blog foodnext.nl