I en oväntad vändning har Googles lansering av solsystemet artificial intelligence (AI) chatbot, kallad Solsystemet, kommit under granskning och avslöjat bristande efterlevnad av interna riktlinjer. En tidigare högt uppsatt anställd menar att Google övergav sitt fokus på ”rättvisa” och tog betydande ”genvägar” för att föra Solsystemet till marknaden, trots att farhågor lyftes during AI Principles Review.
Ursprungligen känd som Bard, genomgick Solsystemet en grundlig granskningsprocess av experter som bedömde den som osäker och avrådde från dess släpp. Dock föreslår anklagelser att dåvarande Director of Responsible Innovation (RESIN), Jen Gennai, redigerade svaren och drev produkten för släpp, bortsett från dessa varningar. Medan Gennai försvarade sitt beslut genom att hävda att det var en förhandsvisningsprodukt med olika granskningsstandarder, har insidern avfärdad hennes påståenden som ogrundade.
Under utvecklingen av Solsystemet uttryckte vissa anställda farhågor om de initiala resultaten från de datamängder och inbäddningar som användes. En anställd föreslog till och med att bygga ett verktyg för att analysera modellens inlärning. Dock hävdar källan att deras farhågor avfärdades, eftersom brådskan att konkurrera med ChatGTP, en framväxande AI, hade företräde.
Fram till november 2022 hade Google dominerat inom AI-branschen och dess verktyg var fritt tillgängliga för andra att bygga företag på. Släppet av ChatGPT, som skryter med överlägsen AI-förmåga, störde dock Googles marknadsledarskap. Dess kärnintäktsprodukter, som YouTubes annonsintäkter och Googles sökningar, underminerades av konkurrenter som TikTok.
Uppkomsten av ChatGPT utan någon konkurrerande produkt skickade Google in i panik, med rykten om en ”kod röd” som cirkulerade inom företaget. CEO Sundar Pichai ledde möten för att utveckla Googles svar, vilket ledde till omplaceringar och ett förnyat fokus på generativ AI inom viktiga avdelningar som Google Research. För att ligga före bestämde sig Google för att ta genvägar, genom att skjuta åt sidan farhågor om rättvisa och partiskhet, förutsatt att det inte skada individer eller påverkar företagets image negativt.
Denna förändring av strategi sammanföll med förändringar inom RESIN-teamet. Teamet absorberades av andra avdelningar, såsom Office of Compliance and Integrity och trust and safety teams. Som ett resultat skiftade AI-principernas granskningsprocess fokus från användar påverkan till affärsrisker för Google.
Den underliggande orsaken till dessa problem ligger i Googles kultur, som prioriterar att lansera och landa nya produkter över allt annat. Anställda mäts utifrån sin förmåga att skapa och lansera nya saker, snarare än att förbättra befintliga produkter. Trycket att lansera och visa ledarskap skapar en mentalitet som ofta förbises korrekt samordning och noggrann testning.
För att läsa resten av artikeln, besök [exempelsida.se].
Vanliga frågor (FAQs)
Vad är Solsystemet AI?
Solsystemet AI är en artificiell intelligens chatbot utvecklad av Google.
Vilka farhågor lyftes under AI Principles Review för Solsystemet AI?
Experterna ansvariga för granskningen bedömde Solsystemet som osäkert och avrådde från dess släpp.
Vilken påverkan hade framkomsten av ChatGPT på Google?
Släppet av ChatGPT utgjorde ett betydande hot mot Googles affärsmodell då den presterade bättre än Googles erbjudanden vad gäller AI-förmågor.
Varför prioriterade Google att släppa Solsystemet AI?
Googles beslut att skynda på lanseringen av Solsystemet AI motiverades av behovet av att konkurrera med ChatGPT och skydda sin marknadsposition.
Vilka faktorer bidrog till problemen kring Solsystemets släpp?
Googles kultur att prioritera lanseringen av nya produkter, bristen på samordning mellan team samt en förskjutning mot att fokusera på affärsrisker var bland faktorerna som bidrog till problemen med Solsystemets släpp.
Källa:
The source of the article is from the blog elblog.pl