W obszarze sztucznej inteligencji (AI) pod powierzchnią kryje się skomplikowana i często pomijana rzeczywistość: udział milionów pracowników ludzkich operujących w tajemnicy. Ci ludzie, pierwotnie zatrudnieni do szkolenia algorytmów, często muszą przejąć odpowiedzialność za wykonywanie większości zadań AI. Ostatni raport „The Information” rzuca światło na tych kluczowych pracowników, zwłaszcza w kontekście technologii Just Walk Out Amazona. Ta technologia, która umożliwiała klientom wygodne wzięcie artykułów spożywczych z półek sklepowych i wyjście bez konieczności tradycyjnej obsługi kasowej, polegała na pracy ponad 1000 osób w Indiach, które pilnie obserwowały i oznaczały filmy, aby zapewnić dokładne obsługi kasowej.
Podczas gdy Amazon podkreśla na swojej stronie zastosowanie „widzenia komputerowego, łączenia sensorów i uczenia maszynowego” w Just Walk Out, nie wspomina o tych zewnętrznych kontrahentach. Na pytanie Amazon wyjaśnił, że ci pracownicy jedynie anotowali filmy w celu ulepszenia systemu i jedynie walidowali małą część wizyt zakupowych, gdy systemy AI nie potrafiły określić zakupu.
To odkrycie ze strony Amazona stanowi surowe przypomnienie, że skuteczne funkcjonowanie „sztucznej inteligencji” często opiera się na obecności ludzkich nadzorców. Sam Amazon ma nawet całą jednostkę biznesową o nazwie Amazon Turk, która pomaga innym firmom w szkoleniu i obsłudze ich własnych systemów AI. Niezliczeni freelancerzy na całym świecie identyfikują się jako „M-Turkers”, a jednostka ta czerpie nazwę z znanego opowiadania o Mechanical Turk, automacie do gry w szachy z XVIII wieku, sterowanym potajemnie przez ukrytego kontrolera ludzkiego.
Przykłady wykorzystania ludzi w technologii AI rozciągają się znacznie poza przypadkami Amazona. Liczne inne firmy nie ujawniły swojej zależności od angażowania ludzi do napędzania rzekomo zaawansowanych systemów AI. Na przykład Facebook w 2018 roku zamknął swojego wirtualnego asystenta tekstowego M po dwóch latach eksploatacji, podczas których ludzie byli szeroko wykorzystywani do szkolenia i obsługi jego ukrytego systemu AI. Podobnie startup o nazwie x.ai, który chwalił się „osobistym asystentem AI” do planowania spotkań, został zmuszony do zakończenia działalności w 2021 roku, gdy napotkał trudności w osiągnięciu prawdziwej autonomii algorytmicznej.
Kolejnym przykładem jest brytyjski startup Builder.ai, który reklamował oprogramowanie AI zdolne do budowania aplikacji, ale częściowo polegał na programistach z Indii i innych miejsc do wykonania tego zadania, jak informuje „The Wall Street Journal”.
Ta rzeczywistość podkreśla cienką granicę między oczekiwaniami zastąpienia algorytmicznego a wykorzystywaniem pracowników ludzkich jako tymczasowego rozwiązania – podejście często usprawiedliwiane przez marketerów pod pozorem późniejszej automatyzacji. Taki „pseudo AI” czy „AI washing” był powszechny nawet przed ostatnim wzrostem technologii generatywnych AI.
Na przykład firma West Monroe Partners, specjalizująca się w badaniach przed transakcyjnych dla firm private equity, przeanalizowała materiały marketingowe dostarczone przez 40 amerykańskich firm wystawionych na sprzedaż w 2019 roku. Analiza wykazała, że te firmy przesadziły o ponad 30% zdolności swojej technologii w obszarze AI i uczenia maszynowego. Podobnie MMC, londyńska firma venture capital, odkryła że spośród 2830 europejskich startupów sklasyfikowanych jako firmy AI, tylko 1580 faktycznie odpowiadało tej opisowi.
Jednym z oczywistych zmartwień wynikających z ludzkiego zaangażowania w AI jest potencjalne naruszenie prywatności. Wykorzystanie przez Amazon „uczenia nadzorowanego” w swoich systemach AI skłonił tysiące kontrahentów do podsłuchiwania poleceń osoby korzystającej z Alexa. Jednak rozpowszechnianie mylących informacji w branży AI stanowi również ryzyko.
Na szczęście regulatorzy intensyfikują swoje działania w celu rozwiązania tego problemu i sprawienia, aby firmy były odpowiedzialne za wprowadzanie w błąd dotyczące AI. Ismail Ramsey, prokurator USA północnokalifornijskiej, niedawno ogłosił swoją intencję ukarania startupów, które wprowadzają inwestorów w błąd dotyczący wykorzystania AI przed wejściem na giełdę. Dodatkowo w lutym Przewodniczący Komisji Papierów Wartościowych i Giełd (SEC) USA, Gary Gensler, ostrzegał, że AI washing może naruszać przepisy dotyczące papierów wartosciowych. W rezultacie dwie firmy inwestycyjne osiągnęły ugody łącznie na kwotę 400 000 dolarów z SEC za przesadne podkreślanie zatrudnienia AI.
Nawet w przypadkach, gdy systemy AI są dokładnie przedstawione, ważne jest uświadomienie sobie istnienia ogromnego przemysłu ukrytych pracowników wspierających wiele wysokich technologii systemów AI, często otrzymując minimalne wynagrodzenie. Uznani akademicy tacy jak Kate Crawford i autorzy tacy jak Madhumita’s Code Dependent szeroko udokumentowali ten zjawisko, rzucając światło na rzeczywistość AI poza blaskiem i hypem.’
FAQ
The source of the article is from the blog xn--campiahoy-p6a.es