W dziedzinie sztucznej inteligencji (AI) możemy zauważyć ogromne zmieszane odczucia wobec generatywnej sztucznej inteligencji. Istnieje pewne przekonanie, że hype wokół tej technologii może być przesadzony, a niektóre firmy uczą się tego w bolesny sposób.
Jedną z głównych wad dużych modeli językowych, takich jak ChatGPT, jest ich skłonność do halucynacji i rozprzestrzeniania dezinformacji. To prowadzi do oskarżeń o plagiat wobec chatbotów i twórców obrazów AI, co powoduje szkody reputacyjne dla firm polegających na tych technologiach. Dodatkowo, zapotrzebowanie energetyczne wymagane przez sprzęt generatywny AI stanowi istotne zagrożenie dla środowiska.
Być może jednak największym problemem jest niepewność co do niezawodności tej technologii. Według badacza AI Gary’ego Marcusa, firmy odkrywają, że nie mogą polegać na generatywnej AI, aby działała konsekwentnie. Wiele firm wyraziło frustrację związana z wydajnością tej technologii i jej niezdolnością do niezawodnego wdrożenia dla klientów.
Jedna brytyjska firma musiała wyłączyć swojego chatbota, gdy zaczął używać obraźliwego języka i obrażać klientów. Podobnie, salon samochodowy w Kalifornii musiał podjąć działania, gdy napędzany ChatGPT sprzedawca samochodów zaczął oferować auta za zaledwie 1 dolara. Te incydenty podkreślają niezawodność i potencjalne ryzyka związane z nadmiernym poleganiem na generatywnej AI.
Problem polega na tym, że te modele AI nie tylko odzyskują informacje; one je syntetyzują. Bez odpowiednich zabezpieczeń i wytycznych, te modele mogą tworzyć fałszywe lub wprowadzające w błąd informacje na podstawie danych, na których zostały przeszkolone. Brak umiejętności rozróżniania stanowi istotne wyzwanie dla firm chcących wykorzystać generatywną AI w swoich produktach.
Biorąc pod uwagę te kwestie, niektórzy eksperci rysują równoległości między branżą AI a poprzednimi bańkami, takimi jak kryptowaluty czy start-upy Dot Com. Nadmierne projekcje, że AI stanie się przemysłem na bilion dolarów w ciągu najbliższej dekady budzą obawy co do nerealistycznych oczekiwań. Ponadto, sceptycy kwestionują, czy technologia będzie rozwijać się wystarczająco szybko, aby sprostać obecnemu hype’owi, co może prowadzić do okresu stagnacji.
Inwestorzy, którzy inwestowali duże sumy pieniędzy w branżę AI, mogą stać się niecierpliwi, jeśli nie zobaczą oczekiwanych zwrotów w krótkim okresie. Mimo że sztuczna inteligencja i AGI (sztuczna inteligencja ogólna) nie są niemożliwe, obecny stan technologii generatywnej AI stwarza liczne wyzwania, które nie można łatwo pokonać.
Dla firm i badaczy ważne jest, aby podchodzić do AI z realistycznym spojrzeniem i brać pod uwagę ograniczenia i ryzyka związane z generatywną AI. Tylko poprzez uświadomienie sobie tych wyzwań możemy rozwijać i wdrażać technologie AI, które są niezawodne, etyczne i korzystne dla społeczeństwa.
FAQ
The source of the article is from the blog tvbzorg.com