Nowy raport ujawnia niepokojące ryzyka, jakie rozwijająca się w szybkim tempie sztuczna inteligencja (AI) stanowi dla bezpieczeństwa narodowego. Raport, zlecony przez Departament Stanu USA, ostrzega, że zaawansowane systemy AI, jeśli nie będą poddane kontroli, mogą przynieść katastrofalne skutki, a nawet stanowić zagrożenie związane z wymarciem gatunku ludzkiego.
Wyniki raportu oparte były na obszernych wywiadach przeprowadzonych z ponad 200 ekspertami w dziedzinie, w tym czołowymi wykonawcami wiodących firm zajmujących się AI, badaczami z zakresu cyberbezpieczeństwa, ekspertami od broni masowego rażenia oraz urzędnikami zajmującymi się bezpieczeństwem narodowym. Podkreśla on pilną konieczność podjęcia działań przez rząd federalny w celu rozwiązania tych ryzyk zanim będzie za późno.
Chociaż raport został zlecony przez Departament Stanu, ważne jest zauważenie, że nie reprezentuje oficjalnego stanowiska rządu USA. Niemniej jednak stanowi on ostrzeżenie, że AI, pomimo swojego ogromnego potencjału pozytywnej transformacji, niesie ze sobą również znaczne zagrożenia.
Jeremie Harris, dyrektor generalny i współzałożyciel firmy Gladstone AI, która opublikowała raport, podkreśla konieczność świadomości poważnych ryzyk związanych z AI. Narasta coraz więcej dowodów, że po osiągnięciu określonych zdolności systemy AI mogą stać się niekontrolowalne. Jest to obawa wyrażana przez różnych ekspertów i badaczy w tej dziedzinie.
W odpowiedzi na te ryzyka, Biały Dom podjął działania w celu zarządzania potencjalnymi niebezpieczeństwami związanymi z AI. Dekret wykonawczy Prezydenta Joe Bidena dotyczący AI jest uważany za najważniejszy krok, jaki jakikolwiek rząd podjął w celu zrównoważenia obietnic i ryzyk wynikających z tej nowej technologii. Administracja aktywnie współpracuje z partnerami międzynarodowymi i wzywa do uchwalenia ustaw przez obie partie, aby zaradzić ryzykom związanym z AI.
Raport podkreśla dwa kluczowe zagrożenia wynikające z AI. Po pierwsze, zaawansowane systemy AI mogą potencjalnie być uzbrojone, prowadząc do nieodwracalnych szkód. Po drugie, istnieje rosnące zaniepokojenie w laboratoriach AI, że same tworzone systemy mogą wymknąć się spod kontroli, stanowiąc druzgocące konsekwencje dla globalnego bezpieczeństwa. Raport stawia analogie między wzrostem AI a wprowadzeniem broni jądrowej, podkreślając ryzyko wyścigu zbrojeń AI, konfliktu i katastrofalnych wypadków o masowym charakterze.
Aby zmierzyć się z tymi zagrożeniami, raport proponuje śmiałe kroki, w tym utworzenie nowej agencji AI, wprowadzenie nadzwyczajnych zabezpieczeń regulacyjnych oraz ograniczenia mocy komputerów używanych do trenowania modeli AI. Autorzy raportu podkreślają oczywistą i nagłą konieczność interwencji rządu USA w celu skutecznego zmniejszenia tych ryzyk.
Jednym z istotnych problemów, na które zwraca uwagę raport, są niewystarczające środki bezpieczeństwa w zaawansowanych systemach AI. Presje konkurencyjne sprawiają, że firmy priorytetowo traktują przyspieszanie rozwoju AI kosztem zapewnienia bezpieczeństwa, zwiększając tym samym ryzyko, że najbardziej zaawansowane systemy AI trafią w niewłaściwe ręce i zostaną użyte jako broń przeciwko Stanom Zjednoczonym.
Ryzyka istniejącjalne związane z AI były przedmiotem zainteresowania kilku wpływowych postaci w branży. Geoffrey Hinton, znany jako „ojciec chrzestny AI”, wyraził przekonanie, że istnieje 10% szansa, że AI może doprowadzić do wymarcia ludzkości w ciągu najbliższych trzydziestu lat. Także liderzy biznesu coraz bardziej zdają sobie sprawę z tych zagrożeń, z istotnym odsetkiem wyrażających obawy związane z potencjałem AI do zniszczenia ludzkości w ciągu najbliższych pięciu lub dziesięciu lat.
Raport rzuca także światło na prywatne obawy, które podziela część pracowników firm AI. Jedna osoba nawet ostrzegła, że wydanie określonego modelu AI następnej generacji może mieć druzgocące konsekwencje, takie jak naruszenie demokracji poprzez ingerencję w wybory lub manipulację wyborców.
Istotnym czynnikiem przyczyniającym się do ryzyk związanych z AI jest szybkość, z jaką ewoluuje, a konkretnie sztuczna inteligencja ogólna (AGI). AGI, która posiada ludzkie lub nawet ponadludzkie zdolności do nauki, uważana jest za główny czynnik ryzyka katastrofalnego wynikającego z utraty kontroli. Podczas gdy eksperci mają różne oszacowania dotyczące momentu osiągnięcia AGI, raport pozostaje ostrożny co do potencjalnych zagrożeń w miarę postępu technologii.
Jak raport Gladstone AI podkreśla zmartwienia związane z wpływem AI na bezpieczeństwo narodowe, staje się jasne, że konieczne jest pilne działanie w celu zapewnienia odpowiedniego rozwoju i wdrożenia AI. Zrównoważenie potencjalnych korzyści AI z jej wrodzonymi ryzykami będzie kluczowe w zabezpieczeniu naszej przyszłości i ochronie interesów narodów na całym świecie.
FAQ
The source of the article is from the blog coletivometranca.com.br