Ostatni raport ujawnił, że OpenAI przyspiesza rozwój nowych modeli sztucznej inteligencji, pomijając przy tym protokoły bezpieczeństwa. Niezidentyfikowani pracownicy zgłosili obawy, podpisując otwarty list wyrażający niepokój z powodu braku nadzoru w konstrukcji systemów sztucznej inteligencji. W odpowiedzi OpenAI utworzył nową radę ds. bezpieczeństwa i ochrony, w której zasiadają członkowie zarządu i wybrani kierownicy, by ocenić i wzmocnić protokoły bezpieczeństwa.
Mimo zarzutów zaniedbania protokołów bezpieczeństwa, trzech pracowników OpenAI, wypowiadając się anonimowo dla „The Washington Post”, podzieliło się informacją, że zespół czuł presję, aby przyspieszyć wdrożenie nowego protokołu testowego, mającego zapobiec „katastrofalnym szkodom” spowodowanym przez systemy sztucznej inteligencji, w celu spełnienia zaplanowanego startu GPT-4 Omni w maju, jak to postanowiła kierownictwo OpenAI.
Protokoły bezpieczeństwa mają na celu zapewnienie, że modele sztucznej inteligencji nie dostarczają szkodliwych informacji ani nie pomagają w wykonaniu działań niebezpiecznych, takich jak produkcja broni chemicznych, biologicznych, radiologicznych i nuklearnych (CBRN) czy asystowanie w atakach cybernetycznych.
Ponadto raport skupia uwagę na podobnym incydencie, który miał miejsce przed wprowadzeniem GPT-4o, opisanego jako najbardziej zaawansowany model sztucznej inteligencji OpenAI. Plany na jego wprowadzenie były realizowane bez zapewnienia bezpieczeństwa, a pracownik OpenAI został zacytowany w raporcie, mówiąc: „fundamentalnie zawiedliśmy w tym procesie”.
Nie jest to pierwszy przypadek, gdy pracownicy OpenAI wskazują jasne lekceważenie protokołów bezpieczeństwa w firmie. W zeszłym miesiącu byli i obecni pracownicy OpenAI i Google DeepMind podpisali otwarty list wyrażający obawy z powodu braku nadzoru w rozwoju nowych systemów sztucznej inteligencji, które mogą stwarzać znaczne ryzyka.
W liście postulowano interwencję rządu, mechanizmy regulacyjne i rzetelną ochronę dla informatorów. Dwóch trzech współzałożycieli OpenAI, Jeffrey Hinton i Yoshua Bengio, poparło otwarty list.
W maju OpenAI ogłosił utworzenie nowej rady ds. bezpieczeństwa i ochrony, której zadaniem jest ocena i poprawa operacji związanych z technologią sztucznej inteligencji, a także zapewnienie istotnych decyzji dotyczących bezpieczeństwa i ochrony dla projektów i operacji OpenAI. Firma niedawno podzieliła się nowymi wytycznymi dotyczącymi budowy odpowiedzialnych i etycznych modeli sztucznej inteligencji, określanych jako Model Spec.
Ostatni raport odsłonił dodatkowe szczegóły dotyczące obaw związanych z protokołami bezpieczeństwa w OpenAI, rzucając światło na kluczowe pytania i wyzwania związane z tym problemem.
Kluczowe pytania:
1. Jakie konkretne protokoły bezpieczeństwa zostały zaniedbane przez OpenAI podczas rozwoju modeli sztucznej inteligencji?
2. W jaki sposób presja na przyspieszenie wdrożenia nowych protokołów testowych wpłynęła na środki bezpieczeństwa?
3. Jakie potencjalne ryzyka wiążą się z systemami sztucznej inteligencji, które nie posiadają odpowiednich protokołów bezpieczeństwa i ochrony?
4. Jak pracownicy i eksperci branżowi proponują radzić sobie z obawami dotyczącymi bezpieczeństwa w OpenAI?
5. Jakie są zalety i wady podejścia OpenAI do priorytetowego traktowania rozwoju modeli sztucznej inteligencji nad protokołami bezpieczeństwa?
Wyzwania i kontrowersje:
– Pracownicy OpenAI czuli presję by priorytetyzować wprowadzenie nowych modeli sztucznej inteligencji ponad zapewnienie solidnych protokołów bezpieczeństwa, co rodzi obawy dotyczące potencjalnych katastrofalnych szkód.
– Zaniedbanie protokołów bezpieczeństwa może prowadzić do dostarczania przez systemy sztucznej inteligencji szkodliwych informacji lub ich zaangażowania w działania zagrażające, takie jak ułatwianie tworzenia broni czy ataków cybernetycznych.
– Brak nadzoru w konstrukcji systemów sztucznej inteligencji może generować znaczące ryzyka i dylematy etyczne, wymagając natychmiastowej uwagi i interwencji.
– Wznoszący głos za regulacją rządową, ochroną informatorów i wzmocnionymi środkami bezpieczeństwa odzwierciedla rosnącą troskę o niekontrolowany rozwój technologii sztucznej inteligencji.
Zalety:
– Przyspieszony rozwój modeli sztucznej inteligencji może prowadzić do przełomowych postępów technologicznych i innowacji.
– Zaangażowanie OpenAI w utworzenie rady ds. bezpieczeństwa i ochrony demonstrowane jest jako aktywne podejście do rozwiązywania problemów bezpieczeństwa i poprawy protokołów.
– Najnowsze wytyczne dotyczące odpowiedzialnej i etycznej konstrukcji modeli sztucznej inteligencji, jak Model Spec, wskazują na chęć priorytetowego traktowania kwestii bezpieczeństwa i etyki.
Wady:
– Zaniedbanie protokołów bezpieczeństwa w rozwoju sztucznej inteligencji niesie istotne ryzyko dla społeczeństwa, mogąc prowadzić do niezamierzonych skutków i szkodliwych rezultatów.
– Presja związana z realizacją ambitnych harmonogramów startowych może podważyć środki bezpieczeństwa i utrudnić gruntowną ocenę ryzyka.
– Brak adekwatnego nadzoru i odpowiedzialności w konstrukcji systemów sztucznej inteligencji może obniżyć zaufanie publiczne i podnieść kwestie etyczne w dziedzinie sztucznej inteligencji.
Aby uzyskać więcej informacji na temat znaczenia protokołów bezpieczeństwa w rozwoju sztucznej inteligencji oraz trwającej dyskusji na temat praktyk OpenAI, odwiedź oficjalną stronę OpenAI pod adresem OpenAI.
The source of the article is from the blog radiohotmusic.it