Amerykański Instytut Standaryzacji i Technologii (NIST) wydał ostrzeżenie dotyczące ufania twierdzeniom producentów na temat bezpieczeństwa systemów sztucznej inteligencji (AI). W ostatniej publikacji NIST zwrócono uwagę na brak niezawodnych mechanizmów obronnych dostępnych dla programistów AI. Instytut podkreślił, że jeśli program AI współdziała z witrynami internetowymi lub publicznością, może być łatwo manipulowany przez atakujących, którzy podają mu fałszywe dane. Raport ostrzegał przed potężnymi jednoczesnymi atakami na różne tryby interakcji AI, takie jak obrazy, tekst, mowę i dane tabelaryczne. NIST zwrócił uwagę na podatność nowoczesnych systemów AI, zwłaszcza poprzez publiczne interfejsy API i ich platformy wdrażania.
W swojej taksonomii ataków i działań zaradczych AI, NIST zidentyfikował cztery główne rodzaje ataków: omijanie, zatrucie, naruszenie prywatności i nadużycie. Omijanie polega na manipulowaniu danymi wejściowymi do modelu AI w celu zmiany jego zachowania, co może prowadzić do nieprawidłowych interpretacji, na przykład przez autonomiczne pojazdy. Ataki zatrucia występują podczas fazy szkolenia modelu AI, gdzie atakujący wstawiają nieodpowiednie językowe dane, aby wpłynąć na odpowiedzi modelu. Ataki naruszające prywatność próbują wydobyć prywatne informacje z modeli AI, podczas gdy ataki nadużycia mają na celu wprowadzenie modeli AI w błąd za pomocą nieprawidłowych informacji.
Współautorka, Alina Oprea, profesor na Northeastern University, zwróciła uwagę na stosunkowo łatwe wykonanie tych ataków, zauważając, że ataki zatrucia, na przykład, można przeprowadzić za pomocą zaledwie kilkudziesięciu manipulowanych przykładów szkoleniowych. Wzbudza to obawy dotyczące bezpieczeństwa systemów AI i podkreśla potrzebę bardziej solidnych zabezpieczeń w celu ochrony przed potencjalnymi zagrożeniami.
Raport NIST stanowi cenne źródło informacji zarówno dla programistów AI, jak i użytkowników, nawołując do ostrożności wobec twierdzeń o niezawodności bezpieczeństwa AI. W miarę rozwoju dziedziny AI ważne jest priorytetowe opracowywanie skutecznych środków bezpieczeństwa, aby zapewnić ochronę przed potencjalnymi atakami i zapewnić integralność systemów AI.