Kevin TopolskyZespół badaczy z grupy FutureTech z Laboratorium Informatyki i Sztucznej Inteligencji (CSAIL) na MIT rozpoczął przełomowe przedsięwzięcie polegające na stworzeniu kompleksowego repozytorium zagrożeń związanych z sztuczną inteligencją.
Badacze odkryli istotne luki w istniejących ramach oceny zagrożeń związanych z SI, przy czym około 30% zidentyfikowanych zagrożeń zostało pominiętych nawet przez najbardziej szczegółowe ramy indywidualne. Wskazuje to na pilne wyzwanie w dziedzinie – rozproszony charakter informacji na temat zagrożeń związanych z SI wśród czasopism akademickich, preprintów oraz raportów przemysłowych prowadzi do ślepych punktów w zbiorowej świadomości.
Projekt Repozytorium Zagrożeń związanych z SI składa się z trzech głównych składników:
1. Baza Danych Zagrożeń związanych z SI: Zbieranie ponad 700 zagrożeń z 43 istniejących ram SI.
2. Taksonomia Przyczynowa: Klasyfikacja zagrożeń w celu zrozumienia, jak, kiedy i dlaczego się pojawiają.
3. Taksonomia Obszarowa: Kategoryzacja zagrożeń na siedem głównych obszarów i 23 podobszary, takich jak dyskryminacja, prywatność, dezinformacja, złośliwi uczestnicy, interakcja człowiek-komputer, szkody społeczno-ekonomiczne i środowiskowe, a także bezpieczeństwo, szkody i ograniczenia systemów SI.
W podsumowaniu projektu autorzy podkreślają kluczowe znaczenie tych zagrożeń dla środowiska akademickiego, audytorów, decydentów, firm SI i społeczeństwa. Jednak brak wspólnej wiedzy na temat zagrożeń związanych z SI może utrudnić naszą zdolność do skutecznego dyskutowania, eksplorowania i reagowania na nie.
Repozytorium Zagrożeń związanych z SI stanowi pionierski wysiłek w celu przygotowania, analizy i wydobycia ramek zagrożeń SI w formacie publicznie dostępnej, wyczerpującej, rozszerzalnej i skategoryzowanej bazy danych zagrożeń. Ta inicjatywa ma na celu położenie podstaw dla bardziej skoordynowanego, spójnego i kompleksowego podejścia do definiowania, audytowania i zarządzania zagrożeniami stwarzanymi przez systemy SI.
