Εξερευνώντας τους Κινδύνους της Τεχνητής Νοημοσύνης με το Αποθετήριο Κινδύνου της ΤΝ.

Μια ομάδα ερευνητών από το FutureTech group στο Εργαστήριο Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης (CSAIL) του MIT ξεκίνησε ένα καινοτόμο εγχείρημα για τη συγκέντρωση ενός πλήρους αποθετηρίου κινδύνων Τεχνητής Νοημοσύνης (AI).

Οι ερευνητές ανακάλυψαν σημαντικά κενά στα υπάρχοντα πλαίσια αξιολόγησης κινδύνων AI, όπου περίπου το 30% των εντοπισμένων κινδύνων παραβλέπονταν ακόμη και από τα πιο λεπτομερή ατομικά πλαίσια. Αυτό υπογραμμίζει μια επείγουσα πρόκληση στον τομέα – η διάσπαση των πληροφοριών σχετικά με τους κινδύνους AI σε ακαδημαϊκά περιοδικά, προ-εκτυπώσεις και βιομηχανικές αναφορές οδηγεί σε λευκά σημεία στη συλλογική κατανόηση.

Το έργο AI Risk Repository αποτελείται από τρία κύρια στοιχεία:

1. Βάση Δεδομένων Κινδύνων AI: Συγκέντρωση πάνω από 700 κινδύνων από 43 υπάρχοντα πλαίσια AI.
2. Αιτιολογική Ταξινομία: Κατηγοριοποίηση των κινδύνων για να κατανοήσουμε πώς, πότε και γιατί προκύπτουν.
3. Ταξινομία Πεδίου: Κατηγοριοποίηση των κινδύνων σε επτά βασικούς τομείς και 23 υποτομείς, συμπεριλαμβανομένων της διάκρισης, της ιδιωτικότητας, της διασποράς πληροφοριών, των κακόβουλων παραγόντων, της αλληλεπίδρασης ανθρώπου-υπολογιστή, των κοινωνικοοικονομικών και περιβαλλοντικών βλαβών, καθώς και της ασφάλειας, ζημιών και περιορισμών των συστημάτων AI.

Στην περίληψη του έργου τους, οι συγγραφείς υπογραμμίζουν την κρίσιμη σπουδαιότητα αυτών των κινδύνων για την ακαδημία, τους ελεγκτές, τους πολιτικούς, τις εταιρείες AI και το κοινό. Ωστόσο, η έλλειψη κοινής κατανόησης για τους κινδύνους της AI θα μπορούσε να καθυστερήσει τη δυνατότητά μας να συζητήσουμε, να εξερευνήσουμε και να αντιδράσουμε σε αυτούς αποτελεσματικά.

Το AI Risk Repository αποτελεί μια κορυφαία προσπάθεια να ετοιμάσει, να αναλύσει και να εξάγει πλαισία κινδύνων AI σε ένα δημόσια προσβάσιμο, εξαντλητικό, επεκτάσιμο και κατηγοριοποιημένο μορφής βάση δεδομένων κινδύνων. Αυτή η πρωτοβουλία στοχεύει στο να θεμελιώσει μια πιο συντονισμένη, ασφαλή και ολοκληρωμένη προσέγγιση για τον καθορισμό, τον έλεγχο και τη διαχείριση των κινδύνων που προκαλούνται από τα συστήματα AI.