Η νομοθετική συνέλευση της Καλιφόρνια διεξάγει εντατικές συζητήσεις για ένα νέο μέτρο που στοχεύει στην επιβολή ενός στέρεου νομικού πλαισίου στις εταιρείες που εργάζονται με τεχνολογίες τεχνητής νοημοσύνης (AI). Μετά από πρόσφατη παγκόσμια σύνοδο για την AI προς όφελος της ανθρωπότητας, οι συζητήσεις έχουν αποκτήσει ώθηση, ειδικά γύρω από έναν νόμο που θα αναγκάσει τις τεχνολογικές εταιρείες να δημιουργήσουν ένα αυστηρό μηχανισμό ασφαλείας για την προστασία από την ανάπτυξη μοντέλων AI με βλαβερές δυνατότητες.
Ο νόμος απαιτεί από τους γίγαντες της τεχνολογίας του Silicon Valley καθώς και από νεοφυείς εταιρίες AI όχι μόνο να εξασφαλίσουν ότι τα μοντέλα τους είναι απαλλαγμένα από βλαβερές δυνατότητες, αλλά και να υλοποιήσουν ένα επείγον ‘kill switch’ για να κλείσουν αμέσως ισχυρά συστήματα AI όταν απαιτείται. Αυτή η πρόταση εγκρίθηκε από τη Γερουσία τον προηγούμενο μήνα και έχει προγραμματιστεί για ψηφοφορία στη Συνέλευση τον Αύγουστο. Πρέπει ουσιαστικά οι εταιρίες να αποκαλύπτουν τη συμμόρφωσή τους σε ένα νεοσυσταθέν τμήμα εντός του Τμήματος Τεχνολογίας της Καλιφόρνιας, με την ονομασία ‘Διακορυφωτικής Μοντέλων Τμήμα’, και να εξασφαλίζουν ότι τα μοντέλα τους δεν είναι πιθανά να δημιουργήσουν βιοχημικά όπλα, να συνδράμουν σε πυρηνικούς πολέμους ή να διευκολύνουν κυβερνοεπιθέσεις.
Παρά τις δυνητικές αυξημένες ασφάλειες, η νομοθεσία έχει αντιμετωπιστεί με αντίδραση από επενδυτές, ιδρυτές και υπαλλήλους του Silicon Valley, ανήσυχους για την επιβολή ανυπέρβλητων ρυθμίσεων ευθυνών στους αναπτύσσοντες AI. Οι κριτικοί φοβούνται ότι αυτό θα μπορούσε να οδηγήσει τις startups έξω από την Καλιφόρνια και να αλλάξει τις λειτουργίες των μεγάλων επιχειρήσεων, συμπεριλαμβανομένων μεγαλύτερων πλατφορμών όπως η Meta που ασχολούνται με ανοιχτά μοντέλα.
Υποστηριζόμενη από το μη κερδοσκοπικό AI Safety Center (CAIS) και υποστηριζόμενη από πρωτοπόρους της AI όπως ο Geoffrey Hinton και ο Yoshua Bengio, η πρόταση σκοπεύει να μειώσει τις υπάρχουσες απειλές από την AI. Νομοθέτες, επενδυτές και ειδικοί του κλάδου συνεχίζουν να συζητούν για την ισορροπία μεταξύ καινοτομίας και ρύθμισης, με πιθανές τροποποιήσεις για να διευκολύνουν τη ρύθμιση στους developers ανοιχτού κώδικα και να περιορίσουν την εφαρμογή του νόμου σε υψηλά κόστους μοντέλων AI, με σκοπό να μειωθεί ο αντίκτυπος του σε μικρότερες επιχειρήσεις.
Για περισσότερες πληροφορίες, παρακαλώ επισκεφθείτε τον σύνδεσμο του AI Safety Center (CAIS) στην ιστοσελίδα τους: https://www.appliedaiethics.com/
The source of the article is from the blog krama.net