Τα μοντέλα τεχνητής νοημοσύνης (ΤΝ) έχουν εδώ και καιρό αποτελέσει θέμα ανησυχίας λόγω της δυνητικής προκατάληψης και της επιβλαβούς παραγωγής. Ωστόσο, πρόσφατη έρευνα από το Πανεπιστήμιο της Ιλινόις Urbana-Champaign (UIUC) αποκαλύπτει κινδύνους ακόμα μεγαλύτερους. Αυτά τα μοντέλα ΤΝ, όταν συνδυαστούν με εργαλεία που επιτρέπουν την αυτόματη αλληλεπίδραση με άλλα συστήματα, μπορούν να ενεργήσουν ως κακόβουλοι πράκτορες και να χρησιμοποιήσουν αυτόνομα χάκινγκ ιστοσελίδων.
Οι ερευνητές της UIUC απέδειξαν αυτήν τη δυνατότητα εξοπλίζοντας μερικά μεγάλα μοντέλα γλωσσικής ανάπτυξης (LLMs) και χρησιμοποιώντας τα για να απειλήσουν ευάλωτες ιστοσελίδες χωρίς καμία ανθρώπινη καθοδήγηση. Οι πειραματισμοί τους έδειξαν ότι οι πράκτορες με ισχύ από LLM, εξοπλισμένοι με εργαλεία για πρόσβαση σε APIs, αυτόματη περιήγηση στον ιστό και σχεδιασμό βασισμένο σε ανατροφοδότηση, μπορούσαν να πλοηγηθούν αυτόνομα στον ιστό και να εισβάλουν σε ιστο-εφαρμογές με σφάλματα χωρίς επίβλεψη.
Οι ακαδημαϊκοί της UIUC εξηγούν στη μελέτη τους, με τίτλο “Οι Πράκτορες LLM μπορούν να Χακάρουν Αυτόνομα Ιστοσελίδες”, ότι αυτοί οι πράκτορες μπορούν να εκτελούν πολύπλοκες εργασίες όπως επιθέσεις SQL union, εξαγωγή πληροφοριών βάσης δεδομένων και εκτέλεση χάκινγκ χωρίς προηγούμενες γνώσεις της ευπαθείας. Τα πειράματα πραγματοποιήθηκαν σε πραγματικές ιστοσελίδες εντός ενός περιβάλλοντος αμμοδοχείου, εξασφαλίζοντας ότι δεν προκαλέστηκε ζημία και δεν διέρρευσαν προσωπικές πληροφορίες.
Τα αποτελέσματα έδειξαν ότι εταιρικά μοντέλα όπως το GPT-4 και το GPT-3.5 υπερτερούν σε ποσοστό επιτυχίας των μοντέλων ανοικτού κώδικα. Το GPT-4 πέτυχε συνολικό ποσοστό επιτυχίας 73,3% με πέντε διελεύσεις και 42,7% με μία διέλευση. Σε σύγκριση, το GPT-3.5 είχε ποσοστό επιτυχίας μόνο 6,7% με πέντε διελεύσεις και 2,7% με μία διέλευση. Οι ερευνητές απέδωσαν αυτήν τη διαφορά σε καλύτερη κλήση λειτουργίας και στην ικανότητα επεξεργασίας μεγάλων περιβάλλοντων στα εταιρικά μοντέλα.
Ένα από τα ανησυχητικά σημεία αυτής της έρευνας είναι η ανάλυση του κόστους. Οι ερευνητές διαπίστωσαν ότι η χρήση πρακτόρων LLM για το χάκινγκ ιστοσελίδων είναι πολύ πιο οικονομική από το να προσλάβεις έναν ανθρώπινο δοκιμαστή διείσδυσης. Με μέσο κόστος $9,81 ανά ιστοσελίδα και συνολικό ποσοστό επιτυχίας 42,7%, οι πράκτορες LLM αποδεικνύονται ως μια οικονομική επιλογή. Ενώ το κόστος μπορεί να περιορίζει προς το παρόν την ευρεία χρήση, οι ερευνητές προβλέπουν ότι τα LLM θα ενσωματωθούν όλο και περισσότερο στα καθεστώτα δοκιμών διείσδυσης στο μέλλον.
Καθώς η τεχνολογία της ΤΝ συνεχίζει να προχωρά, η δυνατότητα ύπαρξης αυτόνομων κακόβουλων πρακτόρων υπογραμμίζει την ανάγκη για ανθεκτικά μέτρα ασφαλείας και ηθικές σκέψεις. Είναι κρίσιμο να υπάρχει μια ισορροπία μεταξύ των οφελών της ΤΝ και των πιθανών κινδύνων που σχετίζονται με τις αυτόνομες δυνατότητές της.
The source of the article is from the blog maltemoney.com.br