Η πρόσφατη ανίχνευση και αναστάτωση κυβερνοεπιχειρήσεων από εχθρούς των Ηνωμένων Πολιτειών που χρησιμοποίησαν γεννητική τεχνητή νοημοσύνη (AI) έφερε στο φως μια αναδυόμενη απειλή στον κυβερνοασφαλή τοπίο. Ενώ οι τεχνικές που χρησιμοποιήθηκαν από αυτές τις εχθρικές ομάδες δεν ήταν καινοτόμες, έδειξαν τη δυνατότητα των μεγάλων μοντέλων γλωσσικής ανάπτυξης να ενισχύσουν σημαντικά τις επιθετικές τους ικανότητες.
Συνεργαζόμενη με τον εταίρο της OpenAI, η Microsoft ανακάλυψε περιπτώσεις όπου οι Ιράν, Βόρεια Κορέα, Κίνα και Ρωσία προσπάθησαν να εκμεταλλευτούν τη γεννητική ΤΑ για επιθετικές κυβερνοεπιχειρήσεις. Ιδιαίτερα, η Microsoft τόνισε τη σημασία της αποκάλυψης αυτών των επιθέσεων δημοσίως, ακόμα κι αν ήταν στα πρώιμα στάδια ή σταδιακές κινήσεις. Ο στόχος ήταν να ευαισθητοποιηθεί ο κόσμος για την αυξανόμενη χρήση μεγάλων μοντέλων γλωσσικής ανάπτυξης από γεωπολιτικούς αντιπάλους για τη διείσδυση σε δίκτυα και τη διεξαγωγή επιρροής.
Οι μεγάλα μοντέλα γλωσσικής ανάπτυξης, όπως το ChatGPT της OpenAI, έχουν αλλάξει ριζικά το παιχνίδι της γάτας και του ποντικιού στην κυβερνοασφάλεια. Ενώ αρχικά η μηχανική μάθηση χρησιμοποιήθηκε από εταιρείες κυβερνοασφάλειας για αμυντικούς σκοπούς, οι εγκληματίες και οι επιθετικοί χάκερ το έχουν υιοθετήσει τώρα. Η σημαντική επένδυση της Microsoft στην OpenAI υπογραμμίζει τη σημασία αυτής της εξέλιξης.
Ανακαλύπτοντας τις κυβερνοεπιθέσεις των εχθρικών ομάδων, η Microsoft ανακάλυψε την εκμετάλλευσή τους της γεννητικής ΤΑ για διάφορους σκοπούς. Για παράδειγμα, η ομάδα Kimsuky της Βόρειας Κορέας χρησιμοποίησε τα μοντέλα για την έρευνα σε ξένα ινστιτούτα σκέψης και τη δημιουργία περιεχομένου για επιθέσεις spear-phishing. Ο Επαναστατικός Φρουρός του Ιράν χρησιμοποίησε μεγάλα μοντέλα γλωσσικής ανάπτυξης για να ενισχύσει τεχνικές κοινωνικής μηχανικής, να επιλύσει σφάλματα λογισμικού και να μελετήσει τρόπους αποφυγής ανίχνευσης σε παραβιασμένα δίκτυα.
Η ρωσική στρατιωτική μονάδα GRU Fancy Bear επικεντρώθηκε στην έρευνα δορυφορικών και ραντάρ τεχνολογιών που σχετίζονται με τη σύγκρουση στην Ουκρανία. Τα κινεζικά κυβερνοειδή γκρουπ Aquatic Panda και Maverick Panda ασχολήθηκαν με τα μοντέλα για να εξερευνήσουν πώς μπορούν να ενισχύσουν τις τεχνικές τους επιχειρήσεις και να συγκεντρώσουν πληροφορίες για διάφορα ευαίσθητα θέματα.
Οι ευρήματα της Microsoft συμφώνησαν με την αξιολόγηση της OpenAI ότι το τρέχον μοντέλο ChatGPT είχε περιορισμένες δυνατότητες για κακόβουλες κυβερνοασφαλείς εργασίες πέρα από ό, τι μπορούν να επιτύχουν τα μη AI-ηλεγχόμενα εργαλεία. Ωστόσο, οι δυνητικοί κίνδυνοι που σχετίζονται με τη μελλοντική ανάπτυξη και εφαρμογή της ΤΑ και των μεγάλων μοντέλων γλωσσικής ανάπτυξης στις επιθετικές κυβερνοεπιχειρήσεις δεν πρέπει να υποτιμηθούν.
Όπως προειδοποιούν οι ειδικοί, τόσο η Κίνα όσο και η τεχνητή νοημοσύνη έχουν χαρακτηριστεί ως απειλές και προκλήσεις που καθορίζουν εποχή. Η υπεύθυνη ανάπτυξη της ΤΑ με την προσοχή στην ασφάλεια είναι ζωτικής σημασίας, καθώς η αυξανόμενη χρήση μεγάλων μοντέλων γλωσσικής ανάπτυξης από εθνικά κράτη θα οδηγήσει αναπόφευκτα στην εμφάνισή τους ως ισχυρά όπλα.
Οι κριτικοί έχουν επισημάνει τη βιαστική κυκλοφορία του ChatGPT και παρόμοιων μοντέλων, υποστηρίζοντας ότι η ασφάλεια δεν είχε επαρκή προτεραιότητα κατά την ανάπτυξή τους. Ορισμένοι ειδικοί κυβερνοασφάλειας έχουν επίσης κριτικάρει τη
The source of the article is from the blog oinegro.com.br