Οι deepfakes, μια ανησυχητική κυβερνοαπειλή, αυξάνονται πλέον, όπως ειδοποίησε το Παρατηρητήριο Κυβερνοεγκλημάτων και Ψηφιακών Αποδεικτικών Στοιχείων στις Ποινικές Ερευνητικές Διαδικασίες του Πανεπιστημίου Αυστράλ (Ocedic). Αυτά είναι συνθετικά πολυμεσικά περιεχόμενα που δημιουργήθηκαν μέσω Τεχνητής Νοημοσύνης (AI) και είναι προσβάσιμα μέσω εφαρμογών όπως το FaceApp ή το Deep Face Lab. Το δυνητικό της τεχνολογίας deepfake να δημιουργήσει ψευδείς, αλλά πειστικά πραγματικές απεικονίσεις ατόμων προκαλεί συναγερμό, ειδικά από τότε που τέτοιες παραχωρήσεις συνδέονται συχνά με σχέματα απάτης σε επιχειρήσεις.
Κατά την κυκλοφορία ενός βιβλίου για κυβερνοαπάτες, η Δανιέλα Δουπούι, διευθύντρια του Ocedic, υπογράμμισε τη διεθνή επίπτωση των deepfakes. Η ανησυχία πηγάζει από το γεγονός ότι αυτά τα εγκλήματα είναι διαπολιτισμικά, επιτρέποντας σε εγκληματίες να δρομολογούν από οπουδήποτε στον κόσμο. Πρόσφατες μελέτες υποδεικνύουν ότι η κύρια απειλή που αντιμετωπίζει η επιθετική AI είναι η προώθηση επιθετικών επιθέσεων κοινωνικής μηχανικής. Χρησιμοποιώντας τα deepfakes για να μιμηθούν φωνές διευθυντικών συμβούλων ή να μιμηθούν την εμφάνιση σεβαστών πολιτών, οι επιτιθέμενοι μπορούν να ενισχύσουν σημαντικά την αποτελεσματικότητα των απατηλών τους τακτικών.
Ένα έγγραφο από το Ίδρυμα Carnegie για τη Διεθνή Ειρήνη υπογραμμίζει τον ρόλο που θα μπορούσαν να διαδραματίσουν τα deepfakes σε διάφορα είδη απάτης ταυτότητας. Για παράδειγμα, αυτές οι πειστικές παραχωρήσεις προσθέτουν επίπεδα αυθεντικότητας σε απατηλές στρατηγικές. Επιπλέον, οι chatbots AI, όπως το ChatGPT, μπορεί επίσης να βοηθήσουν τους απατεώνες παράγοντας γραμματικά άψογα μηνύματα phishing που φαίνονται αξιόπιστα, δυσκολεύοντας έτσι τον εντοπισμό των υπαιτίων.
Ένα παράδειγμα περιλαμβάνει έναν διευθυντή εταιρείας που καταπλαγήκε και μετέφερε 25 εκατομμύρια δολάρια σε λογαριασμούς που ελέγχονταν από απατεώνες με την πίστη ότι του δόθηκε εντολή από το αφεντικό του. Ένα άλλο περιστατικό περιλάμβανε έναν απατεώνα που διεξήγαγε πλαστογραφημένες βιντεοκλήσεις με έναν υπάλληλο για να την καθοδηγήσει σε μια μαζική χρηματική μεταφορά, χρησιμοποιώντας δημοσίως διαθέσιμα βίντεο του πραγματικού αφεντικού.
Σε ό,τι αφορά την πρόληψη απάτης στο διαδίκτυο που περιλαμβάνει εικόνες, βίντεο και ήχου που δημιουργήθηκαν από την AI, είναι εμφανές ότι οι υπάρχουσες μηχανισμοί ανίχνευσης υστερούν σε σχέση με τα εργαλεία δημιουργίας. Στο Ocedic, ο εστίασος είναι τόσο στη μεγέθυνση όσο και στην πρόληψη, με σκοπό να ενημερώσει τους ειδικούς και τους πολίτες. Οι χρήστες καλούνται να ελέγχουν τα μηνύματα που λαμβάνουν μέσω ΤΠΕ πριν απαντήσουν, και συνιστάται στα προγράμματα συμμόρφωσης εταιριών να εφαρμόζουν διπλά βήματα επαλήθευσης για οποιοδήποτε σημαντική ενέργεια όπως χρηματικές μεταφορές ή αλλαγές στις πληροφορίες των τραπεζικών λογαριασμών.
Η πρόληψη των deepfakes είναι μια πολύπλοκη εργασία, απαιτώντας όχι μόνο τεχνολογικές λύσεις αλλά και νομικές, εκπαιδευτικές και διαδικαστικές προσεγγίσεις για να διατηρηθεί η εμπιστοσύνη στις ψηφιακές επικοινωνίες. Καθώς η τεχνολογία εξελίσσεται, έτσι και οι υπεράσπισή μας ενάντια στην κατάχρηση της.
The source of the article is from the blog meltyfan.es