Το ψηφιακό πεδίο μάχης των αποτελεσμάτων αναζήτησης στις μηχανές αναζήτησης βιώνει ένα σημαντικό πρόβλημα: την άνοδο του spam που παράγεται από την τεχνητή νοημοσύνη (AI). Ο Jon Gillham, διευθύνων σύμβουλος μιας κορυφαίας εταιρείας ανίχνευσης περιεχομένου AI, έχει εκφράσει ανησυχίες ότι η προσπάθεια της Google για την καταπολέμηση των ανεπιθύμητων αποτελεσμάτων αναζήτησης ενδέχεται να αδυνατεί. Παρά τις προσπάθειες να καθαρίσει τα αποτελέσματα αναζήτησης της, περίπου το 10% των συνδέσμων οδηγεί τους χρήστες σε σελίδες που είναι γεμάτες με περιεχόμενο που δημιουργήθηκε από την τεχνητή νοημοσύνη.
Η εταιρεία του Gillham παρακολουθεί προσεκτικά την παρουσία της AI στα αποτελέσματα αναζήτησης της Google, παρέχοντας μηνιαίες αναφορές που αποκαλύπτουν το βαθμό του προβλήματος. Σε μια ειλικρινή συζήτηση, ο Gillham επέστησε την προσοχή σε ένα ανησυχητικό τρένδ; σχεδόν όλο το spam που μαστίζει τη μηχανή αναζήτησης της Google φαίνεται να τροφοδοτείται από συστήματα AI. Ενώ όχι όλο το περιεχόμενο που δημιουργείται από την AI θεωρείται spam, το αντίστροφο φαίνεται να ισχύει: οι αναρτήσεις χρησιμοποιούν σχεδόν κατά κανόνα την AI για τη δημιουργία τους.
Ακόμη και όταν η Google έχει υποσχεθεί να ενισχύσει τις ενέργειές της κατά των ιστοτόπων που προωθούν χαμηλής ποιότητας υλικό που δημιουργείται από AI -και έχει πράγματι λάβει χειροκίνητη δράση κατά πολλών- η ανησυχία παραμένει ότι οι αλγόριθμοι της εταιρείας συνεχίζουν να αντιμετωπίζουν δυσκολίες στη διάκριση μεταξύ γνήσιου και μηχανικά δημιουργημένου περιεχομένου.
Ο Gillham υποδεικνύει ότι η τεχνολογία του, η οποία μπορεί να διακρίνει το περιεχόμενο που δημιουργήθηκε από ανθρώπους και μηχανές, θα μπορούσε να αποτελέσει μέρος της λύσης, αλλά παραδέχεται ότι δεν είναι μια ασημένια σφαίρα. Υπάρχει ο κίνδυνος ότι η AI, καταναλώντας και μαθαίνοντας από άλλα δεδομένα που παράγονται από AI, μπορεί να παραπέσει σε έναν κύκλο παραγωγής όλο και πιο χαμηλής ποιότητας υλικού, ένα φαινόμενο που είναι γνωστό ως κατάρρευση μοντέλου. Είναι προφανές ότι πρέπει να γίνουν περισσότερα για να διευθετηθεί αυτό το αυξανόμενο ψηφιακό δίλημμα.
The source of the article is from the blog zaman.co.at