Η λειτουργία σύνοψης βασισμένη σε τεχνητή νοημοσύνη της Google χαλάει τους χρήστες σε μία ερώτηση γαστριμαργικού ενδιαφέροντος
Σε ένα παράξενο περιστατικό που περιγράφηκε από το Business Insider, η νέα λειτουργία αναζήτησης AI Overviews της Google στάθηκε αναποτελεσματική όταν παρήγαγε μια μη πρακτική λύση σε ένα πρόβλημα σχετικό με την πίτσα. Φαίνεται ότι προσπαθούσε να βοηθήσει ένα χρήστη με το πρόβλημα του τυριού που γλιστράει από την πίτσα, το AI Overviews πρότεινε παράξενα να ενσωματώσετε “περίπου ⅛ φλιτζάνι μη τοξικής κόλλας” στη σάλτσα για ενισχυμένη κολλητικότητα. Αυτό το περίεργο συμβουλευτικό συνέστημα φαίνεται να προήλθε από ένα σχόλιο Reddit 11 ετών και πιθανότατα ήταν σαν πλάκα.
Η Google σχεδιάζει να διευρύνει το AI Overviews παρά τα ελαττώματά του
Η εισαγωγή του AI Overviews άρχισε ως δοκιμή στις ΗΠΑ και το Ηνωμένο Βασίλειο, με τη Google να στοχεύει σε ευρύτερη εφαρμογή μέχρι το τέλος του 2024. Η Λιζ Ριντ, επικεφαλής του τμήματος αναζήτησης της Google, καυχήθηκε σε μια πρόσφατη εταιρική συνάντηση ότι η λειτουργία θα εξυπηρετεί αποτελεσματικά ως η Google να κάνει αναζητήσεις εκ μέρους του χρήστη.
Τα προβλήματα ακρίβειας εγείρουν ανησυχίες για το AI Overviews της Google
Το περιστατικό με την κόλλα-πίτσα συμβολίζει μόνο έναν από τους κινδύνους της χρήσης του AI για την ανάκτηση πληροφοριών. Άλλες περιπτώσεις που ανέφεραν οι χρήστες στα μέσα κοινωνικής δικτύωσης περιλαμβάνουν σημαντικά ανακριβή απαντήσεις, όπως για παράδειγμα μια δήλωση για ένα σκυλί που παίζει στο NHL. Ο Peter Kafka του Business Insider παρατήρησε ότι ένα από τα κύρια προβλήματα με το περιεχόμενο που παράγεται από το AI είναι η δυνατότητα να δημιουργήσει πλαστούς πληροφορίες. Για παράδειγμα, το AI Overviews παρέθεσε λανθασμένα τον Πύργο του Λονδίνου ως θύμα πολεμικών βομβαρδισμών αντί του Big Ben.
Παρά τις ανωμαλίες αυτές, ένας εκπρόσωπος της Google δήλωσε προηγουμένως ότι τα τέτοια παραδείγματα είναι εξαιρετικά σπάνια αποτελέσματα “εξαιρετικά σπάνιων ερωτημάτων”, υπογραμμίζοντας ότι το μεγαλύτερο μέρος των AI Overviews παρέχουν υψηλής ποιότητας πληροφορίες. Πριν την έναρξη της λειτουργίας, η Google υποστηρίζεται ότι πραγματοποίησε λεπτομερείς δοκιμές. Ωστόσο, περιστατικά όπως αυτά υπογραμμίζουν τις πολυπλοκότητες που συνδέονται με την ενσωμάτωση του AI στις μηχανές αναζήτησης και την ανάγκη για περαιτέρω επεξεργασίες.
Σημαντικές ερωτήσεις και προκλήσεις που σχετίζονται με το AI Overviews της Google
Μία από τις πιο σημαντικές ερωτήσεις είναι: Πόσο αξιόπιστες είναι οι συμβουλές που παράγονται από το AI; Το γεγονός ότι το AI Overviews παρείχε συμβουλές βασισμένες σε ένα σχόλιο πλάκας δημιουργεί ανησυχίες για την αξιοπιστία και την ακρίβεια των παρεχόμενων πληροφοριών. Οι χρήστες μπορεί να εμπιστευτούν τυφλά τις συμβουλές του AI, προκαλώντας πιθανώς επικίνδυνες καταστάσεις ή τη διάδοση παραπλανητικών πληροφοριών. Η κύρια πρόκληση είναι να διασφαλιστεί ότι το AI διακρίνει αξιόπιστες πηγές από χιούμορ ή σαρκασμό, κάτι το οποίο μπορεί να είναι δύσκολο λόγω της λεπτομερούς φύσης της ανθρώπινης γλώσσας.
Μια άλλη σημαντική ερώτηση είναι: Ποια βήματα κάνει η Google για να αντιμετωπίσει τις ανακρίβειες; Ο έλεγχος ποιότητας είναι βασικός για τη συνεχή ενσωμάτωση του AI στη λειτουργικότητα αναζήτησης. Η Google πρέπει να συνεχίσει να βελτιώνει τους αλγόριθμους της για να ερευνήσει και να επιβεβαιώσει πληροφορίες με πιο αποτελεσματικό τρόπο, ίσως με την απαίτηση συναντήσεων πολλαπλών πηγών ή την υλοποίηση πιο ισχυρής αναγνώρισης πλαισίου.
Κύριος διαφωτισμός
Το κύριο διαμάχη εντοπίζεται στην ισορροπία μεταξύ της παροχής γρήγορων, αυτοματοποιημένων συνοπτικών περιλήψεων έναντι του κινδύνου διάδοσης ψευδών ή παραπλανητικών πληροφοριών. Καθώς οι μηχανές αναζήτησης επιδιώκουν να γίνουν πιο αποτελεσματικές με τη χρήση του AI, το δυνητικό για λάθη που έρχονται εις βάρος της εμπιστοσύνης των χρηστών αποτελεί ένα κρίσιμο ζήτημα.
Πλεονεκτήματα και μειονεκτήματα
Τα πλεονεκτήματα του AI Overviews περιλαμβάνουν:
– Βελτιωμένη αποτελεσματικότητα στην παροχή σύντομων συνοπτικών κειμένων στους χρήστες.
– Η ευκολία της αυτοματοποιημένης αναζήτησης, εξοικονομώντας χρόνο στους χρήστες που δεν χρειάζεται να ψάχνουν μέσα από αποτελέσματα.
– Το δυναμικό να βελτιώσει την εμπειρία του χρήστη παρέχοντας γρήγορη πρόσβαση σε σχετικές πληροφορίες.
Τα μειονεκτήματα περιλαμβάνουν:
– Τον κίνδυνο παροχής εσφαλμένων ή παραπλανητικών πληροφοριών, όπως καταδεικνύεται από τη συμβουλή για την “κόλλα στην πίτσα”.
– Τη δυσκολία για το AI να κατανοήσει τα δεδομένα και τις λεπτομέρειες στην ανθρώπινη επικοινωνία, όπως το σαρκασμό και το χιούμορ.
– Η εξάρτηση από το AI μπορεί να μειώσει την ικανότητα των χρηστών να αξιολογήσουν κριτικά τις πληροφορίες.
Εάν ενδιαφέρεστε για περισσότερες πληροφορίες απευθείας από τη Google σχετικά με την τεχνολογία τους με AI και αναζήτησης, μπορείτε να επισκεφθείτε τον κύριο ιστότοπό