Lidia PerskaΜια πρόσφατη απόφαση δικαστηρίου έχει επισημάνει τους πιθανούς κινδύνους που συνδέονται με την αποκλειστική εξάρτηση από chatbots που λειτουργούν με την τεχνολογία AI για την εξυπηρέτηση πελατών. Η Air Canada, μία από τις αεροπορικές εταιρείες που έχει απευθυνθεί όλο και περισσότερο στην τεχνολογία AI για την υποδοχή ερωτήσεων επιβατών, καλούνταν να καταβάλει 812 δολάρια Καναδά ($970) ως αποζημίωση και δικαστικά έξοδα, μετά την καταγγελία ενός επιβάτη ότι το chatbot της αεροπορικής εταιρείας παρείχε παραπλανητικές πληροφορίες σχετικά με τις ασθενείς τιμές.
Σε αυτήν την περίπτωση, ο επιβάτης, ο οποίος είχε ήδη αγοράσει εισιτήρια, έψαχνε να υποβάλει αίτηση για ασθενείς τιμές αναδρομικά μετά το θάνατο της γιαγιάς του. Ο AI chatbot απάντησε, προτείνοντας στον επιβάτη να υποβάλει αίτηση επιστροφής εισιτηρίου για μειωμένη ασθενή τιμή. Ωστόσο, το chatbot δεν ανέφερε την πολιτική της αεροπορικής εταιρείας για τη μη προσφορά επιστροφών για ταξίδια που έχουν ήδη πραγματοποιηθεί.
Η Air Canada προσπάθησε να απομακρυνθεί από την απάντηση του chatbot, υποστηρίζοντας ότι δεν πρέπει να θεωρηθεί υπεύθυνη για τις ενέργειες του bot. Το δικαστήριο, ωστόσο, αποφάσισε πως η αεροπορική εταιρεία φέρει ευθύνη για τις πληροφορίες που παρείχε το chatbot, θεωρώντας το όπως οποιαδήποτε άλλη πληροφορία στην ιστοσελίδα της αεροπορικής εταιρείας. Το δικαστήριο καταδίκασε το chatbot για “αμέλεια στην αναπαράσταση” εκ μέρους της αεροπορικής εταιρείας.
Αυτή η απόφαση αποτελεί ένα ξυπνητήρι για τις αεροπορικές εταιρείες και άλλες επιχειρήσεις που χρησιμοποιούν chatbots με λειτουργία AI. Ενώ αυτές οι τεχνολογίες μπορούν να βελτιώσουν την εξυπηρέτηση πελατών και να παρέχουν γρήγορες απαντήσεις, πρέπει να υπάρχει ευθύνη για τις πληροφορίες που μεταδίδουν. Το απλό αθωώνει τον εαυτό τους από την ευθύνη για τις ενέργειες των AI πράκτορών τους δεν αποτελεί πλέον έγκυρη υπεράσπιση.
Στο μέλλον, οι εταιρείες πρέπει να διασφαλίσουν ότι τα chatbots τους είναι εξοπλισμένα με ακριβείς και ενημερωμένες πληροφορίες, να τα παρακολουθούν στενά για πιθανά λάθη ή παραπλανητικές απαντήσεις. Επιπλέον, οι πελάτες πρέπει να ενημερώνονται για τους περιορισμούς των chatbots με λειτουργία AI και να ενθαρρύνονται να ζητήσουν επιπλέον επιβεβαίωση όταν είναι απαραίτητο.
Η υπόθεση της Air Canada υπογραμμίζει την ανάγκη για μια προσεκτική ισορροπία μεταξύ αυτοματισμού και ανθρώπινης επίβλεψης. Καθώς οι επιχειρήσεις υιοθετούν την τεχνολογία AI, πρέπει επίσης να αναγνωρίσουν τη σημασία της διατήρησης ευθύνης και διαφάνειας, προστατεύοντας τον εαυτό τους από τους πιθανούς νομικούς και φήμης κινδύνους.
