Σε ένα περιβάλλον όπου η Τεχνητή Νοημοσύνη (ΤΝ) είναι όλο και περισσότερο ενσωματωμένη στις δικαστικές διαδικασίες, υπάρχουν ανησυχίες για τυχόν προληπτική ανακρίβεια που μπορεί να φέρει. Ο Αρχηγός Δικαστής της Ινδίας, DY Chandrachud, τόνισε πρόσφατα το κρίσιμο ζήτημα του έμμεσου διακριτικού χαρακτήρα που μπορεί να επιφέρει η ΤΝ, ειδικά η Τεχνολογία Αναγνώρισης Προσώπου (FRT). Σημείωσε ότι ενώ η FRT προσφέρει σημαντικά οφέλη λόγω της ακρίβειάς της και της αυτοματοποίησής της, φέρνει επίσης κινδύνους που σχετίζονται με την παραβίαση της ιδιωτικότητας και την κατάχρηση.
Ο Δικαστής Chandrachud υπογράμμισε τη σημασία της εξέτασης της ενσωμάτωσης τέτοιων τεχνολογιών στο ακροατήριο. Ο ρόλος της ΤΝ στη διαμεσολάβηση των νομικών θεμάτων δεν πρέπει να παραβλέπεται, καθώς παρουσιάζει ένα φάσμα ηθικών, νομικών και πρακτικών ερωτήσεων που απαιτούν σκεπτικό διάλογο. Υπάρχει μια συνεχής ένταση μεταξύ της αξιοποίησης της ΤΝ για αποτελεσματικότητα και αποδοτικότητα στις νομικές διαδικασίες και της προάσπισης των ατομικών δικαιωμάτων και της κοινωνικής ισότητας.
Οι παρατηρήσεις του Αρχηγού Δικαστή λειτουργούν ως σημαντική υπενθύμιση για την ανάγκη για μια ισορροπημένη προσέγγιση ως προς την υιοθέτηση της ΤΝ στη δικαιοσύνη. Είναι ζωτικό να ληφθούν μέτρα ώστε τα τεχνολογικά εργαλεία να μην γίνουν κατά λάθος μέσα διακρίσεων, παραβιάζοντας τα δικαιώματα ορισμένων ομάδων έναντι άλλων.