Der Vorsitzende Richter Indiens, Dr. DY Chandrachud, betonte in seiner Ansprache auf einer bedeutsamen juristischen Konferenz die entscheidende Rolle, die Künstliche Intelligenz (KI) potenziell in gerichtlichen Prozessen spielen könnte. Er sprach über die zunehmende Verwendung von KI zur Verbesserung juristischer Praktiken und zur Optimierung der Entscheidungsfindung in den Gerichten. Mit Nachdruck betonte er die Bedeutung technologischer Fortschritte und erkannte die Vorteile, die KI für den Rechtssektor bringen kann, um die Effizienz zu steigern und bei rechtlichen Recherchen zu helfen.
Allerdings wies der Vorsitzende Richter auch auf die potenziellen Gefahren von Hochrisiko-KI-Anwendungen im Bereich des Rechts hin. Er betonte, dass durch undurchsichtige Algorithmen Voreingenommenheit und Diskriminierung in die gerichtliche Entscheidungsfindung eindringen könnten und bezeichnete diese Probleme als ethische Bedenken und praktische Herausforderungen, die einer rigorosen Überprüfung bedürfen.
Die gerichtliche Entscheidungsfindung, ein Bereich, der für sein kritisches menschliches Urteilsvermögen verehrt wird, steht mit dem Aufkommen von KI an einer Wegkreuzung. Der Vorsitzende Richter hob praktische Beispiele hervor, in denen KI angewendet wurde, von administrativen Aufgaben bis zu Gerichtsberatungen zu rechtlichen Angelegenheiten. Er verwies auf einen bemerkenswerten Fall in Kolumbien, in dem ein Richter einen KI-Chatbot konsultierte, um die gesetzlichen Bestimmungen für Versicherungsansprüche für ein autistisches Kind zu verstehen.
Auch die indische Justiz blieb von diesem neuen Werkzeug nicht unberührt, mit Beispielen für dessen Einsatz zur Gewinnung eines umfassenderen Überblicks über globale Gesetze. Inmitten dieser Anwendungen betonte der Vorsitzende Richter, dass KI nicht die essenziellen menschlichen Elemente von Urteilsvermögen und Entscheidungsfindung ersetzen sollte.
Dr. Chandrachud reflektierte auch über den digitalen Wandel, den die Gerichte während der COVID-19-Pandemie durchliefen. Er lenkte die Aufmerksamkeit auf die technologische Integration in der indischen Justiz, wie das ‚Supreme Court Vidhik Anuvaad Software‘, das Verhandlungen und Urteile in mehrere indische Sprachen übersetzt.
Abschließend betonte er die Notwendigkeit rigoroser Standards und ethischer Rahmenbedingungen, um diskriminierende Ergebnisse durch KI zu vermeiden. Insbesondere erwähnte er die Bedeutung der Bewältigung indirekter Diskriminierung, die durch auf unvollständigen oder voreingenommenen Daten trainierten KI-Systeme entstehen könnte, sowie die Undurchsichtigkeit algorithmischer Entscheidungsfindung, wobei Transparenz und Rechenschaftspflicht betont wurden.