Wie viel KI verträgt die Justiz?

Dieses Thema diskutierten unter der gewohnt spritzigen Moderation von Dr. Christian Strasser die Vorsitzende des Rechtsausschusses des Deutschen Bundestages, Frau Dr. Winkelmeier-Becker, MdB, die Präsidentin des Oberlandesgerichts Celle, Frau Stefanie Otte, die Co-Leiterin des Think Tank Legal Tech und KI bei dem OLG Köln, Frau Richterin am Amtsgericht Isabelle Biallaß, Herr Rechtsanwalt und Notar Prof. Dr. Peter Enders, der Journalist Niels Boeing und aus dem Vorstand des VdR Jens-Niklas Krause.

In der Diskussion wurde deutlich, dass vieles unter der Überschrift „Künstliche Intelligenz“ diskutiert wird, was eigentlich die Digitalisierung der Justiz betrifft. Der Versuch, beides zu vermengen, verstellt den klaren Blick auf die Unterschiede: gute Gründe für und gute Erfahrungen mit Digitalisierung rechtfertigen nicht automatisch auch den Einsatz von KI. Zwar teilen beide die Automation von Arbeitsabläufen. Aber bei der Digitalisierung behält der Mensch die Kontrolle über die Entscheidungen. Es gilt also sorgsam abzuwägen, wo Künstliche Intelligenz tatsächlich einen Mehrwert für Rechtsuchende sowie Rechtsanwenderinnen und –anwender bietet. Und wo die Vorteile eher auf Seiten der IT-Industrie lägen, die ein massives Interesse hat, mit den Daten der Justiz Gewinne zu erzielen und die deshalb gerne KI „draufschreibt“, wo tatsächlich nur lineare Algorithmen drin sind. Weil sich das nun einmal besser verkauft. Könnte einem egal sein, wenn nicht am Ende des Tages der Finanzminister die Reformdividende kassieren und dazu Stellen streichen würde. Und wir alle wissen, dass sich diese Einsparungen nach den Kosten richten, und nicht danach, wie viel Arbeit tatsächlich durch Automation wegrationalisiert wurde. Sicher: uns Rechtspflegerinnen und Rechtspflegern droht nicht so sehr die Arbeitslosigkeit, aber die nächste Leistungsverdichtung, die die Rechtspflege kaputtspart und noch mehr Kolleginnen und Kollegen in die Flucht schlägt.

Auf der anderen Seite bietet Künstliche Intelligenz natürlich auch für die Rechtspflege echte Chancen. Ob es die Beratungshilfesachen sind, die Kostenfestsetzung, die Forderungspfändung oder die Prüfung von Rechnungslegungen in Betreuungssachen: es gibt sicher Geschäfte, die sich durch den Einsatz Künstlicher Intelligenz automatisieren ließen, ohne den Rechtsstaat zu gefährden.

Aber auch für Rechtspflegerinnen und Rechtspfleger besteht Anlass, die Entwicklungen kritisch zu begleiten. So wird in der Justizpolitik die Arbeit des Rechtspflegers z.B. in den öffentlichen Registern nicht selten für repetitiv und stark formalisiert gehalten und übersehen, dass beispielsweise die Grundbuchberichtigung komplexe materiell-rechtliche Prüfungen erfordert. Dieser unterkomplexen Sicht auf die öffentlichen Register muss vehement widersprochen werden, denn sie nährt bereits die Vorstellung, man könne mittels Künstlicher Intelligenz die öffentlichen Register (teil-)automatisieren. Und auch im Bereich der Antragsaufnahme existieren ähnlich unterkomplexe Vorstellungen von der Arbeit des Rechtspflegers. Jeder, der schon einmal einen Erbscheinsantrag aufgenommen hat, weiß, dass es nicht selten mehrerer Gesprächsschleifen bedarf, um die Existenz lange verdrängter nichtehelicher Kinder zutage zu fördern. Das ist im KI-geführten Menü schnell weggeklickt und produziert im Nachhinein nicht nur Mehrarbeit, sondern unrichtige Erbscheine.

Alles in allem herrschte auf dem Podium in den grundsätzlichen Fragen Einigkeit: auch die rechtspflegerische Entscheidung muss Menschen vorbehalten bleiben und Entscheidungsvorschläge müssen nachvollziehbar sein. Rechtsuchende dürfen nicht auf digitale Zugänge zur Justiz verwiesen werden.

Das soll aber nicht bedeuten, dass man sich entspannt zurücklehnen dürfte. Denn die Frage, was Nachvollziehbarkeit KI-generierter Entscheidungsvorschläge konkret bedeutet, ist entweder das schnelle Aus für KI in der Justiz oder ein weites Feld hoffentlich fruchtbarer Kontroversen: die Auskunft, welcher Parameter mit welcher Wahrscheinlichkeit den Entscheidungsvorschlag beeinflusst hat, erlaubt jedenfalls keine Entscheidung, wie viel der Vorschlag mit dem Normprogramm zu tun hat. Spannend dürften auch die datenschutz- und urheberrechtlichen Fragestellungen im Zusammenhang mit dem Einsatz von KI sein. Das Training von KI im justiziellen Kontext erfordert beispielsweise neben den Entscheidungen auch die – urheberrechtlich geschützten – Schriftsätze. Und auch die Verfahrensbeteiligten dürften kaum qualifiziert eingewilligt haben, ihre Daten zum Training kommerzieller KI zu verarbeiten. Fraglich ist, ob automatisierte Pseudonymisierung da wirklich helfen kann, wenn auch dafür KI zum Einsatz kommen soll und sich damit die Katze in den Schwanz beißt.

Alles Diskussionen aus dem Elfenbeinturm, über die die Zeit längst hinweggegangen ist? Weil Anwälte längst mittels KI massenhaft Schriftsätze generieren und es nur noch darum geht, in dieser Flut nicht unterzugehen? Das mag für die zivilrichterliche Sicht gelten und die Frage aufwerfen, ob man tatsächlich zu den gleichen „Waffen“ greifen muss. Vielleicht wäre eher zu fragen, ob die Zulassung KI-generierter Schriftsätze wirklich dem Rechtsstaat dient – oder nur dem Partikularinteresse einzelner Unternehmen. Für die Rechtspflege jedenfalls in der freiwilligen Gerichtsbarkeit verfängt dieser Einwand nicht. Fürsorgende Rechtspflege wird auch in Zukunft den Menschen in den Mittelpunkt stellen müssen, wenn sie wirksam Konflikte vermeiden helfen soll. Hier den Einsatz von KI zu fordern, heißt Justizpolitik nach Kassenlage, das Wort zu reden – und Rechtsstreit zu provozieren.

Diese Gedanken führten den Rechtspflegertag 2023 zu folgender Beschlussfassung:

„Der Rechtspflegertag steht dem Einsatz von Künstlicher Intelligenz grundsätzlich offen gegenüber. Denkbare Einsatzgebiete wären die Kostenfestsetzung oder die Forderungspfändung sowie Tools, die für Rechtsuchende Informationen über die Verfahrensabläufe und –voraussetzungen aufbereiten, Orientierungshilfe bieten und Terminabsprachen erleichtern.“

Den Einsatz künstlicher Intelligenz in den öffentlichen Registern sieht der Rechtspflegertag äußerst kritisch. Hier werden die komplexen rechtlichen Fragestellungen übersehen, die die Grundbuch- und Handelsregisterverfahren prägen und die keinen tauglichen Gegenstand für Künstliche Intelligenz darstellen.

Der Einsatz Künstlicher Intelligenz im Sinne selbstlernender Algorithmen darf aber auch in den unkritischen Bereichen nur dann erfolgen, wenn folgende Voraussetzungen erfüllt sind:

1. Die Künstliche Intelligenz ist Open Source.
2. Die Künstliche Intelligenz wird proprietär auf Computern der Justiz betrieben. Die Daten der Beteiligten werden nicht an Dritte überlassen.
3. Entscheidungsvorschläge der Künstlichen Intelligenz müssen jederzeit für die Anwendenden wie für die Beteiligten nachvollziehbar sein.
4. Es muss durch geeignete Vorkehrungen sichergestellt werden, dass die Voraussetzungen, die eine KI bei ihrem Vorschlag geprüft hat, durch den Rechtspfleger auch tatsächlich im Einzelfall nachvollzogen werden.