Geschrieben von Whitebird am 01.08.2025 um 15:15:
Richter schickt Anwalt zur KI-NachhilfeRichter schickt Anwalt zur KI-Nachhilfe
Er habe nicht gewusst, dass KI falsche Zitate produzieren könne, behauptet der Anwalt. Das lässt der Richter nicht gelten, da KI schon länger ein Thema sei.
Mike Faust
1. August 2025, 11:40 Uhr
Im US-amerikanischen Bundesstaat Illinois hat der Richter Michael Slade einen Anwalt zu einer Geldstrafe und dem Besuch einer Veranstaltung über künstliche Intelligenz (KI) verurteilt. Wie aus einem Memorandum des Gerichts hervorgeht, hatte der Anwalt Thomas Nield zuvor in einem Insolvenzverfahren Fallzitate eingereicht, die nicht existierten.
Das Verfahren läuft bereits seit dem Jahr 2024, aber erst im Juni 2025 reichte der Anwalt des Gläubigers einen Einspruch gegen einen vorgeschlagenen Rückzahlungsplan ein. Dieser enthielt Zitate aus früheren Fällen, die dem zuständigen Richter merkwürdig vorkamen.
Eine genauere Prüfung ergab, dass nur vier der fünf zitierten Fälle überhaupt existierten, aber keines der angeführten Zitate echt war. "Ich habe Herrn Nield direkt gefragt, ob er eine Art KI verwendet habe, um diesen Teil seines Schriftsatzes zu erstellen", schreibt Slade in dem Dokument.
Davon ausgegangen, dass KI keine Zitate erfinden würde
Nield räumte daraufhin die Verwendung von KI ein, fügte aber hinzu, dass er nicht gedacht habe, dass die Zitate falsch seien. Er behauptete, noch nie zuvor KI in einem Fall eingesetzt zu haben und dass er davon ausgegangen sei, dass eine KI keine Zitate vollständig erfinden würde.
Nield bat das Gericht außerdem darum, ihn und seine Kanzlei nicht zu bestrafen, weil das Fehlverhalten freiwillig eingestanden worden sei, alle Anträge auf Entschädigung in dem Fall zurückgezogen worden seien und er bereits ein Onlinevideo zur juristischen Fortbildung angesehen habe.
Slade schätze diese Bemühungen zwar, sei aber der Meinung, dass es Konsequenzen geben müsse. Er kritisierte vor allem die Behauptung, Nield habe nichts von den Risiken der Verwendung von KI für juristische Zwecke gewusst.
Heiß diskutiertes Thema in der Anwaltschaft
"Um es ganz offen zu sagen: Jeder Anwalt, der nicht weiß, dass die Verwendung generativer KI-Plattformen für juristische Recherchen ein Spiel mit dem Feuer ist, lebt in einer Traumwelt. Dies ist seit mindestens 2023 ein heiß diskutiertes Thema in der Anwaltschaft", schreibt Slade.
Nield wurde angewiesen, eine Strafe in Höhe von 5.500 US-Dollar zu zahlen und an einer Plenarsitzung mit dem Titel Intelligenter denn je: Das Potenzial und die Gefahren der künstlichen Intelligenz teilzunehmen. Die Stellungnahme zu diesem und vielen weiteren Fällen werden von dem KI-Wissenschaftler Damien Charlotin auf dessen Webseite gesammelt.
quelle: golem.de