Geldstrafe für US-Anwalt: Oberster Gerichtshof von New Mexico sanktioniert erfundene KI-Zeugen in Mordberufung
Der Oberste Gerichtshof des US-Bundesstaates New Mexico hat den Anwalt Stephen Aarons zu einer Geldstrafe in Höhe von 5.000 US-Dollar verurteilt und ihn wegen Missachtung des Gerichts belangt. Anlass für diese gerichtliche Maßnahme war die Einreichung einer Berufung gegen die Verurteilung eines Mandanten wegen Mordes, in welcher durch Künstliche Intelligenz erfundene Zeugen und gefälschte polizeiliche Aussagen enthalten waren. Laut einem Bericht der Nachrichtenagentur Reuters begründete das Gericht seine Entscheidung in einer am Mittwoch eingereichten Verfügung damit, dass Aarons es versäumt habe, die tatsächlichen Behauptungen sowie die rechtlichen Grundlagen der Eingabe ordnungsgemäß zu überprüfen. Der Fall verdeutlicht die juristischen Risiken und die strikte Prüfungspflicht bei der Nutzung von KI-Systemen in sensiblen Gerichtsverfahren.
Die wichtigsten Punkte
- Gerichtliche Sanktion: Der Oberste Gerichtshof von New Mexico hat den Rechtsanwalt Stephen Aarons zu einer Geldstrafe von 5.000 US-Dollar verurteilt.
- Missachtung des Gerichts: Das Gericht stufte das Handeln des Anwalts offiziell als Missachtung des Gerichts (contempt of court) ein.
- Erfundene Beweise und Zeugen: In der Berufungsschrift gegen eine Verurteilung wegen Mordes wurden durch Künstliche Intelligenz frei erfundene Zeugen sowie gefälschte polizeiliche Zeugenaussagen verwendet.
- Verletzung der Sorgfaltspflicht: Die Sanktion wurde verhängt, da der Anwalt die Tatsachenbehauptungen und rechtlichen Grundlagen des eingereichten Schriftsatzes nicht verifiziert hatte.
Analyse
Falsche Zeugenaussagen in einem Mordverfahren
Der Einsatz von generativen KI-Werkzeugen in juristischen Verfahren birgt erhebliche Risiken, wenn Anwender die Ausgaben ungeprüft übernehmen. Wie ein Bericht der Nachrichtenagentur Reuters offenlegt, erreichte dieses Problem im US-Bundesstaat New Mexico eine neue Dimension. Gegenstand des Verfahrens war ein Rechtsstreit mit höchstem Einsatz: die Berufung gegen die Verurteilung eines Mandanten wegen Mordes.
In den beim Obersten Gerichtshof von New Mexico eingereichten Schriftsätzen tauchten Zeugen und angebliche Aussagen von Polizeibeamten auf, die in der Realität niemals existiert hatten. Diese Angaben stammten aus Halluzinationen eines KI-Systems. Das Auftauchen gänzlich fabrizierter Zeugenaussagen in einem Kapitalstrafverfahren stellt eine gravierende Beeinträchtigung des gerichtlichen Prozesses dar, da Gerichte auf die Richtigkeit der vorgetragenen Tatsachen angewiesen sind.
Gerichtsentscheidung und Missachtung des Gerichts
In einer am Mittwoch veröffentlichten Verfügung zog der Supreme Court von New Mexico klare Konsequenzen aus dem Fehlverhalten. Das Gericht belegte den Rechtsanwalt Stephen Aarons mit einer Geldbuße in Höhe von 5.000 US-Dollar. Darüber hinaus wurde Aarons wegen Missachtung des Gerichts belangt.
Die Begründung der Richter hebt hervor, worin der eigentliche Verstoß des Juristen lag: Er habe es versäumt, die faktischen Behauptungen und die juristischen Grundlagen der Berufung vor der Einreichung zu prüfen. Das Gericht stellte damit unmissverständlich klar, dass die Verantwortung für den Inhalt juristischer Dokumente vollständig beim unterzeichnenden Anwalt verbleibt – unabhängig davon, welche Hilfsmittel oder Technologien bei der Erstellung herangezogen wurden.
Bedeutung für die KI-Branche
Der Fall aus New Mexico unterstreicht die anhaltenden Herausforderungen beim praktischen Einsatz generativer Sprachmodelle in professionellen und haftungsrelevanten Berufsfeldern:
- Grenzen automatisierter Texterstellung: Sprachmodelle neigen zu sogenannten Halluzinationen – sie generieren plausibel klingende Fakten, Personen und Zitate, die faktisch nicht existieren. Das unkritische Vertrauen in diese Systeme führt in Berufen mit Verifikationspflichten zu schweren Konsequenzen.
- Haftung und Verantwortung: Die Entscheidung des Gerichts demonstriert, dass technologische Unzulänglichkeiten von den Justizbehörden nicht als Entschuldigung akzeptiert werden. Professionelle Anwender tragen die rechtliche und finanzielle Verantwortung für alle KI-generierten Inhalte.
- Bedarf an Verifikationsmechanismen: Für Entwickler und Anbieter von KI-Anwendungen für den Rechtssektor zeigt der Vorfall, dass zuverlässige Kontrollmechanismen, Quellenverweise und Validierungswerkzeuge unverzichtbar sind, um Falschinformationen vor ihrer Einreichung bei Behörden zu verhindern.
Häufig gestellte Fragen
Warum wurde der Anwalt Stephen Aarons vom Gericht bestraft?
Der Oberste Gerichtshof von New Mexico verhängte die Geldstrafe in Höhe von 5.000 US-Dollar und stellte eine Missachtung des Gerichts fest, weil Stephen Aarons in einem Mordberufungsverfahren durch KI erfundene Zeugen sowie gefälschte polizeiliche Zeugenaussagen eingereicht hatte. Er hatte es versäumt, die Richtigkeit der Angaben und Rechtsausführungen zu überprüfen.
Welche Auswirkungen hatte der Einsatz von KI in diesem Fall?
Die eingesetzte Künstliche Intelligenz generierte frei erfundene Personen und Aussagen von Ermittlern, die als vermeintliche Beweise in den offiziellen Berufungsantrag einflossen. Dies führte zu einer fehlerhaften Einreichung vor Gericht und letztlich zur Verurteilung des Anwalts wegen Missachtung des Gerichts.
Welche Pflichten haben Juristen beim Einsatz von KI laut der Gerichtsentscheidung?
Aus der gerichtlichen Verfügung geht hervor, dass Juristen verpflichtet sind, alle tatsächlichen Behauptungen und rechtlichen Angaben vor der Einreichung eigenhändig und gewissenhaft zu überprüfen. Das ungeprüfte Übernehmen von KI-Inhalten schützt nicht vor Sanktionen.
