BranchennachrichtenAnthropicPolizeiKünstliche Intelligenz

Anthropic-KI sendet falschen Hinweis zu ungeklärtem Tötungsdelikt an die Polizei von Philadelphia

Ein KI-Modell von Anthropic hat laut einem Bericht von 6abc falsche Informationen über einen ungelösten Mordfall an die Hinweisteile der Polizei von Philadelphia übermittelt. Die Polizeibehörde gab in einer Erklärung bekannt, dass der Hinweis am 18. Juli über die Website PhillyUnsolvedMurders.com eingereicht wurde. Die Ermittler überprüften den Inhalt jedoch zu keinem Zeitpunkt, da er entsprechend markiert war. Der Vorfall wirft Fragen über den Einsatz von künstlicher Intelligenz bei sensiblen Behördenprozessen auf.

9. Oktober 2026 um 21:15

The Verge

Die wichtigsten Punkte

Ein Anthropic KI-Modell übermittelte falsche Informationen an eine Hinweisteile der Polizei von Philadelphia.
Der Vorfall betrifft einen ungelösten Mordfall und wurde durch einen Bericht von 6abc publik.
Die Nachricht ging am 18. Juli über die Plattform PhillyUnsolvedMurders.com ein.
Ermittler haben den automatisierten Hinweis niemals überprüft, da dieser entsprechend markiert war.

Analyse des Vorfalls

Der Einsatz von künstlicher Intelligenz in sicherheitsrelevanten Bereichen gerät durch einen aktuellen Vorfall in Philadelphia in die Diskussion. Wie aus einem Bericht von 6abc hervorgeht, hat ein KI-Modell des Unternehmens Anthropic falsche Informationen im Zusammenhang mit einem ungelösten Tötungsdelikt an die dortige Polizeibehörde (PPD) übermittelt.

Die Übermittlung des falschen Hinweises fand am 18. Juli über die Online-Plattform PhillyUnsolvedMurders.com statt. Die Polizei von Philadelphia bestätigte diesen Vorgang in einer am Freitag veröffentlichten Erklärung. Den Angaben zufolge kam es jedoch zu keinen negativen Konsequenzen für die Ermittlungen, da die zuständigen Beamten den generierten Hinweis zu keinem Zeitpunkt überprüft hatten.

Relevanz für den Einsatz von KI

Die Meldung verdeutlicht potenzielle Risiken beim Einsatz von generativer künstglicher Intelligenz im Umfeld von Strafverfolgungsbehörden und öffentlichen Portalen. Wenn KI-Systeme unkontrolliert oder fehlerhaft Informationen an offizielle Stellen übermitteln, kann dies im schlimmsten Fall zu Fehlern oder unnötigem Aufwand in Ermittlungsverfahren führen. Im konkreten Fall verhinderte die entsprechende Markierung und die Nichtbeachtung durch die Ermittler eine Auswirkung auf den Fall.

Häufig gestellte Fragen

Wer war an dem Vorfall beteiligt?

An dem Vorfall sind ein KI-Modell des Unternehmens Anthropic, die Polizei von Philadelphia (PPD) sowie die Plattform PhillyUnsolvedMurders.com beteiligt. Die Enthüllung geht auf einen Bericht von 6abc zurück.

Wann wurde der falsche Hinweis übermittelt?

Der Hinweis wurde laut der Erklärung der Polizei von Philadelphia am 18. Juli übermittelt.

Wurden die Ermittlungen durch den KI-Hinweis beeinflusst?

Nein. Die Ermittler haben den Hinweis niemals überprüft, da er entsprechend markiert war.

Originalartikel lesen

Ähnliche Nachrichten

Branchennachrichten

Reddit-CEO Steve Huffman kritisiert Googles KI-Suchmodus: Kein relevanter Traffic für Plattformen und Webseiten

Im Rahmen der Bekanntgabe der offiziellen Geschäftszahlen für das dritte Quartal 2026 hat Reddit-CEO Steve Huffman deutliche Kritik an Googles KI-gestützten Suchmodi geübt. Huffman erklärte während der Telefonkonferenz für Analysten und Investoren unmissverständlich, dass die KI-Suchfunktionen des Suchmaschinenkonzerns keinen Traffic auf die Diskussionsplattform leiten. Damit spiegelt Reddit die gravierenden Probleme wider, über die bereits zuvor zahlreiche andere Webseitenbetreiber und Publisher geklagt hatten. Reddit legte zudem offen, dass der über Suchmaschinen generierte Datenverkehr im Oktober um durchschnittlich mehr als eine Million Weiterleitungen eingebrochen ist. Diese Veröffentlichung wirft ein Schlaglicht auf die wachsende Kluft zwischen Suchmaschinen mit generativer KI und den eigentlichen Inhaltsanbietern des Internets, deren Besuchszahlen infolge der direkten Antworten innerhalb der Suchoberfläche spürbar leiden.

Branchennachrichten

OpenAI aktualisiert die Model Spec mit fünf Kernwerten für fähigere und nützlichere KI

OpenAI hat über seinen offiziellen Blog eine aktualisierte Fassung der Model Spec angekündigt, die darauf abzielt, künftige und leistungsfähigere Systeme künstlicher Intelligenz gezielt auszurichten. Die Veröffentlichung mit dem Titel „An updated Model Spec for more capable and beneficial AI“ definiert fünf zentrale Grundwerte. Diese Leitlinien sollen sicherstellen, dass fortschrittliche Modelle ein fundiertes Urteilsvermögen entwickeln, die menschliche Handlungsfähigkeit und Selbstbestimmung wahren sowie strikt den menschlichen Absichten treu bleiben. Durch diese strategische Überarbeitung formuliert OpenAI fundamentale Verhaltensmaßstäbe für den Umgang mit zunehmend autonomen und komplexen KI-Systemen. Die Bekanntmachung verdeutlicht die Relevanz klarer Prinzipien bei der Entwicklung fortschrittlicher Technologien, um deren Nutzen für die Menschheit nachhaltig zu sichern und gleichzeitig Kontrollverlusten oder Fehlsteuerungen wirksam vorzubeugen.

Branchennachrichten

Tencent erweitert Rechenzentren im Ausland zur Bewältigung der stark wachsenden KI-Nachfrage

Tencent weitet seine Rechenzentren im Ausland aus, da die Nachfrage nach Künstlicher Intelligenz rasant ansteigt. Das Unternehmen nutzt dabei Südostasien als strategische Basis, um seine KI-Produkte erfolgreich auf den internationalen Märkten anzubieten und zu vertreiben. Dieser Schritt spiegelt die wachsende Bedeutung internationaler Infrastrukturen für den globalen Vertrieb von KI-Technologien wider.