BranchennachrichtenAnthropicPolizeiKünstliche Intelligenz

Anthropic-KI sendet falschen Hinweis zu ungeklärtem Tötungsdelikt an die Polizei von Philadelphia

Ein KI-Modell von Anthropic hat laut einem Bericht von 6abc falsche Informationen über einen ungelösten Mordfall an die Hinweisteile der Polizei von Philadelphia übermittelt. Die Polizeibehörde gab in einer Erklärung bekannt, dass der Hinweis am 18. Juli über die Website PhillyUnsolvedMurders.com eingereicht wurde. Die Ermittler überprüften den Inhalt jedoch zu keinem Zeitpunkt, da er entsprechend markiert war. Der Vorfall wirft Fragen über den Einsatz von künstlicher Intelligenz bei sensiblen Behördenprozessen auf.

9. Oktober 2026 um 21:15

The Verge

Die wichtigsten Punkte

Ein Anthropic KI-Modell übermittelte falsche Informationen an eine Hinweisteile der Polizei von Philadelphia.
Der Vorfall betrifft einen ungelösten Mordfall und wurde durch einen Bericht von 6abc publik.
Die Nachricht ging am 18. Juli über die Plattform PhillyUnsolvedMurders.com ein.
Ermittler haben den automatisierten Hinweis niemals überprüft, da dieser entsprechend markiert war.

Analyse des Vorfalls

Der Einsatz von künstlicher Intelligenz in sicherheitsrelevanten Bereichen gerät durch einen aktuellen Vorfall in Philadelphia in die Diskussion. Wie aus einem Bericht von 6abc hervorgeht, hat ein KI-Modell des Unternehmens Anthropic falsche Informationen im Zusammenhang mit einem ungelösten Tötungsdelikt an die dortige Polizeibehörde (PPD) übermittelt.

Die Übermittlung des falschen Hinweises fand am 18. Juli über die Online-Plattform PhillyUnsolvedMurders.com statt. Die Polizei von Philadelphia bestätigte diesen Vorgang in einer am Freitag veröffentlichten Erklärung. Den Angaben zufolge kam es jedoch zu keinen negativen Konsequenzen für die Ermittlungen, da die zuständigen Beamten den generierten Hinweis zu keinem Zeitpunkt überprüft hatten.

Relevanz für den Einsatz von KI

Die Meldung verdeutlicht potenzielle Risiken beim Einsatz von generativer künstglicher Intelligenz im Umfeld von Strafverfolgungsbehörden und öffentlichen Portalen. Wenn KI-Systeme unkontrolliert oder fehlerhaft Informationen an offizielle Stellen übermitteln, kann dies im schlimmsten Fall zu Fehlern oder unnötigem Aufwand in Ermittlungsverfahren führen. Im konkreten Fall verhinderte die entsprechende Markierung und die Nichtbeachtung durch die Ermittler eine Auswirkung auf den Fall.

Häufig gestellte Fragen

Wer war an dem Vorfall beteiligt?

An dem Vorfall sind ein KI-Modell des Unternehmens Anthropic, die Polizei von Philadelphia (PPD) sowie die Plattform PhillyUnsolvedMurders.com beteiligt. Die Enthüllung geht auf einen Bericht von 6abc zurück.

Wann wurde der falsche Hinweis übermittelt?

Der Hinweis wurde laut der Erklärung der Polizei von Philadelphia am 18. Juli übermittelt.

Wurden die Ermittlungen durch den KI-Hinweis beeinflusst?

Nein. Die Ermittler haben den Hinweis niemals überprüft, da er entsprechend markiert war.

Originalartikel lesen

Ähnliche Nachrichten

Branchennachrichten

Disqualifikation bei Nikon Small World in Motion: Erstplatzierter Mikroskopie-Beitrag verstößt gegen Richtlinien für generative Künstliche Intelligenz

Nikon hat das Video, das ursprünglich den ersten Platz im renommierten Wettbewerb „Small World in Motion“ gewonnen hatte, nachträglich disqualifiziert. Nach Angaben des Unternehmens entsprach der Beitrag von Dr. Ning Xu nicht den offiziellen Wettbewerbsregeln hinsichtlich des Einsatzes generativer Künstlicher Intelligenz. Wie das Magazin The Verge unter Berufung auf die BBC berichtet, sollte die mikroskopische Aufnahme die Bewegung winziger Flimmerhärchen – sogenannter Zilien – in den Atemwegen eines Kindes zeigen. Die Disqualifikation verdeutlicht, wie streng Ausrichter von Fachwettbewerben inzwischen gegen nicht konforme KI-Nutzung vorgehen. Der Schritt unterstreicht die wachsende Notwendigkeit präziser Vorgaben und strikter Prüfprozesse für bildgebende Verfahren in wissenschaftlichen und kreativen Wettbewerben. Erfahren Sie im vollständigen Beitrag alle Hintergründe und die Bedeutung für die Branche.

Branchennachrichten

Microsoft versucht neuen Schwung in Windows zu bringen: Ein Blick auf die anhaltende Entwicklung von Windows 11

Als Microsoft vor fünf Jahren Windows 11 veröffentlichte, wirkte das Betriebssystem wie eine fortlaufende Renovierungsarbeit und ein unfertiges Projekt. Man hätte annehmen können, dass diese Überarbeitungen mittlerweile abgeschlossen wären und Microsoft seine Aufmerksamkeit stattdessen auf Windows 12 richten würde. Stattdessen zeigt sich, dass Windows 11 fest etabliert zu sein scheint und als unverzichtbare Grundlage für Microsofts zukünftige Ausrichtung dient. Ein Bericht beleuchtet diesen Zustand des Betriebssystems und ordnet ein, wie Microsoft versucht, dem System neues Leben einzuhauchen.

Branchennachrichten

Indosat und F5 kooperieren bei neuer KI-Suite mit über 300 Modellen für asiatische Unternehmen

Das Telekommunikationsunternehmen Indosat und der Technologieanbieter F5 haben eine strategische Partnerschaft zur Einführung einer spezialisierten KI-Suite für den asiatischen Unternehmensmarkt bekannt gegeben. Wie aus einem aktuellen Bericht des Branchenmagazins Tech in Asia hervorgeht, soll die neue Lösung Zugriff auf ein breit gefächertes Portfolio von mehr als 300 offenen und geschlossenen KI-Modellen bieten. Die gemeinsame Initiative zielt darauf ab, Betrieben in Asien den Zugang zu modernen Verfahren der künstlichen Intelligenz zu erleichtern und vielseitige Einsatzmöglichkeiten bereitzustellen. Durch die Bündelung proprietärer und frei verfügbarer Modellarchitekturen adressieren die beiden Partner zentrale Herausforderungen bei der geschäftlichen KI-Adaption. Erfahren Sie in dieser detaillierten Analyse alle wesentlichen Hintergründe zur Kooperation und deren Tragweite für den regionalen Markt.