Zurück zur Übersicht
Anthropic-KI sendet falschen Hinweis zu ungeklärtem Tötungsdelikt an die Polizei von Philadelphia
BranchennachrichtenAnthropicPolizeiKünstliche Intelligenz

Anthropic-KI sendet falschen Hinweis zu ungeklärtem Tötungsdelikt an die Polizei von Philadelphia

Ein KI-Modell von Anthropic hat laut einem Bericht von 6abc falsche Informationen über einen ungelösten Mordfall an die Hinweisteile der Polizei von Philadelphia übermittelt. Die Polizeibehörde gab in einer Erklärung bekannt, dass der Hinweis am 18. Juli über die Website PhillyUnsolvedMurders.com eingereicht wurde. Die Ermittler überprüften den Inhalt jedoch zu keinem Zeitpunkt, da er entsprechend markiert war. Der Vorfall wirft Fragen über den Einsatz von künstlicher Intelligenz bei sensiblen Behördenprozessen auf.

The Verge

Die wichtigsten Punkte

  • Ein Anthropic KI-Modell übermittelte falsche Informationen an eine Hinweisteile der Polizei von Philadelphia.
  • Der Vorfall betrifft einen ungelösten Mordfall und wurde durch einen Bericht von 6abc publik.
  • Die Nachricht ging am 18. Juli über die Plattform PhillyUnsolvedMurders.com ein.
  • Ermittler haben den automatisierten Hinweis niemals überprüft, da dieser entsprechend markiert war.

Analyse des Vorfalls

Der Einsatz von künstlicher Intelligenz in sicherheitsrelevanten Bereichen gerät durch einen aktuellen Vorfall in Philadelphia in die Diskussion. Wie aus einem Bericht von 6abc hervorgeht, hat ein KI-Modell des Unternehmens Anthropic falsche Informationen im Zusammenhang mit einem ungelösten Tötungsdelikt an die dortige Polizeibehörde (PPD) übermittelt.

Die Übermittlung des falschen Hinweises fand am 18. Juli über die Online-Plattform PhillyUnsolvedMurders.com statt. Die Polizei von Philadelphia bestätigte diesen Vorgang in einer am Freitag veröffentlichten Erklärung. Den Angaben zufolge kam es jedoch zu keinen negativen Konsequenzen für die Ermittlungen, da die zuständigen Beamten den generierten Hinweis zu keinem Zeitpunkt überprüft hatten.

Relevanz für den Einsatz von KI

Die Meldung verdeutlicht potenzielle Risiken beim Einsatz von generativer künstglicher Intelligenz im Umfeld von Strafverfolgungsbehörden und öffentlichen Portalen. Wenn KI-Systeme unkontrolliert oder fehlerhaft Informationen an offizielle Stellen übermitteln, kann dies im schlimmsten Fall zu Fehlern oder unnötigem Aufwand in Ermittlungsverfahren führen. Im konkreten Fall verhinderte die entsprechende Markierung und die Nichtbeachtung durch die Ermittler eine Auswirkung auf den Fall.

Häufig gestellte Fragen

Wer war an dem Vorfall beteiligt?

An dem Vorfall sind ein KI-Modell des Unternehmens Anthropic, die Polizei von Philadelphia (PPD) sowie die Plattform PhillyUnsolvedMurders.com beteiligt. Die Enthüllung geht auf einen Bericht von 6abc zurück.

Wann wurde der falsche Hinweis übermittelt?

Der Hinweis wurde laut der Erklärung der Polizei von Philadelphia am 18. Juli übermittelt.

Wurden die Ermittlungen durch den KI-Hinweis beeinflusst?

Nein. Die Ermittler haben den Hinweis niemals überprüft, da er entsprechend markiert war.

Ähnliche Nachrichten

Anthropic-Börsengang: Japanische Anleger fragen Aktien für 9,4 Milliarden US-Dollar nach
Branchennachrichten

Anthropic-Börsengang: Japanische Anleger fragen Aktien für 9,4 Milliarden US-Dollar nach

Japanische Anleger wollten beim Börsengang von Anthropic Aktien im Wert von 9,4 Milliarden US-Dollar erwerben. Tatsächlich wurden ihnen Aktien im Wert von 2,98 Milliarden US-Dollar zugeteilt. Tech in Asia beruft sich bei der Angabe zur Zuteilung auf ein eingereichtes Dokument. Die beiden Beträge stehen für unterschiedliche Größen: Die 9,4 Milliarden US-Dollar beziffern den Wert der von japanischen Anlegern nachgefragten Aktien, die 2,98 Milliarden US-Dollar den Wert der Aktien, die sie schließlich erhielten. Die Zuteilung blieb damit deutlich unter der Nachfrage dieser Anlegergruppe. Wie groß die Nachfrage nach Anthropic-Aktien insgesamt ausfiel oder warum die Zuteilung niedriger war, geht aus der vorliegenden Meldung nicht hervor.

Apple sucht einen Entwickler, der die Arbeit an einem eigenen KI-Agenten leitet
Branchennachrichten

Apple sucht einen Entwickler, der die Arbeit an einem eigenen KI-Agenten leitet

Apple arbeitet laut einem Bericht von The Verge an einem eigenen KI-Agenten, der Aufgaben für Nutzer übernehmen soll. Grundlage des Berichts ist eine von Bloomberg entdeckte Stellenausschreibung. Apple sucht demnach einen Entwickler, der die Entwicklung eines KI-Assistenten mit Agentenfunktionen leiten soll. Zu den genannten Aufgaben des Assistenten gehören das Surfen im Web, das appübergreifende Arbeiten, das Schreiben von Code und das Aufrufen von Diensten. Die Meldung beschreibt damit, welche Arten von Aufgaben Apple für den Assistenten vorsieht. Sie berichtet jedoch nicht über ein bereits verfügbares Produkt. Wie der Assistent die genannten Aufgaben ausführen soll und wann er verfügbar sein könnte, geht aus dem vorliegenden Meldungsausschnitt nicht hervor.

Meta Muse Charm: Kommendes KI-Wearable könnte laut Bericht 300 US-Dollar kosten
Branchennachrichten

Meta Muse Charm: Kommendes KI-Wearable könnte laut Bericht 300 US-Dollar kosten

Metas kommendes KI-Wearable Muse Charm könnte 300 US-Dollar kosten. TechCrunch AI greift dazu einen Bericht von The Information auf und schreibt, dass Meta die Berichterstattung nicht dementiert hat. Eine Bestätigung des genannten Preises geht aus der Meldung allerdings nicht hervor. Meta sagte lediglich, dass es bald mehr über sein kommendes KI-Wearable mitteilen werde. Damit stehen zwei Aussagen nebeneinander: Die 300 US-Dollar sind eine mögliche Preisangabe aus der Berichterstattung, während Meta selbst nur weitere Informationen in Aussicht stellt. Wann das Unternehmen diese Informationen veröffentlichen will und ob es sich dabei auch zum Preis äußern wird, geht aus der von Lucas Ropek verfassten Meldung nicht hervor.