Lenz ist eine Fact-Checking-Plattform auf Audit-Niveau, die darauf ausgelegt ist, Halluzinationen in KI-Produkten durch eine adversarielle Multi-Modell-Verifizierungspipeline zu reduzieren.
Funktion und offizielle Positionierung des Produkts
Lenz bietet eine Reihe von Tools für KI-Produktteams und Einzelpersonen, um die Genauigkeit generierter Inhalte zu überprüfen. Durch den Einsatz einer adversariellen Pipeline, die mehrere Modelle und unabhängige Prüfer umfasst, zielt die Plattform darauf ab, KI-Ausgaben in verifizierbaren Quellen zu verankern.
Die Plattform bietet sowohl eine direkte Schnittstelle zur Überprüfung einzelner Aussagen als auch eine API für Entwickler, um Fact-Checking-Funktionen in ihre eigenen Workflows zu integrieren. Sie unterstützt verschiedene Anwendungsfälle, einschließlich Incident-Triage und Verifizierung vor der Veröffentlichung.
Durch offizielle Quellen belegte Anwendungsfälle
Teams nutzen die Plattform zur Überprüfung von Behauptungen während der Reaktion auf Vorfälle, um die Genauigkeit sicherzustellen.
Entwickler integrieren die API in Continuous-Integration-Pipelines, um eine automatisierte Laufzeitverifizierung vor Software-Releases durchzuführen.
Der dokumentierte Ablauf, sofern verfügbar
Das System extrahiert verifizierbare Behauptungen aus dem bereitgestellten Text unter Verwendung des /extract-Primitivs.
Die Plattform führt eine adversarielle Pipeline mit mehreren Modellen und Prüfern aus, um die Gültigkeit der extrahierten Behauptungen zu bewerten.
Nutzer stellen weiterführende Fragen, die auf den Verifizierungsergebnissen basieren, unter Verwendung des /ask-Primitivs.
Der Kern der Lenz-Plattform ist ihr mehrstufiger Verifizierungsprozess. Anstatt sich auf ein einzelnes Modell zu verlassen, setzt sie acht verschiedene Modelle in fünf verschiedenen Phasen ein, um den Wahrheitsgehalt einer Behauptung zu bewerten.
Um qualitativ hochwertige Ergebnisse zu gewährleisten, umfasst der Prozess Debatten der Gegenseite und nutzt drei unabhängige Prüfer. Diese Methodik ist darauf ausgelegt, einen vollständigen Zitationspfad zu erstellen, der es den Nutzern ermöglicht, die Argumentation hinter einem Urteil nachzuvollziehen.
Prüfungen mit eigenen Inhalten und Arbeitsabläufen
Welche Quellen wann geprüft wurden
Antworten auf Basis des quellengeprüften Produkteintrags
Lenz wurde entwickelt, um Fact-Checking auf Audit-Niveau für KI-Produkte bereitzustellen und dabei zu helfen, Halluzinationen zu erkennen und zu reduzieren, indem Ausgaben in realen Quellen verankert werden.
Ja, die Plattform ermöglicht es Nutzern, eine einzelne Aussage, einen Link oder eine Frage zu verifizieren, indem sie diese in die Benutzeroberfläche einfügen, um ein belegtes Urteil und eine Begründung zu erhalten.
Lenz ist für den Betrieb innerhalb von Claude, Cursor, n8n und Zapier dokumentiert und bietet eine API für benutzerdefinierte Integrationen unter Verwendung von OpenAPI 3.1.
Der Prozess nutzt eine adversarielle Pipeline mit acht Modellen in fünf Phasen, wobei Debatten der Gegenseite und drei unabhängige Prüfer einbezogen werden, um Zitate zu generieren.
Die API umfasst vier Primitive: /extract zum Abrufen von Behauptungen, /assess für Multi-Modell-Urteile, /verify für die vollständige adversarielle Pipeline und /ask für fundierte Folgefragen.
