Turbovec: Google TurboQuant Algorithmus ermöglicht hocheffiziente Vektorsuche in Rust mit massiver Speicherersparnis und hoher Geschwindigkeit
Turbovec ist ein neuer, in Rust geschriebener Vektor-Index, der auf dem TurboQuant-Algorithmus von Google Research basiert. Die Lösung ermöglicht eine drastische Reduzierung des Speicherbedarfs: Ein Korpus von 10 Millionen Dokumenten, der normalerweise 31 GB RAM (als float32) beansprucht, benötigt mit Turbovec lediglich 4 GB. Trotz dieser Komprimierung übertrifft Turbovec die Suchgeschwindigkeit von FAISS IndexPQFastScan deutlich – im Durchschnitt um das 3,4-fache bei 4-Bit-Quantisierung. Dank Python-Bindings und einem datenunabhängigen Quantisierer entfallen separate Trainingsphasen und Parameter-Tuning. Turbovec unterstützt Online-Ingest, inkrementelle Speicherung und hardwarenahe SIMD-Optimierungen für ARM- und x86-Architekturen. Damit positioniert sich das Tool als ideale Lösung für lokale, datenschutzkonforme RAG-Anwendungen (Retrieval-Augmented Generation), bei denen Speicherplatz und Latenz kritische Faktoren sind.