Paritok est une passerelle de compression qui réduit l'utilisation des jetons pour les agents de codage IA en filtrant les schémas d'outils et en résumant l'historique des conversations.
Fonction du produit et positionnement officiel
Paritok est une passerelle de compression conçue pour les agents de codage IA afin de gérer la consommation de jetons. Elle fonctionne comme un intermédiaire qui filtre les schémas d'outils, compresse les lectures de fichiers et résume l'historique des conversations pour réduire la taille des requêtes envoyées aux modèles en amont.
L'outil utilise un modèle 4B entraîné sur des trajectoires d'agents pour identifier les éléments de code critiques tels que les identifiants et les messages d'erreur. Il maintient un flux de travail non destructif en balisant les données compressées, ce qui permet aux agents de récupérer le contenu original sans lancer de nouveaux cycles de modèle.
Cas d’usage étayés par les sources officielles
L'entreprise présente un cas d'utilisation client où un agent de codage est limité à un plafond de 32 768 jetons, utilisant Paritok pour gérer la troncature et la compression.
La documentation officielle décrit l'utilisation de la passerelle pour réduire la surcharge de jetons dans les sessions de longue durée avec des outils comme Claude Code ou Cursor.
Le parcours documenté, lorsqu’il est disponible
Configurez la variable d'environnement pour acheminer le trafic de l'agent via la passerelle Paritok.
Envoyez les schémas d'outils, l'historique des conversations et les lectures de fichiers de l'agent vers la passerelle.
Laissez la passerelle filtrer les schémas et compresser les sorties de fichiers à l'aide du modèle 4B.
Recevez la réponse traitée du modèle en amont à travers la passerelle.
Utilisez des balises de référence pour récupérer les octets originaux non compressés pour des segments spécifiques lorsque cela est nécessaire.
Paritok emploie trois mécanismes principaux pour réduire l'empreinte des jetons des sessions d'agents IA. Il filtre les schémas d'outils en conservant les outils pertinents et en neutralisant les autres, ce qui aide à maintenir la stabilité du cache au fil des échanges. Le système utilise également un modèle 4B spécialisé pour compresser les lectures de fichiers et les sorties d'outils, préservant les identifiants essentiels tout en réduisant le volume global de données.
De plus, Paritok gère l'historique des conversations en résumant les tours qui dépassent un budget de contexte défini par l'utilisateur. Cette approche garantit que les tours récents restent intacts tandis que les informations plus anciennes sont condensées pour éviter les débordements de la fenêtre de contexte. L'architecture de la passerelle permet à ces processus de se dérouler de manière non destructive, car les données originales restent accessibles via des balises de référence.
Vérifications à effectuer avec vos contenus et votre flux de travail
Sources vérifiées et date de la vérification
Réponses fondées sur la fiche produit dont les sources ont été vérifiées
L'intégration est réalisée en définissant une variable d'environnement, telle que ANTHROPIC_BASE_URL, pour pointer vers l'adresse de la passerelle Paritok.
Le processus est non destructif car Paritok balise les segments compressés, permettant à l'agent de récupérer les octets originaux si nécessaire.
Paritok fonctionne avec Claude Code, Cursor, Codex, OpenHands et tout modèle en amont compatible avec OpenAI.
L'outil est disponible pour l'auto-hébergement sous licence Apache-2.0 et peut fonctionner sur du matériel disposant d'au moins 8 Go de mémoire.
Une fois qu'un budget de contexte défini est atteint, Paritok résume les tours qui se trouvent en dehors de la fenêtre la plus récente pour éviter tout débordement de contexte.
