💻 Tech

Netflix invente Headroom pour réduire les coûts des requêtes IA

Tejas Chopra, ingénieur senior chez Netflix, a développé Headroom, une application qui compresse les requêtes envoyées aux modèles de langage en supprimant la redondance avant leur envoi. Headroom agit comme un proxy local interceptant et réduisant code, JSON, HTML et logs, tout en conservant les originaux via le protocole MCP. Selon les types de contenu, la compression permet une économie de 70 à 90 % des tokens, soit environ 700 000 dollars économisés pour ses utilisateurs. Le projet reste officieux et gratuit, utilisé par plusieurs équipes de Netflix.