Repolode
headroomlabs-ai

headroomlabs-ai/headroom

Сжимает вывод инструментов, логи, файлы и фрагменты RAG перед отправкой в LLM — в виде библиотеки, прокси или MCP-сервера.

Звёзды
76,105
Форки
5,915
Открытые issues
482
Последний коммит
3 дня назад

Что это?

Headroom — это слой сжатия контекста для AI-агентов и приложений на базе LLM. Он сжимает вывод инструментов, логи, фрагменты RAG, файлы и историю диалога перед отправкой модели. Сжатие выполняется локально, на машине пользователя. Маршрутизатор контента определяет тип каждой полезной нагрузки: JSON передаётся в SmartCrusher, исходный код — в учитывающий AST CodeCompressor, а текст — в модель Kompress-v2-base.

Headroom можно использовать как встроенную библиотеку Python или TypeScript через compress(messages), как прокси, который не требует изменений в коде, через headroom wrap для таких инструментов разработки, как Claude Code, Codex, Cursor и Aider, или как MCP-сервер. Сжатие обратимо: оригиналы кэшируются локально, и модель может запросить их по мере необходимости.

Экономия зависит от содержимого. Бенчмарки проекта показывают сокращение числа токенов на 21–57% на примерах рабочих нагрузок агентов, а повторяющиеся данные JSON и логи сжимаются гораздо сильнее. Для текста и уже плотного содержимого сокращение будет небольшим.

Ключевые возможности

  • 01Маршрутизация по типу содержимого: выбор компрессора для JSON, кода или текста.
  • 02Обратимое сжатие: оригиналы кэшируются локально и доступны по запросу.
  • 03Прокси без необходимости менять код и обёртки для популярных инструментов разработки, запускаемые одной командой.
  • 04Библиотеки Python и TypeScript с функцией compress() для встроенного использования.
  • 05MCP-сервер с инструментами compress, retrieve и stats.
  • 06Локальная обработка: содержимое промптов и файлов не отправляется стороннему сервису для сжатия.

Сценарии использования

  • Снижение расходов на токены при работе с агентами для разработки, такими как Claude Code или Cursor, во время долгих сессий с большим объёмом вывода инструментов.
  • Сжатие дампов логов или крупных результатов поиска в JSON перед отправкой модели для отладки.
  • Сокращение размера полученных фрагментов RAG в существующем конвейере LangChain или LiteLLM.
  • Маршрутизация нескольких агентов через общий прокси и слой памяти.

Быстрый старт

  1. 1

    Установите CLI с помощью uv

    uv tool install --python 3.13 "headroom-ai[all]"
  2. 2

    Или установите пакет Python с помощью pip

    pip install "headroom-ai[all]"
  3. 3

    Запустите drop-in-прокси на порту 8787

    headroom proxy --port 8787
  4. 4

    Проверьте установку с помощью проверки работоспособности

    headroom doctor

Что важно знать

  • Эффект сжатия сильно различается: обычный текст и уже плотный вывод почти не сжимаются.
  • Бенчмарки сжатия в README приведены самим проектом и проводятся на определённых сценариях с начальными данными.

Темы

Частые вопросы

Что такое headroom?
Сжимает вывод инструментов, логи, файлы и фрагменты RAG перед отправкой в LLM — в виде библиотеки, прокси или MCP-сервера. Headroom — это слой сжатия контекста для AI-агентов и приложений на базе LLM. Он сжимает вывод инструментов, логи, фрагменты RAG, файлы и историю диалога перед отправкой модели. Сжатие выполняется локально, на машине пользователя. Маршрутизатор контента определяет тип каждой полезной нагрузки: JSON передаётся в SmartCrusher, исходный код — в учитывающий AST CodeCompressor, а текст — в модель Kompress-v2-base.
headroom можно использовать бесплатно? Какая у него лицензия?
headroom распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
headroom всё ещё поддерживается?
Активно поддерживается. Последний коммит в headroom — 17 окт. 2026 г..
Для чего можно использовать headroom?
Снижение расходов на токены при работе с агентами для разработки, такими как Claude Code или Cursor, во время долгих сессий с большим объёмом вывода инструментов. Сжатие дампов логов или крупных результатов поиска в JSON перед отправкой модели для отладки. Сокращение размера полученных фрагментов RAG в существующем конвейере LangChain или LiteLLM. Маршрутизация нескольких агентов через общий прокси и слой памяти.
Как установить headroom?
Установите CLI с помощью uv: uv tool install --python 3.13 "headroom-ai[all]" Или установите пакет Python с помощью pip: pip install "headroom-ai[all]" Запустите drop-in-прокси на порту 8787: headroom proxy --port 8787 Проверьте установку с помощью проверки работоспособности: headroom doctor
Где скачать headroom?
Исходный код и инструкции по установке — на GitHub: https://github.com/headroomlabs-ai/headroom

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты