“prompt-compression” 관련 오픈소스 프로젝트

Microsoft가 만든 Python 라이브러리로, 중요하지 않은 토큰을 제거해 성능 저하를 최소화하면서 LLM 프롬프트와 KV cache를 최대 20배 압축합니다.

코딩 에이전트의 프롬프트와 도구 출력을 결정론적으로 압축하고, 제거된 콘텐츠를 필요할 때 다시 가져올 수 있는 Rust 바이너리입니다.