Proyectos open source sobre «caching»

Una capa de gestión de KV cache que almacena, comparte y reutiliza cachés de atención de LLM entre motores de serving para reducir el tiempo hasta el primer token.

Almacén de datos en memoria que se usa como caché, servidor de estructuras de datos, almacén de documentos, base de datos vectorial y agente de mensajería.

Un motor de automatización programable que construye, prueba y publica bases de código mediante contenedores, en local, en CI o en la nube.