Kit de investigación abierto del benchmark TrustLLM de ICML 2024 para evaluar la confiabilidad de los LLM en seis dimensiones mediante CLI y Python.
PacificAI/langtest
Biblioteca de Python que genera y ejecuta pruebas de robustez, sesgo, equidad y precisión para modelos de NLP y LLM con una sola línea de código.
- Estrellas
- 561
- Forks
- 53
- Issues abiertos
- 7
- Último commit
- hace 2 meses
¿Qué es?
LangTest es una biblioteca de Python para evaluar modelos de lenguaje antes de que lleguen a producción. El usuario crea un objeto Harness para una tarea, como el reconocimiento de entidades nombradas, lo conecta a un modelo y luego genera casos de prueba, los ejecuta y obtiene un informe. La biblioteca ofrece más de 60 tipos de pruebas que abarcan robustez, sesgo, representación, equidad y precisión.
Funciona con pipelines de NLP basados en Spark NLP, Hugging Face y Transformers para NER, traducción y clasificación de texto. También puede probar LLM alojados de OpenAI, Cohere, AI21, Hugging Face Inference API y Azure OpenAI, en tareas de respuesta a preguntas, toxicidad, veracidad, complacencia, resumen y escenarios clínicos o legales. En algunos modelos, los resultados de las pruebas pueden servir para aumentar automáticamente los datos de entrenamiento.
El proyecto cuenta con licencia Apache-2.0 y lo mantienen John Snow Labs y el equipo de Pacific AI. La documentación y los conjuntos de datos de referencia están publicados en langtest.org.
Funciones clave
- 01Genera y ejecuta más de 60 tipos de pruebas con una sola línea de código.
- 02Abarca robustez, sesgo, representación, equidad y precisión.
- 03Admite pipelines de NER, traducción y clasificación de texto en Spark NLP, Hugging Face y Transformers.
- 04Prueba LLM alojados de OpenAI, Cohere, AI21, Hugging Face y Azure OpenAI.
- 05Incluye conjuntos de datos de referencia para tareas de respuesta a preguntas, resumen y otras.
Casos de uso
- Comprobar la robustez de un modelo de NER frente a errores tipográficos y cambios en el uso de mayúsculas antes de implementarlo.
- Auditar un chatbot o LLM para detectar sesgo, toxicidad o complacencia.
- Evaluar la precisión de resultados de LLM médicos o legales en dominios específicos.
- Comparar varios modelos con los mismos conjuntos de datos de referencia.
Inicio rápido
- 1
Instala langtest con compatibilidad con transformers
pip install langtest[transformers] - 2
Crea un Harness y genera, ejecuta y reporta pruebas en un modelo
Antes de usarlo
- Algunos tipos de pruebas requieren claves API de pago para proveedores de LLM como OpenAI, Cohere o AI21.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es langtest?
- Biblioteca de Python que genera y ejecuta pruebas de robustez, sesgo, equidad y precisión para modelos de NLP y LLM con una sola línea de código. LangTest es una biblioteca de Python para evaluar modelos de lenguaje antes de que lleguen a producción. El usuario crea un objeto Harness para una tarea, como el reconocimiento de entidades nombradas, lo conecta a un modelo y luego genera casos de prueba, los ejecuta y obtiene un informe. La biblioteca ofrece más de 60 tipos de pruebas que abarcan robustez, sesgo, representación, equidad y precisión.
- ¿langtest es gratuito? ¿Qué licencia tiene?
- langtest es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿langtest sigue mantenido?
- Actualizado en los últimos 6 meses. El último commit de langtest fue el 28 ago 2026.
- ¿Para qué puedo usar langtest?
- Comprobar la robustez de un modelo de NER frente a errores tipográficos y cambios en el uso de mayúsculas antes de implementarlo. Auditar un chatbot o LLM para detectar sesgo, toxicidad o complacencia. Evaluar la precisión de resultados de LLM médicos o legales en dominios específicos. Comparar varios modelos con los mismos conjuntos de datos de referencia.
- ¿Cómo se instala langtest?
- Instala langtest con compatibilidad con transformers: pip install langtest[transformers] Crea un Harness y genera, ejecuta y reporta pruebas en un modelo
- ¿Dónde consigo langtest?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/PacificAI/langtest
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Biblioteca open source de Python para crear evals, hacer red teaming y analizar vulnerabilidades en sistemas basados en LLM y sistemas agénticos.
Una CLI en Python que audita agentes de IA con 61 inspecciones para comprobar si respetan su rol, resisten la manipulación y evitan inventar información.
Biblioteca de Python que evalúa la probabilidad de que las respuestas de LLM contengan alucinaciones mediante cuantificación de incertidumbre, con evaluadores black-box, white-box, de juez y de conjunto.
Un entorno de evaluación para probar LLM como agentes autónomos, con 300 tareas verificadas por personas y calificadas según su finalización, seguridad y robustez.
Framework de Python de código abierto para crear entornos de RL robustos que ejecutan tareas de agentes en máquinas virtuales aisladas para entrenar una IA alineada.