Kit de investigación abierto del benchmark TrustLLM de ICML 2024 para evaluar la confiabilidad de los LLM en seis dimensiones mediante CLI y Python.
TrustLLM es un kit de investigación para medir la confiabilidad de los modelos de lenguaje grandes en seis dimensiones: veracidad, seguridad, equidad, robustez, privacidad y ética. Incluye el benchmark de ICML 2024, para que puedas ejecutar los conjuntos de datos con pesos locales de Hugging Face o cualquier API compatible con OpenAI y mantener los datos, la configuración y los resultados juntos en un directorio de ejecución.
El flujo de trabajo se divide en generación y evaluación. El paso generate recopila las respuestas del modelo para cada tarea, con puntos de control, reintentos limitados y un informe HTML con el recuento de tareas completadas. Luego, el paso evaluate asigna puntuaciones a un conjunto completo de respuestas mediante reglas, un clasificador descargado, embeddings o un evaluador basado en API, según la tarea. La instalación base es ligera; los extras opcionales agregan dependencias para cargar y evaluar modelos locales.
El proyecto también documenta la orquestación mediante CLI y Python con resultados JSON, de modo que se pueda ejecutar el mismo pipeline con scripts o agentes de IA.
Instala el paquete base desde GitHub (se necesita Git).
python -m pip install "trustllm @ git+https://github.com/HowieHwong/TrustLLM.git@main#subdirectory=trustllm_pkg"Descarga el conjunto de datos de benchmark.
python -m trustllm download --output dataConfigura tu clave de API y el endpoint; después, ejecuta una generación de prueba (smoke test).
export OPENAI_API_KEY="your-api-key"
export OPENAI_BASE_URL="https://your-provider.example/v1"
python -m trustllm generate \
--backend api --model your-model-id \
--task safety --data data/dataset \
--limit 5 --concurrency 4 --output runs/api-safetyResumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Biblioteca de Python que evalúa la probabilidad de que las respuestas de LLM contengan alucinaciones mediante cuantificación de incertidumbre, con evaluadores black-box, white-box, de juez y de conjunto.
Biblioteca de Python que genera y ejecuta pruebas de robustez, sesgo, equidad y precisión para modelos de NLP y LLM con una sola línea de código.
Un entorno de evaluación para probar LLM como agentes autónomos, con 300 tareas verificadas por personas y calificadas según su finalización, seguridad y robustez.
Una CLI en Python que audita agentes de IA con 61 inspecciones para comprobar si respetan su rol, resisten la manipulación y evitan inventar información.
Un escáner de código abierto para línea de comandos que prueba LLM en busca de fallos como prompt injection, filtraciones de datos, jailbreaks y respuestas tóxicas.
Framework de Python de código abierto para crear entornos de RL robustos que ejecutan tareas de agentes en máquinas virtuales aisladas para entrenar una IA alineada.