Stack de inferencia en el dispositivo de PyTorch para ejecutar modelos exportados en teléfonos, laptops, navegadores y microcontroladores.
5,1 mil1,2 milPythonOtherActualizado hace 7 horas
airockchip/rknn-toolkit2
SDK para convertir modelos de IA entrenados al formato RKNN y ejecutar inferencias en placas Rockchip con NPU mediante APIs de Python y C.
- Estrellas
- 3,463
- Forks
- 409
- Issues abiertos
- 473
- Último commit
- hace 9 horas
¿Qué es?
RKNN-Toolkit2 es el kit de desarrollo de software de Rockchip para implementar modelos de IA en sus chips con NPU. El desarrollador ejecuta el toolkit en una PC para convertir un modelo entrenado al formato RKNN y luego ejecuta inferencias en la placa de destino mediante la API de Python (RKNN-Toolkit-Lite2) o la API de runtime RKNN de C/C++.
El toolkit para PC también permite convertir modelos, simular inferencias y evaluar el rendimiento. El proyecto indica que es compatible con RK3588, RK3576, RK3566/RK3568, RK3562, varios chips RV11xx y RK2118. Se describe que el driver del kernel RKNPU, que se comunica con el hardware, es de código abierto y forma parte del código del kernel de Rockchip.
El repositorio señala que RKNN-Toolkit2 no es compatible con el RKNN-Toolkit anterior, utilizado para RK1808, RV1109, RV1126 y RK3399Pro. Para implementar LLM, Rockchip remite a un SDK independiente: RKNN-LLM.
Funciones clave
- 01Convierte modelos entrenados al formato RKNN para NPU de Rockchip.
- 02Proporciona una API de inferencia de Python (RKNN-Toolkit-Lite2) para placas.
- 03Ofrece una API de runtime de C/C++ para implementar modelos RKNN.
- 04Incluye conversión de modelos y evaluación del rendimiento en PC.
- 05Es compatible con varias familias de chips Rockchip, desde RK3588 hasta RV1103/RV1106.
Casos de uso
- Implementar modelos de visión artificial en dispositivos edge basados en Rockchip.
- Medir el rendimiento de un modelo convertido antes de implementarlo en una placa RK3588.
- Ejecutar inferencias RKNN desde una aplicación de Python o C++ en una placa con Linux embebido.
Inicio rápido
- 1
Descarga los paquetes, la imagen de Docker y los ejemplos desde el enlace RKNPU2_SDK del README
- 2
Obtén más proyectos de ejemplo del repositorio rknn_model_zoo
Antes de usarlo
- Solo es compatible con plataformas NPU de Rockchip, por lo que la inferencia requiere placas Rockchip compatibles.
- La licencia no está especificada claramente (NOASSERTION), así que consulta las condiciones antes de usarlo con fines comerciales.
- RKNN-Toolkit2 no es compatible con la versión anterior de RKNN-Toolkit, y los chips antiguos, como RK1808 y RV1126, utilizan repositorios independientes.
Temas
Preguntas frecuentes
- ¿Qué es rknn-toolkit2?
- SDK para convertir modelos de IA entrenados al formato RKNN y ejecutar inferencias en placas Rockchip con NPU mediante APIs de Python y C. RKNN-Toolkit2 es el kit de desarrollo de software de Rockchip para implementar modelos de IA en sus chips con NPU. El desarrollador ejecuta el toolkit en una PC para convertir un modelo entrenado al formato RKNN y luego ejecuta inferencias en la placa de destino mediante la API de Python (RKNN-Toolkit-Lite2) o la API de runtime RKNN de C/C++.
- ¿rknn-toolkit2 es gratuito? ¿Qué licencia tiene?
- rknn-toolkit2 es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿rknn-toolkit2 sigue mantenido?
- Mantenimiento activo. El último commit de rknn-toolkit2 fue el 20 oct 2026.
- ¿Para qué puedo usar rknn-toolkit2?
- Implementar modelos de visión artificial en dispositivos edge basados en Rockchip. Medir el rendimiento de un modelo convertido antes de implementarlo en una placa RK3588. Ejecutar inferencias RKNN desde una aplicación de Python o C++ en una placa con Linux embebido.
- ¿Cómo se instala rknn-toolkit2?
- Descarga los paquetes, la imagen de Docker y los ejemplos desde el enlace RKNPU2_SDK del README Obtén más proyectos de ejemplo del repositorio rknn_model_zoo
- ¿Dónde consigo rknn-toolkit2?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/airockchip/rknn-toolkit2
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Framework oficial de inferencia para CPU y GPU de Microsoft, destinado a modelos de lenguaje grandes de 1 bit (ternarios, de 1,58 bits) y basado en llama.cpp.
41,2 mil3,8 milC++MITActualizado hace 3 meses
Un motor de serving nativo para el edge que ejecuta grandes modelos de pesos abiertos, como DeepSeek-V4 y Qwen3.6, en GPU y CPU de consumo.
14,6 mil1,5 milPythonApache-2.0Actualizado ayer
Toolkit de código abierto para optimizar e implementar modelos de deep learning para inferencia en CPU, GPU y NPU de Intel.
11 mil3,5 milC++Apache-2.0Actualizado hace 9 horas
Motor mínimo de inferencia de LLM en C11 que ejecuta modelos GGUF de arquitectura LLaMA de clase 1B en placas económicas con unos 45 MB de RAM y sin dependencias.
2,2 mil293CMITActualizado hace 8 meses
Ultralytics YOLOv5 es un kit de herramientas de visión artificial basado en PyTorch para detectar objetos, segmentar instancias y clasificar imágenes, con funciones de entrenamiento y exportación.
58,2 mil17,5 milPythonAGPL-3.0Actualizado anteayer