Cherry Studio é um cliente de IA para desktop multiplataforma que se conecta a diversos provedores de LLM, modelos locais e mais de 300 assistentes predefinidos.
52,8 mil5,1 milTypeScriptAGPL-3.0Atualizado anteontem
josStorer/RWKV-Runner
Ferramenta desktop que automatiza o download, a inicialização e o gerenciamento de modelos de linguagem RWKV, oferecendo uma API compatível com a OpenAI.
Alternativa open source a:ChatGPT
- Estrelas
- 6,488
- Forks
- 594
- Issues abertas
- 180
- Último commit
- há 2 meses
O que é?
O RWKV Runner é uma ferramenta leve para gerenciar e iniciar o RWKV, um modelo de linguagem open source. Ele cuida do download, da conversão e do carregamento do modelo com configuração mínima, sem que o usuário precise configurar manualmente ambientes Python ou dependências. O programa principal é um executável pequeno, com poucos megabytes.
O projeto oferece uma interface compatível com a API da OpenAI, permitindo conectar clientes existentes no estilo do ChatGPT a um modelo RWKV local alterando a URL da API. Também inclui interfaces de chat, completion e composition, opção de WebUI integrada e configurações de VRAM para diferentes hardwares. O componente backend-python pode ser implantado em um servidor, usando o aplicativo desktop como cliente.
O repositório inclui um backend Python, um frontend e exemplos de implantação. As plataformas compatíveis incluem Windows, macOS e Linux.
Recursos principais
- 01Inicialização e gerenciamento de modelos RWKV com um clique e instalação automática de dependências.
- 02Endpoints compatíveis com a API da OpenAI para uso com clientes existentes do ChatGPT.
- 03Configurações de VRAM predefinidas em vários níveis, com modo WebGPU para GPUs AMD e Intel.
- 04Interfaces integradas de chat, completion e composition, além de uma ferramenta de conversão de modelos.
- 05Frontend e backend podem ser implantados separadamente, incluindo uma opção de WebUI no servidor.
Casos de uso
- Executar um modelo RWKV local sem configurar manualmente um ambiente Python.
- Conectar ferramentas compatíveis com a OpenAI ou clientes de chat existentes a um modelo hospedado por conta própria.
- Implantar o backend em um servidor e usar o aplicativo desktop como cliente.
Início rápido
- 1
Clone o repositório
git clone https://github.com/josStorer/RWKV-Runner - 2
Acesse o diretório do projeto
cd RWKV-Runner - 3
Inicie o serviço de inferência do backend (depois, carregue um modelo pela API /switch-model)
python ./backend-python/main.py
Antes de usar
- O Windows Defender pode sinalizar o executável como vírus, exigindo que você adicione manualmente uma exceção de confiança.
- O fine-tuning de LoRA está disponível apenas no Windows.
- A execução de modelos RWKV grandes exige bastante VRAM ou uma configuração de GPU compatível.
Tópicos
Perguntas frequentes
- O que é RWKV-Runner?
- Ferramenta desktop que automatiza o download, a inicialização e o gerenciamento de modelos de linguagem RWKV, oferecendo uma API compatível com a OpenAI. O RWKV Runner é uma ferramenta leve para gerenciar e iniciar o RWKV, um modelo de linguagem open source. Ele cuida do download, da conversão e do carregamento do modelo com configuração mínima, sem que o usuário precise configurar manualmente ambientes Python ou dependências. O programa principal é um executável pequeno, com poucos megabytes.
- RWKV-Runner é gratuito? Qual é a licença?
- RWKV-Runner é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- RWKV-Runner ainda é mantido?
- Atualizado nos últimos 6 meses. O último commit de RWKV-Runner foi em 4 de set. de 2026.
- Para que posso usar RWKV-Runner?
- Executar um modelo RWKV local sem configurar manualmente um ambiente Python. Conectar ferramentas compatíveis com a OpenAI ou clientes de chat existentes a um modelo hospedado por conta própria. Implantar o backend em um servidor e usar o aplicativo desktop como cliente.
- Como instalar RWKV-Runner?
- Clone o repositório: git clone https://github.com/josStorer/RWKV-Runner Acesse o diretório do projeto: cd RWKV-Runner Inicie o serviço de inferência do backend (depois, carregue um modelo pela API /switch-model): python ./backend-python/main.py
- Onde consigo RWKV-Runner?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/josStorer/RWKV-Runner
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Jan é um app de desktop open source para baixar e executar LLMs localmente, com uma interface semelhante à do ChatGPT e opção de conexão a modelos na nuvem.
45 mil3,1 milRustOtherAtualizado ontem
Cliente desktop para ChatGPT, Claude e outros LLMs, disponível para Windows, macOS e Linux e com armazenamento local de dados.
42,1 mil4,3 milTypeScriptGPL-3.0Atualizado há 28 dias
Cliente desktop de chat com IA, implantado localmente e compatível com ferramentas MCP, que armazena conversas de forma privada e se conecta a APIs de modelos próprias ou de terceiros.
34747JavaScriptOtherAtualizado há 2 meses
Mecanismo de inferência de LLM em C/C++ puro para executar modelos de linguagem e visão-linguagem localmente ou na nuvem, em diversos backends de hardware.
131,8 mil24,6 milC++MITAtualizado anteontem
Uma interface web auto-hospedada e independente de provedores para conversar com modelos locais do Ollama e APIs compatíveis com OpenAI, com RAG, plugins e controle de acesso multiusuário.
156,2 mil22,7 milPythonOtherAtualizado há 3 dias