Repolode
Предложить
Vali-98

Vali-98/ChatterUI

Нативный мобильный клиент для общения с LLM: запускает модели gguf на устройстве или подключается к коммерческим и open source API.

Open source альтернатива:ChatGPT

Открыть на GitHub
Звёзды
2,877
Форки
279
Открытые issues
10
Последний коммит
3 дня назад

Что это?

ChatterUI — мобильное приложение для общения с большими языковыми моделями. В локальном режиме оно запускает файлы моделей gguf прямо на Android-телефоне с помощью llama.cpp. Модель можно импортировать в приложение или читать из памяти устройства. В удалённом режиме приложение подключается к таким бэкендам, как koboldcpp, text-generation-webui и Ollama, а также к облачным API, включая OpenAI, Claude, Cohere и Open Router.

Помимо обычного чата, приложение поддерживает карточки персонажей по спецификации Character Card v2 и позволяет создавать несколько чатов для каждого персонажа. Пользователи могут настраивать параметры сэмплера и форматирование instruct, а также использовать системный движок преобразования текста в речь для озвучивания ответов. Универсальные бэкенды Text Completion и Chat Completion обеспечивают совместимость с другими провайдерами, а система шаблонов позволяет задавать собственные API.

Текущая версия распространяется в виде APK через GitHub Releases. В README указано, что версия для iOS недоступна, поскольку у разработчика нет устройства Apple.

Ключевые возможности

  • 01Запускает модели gguf на устройстве в локальном режиме с помощью llama.cpp
  • 02Подключается к koboldcpp, text-generation-webui, Ollama и облачным API, таким как OpenAI и Claude
  • 03Поддерживает Character Card v2 для общения с персонажами
  • 04Поддерживает несколько чатов для каждого персонажа, настройку параметров сэмплера и форматирование instruct
  • 05Использует системный движок преобразования текста в речь

Сценарии использования

  • Общение с локальной моделью на Android-телефоне без подключения к сети
  • Использование мобильного клиента для собственного сервера Ollama или koboldcpp
  • Доступ к OpenAI или Claude с телефона и общение с персонажами
  • Ролевые игры и общение с персонажами с помощью импортированных карточек

Быстрый старт

  1. 1

    Скачайте и установите последнюю версию APK со страницы релизов

Что важно знать

  • iOS в настоящее время недоступна.
  • Для локального режима нужны модели gguf, которые помещаются в память устройства.
  • Лицензировано по AGPL-3.0 — лицензии с авторским левом.

В подборках

Запуск LLM локальноПриложения для Android и инструменты для телефона

Темы

#llm#mobile#android#llama-cpp#chat-interface#on-device-ai#react-native

Частые вопросы

Что такое ChatterUI?
Нативный мобильный клиент для общения с LLM: запускает модели gguf на устройстве или подключается к коммерческим и open source API. ChatterUI — мобильное приложение для общения с большими языковыми моделями. В локальном режиме оно запускает файлы моделей gguf прямо на Android-телефоне с помощью llama.cpp. Модель можно импортировать в приложение или читать из памяти устройства. В удалённом режиме приложение подключается к таким бэкендам, как koboldcpp, text-generation-webui и Ollama, а также к облачным API, включая OpenAI, Claude, Cohere и Open Router.
ChatterUI можно использовать бесплатно? Какая у него лицензия?
ChatterUI распространяется с открытым исходным кодом под лицензией AGPL-3.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ChatterUI всё ещё поддерживается?
Активно поддерживается. Последний коммит в ChatterUI — 4 нояб. 2026 г..
Для чего можно использовать ChatterUI?
Общение с локальной моделью на Android-телефоне без подключения к сети Использование мобильного клиента для собственного сервера Ollama или koboldcpp Доступ к OpenAI или Claude с телефона и общение с персонажами Ролевые игры и общение с персонажами с помощью импортированных карточек
Как установить ChatterUI?
Скачайте и установите последнюю версию APK со страницы релизов
Где скачать ChatterUI?
Исходный код и инструкции по установке — на GitHub: https://github.com/Vali-98/ChatterUI

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

a-ghorbani / pocketpal-ai

Мобильное приложение на React Native, которое запускает языковые модели, преобразование текста в речь и инструменты прямо на телефоне — офлайн и без учётной записи.

ИИ и машинное обучение#on-device-ai#llm#react-native
9 тыс.+147 за неделю1 тыс.TypeScriptMITАктивно поддерживаетсяОбновлён 20 часов назад