Руководство и веб-чатбот для запуска небольшой локальной LLM на обычном оборудовании через Ollama, vLLM или llama-cpp-python с API, совместимым с OpenAI.
- Звёзды
- 3,323
- Форки
- 146
- Открытые issues
- 35
- Последний коммит
- в прошлом месяце
Что это?
Sidekick — нативное чат-приложение для macOS, которое запускает локальную большую языковую модель через встроенный backend на llama.cpp, поэтому переписка может оставаться на вашем Mac. Вы объединяете файлы, папки и сайты в экспертов, а когда эксперт активен, Sidekick находит релевантные фрагменты с помощью RAG (генерации с дополнением извлечённой информацией), чтобы отвечать на вопросы и указывать источники.
Помимо локальных моделей, Sidekick подключается к API, совместимым с OpenAI, с использованием вашего ключа; предусмотрены готовые настройки для таких провайдеров, как OpenAI, Anthropic, Google AI Studio и DeepSeek. В приложении также есть вызов функций для таких действий, как создание черновиков писем в почтовом клиенте по умолчанию, веб-поиск, агент Deep Research, который читает множество веб-страниц и составляет отчёт, а также функция памяти, сохраняющая предпочтения между разговорами.
В приложении есть Canvas для редактирования текста и кода, отображение LaTeX и диаграмм в ответах, а также генерация изображений, для которой требуется macOS 15.2 или новее и Apple Intelligence. Нужен Mac с Apple Silicon и как минимум 8 ГБ оперативной памяти.
Ключевые возможности
- 01Общение с локальными моделями GGUF через встроенный backend на llama.cpp
- 02Объединение файлов, папок и сайтов в экспертов для ответов на основе RAG с указанием источников
- 03Подключение к API, совместимым с OpenAI, с вашим ключом и готовыми настройками для ведущих провайдеров
- 04Вызов функций для таких действий, как создание черновиков писем и выполнение вычислений
- 05Агент Deep Research для многоэтапного веб-исследования с подготовкой отчёта
- 06Canvas для создания и выборочного редактирования текста и кода
Сценарии использования
- Поиск информации и цитат в собственных научных статьях и документах без подключения к интернету
- Вопросы о содержимом папки проекта без загрузки файлов в облако
- Создание черновиков писем или обобщение результатов веб-исследования на Mac с Apple Silicon
- Сравнение локальных моделей с удалёнными API в одном интерфейсе чата
Быстрый старт
- 1
Установите через Homebrew
brew install --cask arcadi4/tap/sidekick-ai - 2
Следуйте руководству для начала работы, чтобы настроить приложение
Что важно знать
- Требуется Mac с Apple Silicon и не менее 8 ГБ оперативной памяти.
- Для генерации изображений требуется macOS 15.2 или более поздняя версия и Apple Intelligence.
- Для удалённых моделей нужен собственный API-ключ от провайдера.
В подборках
Темы
Частые вопросы
- Что такое Sidekick?
- Нативное приложение для macOS, позволяющее общаться с локальной LLM, которая отвечает по вашим файлам, папкам и сайтам, без установки дополнительного ПО. Sidekick — нативное чат-приложение для macOS, которое запускает локальную большую языковую модель через встроенный backend на llama.cpp, поэтому переписка может оставаться на вашем Mac. Вы объединяете файлы, папки и сайты в экспертов, а когда эксперт активен, Sidekick находит релевантные фрагменты с помощью RAG (генерации с дополнением извлечённой информацией), чтобы отвечать на вопросы и указывать источники.
- Sidekick можно использовать бесплатно? Какая у него лицензия?
- Sidekick распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- Sidekick всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в Sidekick — 30 сент. 2026 г..
- Для чего можно использовать Sidekick?
- Поиск информации и цитат в собственных научных статьях и документах без подключения к интернету Вопросы о содержимом папки проекта без загрузки файлов в облако Создание черновиков писем или обобщение результатов веб-исследования на Mac с Apple Silicon Сравнение локальных моделей с удалёнными API в одном интерфейсе чата
- Как установить Sidekick?
- Установите через Homebrew: brew install --cask arcadi4/tap/sidekick-ai Следуйте руководству для начала работы, чтобы настроить приложение
- Где скачать Sidekick?
- Исходный код и инструкции по установке — на GitHub: https://github.com/johnbean393/Sidekick
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Android-приложение для общения с моделями GGUF локально через llama.cpp или с удалёнными провайдерами, такими как OpenAI, Anthropic, Ollama и DeepSeek.
Лёгкий веб-интерфейс для ChatGPT и других LLM с вопросами по файлам, веб-поиском, запуском локальных моделей и ИИ-ассистентом.
Лёгкий десктопный AI-чат-клиент на Tauri 2.0 и Next.js для работы с облачными API и локальными моделями вроде Ollama, который хранит данные локально.
Локально размещаемый персональный AI-ассистент в виде одного бинарного файла на Go: чат с LLM, базы знаний RAG и циклы агента для браузера, shell-команд и MCP-инструментов.
Платформа для самостоятельного развёртывания AI-агентов и ассистентов, которые отвечают на вопросы по вашим документам со ссылками на источники и работают с любой моделью.