Repolode
Предложить
ollama

ollama/ollama-js

Официальная клиентская библиотека JavaScript/TypeScript для Ollama: чат с локальными и облачными LLM и управление ими из Node.js и браузера.

Открыть на GitHubСайт
Звёзды
4,397
Форки
482
Открытые issues
99
Последний коммит
6 дней назад

Что это?

ollama-js — официальный клиент JavaScript для Ollama, среды выполнения больших языковых моделей. Он предоставляет доступ к REST API Ollama через интерфейс на основе промисов, позволяя приложениям для Node.js и браузеров отправлять запросы для чата и генерации, загружать и выгружать модели, создавать собственные модели, а также просматривать список установленных моделей и сведения о них.

Библиотека устанавливается из npm как `ollama`; для использования вне Node.js предусмотрена отдельная точка входа `ollama/browser`. Ответы можно получать потоком через асинхронный генератор, а в пользовательском клиенте — задавать хост, реализацию fetch и заголовки. Библиотека также поддерживает эмбеддинги, вызов инструментов, изображения на входе и метод отмены активных потоков.

Поддерживаются и облачные модели: после входа в локальный экземпляр Ollama или при подключении клиента к ollama.com с API-ключом те же вызовы можно использовать для более крупных размещённых моделей. Также доступны вспомогательные функции веб-поиска и загрузки веб-страниц, а ещё API принятия решений System One.

Ключевые возможности

  • 01Запросы для чата и генерации, с потоковой передачей через асинхронные генераторы или без неё.
  • 02Методы управления моделями: загрузка, выгрузка, создание, копирование, удаление, просмотр списка и сведений о моделях.
  • 03Поддержка генерации эмбеддингов и вызова инструментов.
  • 04Отдельная точка входа для браузера: `ollama/browser`.
  • 05Параметры пользовательского клиента: хост, fetch и заголовки запросов.
  • 06Доступ к облачным моделям через ollama.com с API-ключом.

Сценарии использования

  • Добавление чата с локальной LLM в бэкенд или скрипт на Node.js.
  • Создание веб-интерфейса чата, который подключается к локальному серверу Ollama.
  • Генерация эмбеддингов для поиска или конвейеров извлечения данных из кода на JavaScript.
  • Вызов более крупных размещённых моделей из того же кода, который используется для локальных моделей.

Быстрый старт

  1. 1

    Установите библиотеку с помощью npm

    npm i ollama
  2. 2

    Импортируйте клиент и вызовите chat, указав модель

Что важно знать

  • Требуется запущенный сервер Ollama или API-ключ учетной записи Ollama для облачных моделей.
  • Для облачных функций, таких как веб-поиск и облачные модели, нужна учетная запись Ollama.

Темы

#llm#ollama#javascript#typescript#chat-api#embeddings#streaming#js

Частые вопросы

Что такое ollama-js?
Официальная клиентская библиотека JavaScript/TypeScript для Ollama: чат с локальными и облачными LLM и управление ими из Node.js и браузера. ollama-js — официальный клиент JavaScript для Ollama, среды выполнения больших языковых моделей. Он предоставляет доступ к REST API Ollama через интерфейс на основе промисов, позволяя приложениям для Node.js и браузеров отправлять запросы для чата и генерации, загружать и выгружать модели, создавать собственные модели, а также просматривать список установленных моделей и сведения о них.
ollama-js можно использовать бесплатно? Какая у него лицензия?
ollama-js распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ollama-js всё ещё поддерживается?
Активно поддерживается. Последний коммит в ollama-js — 16 окт. 2026 г..
Для чего можно использовать ollama-js?
Добавление чата с локальной LLM в бэкенд или скрипт на Node.js. Создание веб-интерфейса чата, который подключается к локальному серверу Ollama. Генерация эмбеддингов для поиска или конвейеров извлечения данных из кода на JavaScript. Вызов более крупных размещённых моделей из того же кода, который используется для локальных моделей.
Как установить ollama-js?
Установите библиотеку с помощью npm: npm i ollama Импортируйте клиент и вызовите chat, указав модель
Где скачать ollama-js?
Исходный код и инструкции по установке — на GitHub: https://github.com/ollama/ollama-js

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты