Repolode
jeremychone

jeremychone/rust-genai

각 제공업체의 네이티브 프로토콜을 사용해 다양한 AI 제공업체와 대화할 수 있는 공통 API를 제공하는 Rust 라이브러리입니다.

스타
936
포크
197
열린 이슈
42
마지막 커밋
그저께

어떤 프로젝트인가요?

genai는 생성형 AI 모델을 위한 Rust 클라이언트 라이브러리입니다. OpenAI, Anthropic, Gemini, Ollama(로컬 모델용), Groq, xAI, DeepSeek, Cohere, Mistral 등 다양한 제공업체에서 사용할 수 있는 단일 채팅 API를 제공합니다. 모델 이름의 접두사를 기준으로 어댑터를 선택하며, `groq::`나 `ollama_cloud::` 같은 네임스페이스를 지정해 강제로 선택할 수도 있습니다.

각 제공업체의 네이티브 프로토콜이 있는 경우 이를 사용하므로, 추론 제어, thinking 예산, 스트리밍 메타데이터, 멀티모달 입력과 같은 제공업체별 기능을 표현할 수 있습니다. 제공업체가 주로 OpenAI 호환 API를 제공하는 경우 genai는 해당 인터페이스를 사용합니다. 사용자 지정 인증 및 엔드포인트를 위해 환경 변수나 ServiceTargetResolver로 사용자 지정 OpenAI 호환 엔드포인트를 설정할 수 있습니다.

주요 지원 대상은 텍스트 채팅, 비전, 함수 호출입니다. 모든 제공업체 SDK의 기능을 빠짐없이 지원하기보다는 사용하기 편한 공통 API에 중점을 둡니다. TLS 백엔드는 Cargo features를 통해 선택할 수 있습니다.

핵심 기능

  • 01로컬 Ollama 모델을 포함한 다양한 AI 제공업체에서 사용할 수 있는 통합 채팅 API
  • 02모델 이름을 기준으로 어댑터를 자동 선택하거나 네임스페이스를 지정해 강제로 선택
  • 03지원되는 경우 네이티브 프로토콜을 사용하고, 그렇지 않으면 OpenAI 호환 인터페이스로 대체
  • 04환경 변수나 대상 리졸버를 통한 사용자 지정 엔드포인트 및 인증 설정
  • 05이미지 입력 및 함수 호출 지원
  • 06선택 가능한 TLS 백엔드(rustls가 기본값이며 native-tls도 선택 가능)

활용 사례

  • 호출 코드를 다시 작성하지 않고 OpenAI, Anthropic, Gemini 모델 간에 전환하는 Rust 애플리케이션 구축
  • 클라우드 제공업체와 동일한 API를 사용해 Ollama로 로컬 모델 실행
  • Rust 서비스에서 자체 호스팅 OpenAI 호환 추론 서버에 연결
  • Rust 백엔드에 비전 또는 도구 호출 기능 추가

빠른 시작

  1. 1

    Cargo.toml에 crate를 추가합니다

    cargo add genai
  2. 2

    클라이언트를 만들고 모델 이름을 지정해 exec_chat을 호출합니다

사용 전 알아둘 점

  • 1.0 이전 릴리스(0.7.x)로, 마이너 버전 간에 호환성을 깨는 변경 사항이 있을 수 있습니다.

포함된 컬렉션

토픽

자주 묻는 질문

rust-genai은(는) 무엇인가요?
각 제공업체의 네이티브 프로토콜을 사용해 다양한 AI 제공업체와 대화할 수 있는 공통 API를 제공하는 Rust 라이브러리입니다. genai는 생성형 AI 모델을 위한 Rust 클라이언트 라이브러리입니다. OpenAI, Anthropic, Gemini, Ollama(로컬 모델용), Groq, xAI, DeepSeek, Cohere, Mistral 등 다양한 제공업체에서 사용할 수 있는 단일 채팅 API를 제공합니다. 모델 이름의 접두사를 기준으로 어댑터를 선택하며, `groq::`나 `ollama_cloud::` 같은 네임스페이스를 지정해 강제로 선택할 수도 있습니다.
rust-genai은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
rust-genai은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
rust-genai은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. rust-genai의 마지막 커밋은 2026년 11월 4일입니다.
rust-genai은(는) 어디에 사용할 수 있나요?
호출 코드를 다시 작성하지 않고 OpenAI, Anthropic, Gemini 모델 간에 전환하는 Rust 애플리케이션 구축 클라우드 제공업체와 동일한 API를 사용해 Ollama로 로컬 모델 실행 Rust 서비스에서 자체 호스팅 OpenAI 호환 추론 서버에 연결 Rust 백엔드에 비전 또는 도구 호출 기능 추가
rust-genai는 어떻게 설치하나요?
Cargo.toml에 crate를 추가합니다: cargo add genai 클라이언트를 만들고 모델 이름을 지정해 exec_chat을 호출합니다
rust-genai은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/jeremychone/rust-genai

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트