채팅, Responses, 스트리밍, 배치 등을 지원하는 OpenAI API 및 다양한 LLM 제공업체용 비동기 Scala 클라이언트입니다.
jeremychone/rust-genai
각 제공업체의 네이티브 프로토콜을 사용해 다양한 AI 제공업체와 대화할 수 있는 공통 API를 제공하는 Rust 라이브러리입니다.
- 스타
- 936
- 포크
- 197
- 열린 이슈
- 42
- 마지막 커밋
- 그저께
어떤 프로젝트인가요?
genai는 생성형 AI 모델을 위한 Rust 클라이언트 라이브러리입니다. OpenAI, Anthropic, Gemini, Ollama(로컬 모델용), Groq, xAI, DeepSeek, Cohere, Mistral 등 다양한 제공업체에서 사용할 수 있는 단일 채팅 API를 제공합니다. 모델 이름의 접두사를 기준으로 어댑터를 선택하며, `groq::`나 `ollama_cloud::` 같은 네임스페이스를 지정해 강제로 선택할 수도 있습니다.
각 제공업체의 네이티브 프로토콜이 있는 경우 이를 사용하므로, 추론 제어, thinking 예산, 스트리밍 메타데이터, 멀티모달 입력과 같은 제공업체별 기능을 표현할 수 있습니다. 제공업체가 주로 OpenAI 호환 API를 제공하는 경우 genai는 해당 인터페이스를 사용합니다. 사용자 지정 인증 및 엔드포인트를 위해 환경 변수나 ServiceTargetResolver로 사용자 지정 OpenAI 호환 엔드포인트를 설정할 수 있습니다.
주요 지원 대상은 텍스트 채팅, 비전, 함수 호출입니다. 모든 제공업체 SDK의 기능을 빠짐없이 지원하기보다는 사용하기 편한 공통 API에 중점을 둡니다. TLS 백엔드는 Cargo features를 통해 선택할 수 있습니다.
핵심 기능
- 01로컬 Ollama 모델을 포함한 다양한 AI 제공업체에서 사용할 수 있는 통합 채팅 API
- 02모델 이름을 기준으로 어댑터를 자동 선택하거나 네임스페이스를 지정해 강제로 선택
- 03지원되는 경우 네이티브 프로토콜을 사용하고, 그렇지 않으면 OpenAI 호환 인터페이스로 대체
- 04환경 변수나 대상 리졸버를 통한 사용자 지정 엔드포인트 및 인증 설정
- 05이미지 입력 및 함수 호출 지원
- 06선택 가능한 TLS 백엔드(rustls가 기본값이며 native-tls도 선택 가능)
활용 사례
- 호출 코드를 다시 작성하지 않고 OpenAI, Anthropic, Gemini 모델 간에 전환하는 Rust 애플리케이션 구축
- 클라우드 제공업체와 동일한 API를 사용해 Ollama로 로컬 모델 실행
- Rust 서비스에서 자체 호스팅 OpenAI 호환 추론 서버에 연결
- Rust 백엔드에 비전 또는 도구 호출 기능 추가
빠른 시작
- 1
Cargo.toml에 crate를 추가합니다
cargo add genai - 2
클라이언트를 만들고 모델 이름을 지정해 exec_chat을 호출합니다
사용 전 알아둘 점
- 1.0 이전 릴리스(0.7.x)로, 마이너 버전 간에 호환성을 깨는 변경 사항이 있을 수 있습니다.
포함된 컬렉션
토픽
자주 묻는 질문
- rust-genai은(는) 무엇인가요?
- 각 제공업체의 네이티브 프로토콜을 사용해 다양한 AI 제공업체와 대화할 수 있는 공통 API를 제공하는 Rust 라이브러리입니다. genai는 생성형 AI 모델을 위한 Rust 클라이언트 라이브러리입니다. OpenAI, Anthropic, Gemini, Ollama(로컬 모델용), Groq, xAI, DeepSeek, Cohere, Mistral 등 다양한 제공업체에서 사용할 수 있는 단일 채팅 API를 제공합니다. 모델 이름의 접두사를 기준으로 어댑터를 선택하며, `groq::`나 `ollama_cloud::` 같은 네임스페이스를 지정해 강제로 선택할 수도 있습니다.
- rust-genai은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- rust-genai은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- rust-genai은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. rust-genai의 마지막 커밋은 2026년 11월 4일입니다.
- rust-genai은(는) 어디에 사용할 수 있나요?
- 호출 코드를 다시 작성하지 않고 OpenAI, Anthropic, Gemini 모델 간에 전환하는 Rust 애플리케이션 구축 클라우드 제공업체와 동일한 API를 사용해 Ollama로 로컬 모델 실행 Rust 서비스에서 자체 호스팅 OpenAI 호환 추론 서버에 연결 Rust 백엔드에 비전 또는 도구 호출 기능 추가
- rust-genai는 어떻게 설치하나요?
- Cargo.toml에 crate를 추가합니다: cargo add genai 클라이언트를 만들고 모델 이름을 지정해 exec_chat을 호출합니다
- rust-genai은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/jeremychone/rust-genai
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
OpenAI, Anthropic, Google, Mistral, DeepSeek 등 여러 AI 제공업체의 채팅, 음성, 임베딩을 위한 통합 Ruby API입니다.
React, Next.js, Svelte, Vue와 Node.js로 AI 기반 애플리케이션과 에이전트를 만들 수 있는 특정 제공업체에 종속되지 않는 TypeScript 툴킷입니다.
여러 공급자의 API 키와 구독 계정을 하나의 엔드포인트로 통합하고, 스케줄링·장애 조치·사용량 로그를 제공하는 셀프 호스팅 AI 게이트웨이입니다.
주요 LLM 제공자와 UI 프레임워크를 아우르는 스트리밍 채팅, 도구 호출, 에이전트, 멀티모달 앱용 타입 안전·제공자 독립형 TypeScript SDK입니다.
텍스트, 구조화된 데이터, 대화를 위한 여러 AI 제공업체 API를 하나의 간편한 인터페이스로 감싸는 Python 클라이언트 라이브러리입니다.