simonw/llm

어떤 프로젝트인가요?

핵심 기능

• 01명령줄에서 프롬프트를 보내고 대화형 채팅을 할 수 있습니다.
• 02나중에 검색하고 검토할 수 있도록 프롬프트와 응답을 SQLite에 기록합니다.
• 03유사도 검색을 위한 임베딩을 생성하고 저장합니다.
• 04JSON 스키마를 사용해 구조화된 데이터를 추출합니다.
• 05모델이 도구를 호출할 수 있으며, 이미지·오디오·비디오를 첨부 파일로 전달할 수 있습니다.
• 06플러그인 시스템을 통해 원격 API와 로컬 모델을 지원합니다.

활용 사례

• 셸 스크립트에서 모델에 질의하거나 파일 내용을 프롬프트에 파이프로 전달하기.
• 검색할 수 있는 LLM 대화 기록을 로컬에 구축하기.
• 하나의 인터페이스에서 여러 제공자의 프롬프트 결과를 테스트하기.
• 문서나 이미지에서 구조화된 레코드를 추출하기.

빠른 시작

1. 1

   pip으로 LLM 설치하기

   pip install llm
2. 2

   OpenAI API 키 저장하기

   llm keys set openai
3. 3

   기본 모델로 프롬프트 실행하기

   llm "Ten fun names for a pet pelican"

사용 전 알아둘 점

• !OpenAI, Gemini, Anthropic 등의 원격 모델을 사용하려면 유료 API 키가 필요합니다.
• !자신의 컴퓨터에서 모델을 실행하려면 별도의 플러그인과 Ollama 같은 로컬 모델 실행기를 설치해야 합니다.

토픽

자주 묻는 질문

llm은(는) 무엇인가요?

원격 및 로컬 대규모 언어 모델에 프롬프트를 보내고 대화할 수 있는 CLI 도구이자 Python 라이브러리입니다. LLM은 OpenAI, Anthropic Claude, Google Gemini, Mistral, DeepSeek 같은 대규모 언어 모델은 물론, 로컬 머신에서 실행되는 모델과도 연동할 수 있는 CLI 도구이자 Python 라이브러리입니다. 플러그인을 추가하면 Ollama 같은 로컬 모델 제공자와 LM Studio처럼 OpenAI 호환 엔드포인트를 지원하는 모든 서비스도 사용할 수 있습니다.

llm은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

llm은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

llm은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. llm의 마지막 커밋은 2026년 10월 18일입니다.

llm은(는) 어디에 사용할 수 있나요?

셸 스크립트에서 모델에 질의하거나 파일 내용을 프롬프트에 파이프로 전달하기. 검색할 수 있는 LLM 대화 기록을 로컬에 구축하기. 하나의 인터페이스에서 여러 제공자의 프롬프트 결과를 테스트하기. 문서나 이미지에서 구조화된 레코드를 추출하기.

llm는 어떻게 설치하나요?

pip으로 LLM 설치하기: pip install llm OpenAI API 키 저장하기: llm keys set openai 기본 모델로 프롬프트 실행하기: llm "Ten fun names for a pet pelican"

llm은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/simonw/llm