Repolode
제출하기
hr98w

hr98w/jev-visual

Apple Silicon에서 MLX로 이미지 한 장에 대한 후보 답변을 채점하는 비전-언어 모델 추론 교육용 프로젝트입니다.

GitHub에서 보기
스타
319
포크
29
열린 이슈
1
마지막 커밋
27일 전

어떤 프로젝트인가요?

Jev Visual은 Apple Silicon Mac에서 비전-언어 모델 추론을 실행해 보는 실험 프로젝트입니다. MLX를 통해 Qwen3.5-0.8B를 사용해 이미지 한 장에 관한 여러 질문에 한 번에 답합니다. 예를 들어 선택지 고르기, 예/아니요 판단, 순서가 있는 단계 채점 등을 수행합니다. 구조화된 JSON을 생성하는 대신, 공유 멀티모달 컨텍스트를 재사용하고 모델 로짓에서 각 후보 답변의 점수를 직접 읽습니다.

프로젝트에는 로컬 브라우저 UI, CLI, HTTP API가 포함되어 있어 코드를 작성하지 않고도 이미지를 업로드하고 결과를 확인할 수 있습니다. 또한 정렬 게임, Breakout 변형 게임, 카메라 제스처 인식 등 동일한 추론 경로를 활용하는 시각적 데모도 제공합니다. 코드는 이미지 전처리부터 캐시 재사용과 점수 정규화까지 단계별로 읽을 수 있도록 구성되어 있습니다.

이 프로젝트는 기존 가중치를 사용하며 학습이나 보정은 하지 않습니다. 후보 확률은 정답 여부를 추정한 값이 아니라 제공된 선택지에 대한 상대적인 값입니다. 검증된 어댑터는 Qwen3.5 어댑터뿐이며, Metal과 Python 3.13을 사용하는 Apple Silicon을 대상으로 합니다.

핵심 기능

  • 01공유 컨텍스트를 한 번 처리해 이미지 한 장에 관한 여러 질문에 답합니다.
  • 02JSON을 생성하는 대신 모델 로짓에서 후보 답변을 직접 채점합니다.
  • 03로컬 브라우저 UI, CLI, HTTP API를 제공합니다.
  • 04정렬 게임, Breakout 변형 게임, 카메라 제스처 인식 등의 시각적 데모를 포함합니다.
  • 05생성 방식과 공유 프리픽스 채점 방식을 비교하는 벤치마크를 제공합니다.

활용 사례

  • 구조화된 결과를 생성하지 않고 비전-언어 모델을 분류에 활용하는 방법을 학습합니다.
  • 로컬 Apple Silicon Mac에서 이미지에 대한 다중 질문 분석을 실험합니다.
  • MLX의 KV cache 재사용과 후보 점수 산출 방식을 살펴봅니다.
  • 소형 로컬 모델로 카메라 기반 인터랙션을 프로토타이핑합니다.

토픽

#vision-language-model#mlx#apple-silicon#multimodal#llm-inference#qwen#kv-cache#education

자주 묻는 질문

jev-visual은(는) 무엇인가요?
Apple Silicon에서 MLX로 이미지 한 장에 대한 후보 답변을 채점하는 비전-언어 모델 추론 교육용 프로젝트입니다. Jev Visual은 Apple Silicon Mac에서 비전-언어 모델 추론을 실행해 보는 실험 프로젝트입니다. MLX를 통해 Qwen3.5-0.8B를 사용해 이미지 한 장에 관한 여러 질문에 한 번에 답합니다. 예를 들어 선택지 고르기, 예/아니요 판단, 순서가 있는 단계 채점 등을 수행합니다. 구조화된 JSON을 생성하는 대신, 공유 멀티모달 컨텍스트를 재사용하고 모델 로짓에서 각 후보 답변의 점수를 직접 읽습니다.
jev-visual은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
jev-visual은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
jev-visual은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. jev-visual의 마지막 커밋은 2026년 9월 21일입니다.
jev-visual은(는) 어디에 사용할 수 있나요?
구조화된 결과를 생성하지 않고 비전-언어 모델을 분류에 활용하는 방법을 학습합니다. 로컬 Apple Silicon Mac에서 이미지에 대한 다중 질문 분석을 실험합니다. MLX의 KV cache 재사용과 후보 점수 산출 방식을 살펴봅니다. 소형 로컬 모델로 카메라 기반 인터랙션을 프로토타이핑합니다.
jev-visual은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/hr98w/jev-visual

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트