Repolode
XHToken

XHToken/Spark-X2.5

온디바이스 및 에이전트 도구 호출 워크플로를 위한 XHToken의 오픈 웨이트 4B·1.7B 범용 언어 모델

스타
814
포크
110
열린 이슈
5
마지막 커밋
13시간 전

어떤 프로젝트인가요?

Spark-X2.5는 4B와 1.7B 파라미터의 두 가지 크기로 출시된 오픈 모델 시리즈로, 대화, 글쓰기, 번역, 추론, 코딩, 도구 사용 및 에이전트 워크플로를 지원합니다. 모델은 풀 어텐션 레이어 하나와 슬라이딩 윈도우 어텐션 레이어 세 개를 결합한 하이브리드 어텐션 설계를 사용하며, 최대 1M 토큰의 컨텍스트 윈도우를 기본 지원합니다.

프로젝트는 Hugging Face, ModelScope, Ollama 및 여러 지역 플랫폼에서 가중치를 제공하며, FP8 및 INT8 양자화 버전도 함께 제공합니다. 배포 예제에서는 NVIDIA GPU와 Huawei Ascend NPU 환경을 포함해 vLLM, SGLang, llama.cpp, MLX, LM Studio를 다룹니다. 에이전트 하네스에서 사용할 수 있도록 채팅 템플릿과 도구 호출 파서도 포함되어 있습니다.

저장소에는 공식 모델 정보, Qwen3.5 및 Gemma4 모델과 비교한 벤치마크 표, 각 런타임의 빠른 시작 명령, LLaMA-Factory를 사용한 파인튜닝 안내가 담겨 있습니다. 가중치는 Apache 2.0 라이선스로 공개됩니다.

핵심 기능

  • 01최대 1M 토큰의 컨텍스트 윈도우를 기본 지원하는 하이브리드 어텐션 아키텍처.
  • 024B와 1.7B 크기로 제공되며 FP8 및 INT8 양자화 버전도 포함.
  • 03에이전트용 도구 호출 파서와 채팅 템플릿 포함.
  • 04vLLM, SGLang, llama.cpp, MLX, Ollama 및 LM Studio에서 실행 가능.
  • 05NVIDIA GPU와 Huawei Ascend NPU를 지원하며, LLaMA-Factory를 통한 파인튜닝도 지원.

활용 사례

  • 노트북이나 엣지 디바이스에서 소형 범용 모델을 로컬로 실행.
  • 코딩 또는 에이전트 도구용 OpenAI 호환 API 제공.
  • 1M 토큰 컨텍스트 윈도우로 긴 문서 처리.
  • LLaMA-Factory를 사용해 특정 도메인에 맞게 소형 모델 파인튜닝.

빠른 시작

  1. 1

    Ollama를 설치하고 모델을 실행하세요

    ollama run SparkLLM
  2. 2

    또는 Hugging Face에서 모델을 다운로드하세요(공식 컬렉션)

사용 전 알아둘 점

  • README에는 SparkLLM 네임스페이스 외에 정확한 Ollama 모델 태그가 명시되어 있지 않으므로, 실행하기 전에 Ollama 페이지를 확인하세요.
  • 벤치마크는 게시자가 자체 보고한 수치이며, 별표가 표시된 비교 항목 중 일부는 다른 출처에서 가져온 수치입니다.
  • README에는 모델 라이선스가 명시되어 있지 않지만, 메타데이터에는 Apache-2.0으로 표시되어 있습니다.

토픽

자주 묻는 질문

Spark-X2.5은(는) 무엇인가요?
온디바이스 및 에이전트 도구 호출 워크플로를 위한 XHToken의 오픈 웨이트 4B·1.7B 범용 언어 모델 Spark-X2.5는 4B와 1.7B 파라미터의 두 가지 크기로 출시된 오픈 모델 시리즈로, 대화, 글쓰기, 번역, 추론, 코딩, 도구 사용 및 에이전트 워크플로를 지원합니다. 모델은 풀 어텐션 레이어 하나와 슬라이딩 윈도우 어텐션 레이어 세 개를 결합한 하이브리드 어텐션 설계를 사용하며, 최대 1M 토큰의 컨텍스트 윈도우를 기본 지원합니다.
Spark-X2.5은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
Spark-X2.5은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
Spark-X2.5은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. Spark-X2.5의 마지막 커밋은 2026년 10월 19일입니다.
Spark-X2.5은(는) 어디에 사용할 수 있나요?
노트북이나 엣지 디바이스에서 소형 범용 모델을 로컬로 실행. 코딩 또는 에이전트 도구용 OpenAI 호환 API 제공. 1M 토큰 컨텍스트 윈도우로 긴 문서 처리. LLaMA-Factory를 사용해 특정 도메인에 맞게 소형 모델 파인튜닝.
Spark-X2.5는 어떻게 설치하나요?
Ollama를 설치하고 모델을 실행하세요: ollama run SparkLLM 또는 Hugging Face에서 모델을 다운로드하세요(공식 컬렉션)
Spark-X2.5은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/XHToken/Spark-X2.5

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트