DeepSeek-V4-Flash-0731

DeepSeek-V4-Flash-0731은 DeepSeek-AI에서 개발한 텍스트 생성 모델로, 이전 프리뷰 버전을 대체하는 공식 릴리스입니다. 이 모델은 DeepSeek-V4-Flash-DSpark와 동일한 구조를 공유하며, DSpark 투기적 디코딩(Speculative Decoding) 모듈이 통합되어 있습니다. MIT 라이선스에 따라 배포되어 모델 가중치와 소스 코드를 활용할 수 있습니다.

주요 기술 사양 및 특징

이 모델은 304B 파라미터 규모로 설계되었습니다. 사용자는 추론 시 reasoning_effort 파라미터를 통해 low, high, max의 세 가지 단계로 모델의 숙고 수준을 조절할 수 있습니다. 또한 별도의 Jinja 형식 채팅 템플릿을 포함하지 않는 대신, OpenAI 호환 형식의 메시지를 입력 문자열로 변환하기 위한 전용 인코딩 스크립트와 가이드를 제공합니다.

에이전트 및 코딩 성능 벤치마크

DeepSeek-V4-Flash-0731은 다양한 벤치마크에서 성능 지표를 확보했습니다. 공식 데이터에 따르면 Terminal Bench 2.1에서 82.7점, NL2Repo에서 54.2점, Cybergym에서 76.7점을 기록했습니다. 코딩 에이전트 역량을 측정하는 DeepSWE 벤치마크에서는 54.4점, 도구 활용 능력을 평가하는 Toolathlon-Verified 테스트에서는 70.3점의 결과를 보였습니다. 이러한 수치는 해당 모델이 복잡한 에이전트 작업 수행에 필요한 성능을 갖추고 있음을 나타냅니다.

vLLM 및 SGLang 실행 가이드

vLLM 환경에서 DSpark 투기적 디코딩을 활성화하려면 실행 명령에 --speculative-config 옵션을 추가하고 method를 dspark로 지정해야 합니다. SGLang을 사용하는 경우에는 --speculative-algorithm DSPARK 플래그를 적용하며, 타겟 모델과 드래프트 가중치가 동일한 체크포인트에서 제공되므로 별도의 드래프트 모델 경로를 설정할 필요가 없습니다.

로컬 배포 및 설정 권장 사항

로컬 환경에서 모델을 실행할 때 에이전트 시나리오에서는 temperature 1.0과 top_p 0.95 설정을 권장하며, 그 외의 상황에서는 top_p 1.0 설정을 권장합니다. high 또는 max 추론 노력 수준을 적용할 경우 최대 출력 길이를 384K 토큰으로 설정하는 것이 적절합니다. 개발자는 Transformers 라이브러리의 AutoTokenizer 및 AutoModelForCausalLM을 통해 모델을 직접 로드하여 사용할 수 있습니다.

자주 묻는 질문

DeepSeek-V4-Flash-0731의 라이선스 정책은 어떻게 되나요

해당 모델의 저장소와 모델 가중치는 MIT 라이선스에 따라 배포됩니다. 이는 상업적 이용 및 수정을 허용하는 개방적인 라이선스 구조입니다.

DSpark 투기적 디코딩을 활성화하려면 어떻게 해야 하나요

vLLM 실행 시 --speculative-config 옵션에 dspark 메서드를 설정하거나, SGLang 실행 시 --speculative-algorithm DSPARK 플래그를 추가하여 활성화할 수 있습니다.

추론 노력 수준 설정은 어떤 기능을 하나요

reasoning_effort 파라미터를 통해 모델이 답변을 생성하기 전 수행하는 숙고의 양을 제어합니다. 설정 가능한 수준은 low, high, max의 세 단계로 구성됩니다.