Strata에서 모델을 고를 때는 단순히 "그래픽 카드 사양"만 보는 것이 아니라, RAM과 VRAM의 합계를 계산하는 것이 중요합니다. 공식 MODELS.md에서 제시하는 선택 과정은 매우 명쾌합니다. 먼저 메모리 표에서 내 PC에 맞는 후보를 찾고 $\rightarrow$ --plan 옵션으로 실제 실행 계획을 확인한 뒤 $\rightarrow$ 설치하는 순서입니다. 이 편에서는 각 모델 팩(Pack)의 수치와 특징을 한눈에 비교할 수 있도록 정리했습니다.

시작 전 꼭 기억하세요: 표에 적힌 수치는 추정치입니다. OS와 다른 프로그램이 사용하는 기본 메모리를 별도로 확보해야 하며, 통합 메모리(Mac 등) 환경에서는 RAM과 VRAM을 구분하지 않고 한 번만 계산하면 됩니다. 또한, 선택한 모델이 설정한 컨텍스트 길이와 항상 완벽하게 맞아떨어지지는 않을 수 있습니다.

프로바이더 권장 순서

모델 패밀리 내에서 어떤 팩(Pack)을 고를지 고민된다면, 다음의 권장 순서를 따르는 것이 가장 무난합니다: ISTA-DASLab $\rightarrow$ Unsloth $\rightarrow$ Gyro $\rightarrow$ 기타(Swift 1.5, NVFP4, OrcaRouter).

기본적으로는 ISTA-DASLab 팩이 가장 권장되며, Gyro는 메모리가 극도로 부족할 때 선택하는 폴백(Fallback) 옵션입니다(단, 속도는 더 느립니다). 몇 가지 참고할 점은 다음과 같습니다:

• 권장일 뿐, 강제는 아닙니다: 이 순서는 가이드일 뿐, 설치기가 무조건 이 순서로 모델을 제안하지는 않습니다. 특히 메모리가 아주 적은 환경에서는 설치기가 Swift나 Gyro를 먼저 추천할 수 있습니다. 특정 프로바이더의 모델을 쓰고 싶다면 --family와 --model 플래그를 직접 명시하세요.
• 패밀리별 차이: 이 순서는 각 패밀리 내부에서 적용됩니다. 예를 들어 Qwen3.6은 Unsloth 팩만 제공되며, DeepSeek은 ISTA-DAS 세트가 중심입니다.
• 사용자 선택 우선: 사용자가 명시적으로 선택한 프로바이더가 항상 최우선으로 적용됩니다.

메모리로 먼저 고르기

Qwen3.8-Flash-Next ISTA-DASLab 원본 팩의 "RAM + VRAM(모델 가중치)" 요구량입니다. 내 PC의 가용 메모리와 비교해 보세요.

크기	모델용 RAM+VRAM	속도	품질
Q2_0	37.6 GB	가장 빠름	좋음
IQ2_XS	39.2 GB	빠름	더 좋음
IQ3_XXS	47.0 GB	느림	매우 좋음
IQ3_S	54.8 GB	가장 느림	최고(공개 테스트에서 원본 모델과 대등)

내 상황에 맞는 모델 추천:

• 메모리가 적고 코딩이 주 목적인 경우 $\rightarrow$ Coder IQ1_M (약 32GB RAM 필요)
• 메모리가 적은 일반 용도 $\rightarrow$ Unsloth 팩을 먼저 살펴본 뒤, 여전히 부족하다면 Gyro(최소 메모리 사용, 속도는 느림)를 선택하세요.
• 메모리가 넉넉한 경우 $\rightarrow$ Unsloth 4~8bit 팩을 추천합니다. (전체 전문가를 RAM에 유지하려면 72~136GB 필요)
• 조금 더 가벼운 모델을 원할 때 $\rightarrow$ Qwen3.6-35B-A3B (RAM 32~52GB)
• 한계를 시험하는 초거대 모델 $\rightarrow$ DeepSeek V4.1-Flash (12GB 그래픽 카드급 이상, RAM 46~64GB, 디스크 257GB 필요)

"내 PC에서 돌아갈까?"라는 질문에 대한 판정 규칙은 이렇습니다. 모델의 첫 번째 샤드가 시작될 때 RAM에 로드되는데, Q2_0 기준 34GB, IQ3_S 기준 50GB 정도가 필요합니다. 따라서 RAM $\ge$ 전문가 전체 크기 + OS 기본 사용량(약 10GB)가 안정적인 실행의 기준선입니다. strata launch --plan을 실행하면 현재 내 메모리 상황에서 실제로 부족한 부분이 있는지 정확히 알려 줍니다. 만약 RAM이 부족하면 GPU가 큰 경우에 한해 'low-RAM 모드'가 작동하며, 이때는 SSD에서 전문가를 읽어오므로 속도가 매우 느려집니다.

Qwen3.8-Flash-Next 변종들

모든 변종 모델은 이미지 판독 기능을 지원합니다.

Coder (ISTA-DASLab) — 매 레이어 512개 전문가 중 코딩에 최적화된 256개만 남긴 전용 모델입니다. 저자들에 따르면 SWE-bench Verified 원본의 91%, LiveCodeBench의 99% 성능을 유지하면서 크기를 대폭 줄였습니다. IQ1_M 하나(샤드 1 = 29.6GB)로 제공되어 32GB RAM PC에서도 무리 없이 돌아갑니다. 다만 코드와 영어·중국어 외의 일반적인 대화 품질은 낮으므로, 일반 용도로는 전문가 전체를 보존하는 모델을 쓰세요.

strata launch --family coder --model IQ1_M

Swift 1.5 (UkisAI) — 사고(thinking) 과정을 훨씬 짧게 줄인 파인튜닝 모델입니다. 품질은 원본과 비슷하면서 토큰당 속도와 RAM 사용량은 동일 크기 원본과 같습니다. --family swift로 실행합니다.

Unsloth (UD-IQ4_XS~Q8_0) — 같은 모델의 4~8bit 양자화 버전입니다. 전문가를 더 높은 비트로 저장하므로 그만큼 RAM을 더 많이 요구합니다.

크기	다운로드	전체 전문가 RAM	Q8_0 대비 top-token
UD-IQ4_XS	94 GB	약 72 GB	88.9%
UD-Q4_K_XL	111 GB	약 88 GB	93.1%
UD-Q5_K_XL	158 GB	약 108 GB	94.6%
UD-Q6_K_XL	169 GB	약 118 GB	94.6%
Q8_0	188 GB	약 136 GB	100%(기준)

--family unsloth로 실행합니다. 여유 RAM이 16GB 이상이면 전체 전문가를 RAM에 올려 쾌적하게 사용할 수 있지만, 그보다 적으면 일부 전문가를 SSD에서 읽어오므로 속도가 매우 느려집니다.

Gyro-S / Gyro-M (agentionai) — 회전된 기저(rotated basis)와 트렐리스 코딩을 적용한 최소 크기 옵션입니다. Gyro-S는 다운로드 58.5GB·메모리 27.6GB로 "메모리가 정말 없는 PC를 위한 선택지"이며, Gyro-M은 92GB·35GB로 "IQ3_XXS급 품질을 유지하면서 GPU 메모리를 20% 덜 사용하는" 모델입니다. NVIDIA, AMD(실험적), Intel Arc, Mac을 모두 지원하는 넓은 호환성이 장점입니다. --family gyro로 실행하세요.

NVFP4 (NVIDIA 전용) — 전문가를 NVIDIA 전용 4bit 포맷에 저장합니다. Strata 변환판(최상 품질, 128GB), NVIDIA 원본 변환판(동일 크기·속도, 128GB), 그리고 FP4용 재학습 버전인 QAD(102GB, 준비 시 디스크 110GB 추가 필요 및 20~40분 소요)가 있습니다. 전체 전문가를 RAM에 두려면 약 80GB가 필요합니다. RTX 50 시리즈 카드는 전용 FP4 텐서 코어를 사용하여 더 빠르고, 그 외 NVIDIA 카드는 8bit 정밀도로 실행됩니다. --family nvfp4로 실행하세요.

OrcaRouter Uncensored IQ3_XXS — 설치 메뉴에 나타나지 않으며, 수동 변환 과정이 필요한 변종입니다. 자세한 내용은 ORCA.md를 참고하세요.

Qwen3.6-35B-A3B

같은 제작진이 만든 좀 더 가벼운 MoE 모델(35B 파라미터, 활성 3B, 전문가 256개, Apache 2.0 라이선스)입니다. Unsloth GGUF와 MTP 초안 레이어를 자체 엔진 경로에서 실행하며, NVIDIA와 AMD를 지원합니다(Metal·SYCL 엔진은 미지원). 이미지 판독과 병렬 요청 기능도 모두 갖추고 있습니다.

크기	파일 크기	RAM 계획	설명
UD-Q4_K_XL	22.9 GB	32 GB	4bit(Unsloth Dynamic), 최소 사양
UD-Q6_K_XL	32.6 GB	44 GB	6bit, 원본에 가까운 품질
Q8_0	37.8 GB	52 GB	8bit, 원본에 가장 가까운 최상위 품질

실측 결과(UD-Q4_K_XL, 디코딩 전용), R9700(32GB)에서 117.8 tokens/s, RTX 3060(12GB, 전문가 대부분 CPU 처리)에서 59.7 tokens/s의 속도를 보여주었습니다.

strata launch --family qwen36 --model UD-Q4_K_XL

DeepSeek V4.1-Flash

12GB 이상의 그래픽 카드와 46GB 이상의 RAM(RTX 30/40/50 또는 R9700·Strix Halo)이 있다면 도전해 볼 만한 초거대 모델입니다. 메모리에 다 들어가지 않는 데이터는 SSD에서 실시간으로 읽어오기 때문에, 속도가 빠른 NVMe SSD를 사용하는 것이 필수적입니다.

세트 (ISTA-DAS)	다운로드	원본 대비 특징
ist-das-1.75bpw	239 GB	퍼플렉시티 +21%, 코드 성능 +8.9%
ist-das-2.00bpw	257 GB	퍼플렉시티 +16%, 코드 성능 +8.5%
ist-das-2.25bpw	274 GB	퍼플렉시티 +8% 내외, 코드 성능 +3.5%
ISTA-DAS Coder	191 GB	전문가 절반을 보존한 코딩 특화 버전
ud-q8_k_xl (Unsloth)	508 GB	매우 높은 품질, 여러 장의 GPU 필요

컨텍스트 길이는 검증된 크기인 8K로 고정되어 있습니다. --speed faster|full 옵션을 통해 단어당 사용하는 6개 전문가 중 5개만 쓸지(기본, 품질 차이 거의 없음), 전부 다 쓸지를 선택할 수 있습니다. 이미지 판독은 기본적으로 켜져 있으며, 끄고 싶다면 --vision off를 사용하세요. 속도는 2.00bpw 기준 RTX 3060에서 6~9, R9700에서 21~25, 4x R9700 구성 시 74~77 tokens/s 수준입니다.

strata launch --plan --family deepseek41 --model ist-das-2.00bpw

모델 추가와 교체

• 데스크톱 앱: Models 페이지에서 모델 크기와 "내 컴퓨터 사양에 맞는지" 여부를 확인하고 설치 버튼만 누르면 됩니다.
• 터미널: strata launch 실행 중 Model 선택 단계에서 카탈로그를 확인하거나 "이미 가지고 있는 모델 파일 사용"을 선택하세요. strata models list로 현재 설치된 목록을 확인하고, strata models import <폴더 또는 .gguf> --plan을 통해 가지고 있는 파일이 어떤 모델로 인식될지 미리 확인할 수 있습니다.
• 소스 체크아웃: SETUP.bat 또는 ./setup.sh --setup을 통해 수동으로 추가합니다.

공유 파일(인그램 테이블, 초안 레이어, 판독기)은 여러 모델이 함께 사용하므로 중복 다운로드되지 않습니다. 또한 데스크톱 앱으로 설치한 모델 폴더를 터미널이 공유하여 찾아내므로, 한 번만 설치하면 두 방식 모두에서 사용할 수 있습니다. 실행 중인 모델을 다른 설정으로 바꾸고 싶다면 --restart 플래그를 사용하세요.