테마 전환
Strata는 "내 컴퓨터에서 강력한 AI를 직접 실행하는 경험"을 제공하는 무료 오픈소스 로컬 추론 도구입니다. 보통 수백 GB의 서버용 그래픽 메모리가 있어야 돌아가는 초대형 MoE 모델(Qwen3.8-Flash-Next, DeepSeek V4.1-Flash 등)을 일반 PC의 그래픽 카드, RAM, SSD에 적절히 나누어 얹어 실행하는 것이 Strata의 핵심입니다. 덕분에 채팅, 코딩, 이미지 판독 작업을 계정 생성이나 구독 없이 로컬에서 처리할 수 있으며, OpenAI나 Anthropic 호환 API를 통해 Claude Code, Codex CLI 같은 코딩 에이전트와도 매끄럽게 연결됩니다.
이 가이드는 subjects/strata에 체크아웃된 공식 저장소의 README와 문서들을 바탕으로, 한국어 사용자가 핵심 내용을 빠르게 파악할 수 있도록 재구성했습니다. 본문에서는 앱과 터미널 버전 0.2.5~0.2.9 계열을 기준으로 설명합니다.
Strata는 어떤 도구인가
쉽게 말해 Strata는 "로컬에서 돌아가는 MoE 전문 추론 서버와 이를 쉽게 설치해 주는 도구"의 결합입니다.
- 완벽한 로컬 실행: 채팅 내역, 프롬프트, 파일, 이미지, 모델 가중치까지 모두 내 PC에 저장됩니다. 별도의 계정이 필요 없으며, 사용량 추적(텔레메트리)이나 크래시 리포트를 외부로 보내지 않습니다. 모델만 내려받으면 인터넷 연결 없이도 그대로 사용할 수 있습니다.
- MoE 구조의 영리한 활용: 예를 들어 Qwen3.8-Flash-Next는 24,576개의 전문가(expert)를 가지고 있지만, 한 단어를 생성할 때 실제로는 그중 10개만 사용합니다. Strata는 이 특성을 이용해 모델 전체를 무작정 그래픽 카드에 올리는 대신, 필요한 부분만 효율적으로 관리하는 전략을 취합니다.
- 압도적인 프롬프트 처리 속도: 최대 8,192토큰 단위의 청크로 긴 문서를 빠르게 읽어들이며(초당 1,000토큰 이상), 대화 캐시를 통해 후속 질문에 대한 응답 시간을 획기적으로 줄였습니다.
- MIT 라이선스의 자유로움: 프로젝트 전체가 MIT 라이선스로 공개되어 있어 자유롭게 사용할 수 있습니다. (단, 모델 가중치와 일부 서드파티 컴포넌트는 각자의 라이선스를 따릅니다.)
다만, "로컬 실행"이 모든 과정에서 "오프라인"임을 의미하지는 않습니다. 최초 설치와 업데이트, 그리고 사용자가 선택적으로 켜는 웹 검색이나 터널링 기능은 인터넷 연결이 필요합니다. 네트워크 동작에 관한 상세한 내용은 문제 해결·운영 편에서 다시 다루겠습니다.
세 부분으로 구성된 프로젝트
Strata는 용도에 따라 세 부분으로 나뉩니다.
| 부분 | 구성 | 누구용 |
|---|---|---|
| 데스크톱 앱 | Tauri 셸(apps/desktop) + Node 호스트·웹 UI(apps/host) | 터미널을 안 쓰는 사용자. 시스템당 설치 파일 하나 |
| 터미널(Terminal) | strata 명령(strata.py, strata_cli/, strata_control/) | 셸을 쓰는 사용자·AI 에이전트. strata launch가 핵심 |
| 엔진과 서버 | C++/CUDA/HIP/SYCL/Metal 엔진(src/, include/), Python 서버(serve/) | 개발자·직접 빌드. OpenAI·Anthropic 호환 API 제공 |
설치 경로는 크게 세 갈래입니다.
- 데스크톱 앱 설치기: 최신 릴리스에서 시스템당 파일 하나씩 —
Strata-0.2.9-windows-x64-setup.exe,Strata-0.2.9-linux-x86_64.AppImage,Strata-0.2.9-macos-arm64.dmg. Windows·Linux 설치기에는 엔진이 들어 있지 않고, 첫 실행 때 그래픽 카드에 맞는 엔진을 내려받습니다(Mac dmg에는 소형 Metal 엔진 내장). - 터미널 한 줄 설치:
install.sh/install.ps1로strata명령을 깔고strata launch로 모델 설정·서빙·모니터링을 한 번에 처리합니다. - 소스 체크아웃: 개발자용으로
setup.sh/START-HERE.bat가 엔진을 직접 빌드하거나 준비합니다. 앱·터미널 설치본에는 이 파일들이 없습니다.
세 경로의 플래그는 호환되지 않습니다. 예컨대 터미널 strata launch는 --gpu, --vision on|off를 쓰고, 소스 setup.sh는 --gpus, --vision yes|no를 씁니다. 설치 편에서 자세히 다룹니다.
지원하는 모델
2026년 11월 현재 공식 모델 패밀리는 세 개입니다.
| 패밀리 | 특징 | 주요 팩 |
|---|---|---|
| Qwen3.8-Flash-Next | 초대형 MoE 플래그십. 이미지 판독 지원 | ISTA-DASLab(Q2_0~IQ3_S), Coder, Unsloth(4~8bit), Gyro(초저메모리), Swift 1.5, NVFP4(NVIDIA 전용) |
| Qwen3.6-35B-A3B | 같은 제작진의 소형 MoE(35B/활성 3B, Apache 2.0). R9700에서 디코딩 117 tokens/s급 실측 | Unsloth UD-Q4_K_XL~Q8_0 |
| DeepSeekV4.1-Flash-1017 | 12GB 그래픽 카드+46GB RAM 이상에서 도는 초거대 MoE. 8K 컨텍스트, SSD 스트리밍 | ISTA-DAS 1.75/2.00/2.25 bpw(239~274GB), Coder |
프로바이더 권장 순서는 ISTA-DASLab → Unsloth → Gyro → 기타입니다. Gyro는 메모리 절약용 폴백으로 현재는 더 느립니다. 각 팩의 크기·메모리 요구량은 모델 선택 편의 표로 확인하세요.
지원하는 하드웨어
| 하드웨어 | 안내 |
|---|---|
| NVIDIA GeForce RTX 20/30/40/50 시리즈 | CUDA 엔진. CUDA 13 패키지는 드라이버 580 이상 |
| AMD Radeon RX 7700/7800/7900, RX 9060/9070, AI PRO R9700 | HIP 엔진. RX 6800/6900은 실험 지원 |
| Intel Arc (Linux) | SYCL 엔진 |
| Apple Silicon (M1 이상, macOS 15+) | Metal 엔진 |
| AMD Ryzen AI Max (Strix Halo) | 통합 메모리 전용 |
| NVIDIA DGX Spark (Linux ARM64) | 터미널로만 사용 가능 |
같은 GPU라도 백엔드별로 지원하는 모델·기능이 다를 수 있습니다. "지원되는 GPU = 모든 모델 지원"이 아니라는 점은 하드웨어 편에서 반복해서 강조됩니다.
코딩 도구와 연결
Strata 서버는 OpenAI·Anthropic 호환 API를 제공하므로 대부분의 코딩 에이전트가 그대로 붙습니다. 공식적으로 연결 보조(strata connect)가 지원되는 도구는 다음입니다.
- Claude Code, Codex CLI, OpenCode, oh-my-pi(
omp), pi.dev(pi), Hermes Agent, OpenClaw - 앱 내장 코딩 도구인 DeepSeek Harness(
deepseek-harness)
sh
strata connect # 지원 도구 목록
strata connect claude-code --check # 설정 출력 + 실제 프롬프트·도구 호출 점검자세한 설정과 알려진 제한은 코딩 도구 연결 편을 참고하세요.
첫걸음 요약
터미널 기준 최소 절차는 이렇습니다. 먼저 어떤 일이 일어날지 확인만 하는 --plan부터 시작하는 것을 권장합니다.
sh
# 1. 터미널 설치 (관리자 권한 불필요)
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh # Linux/Mac
# Windows PowerShell: irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
# 2. 계획 확인 (아무것도 바뀌지 않음)
strata launch --plan --family qwen --model q2_0
# 3. 설치 + 서빙 (질문 없이 백그라운드 실행)
strata launch --family qwen --model q2_0 --yes --no-tui서버가 뜨면 기본 주소는 http://127.0.0.1:8080입니다. 브라우저에서 그 주소로 웹 UI에 들어갈 수 있고, strata launch --status로 상태를 보고 --stop으로 멈춥니다. 이 흐름을 다음 편들의 학습 순서대로 따라가면 됩니다.