도구 › 문서·글쓰기
carloslfu/slotstream
활발 2일 전 커밋 · 2026-10-09 소개
메모리보다 큰 105GB 모델을 맥에서 돌리는 실행기
어떤 도구인가
105GB짜리 Qwen3.8-Flash-Next(1,250억 파라미터 MoE) 모델을 메모리 16~64GB 맥에서 돌리는 실행기다. 모델 대부분을 SSD에 두고 필요한 부분만 불러오며, 자주 쓰이는 전문가 모듈은 메모리에 캐시한다. 파이썬 없는 스위프트 단일 바이너리로 오프라인에서 동작하고, 클로드 코드·코덱스·opencode에 연결하거나 Ollama/OpenAI 호환 API로 쓸 수 있다.
미리 알아둘 것
모델 파일이 105GB라 SSD 여유 공간이 그만큼 필요하다.
모델 파일이 105GB라 SSD 여유 공간이 그만큼 필요하다.
지금 상태
소개 당시⭐ 426
지금⭐ 477
정보
분야문서·글쓰기
언어Swift
라이선스MIT
마지막 커밋2026-10-16
포크39
확인일2026-10-18
Run a 105 GB AI model on a Mac that can't hold it. Slotstream streams Qwen3.8-Flash-Next (125B mixture of experts) from your SSD and caches the busiest experts in memory, so it runs on Macs with 16 to