Strata Mac 版
Strata：这款开源工具可以让普通电脑，尤其是显存有限的消费级显卡，也能运行参数规模惊人的本地 AI 大模型，比如 Qwen3.8、Qwen-Flash-Next、DeepSeek 4.1 Flash 等模型。
brew install --cask strata 安装。该项目是开源的。 Strata 是什么
Strata 是一款适用于 macOS 的AI 工具：Strata：这款开源工具可以让普通电脑，尤其是显存有限的消费级显卡，也能运行参数规模惊人的本地 AI 大模型，比如 Qwen3.8、Qwen-Flash-Next、DeepSeek 4.1 Flash 等模型。
它以 Homebrew cask 形式分发，会把 .app 安装到“应用程序”文件夹。该项目是开源的，代码位于 https://github.com/Niko1221/Strata。
Strata 适合需要Strata：这款开源工具可以让普通电脑，尤其是显存有限的消费级显卡，也能运行参数规模惊人的本地 AI 大模型，比如 Qwen3.8、Qwen-Flash-Next、DeepSeek 4.1 Flash 等模型的用户。作为一款AI 工具，它提供图形界面，安装后可直接从启动台打开。
核心功能
功能与用途来自 Homebrew 元数据和项目说明，具体以官方文档为准。
- Strata：这款开源工具可以让普通电脑，尤其是显存有限的消费级显卡，也能运行参数规模惊人的本地 AI 大模型，比如 Qwen3.8、Qwen-Flash-Next、DeepSeek 4.1 Flash 等模型。
- 适合把 AI 能力接入终端、脚本或日常开发流程。
- 采用 MIT 许可证分发，可查看源码与参与贡献。
- 以 macOS 应用形式安装，支持通用二进制。
Strata 适合谁用
如果你符合以下情况，Strata 值得一试：
- 需要Strata：这款开源工具可以让普通电脑，尤其是显存有限的消费级显卡，也能运行参数规模惊人的本地 AI 大模型，比如 Qwen3.8、Qwen-Flash-Next、DeepSeek 4.1 Flash 等模型的 macOS 用户
- 希望用 Homebrew 一条命令完成安装，并随系统统一升级，而不是手动下载安装包的用户
- 关注开源软件、希望查看源码或参与贡献的AI 工具使用者
详细介绍
以前在 8GB 显卡下，开启 64K 上下文会耗尽专家缓存空间，导致启动失败。只能改用 CPU 图像处理、更小的 KV 缓存，或将上下文降到约 48K。
Strata 0.2.10 改进了这套机制：当显存不足时，优先调整显存和内存之间的数据分配，尽可能保留用户设置的上下文长度。
比如，现在可以在 8GB 显存条件下启动 Qwen3.8 IQ3_S，并保持 128K 上下文，也就是 131,072 Token。
Strata 会根据显存余量，逐步缩小驻留在 GPU 中的 KV 缓存窗口，必要时还会调整其他缓存，甚至将部分数据放到系统内存中。
官方测试中：
- 8GB 显存限制下，DFlash2 模式生成速度达到 63～73 Token/s。
- 32K Token 的提示词处理时间为 19.8 秒。
- 一张真正的 Intel Arc A750 8GB 显卡，也成功启动 128K 上下文，生成速度为 12.7～14.8 Token/s。
注意，显存需求仍然在，不是凭空消失，而是把压力给到了内存和 SSD。
Strata 0.2.10 将 DFlash2 设置为默认加速器。
DFlash2 是一种推测解码器。简单理解，就是让一个体积较小的辅助模型提前猜测接下来可能生成的内容，再交给主模型批量验证。猜对的部分越多，主模型就越有机会一次确认多个 Token，从而加快生成速度。
此前 Strata 使用的 MTP 推测层大约需要 5.2GB 空间，而新版 DFlash2 的显存占用约为 625MiB。
官方对比了同一引擎下 DFlash2 和 MTP 的表现：
| 测试设备 | 模型 | 生成速度提升 |
|---|---|---|
| Ryzen AI Max（Windows） | IQ3_S | 短回复 +8.4% |
| RTX PRO 5000 | IQ3_S | 短回复 +6.23% |
| Apple M5 Max | IQ3_S | +3.8% |
| DGX Spark | IQ3_S | +5.8% |
但是，也不是没有代价。
DFlash2 与 MTP 对比
相比之下，MTP 在硬件兼容性和多并发下都有优势：
| 对比项目 | DFlash2 | MTP |
|---|---|---|
| 显存占用 | 约 625MiB | 约 5.2GB |
| 额外文件 | 首次下载约 1.2GB | 推测层约 5.2GB |
| 单请求生成速度 | 多数官方测试更快 | 部分硬件更快 |
| 多并发 | 主要面向单请求 | 更适合多请求 |
| 低显存设备 | 优势明显 | 显存压力较大 |
| 支持范围 | 依赖特定模型与引擎 | 兼容范围更广 |
| Strata 0.2.10 默认策略 | 单请求 Qwen3.8 优先 | 多并发等场景优先 |
两张显卡一起跑，代码编辑速度接近翻倍
针对多显卡，这次更新带来优化：All-cards Split Engine。
以前多显卡运行模型时，常见做法是将模型的不同层分配到不同显卡。新的方式则允许多张显卡共同处理每一层模型，让它们同时参与计算。
官方使用两张 RTX A6000，在 Linux 下运行 UD-Q4_K_XL，得到以下结果：
| 测试任务 | 原来的速度 | 新版速度 |
|---|---|---|
| 代码编辑 | 195 Token/s | 377～394 Token/s |
| 生成新代码 | 139～144 Token/s | 189～232 Token/s |
| 普通文本 | 93 Token/s | 139～146 Token/s |
| Agent 循环 | 112～119 Token/s | 165 Token/s |
代码编辑任务的生成速度几乎翻倍。
还加入了一个编程专用的 DeepSeek 模型
Strata 0.2.10 新增了 ISTA-DAS Coder。它基于 DeepSeek-V4.1-Flash，针对编程和 Agent 任务进行了专家裁剪，每层只保留原来 384 个专家中的 192 个。
这样可以减少需要处理的专家权重。
官方测试中：
- 单张 Radeon AI PRO R9700：22.8 Token/s。
- 四张 R9700：59.2 Token/s。
- Apple M5 Max：19.1～22.5 Token/s。
- RTX PRO 6000 Blackwell：约 100 Token/s。
如何安装 Strata
- 打开 终端（按 ⌘ + 空格，输入“终端”）。
- 如果还没安装 Homebrew，先运行下面这条安装命令。
-
运行
brew install --cask strata。
更喜欢图形安装包？可以从官方网站下载。
最近 10 个版本记录
最近一次更新为 2026-11-02，当前版本 v0.2.10，共记录最近 10 个版本。
下载地址直接指向项目在 GitHub 上发布的原始文件；本站不托管、不镜像安装包。
| 版本 | 发布日期 | 类型 | 大小 | 下载 |
|---|---|---|---|---|
| v0.2.10 | 2026-11-02 | 稳定版 | 160.8 MB | 下载 |
| v0.2.9 | 2026-10-31 | 稳定版 | 160.3 MB | 下载 |
| v0.2.8 | 2026-10-29 | 稳定版 | 160.2 MB | 下载 |
| v0.2.7 | 2026-10-27 | 稳定版 | 160.2 MB | 下载 |
| v0.2.6 | 2026-10-25 | 稳定版 | 159.0 MB | 下载 |
| v0.2.5 | 2026-10-25 | 稳定版 | 159.1 MB | 下载 |
| v0.2.4 | 2026-10-24 | 稳定版 | 158.7 MB | 下载 |
| v0.2.3.1 | 2026-10-23 | 稳定版 | 158.7 MB | 下载 |
| v0.2.3 | 2026-10-23 | 稳定版 | 158.7 MB | 下载 |
| v0.2.2 | 2026-10-21 | 稳定版 | 158.6 MB | 下载 |
数据来自 GitHub Releases，按发布时间排序。
和同类应用怎么选
如果你更看重安装量、依赖数量或开源许可，可以对照上面概览表里的数字；需要逐项对比时，见下方替代品与对比页。
AI 与机器学习中的类似应用
同一分类中最接近的应用，按介绍相似度和安装量排序。它们是相关工具，并非确认可互换的替代品；人工挑选的正面对比请见对比页。
这个分类里暂时没有接近的替代品。
所属分类：AI 与机器学习
数据来自 Homebrew API · 安装量来自 Homebrew 自愿统计 · 更新于 2026-11-04 · 排名方法 · 编辑政策