AI Trend Research
CH

← AI 术语表

AI 术语表 · 基础 · 效率与基础设施 · 语言模型

Strata

Strata 是一款让大型 LLM 在游戏 PC 上直接（本地）运行的 AI 运行应用。据 2026 年 10 月初的报道，它可以用一块游戏 GPU 快速运行参数规模达 1,250 亿（125B）的 Qwen3.8-Flash-Next 的量化版本。

关于这个术语
难度
基础 · AI 新闻中常见的技术术语
加入时间
2026-10-11
通俗解释 这类似于为了用一辆小车运走一大堆搬家行李，把行李压紧并码放整齐的诀窍。不过，仅凭公开资料无法详细了解 Strata 具体用了什么诀窍。

是什么

Strata 不是开发 AI 模型的工具，而是在自己的电脑上运行已有模型的运行程序。报道将其介绍为在游戏 PC 上快速运行 Qwen3.8-Flash-Next（125B）量化版本的工具。通常这种规模的模型要通过数据中心 GPU 或云端 API 使用。Strata 主打的是这类模型也能在普通消费级显卡上运行。

工作原理

公开资料中没有详细介绍 Strata 的内部结构。一般来说，在小 GPU 上运行大模型时会同时使用两种方法。一种是量化，即用更少的比特表示模型中的数值以节省内存。另一种是把 GPU 显存（VRAM）放不下的部分分散存放到普通内存（RAM）或 SSD 中。报道提到 Strata 使用了量化模型，但其余方式尚未得到确认。

为什么受到关注

在自己的 PC 上运行大模型，就不必把数据发送到外部，也无需支付使用费。因此在本地 LLM 社区中，“能以多快的速度运行多大的模型”是一大关注点。Strata 因能在游戏 GPU 上运行 125B 级模型而成为话题。社区中也出现了以 Strata 为基准比较其他运行工具速度的帖子。

注意事项（局限）

速度数据大多是社区用户自行测得的数值，会因硬件配置、量化方式、输出类型（是结构化输出还是普通文本）而有很大差异。量化越激进，内存占用越少，但回答质量可能下降。另外，也有报道称 Strata 在改写 GitHub 历史记录时，提交中原有的 Claude 共同作者标注消失了。这件事可能引发关于如何透明地披露借助 AI 编写的代码的讨论。

示例

拥有单 GPU 游戏 PC 的开发者，用 Strata 下载并运行 Qwen3.8-Flash-Next 的量化版本后，无需连接云端，就能在自己的电脑上获得编程帮助或文档摘要。实际上，本地 LLM 社区里已经出现了用 Strata 这样运行模型的使用心得，以及与其他运行工具的速度对比帖。

相关术语

量化 端侧 AI 开放权重 推理（Inference） GPU MoE

参考资料