AI 术语表 · 入门 · 语言模型
参数
参数是 AI 模型在训练过程中自行调整的内部数值。模型学到的知识和判断方式都蕴含在这些数值之中。
通俗解释 它类似于一台巨大调音台上的无数调节旋钮。训练可以看作是把每个旋钮一点点转动、调到发出想要声音的过程。
工作原理
模型一开始时,参数几乎都是随机值。它一边看训练数据,一边计算与正确答案相差多少,再朝着缩小差距的方向一点点调整参数。这个过程重复非常多次后,语言规则、知识之类的模式就会在参数中积累起来。
为什么重要
模型名称后面带“B”(以十亿为单位)的数字,通常指参数数量。参数越多,往往越能学习更复杂的东西,但运行时也需要更多内存和计算。因此,参数数量常被用作估算模型规模和运营成本的指标。
须知
参数多并不一定就是更好的模型。取决于训练数据的质量和训练方法,小模型也可能优于大模型。另外还有像 MoE 这样只从全部参数中挑选一部分使用的结构,因此需要区分总参数量和实际使用的参数量。
示例
本站介绍过的“Paradee”是一个将现有语音合成模型蒸馏为参数少得多的小模型的案例。像这样减少参数后,在手机等小型设备上运行模型就更容易了。
本站出现过的地方
- 简报 Mistral AI 发布“Mistral Large 4”公开预览版……开放权重计划于本月底公开 2026-10-07
- 简报 AWS 在 Amazon Bedrock 上提供 Z.ai 的 753B MoE 模型“GLM 5.3” 2026-10-07
- 简报 Paradee:将 Kokoro-82M 蒸馏为 8M 参数的单音色 TTS 2026-10-06