SLM
SLM（Small Language Model，小型语言模型）是参数量相对较少、运行轻快的语言模型。它没有固定的规模标准，“小”是相对于大型 LLM 而言的说法。
通俗解释 如果说大型 LLM 是各领域藏书齐全的综合图书馆，SLM 就像只挑选常用书籍的社区书店。要找的书在店里时能快得多，但遇到冷门问题时常常找不到答案。
工作原理
其结构大多与 LLM 一样基于 Transformer，只是规模更小。为了在较小规模下也能获得可用的性能，会精心挑选高质量的训练数据或合成数据。也常采用让小模型（Student）模仿大模型（Teacher）的回答来学习的蒸馏（Distillation，知识蒸馏）。再通过量化进一步压缩体积，就能在笔记本电脑或智能手机上运行。
为什么重要
模型小，运行成本就低，回答也快。它可以在不联网的情况下在设备内运行，适合不把个人信息发送到外部服务器的端侧 AI。对于文档分类、摘要等范围明确的任务，常常可以对 SLM 进行微调，用起来不输大模型。因此，许多企业在推出大模型的同时，还另外推出小模型产品线。
注意事项
它能容纳的知识量较少，在广泛常识或复杂的多步推理上往往较弱。编造自己不知道的内容的幻觉，也可能比大模型更频繁。各公司对“小型”的标准不同，仅凭名称很难推断其性能或所需硬件。最好用实际要处理的任务直接测试后再选择。
示例
智能手机上的消息摘要、回复推荐等需要在设备内即时处理的功能，大量使用 SLM。企业为了不把内部文档发送到外部，也会把 SLM 部署在自有服务器上，用业务文档进行微调，用于辅助分类和检索。