AWS 发布两篇指南：在 SageMaker AI 上逐句流式运行 Kokoro-82M TTS，并依据实测值设定自动扩缩容标准

已核实（事实）

AWS 介绍了为降低语音智能体响应延迟而采用的方法：智能体每生成一句话就立即发送给 Kokoro-82M 合成语音，并通过 Server-Sent Events 或统一二进制传输返回浏览器。另一篇文章说明了在通过自定义容器部署的 Kokoro-82M 端点上测量 Q_max 和 T_total 两个值、据此推导自动扩缩容策略的流程。

意义（解读）

这是同时兼顾 TTS 服务体感延迟和 GPU 成本的实用参考。

来源

• 官方 Stream low-latency speech from AI agents using Kokoro TTS on Amazon SageMaker AI AWS
• 官方 Stop guessing auto scaling targets for TTS on Amazon SageMaker AI AWS

更多关于 AWS

• 2026-10-23 P2 产品 全面开放 语音与音频 AWS
  Amazon Polly Generative 引擎大幅升级：表现力与准确度提升，9 个区域设置新增 14 种语音，正式支持印地语和芬兰语

  AWS 升级了 Amazon Polly 的 Generative 引擎，使其能以低延迟生成更具表现力、更准确的语音。在 9 个区域设置（locale）中新增 14 种语音，并正式支持印地语和芬兰语。无需修改现有代码即可生效，已在生产环境中正式发布。

• 2026-10-23 P3 产品 全面开放 AI 平台与解决方案智能体AI 安全 AWS
  AWS 发布在 HIPAA 适用环境中用 Amazon Quick 部署 AI 智能体的指南

  AWS 指出 Amazon Quick 虽是符合 HIPAA 资格的服务，但资格与合规是两回事，并梳理了 HIPAA 适用对象、PHI 在服务内的流转路径、面向受监管环境的功能，以及在医疗环境中部署合规智能体的分步流程。

• 2026-10-22 P2 开发工具 全面开放 强化学习MLOps 与 LLMOpsAI 平台与解决方案 AWS
  AWS SageMaker AI“training sessions”正式上线，无需管理 GPU 即可自行编写后训练循环

  AWS 为 SageMaker AI 无服务器模型定制新增“training sessions”功能并正式发布。用户可用 Python 脚本自行编写 SFT、强化学习、自定义损失函数与奖励信号、多轮强化学习等后训练循环，GPU...

• 2026-10-22 P3 开发工具 全面开放 智能体AI 平台与解决方案 AWSOllama
  AWS公布智能体框架AAIF构建方法：简单任务交给本地SLM，复杂请求转给Bedrock

  AWS介绍了基于Strands Agents构建的Adaptive Agentic Intelligence Framework（AAIF）。日常任务由通过Ollama运行的本地小型语言模型处理，复杂请求则转交Amazon Bedrock上的云端模型。文章以IoT监控场景说明构建过程。

• 2026-10-22 P3 开发工具 全面开放 效率与基础设施语言模型 AWSAlibaba
  AWS公布在Trainium上用torchtitan训练Qwen3的三种路径

  AWS整理了在单台trn2.48xlarge上用torchtitan训练Qwen3的三种方法：使用Hugging Face Transformers v5建模后端、使用torchtitan自带的Qwen3实现，以及使用NKI...