Goodfire 推出观察模型内部的“由内而外”智能体监控器，称“大幅降低成本”（报道）

已核实（事实）

据 TechCrunch 报道，Goodfire 推出了用于监控 AI 智能体的监控器。它不是让另一个 AI 读取智能体的全部行为，而是观察执行任务的模型的内部状态，仅在出现异常迹象时才请求进一步审查。

待核实（说法）

Goodfire 称，该监控器能以远低于现有方法的成本发现失控的智能体。所提供的资料中没有具体的成本数据和检测性能。

意义（解读）

这是将可解释性研究实际应用于智能体运行监控的案例。如果能降低智能体监控成本，企业在部署智能体时更容易配备安全措施。

来源

• 媒体 Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost TechCrunch