两用技术
两用技术是指同一种技术既能用于民用的和平目的,也能用于军事或有害目的。AI 大多是通用技术,这一属性尤其明显。
通俗解释 菜刀用来做饭,但也可能成为危险的工具。刀不可能取缔,所以要管理的是谁、在哪里、怎样使用它。不过与刀不同,AI 能通过互联网在瞬间被复制和分发,管理起来要难得多。
工作原理
“两用”指的不是技术本身的工作方式,而是其用途的性质。例如,从影像中找出物体的模型既能用于工厂次品检测,也能用于卫星影像侦察。大语言模型(LLM)在帮助总结文档和编写代码的同时,也可能被滥用于制作黑客工具或收集危险物质信息。因此,即使是同一个模型,风险程度也会因使用者和使用目的而不同。
为什么重要
政府会把两用技术列为出口管制或投资审查的对象。高性能半导体、特定 AI 模型和软件经常出现在此类讨论中。对企业而言,为民用开发的产品可能因流向哪个国家、哪些客户而受到监管。在国防领域,这也是军方利用民间快速发展的 AI 的通道,因此成为国防采购与民用技术合作的核心概念。
注意事项
这是一个平衡问题:限制技术,有益的用途也会一并受阻;放开技术,滥用风险则会增加。像开放权重模型这样一旦公开就无法收回的情况,在公开前进行风险评估和红队测试就变得尤为重要。开发商需要在使用条款中决定如何处理军事和监视用途,客户身份核实和访问权限管理也是其责任的一部分。用于国防时,使用武力的决定中是否保留人的控制,被视为核心原则。
两用检查项
提供前
- 是否确认了是否属于出口管制对象
- 是否确认了客户和实际用途
- 公开前是否进行了风险评估
运营中
- 使用条款中是否列明禁止用途
- 是否管理访问权限
- 重大决定中是否保留人的控制
示例
假设一家公司开发了通过无人机影像发现农作物病害的 AI。同一个模型只需稍加改动,就能用于在军事侦察影像中寻找车辆。这家公司要向海外销售产品,就必须建立相应流程:确认产品是否属于出口管制对象,并核查客户是谁、用于什么用途。