五角大楼正在裁撤负责测试人工智能和武器系统的团队

五角大楼为何裁撤AI武器测试团队?52%人员遭砍引发安全争议,300亿估值国防公司或成最大赢家!

The Pentagon is gutting the team that tests AI and weapons systems

【五角大楼大砍武器测试部门 国防AI公司迎来”快车道”!】
美国国防部副部长皮特·赫格塞斯5月28日宣布,将裁撤负责武器及AI系统安全测试评估的关键办公室近半数人员(从94人减至45人),并撤换其主管。这项被包装为”削减官僚主义、提升作战效能”的改革,实则为与特朗普政府关系密切的国防科技公司扫清障碍——【原需严格测试的AI武器系统,未来可能更快投入战场】。

40年首遭腰斩的”安全守门人”
该测试评估办公室成立于1980年代,旨在防止军方部署未达安全标准的武器。前海军战斗机飞行员、乔治梅森大学教授米西·卡明斯警告:”这是技术部署前的最后一道防线”。两党历来公认其能有效减少浪费和欺诈,因其可独立验证承包商的技术承诺。

AI军事化关键期遇监管退潮
此次裁撤正值美军加速AI应用:
– OpenAI等民用公司放宽与军方合作
– 国防新贵Anduril刚获25亿美元融资(估值飙升至300亿美元)
– 五角大楼急于将大语言模型等不成熟技术引入军事系统

赫格塞斯声称改革可”节省3亿美元”,但战略与国际研究中心顾问马克·坎西安指出:”这不是效率问题,而是可能让本应在测试中暴露的致命缺陷直接带上战场。”

延伸思考
1. 当生成式AI的”幻觉”特性遇上武器系统,缺乏独立测试会引发何种连锁反应?
2. 科技公司与军方合作的伦理边界是否正在技术狂潮中瓦解?

(本文原载于《算法》AI周刊,点击此处订阅首发内容)

【关键数据】
▲ 测试办公室裁员52% ▲ Anduril估值突破300亿美元 ▲ 号称节省3亿美元

【警示】卡明斯直言:”裁撤行动明确传递信号——所有阻碍特朗普偏爱企业的障碍都将被清除”。而OpenAI表示未参与游说此改革。当实验室表现良好的AI系统遭遇真实战场,谁为潜在灾难买单?

阅读 Technology Review 的原文,点击链接

Simon