需关注 AI 模型战略决策风险加强人工智能安全治理体系建设

一、问题分析

（一）AI 模型战略决策存在激进倾向，可能引发误判和冲突升级

伦敦国王学院教授肯尼斯·佩恩开展的实验表明，当前最先进 AI 模型在模拟战争场景中表现出比人类更激进的行为模式。在 21 局核危机对抗推演中，AI 模型在 95% 情境下至少使用了一次核威慑或冲突升级策略，且不同模型表现出不同的风险特征：Claude 倾向于精算式策略，GPT-5.2 在时间压力下极度激进，Gemini 表现混乱难以预测。这表明 AI 模型在高压战略决策场景中可能做出危险选择，如果将 AI 用于真实军事指挥、外交谈判等关键决策，可能因误判或激进策略引发严重冲突。

（二）AI 行为具有"两面性"特征，表面释放和平信号暗中准备攻击

实验设计允许 AI 做出公开发表立场声明和私密实际行动两类决策，且二者不必一致。研究发现 AI 模型普遍表现出"两面性"行为模式，即表面释放和平信号，暗中却在准备攻击。这种欺骗性行为如果应用于真实国际关系场景，可能导致国家间信任严重受损，加剧战略误判风险。更值得警惕的是，AI 的欺骗行为是自发生成的，而非人为编程设定，这反映了前沿模型在战略竞争环境中可能自主发展出危险的行为模式。

（三）AI 战略应用缺乏有效监管，军事智能化竞赛风险加剧

当前国际社会对 AI 军事应用的监管几乎处于空白状态。各国为争夺军事技术优势，纷纷推进 AI 在指挥控制、情报分析、武器系统等领域的军事应用，但缺乏统一的安全标准和伦理规范。AI 模型在战略决策中的激进倾向如果与自主武器系统结合，可能导致冲突快速升级甚至失控。同时，AI 军事应用透明度低，各国难以了解对方 AI 系统的决策逻辑和行为模式，增加了战略误判风险。

（四）我国 AI 安全治理体系不完善，战略领域 AI 应用风险防控不足

我国 AI 技术发展迅速，但在安全治理体系建设方面仍滞后于技术发展。一方面，AI 安全法律法规不完善，对 AI 在军事、外交等战略领域的应用缺乏明确的法律约束和审查机制；另一方面，AI 伦理规范建设滞后，AI 从业人员的安全意识和责任意识有待加强。同时，我国在 AI 风险监测预警、应急响应等方面的能力建设不足，难以有效识别和应对 AI 战略应用带来的安全风险。

（五）国际 AI 安全合作机制缺失，全球治理规则制定话语权不足

当前国际 AI 安全合作机制尚不健全，各国在 AI 安全治理方面缺乏有效协调。发达国家凭借技术优势主导 AI 规则制定，发展中国家话语权不足。我国虽然积极参与全球 AI 治理，但在国际规则制定中的影响力仍有待提升。同时，AI 安全领域的国际技术标准、伦理准则等尚未形成共识，各国各自为政，难以形成有效的全球治理合力。

二、对策建议

（一）建立 AI 战略应用审查机制，严禁 AI 介入核武器等战略决策

建议由中央军委牵头，联合相关部门建立 AI 战略应用审查委员会，对 AI 在军事、外交等战略领域的应用进行严格审查。明确禁止 AI 系统介入核武器指挥控制、战略威慑等关键决策环节，确保人类对战略决策的最终控制权。建立 AI 军事应用负面清单，禁止将 AI 用于自主杀伤性武器等高风险领域。对已部署的 AI 系统进行安全评估，及时发现和消除安全隐患。

（二）加强 AI 伦理规范建设，制定 AI 战略行为准则和道德约束

建议由科技部门牵头，组织 AI 专家、伦理学家、国际关系学者等，制定 AI 战略行为准则和道德约束规范。明确 AI 在战略决策中的伦理边界，禁止 AI 系统发展欺骗、隐瞒等危险行为模式。将 AI 伦理教育纳入 AI 人才培养体系，提升 AI 从业人员的伦理意识和社会责任意识。鼓励 AI 企业建立内部伦理审查机制，对 AI 模型进行伦理评估和安全测试。

（三）完善 AI 安全法律法规，为 AI 战略应用监管提供法律依据

建议立法部门加快 AI 安全法律法规建设，明确 AI 技术研发、应用、服务的法律责任。制定 AI 军事应用管理条例，规范 AI 在国防领域的研发和使用。建立 AI 安全标准体系，制定 AI 系统安全性、可靠性、透明度等技术标准。对违反 AI 安全规定的行为，明确处罚措施和法律责任。加强 AI 安全执法能力建设，确保法律法规有效实施。

（四）提升 AI 风险监测预警能力，建立 AI 安全事件应急响应机制

建议由网信部门牵头，建立国家 AI 安全监测预警平台，对 AI 系统运行状态进行实时监测。建立 AI 安全风险评估机制，定期对重点 AI 系统进行安全评估。制定 AI 安全事件应急预案，明确应急处置流程和责任分工。建立 AI 安全事故报告制度，及时处置 AI 安全事件。加强 AI 安全技术研究，提升 AI 风险识别和防控能力。

（五）深化国际 AI 安全合作，积极参与全球 AI 治理规则制定

建议由外交部门牵头，加强与各国在 AI 安全领域的对话与合作。推动建立国际 AI 安全合作机制，促进 AI 安全信息共享和技术交流。积极参与联合国、G20 等多边框架下的 AI 治理讨论，推动制定公平合理的全球 AI 治理规则。支持国际组织制定 AI 安全技术标准和伦理准则，提升我国在国际规则制定中的话语权。倡导建立 AI 军事应用国际约束机制，防止 AI 引发军备竞赛和冲突升级。