人工智能对于核战争风险意味几何？.pdf

CORPORATION EDWARD GEIST |ANDREW J. LOHN 本 文 件 和 文中 所 含商标 受 法 律保 护 。 本 作品 的 知 识 产 权 归 兰 德 公 司 所 有 ， 不得 用 于 商 业用 途 。 未经授 权 ， 严禁在 网 络 上 发 布 本 作 品。 本 文件 仅 允 许 个 人 复 制 使 用， 但不 得 擅自修 改和删 节 。 未 经 许 可 ， 不 得 复 制或 以 其他 形 式 将 兰 德公 司 的 任 何 研究 文 献 用 于 商业 用途 。 有关 翻印和 链 接 授 权 的 信 息 ， 请查 询rand/pubs/permissions.html. 兰德 公司的出版 物 未 必 代 表 其 研 究 客户和 赞助商的 观 点。 R 是 兰德 公 司 的 注 册商标。 有关本出版物的 更多 信 息 ， 请查 询rand/t/PE296 。 版权 所有 2018 兰 德 公司 This is a Chinese translation (simplified characters) of How Might Artificial Intelligence Affect the Risk of Nuclear War? PE-296/1-RC当 今 世界的 核 平衡依 赖于 几 个 不 可 持久 的条 件 。 计算能力和数 据可 用 性的进 步 ， 让机 器能 够完 成一 度需要人 类 参 与 或 被 视 为 不 可 能 的 任 务 。这 种 人 工 智能 (AI) 也许 会 带 来 新 的 军事 力 量 ，从 而 引 发 军 备 竞 赛， 抑 或 增 加 国家 在 危 机 中有 意 或 无 意间 动 用 核 武 的 可 能 性。 1 兰 德 公司 召 开 了 一 系 列 研 讨会 ， 集 众 多 人 工智 能 与 核 安 全 领 域 的 专 家 于 一 堂 ， 共同 探 讨 在2040年 之 前人 工 智 能会如 何 演 变 成 一股 稳定 或 不 稳定的 力 量 。 人工 智 能对核战略的影响 ， 既取 决 于敌方对 其军事 应 用 能力 的认知 ， 也 同样取 决 于 其 实际能力 。 例如 ， 一 个 国 家 要 发 展 出 定 位 和锁 定 敌 方 所有 核武 发 射 器 的能力 ， 在 技 术 上 极 具挑 战 性， 但 这项能力 却 能 产生出 巨 大的 战 略 优势 。 因此， 各国都垂涎 三尺， 不顾一切技 术困难 追 求 这项能力 ， 即使这 样做有可 能 惊动对手 ， 增加冲突的 可 能 性。 从 技 术 上 说 ， 高 级 人 工 智 能 仍 难以 克 服 源 自 数 据 局 限和信 息 论 论 证的障 碍 ， 但 跟 踪 和瞄准 系统只 需 要 被 视为具备 这项能力 ， 便 可产生破坏 稳定的作 用 。 一 种 近乎 实 现 的 能 力 ， 也 许比 已 经 实 现 的 能 力 更 加 危 险 。 人 工 智 能 的 发 展 轨 迹 ，连 同 辅 助 信 息 技 术 和 其 他 方 面 的 进 步 ，将 对 未 来 25年 的核 安全 问 题产 生 重大影响 。 人 工 智 能技 术 或 延续 近年 来 快 速 进化 的 趋势 ， 抑或在现 有 技 术成熟后 趋于 稳 定 。 一些理论家 认为 ， 机 器 在 未来 某 个 时 候 可 能会 发 展出提高 自 身智 力的 能 力 ， 形成 “ 超 级 智 能 ” ， 具备 人类 无法理 解或 控 制 的能力 ， 但 对 于 人 工 智 能的 进 化 之 路 （ 包 括 形 成 超 级 智 能的 可 能 性） 仍 然众 说 纷纭 。 有 人 设想取 得 初步突破之后 会 遭 遇 挫折 ； 有 人则 猜 测 会走 循 序 渐进 的 道路 。 上 述两种极端 情 况与核战争的前 途关 系 不 大 。 发 展 停滞 （ 又 称为 人 工 智能 的 寒 冬 ） 只 会 导 致 当 前 核安 全 环 境 的 微 末 变 化。 若 超 级 智能 成 为 现 实， 人 工 智能 将 令 整 个 世 界 面 目 全 非 ， 在此过程 中 人类或将得到挽 救或将 走 向毁 灭。 另外两 种 情况 下 ， 人 工 智能 的发 展取得巨 大 进 步 ， 实现 许 多新 的功 能， 但 至 少 在 某 些 方面 仍 逊 于 人 类 、 12 容 易 出 错 ， 这似 乎 得 到 专家 群 体 的更 多 认 可 ， 但 对 于 这 些 功能 给 国 家 安 全 带 来的 影 响 ， 专 家 们 莫 衷 一 是 。 有 些 “ 乐 观 派” 倾 向 认 为， 要 达 到 能 够 执 行 某 些 足 以 打 破 核 平 衡的任务的 人 工 智能是非常困难的 ， 不 大 可 能实现。 相 反， “ 谨 慎派 ” 则认为 ， 人工 智 能 能够执行 某些任务 ， 但 不 应 该 用 于 核战 争 的 任 何 领 域 。 第三 种 属 于 “ 颠 覆 派 ” ， 他 们 强 调 敌 方 篡 改 、误 导 、牵 制或 以 其他 方 式 欺骗人 工 智 能 的 能 力， 这 本身也可以 起 到 稳 定 或 打 破 稳 定 的 作用。 研 讨 会 上 讨 论 了一 个 例 子 ：作 为 决 策 支 持 系 统 的 人 工 智能 。 即 使不 直 接 连 接 到 核 武 发 射器 上 ， 但 人 工 智能仍 可 以就冲突升级 问 题为 人类提 供意 见 。 鉴 于 人 工 智 能 在 日 益 复 杂和 不 甚明确的 任 务中 取 得 持 续 进 步 ， 我们 有 理 由 相 信 ， 这 项 能 力 至少 在 决 策 过 程中 的 某 些 环 节 能 够在2040年 前实现 。 谨慎派 担 心 ， 这项能力 可 能在 还不 可 靠 或尚 不 清 楚 其 局 限 性 的 情况 下 就 派 上 用 场 。 然 而 ， 如 果 人 工 智能 顾问经 证 实是有 效 的 ， 则 可 以 减 小 人 为 错 误的 可能 性， 做 到 彻底 透明化， 从而降 低误 判风 险， 提 升 稳定性 。 但 许 多 专 家 担 心 ， 敌 方 会 通 过黑 客 攻 击 、 破 坏 训 练 数 据或 操 纵输 入 因 素 等 手段 ， 颠 覆 本领 高 强 的 人 工 智能。 在 未 来 几十 年 维 持 战 略 稳定 ，需 要 在 多 极 世 界 背 景 下 重 新 审 视 威 慑 理论 的理论 基 础 。 要 做 到 有 效 的 威 慑 ， 我 们必须抗衡 受人工 智 能进步 所 推动 而 快速迭代 的各 种能力 。 关 键性的 考 量 包 括 ： 实 际 能力 的影 响 ， 相 关 能力 的 可预 见 潜 能 （ 不 论 是 否 存 在 ） ， 以及 这 些 能力 过 早 应 用 或出错 性 （ 特 别是 因敌 对 行 动所 致） 。 只 要 谨 慎行事 和 一 定 的前 瞻 性 思 考 ， 这 些 风 险 是 有可 能 识 别 和减 轻 的 。 2015 年11 月 ， 俄 罗 斯 透 露正 在 研发 终 极 “ 杀 手 机 器人 ” ： 核 动力 海 底 无 人 机 ， 用于 运 载 大 型 热 核 弹头 。 俄 罗斯电 视 台 在一 次 “ 意外 ” 泄密中透 露 了 这 种 可 怕 武 器 的 存 在， 而大多数西方观察家 认定这是故意为之。 电视镜头有 一瞬间停留在 一张 给 总统普京的看似 保密的简报 幻灯 片 上 ， 内容 描 述 “海 洋多 用 途 系 统 斯 塔 图 斯-6”。斯 塔 图 斯-6 外 观 像 巨 型鱼 雷 ， 由 小型 核反 应 堆 提 供动 力 （ 见第3 页的 图 片 ） ， 其 巡 航 速 度 和 范 围 在 海 洋 里 几 无 敌 手， 能 够 突 破 敌 人 的 防 御（ Sutyagin ， 2016年 ）。假 设 美 国 先 发 袭 击 克 里 姆 林 宫 ， 这 部 无 人 机 将 从 俄 罗斯 北 极 地 区的 潜 艇 发 射 ，以 大 约 100 公 里的时速穿越 海洋 ， 同时 自 动 避 开 反