如何通过风险预测获取人工智能洞察?成功创造出高效的人工智能可能是人类文明史上最重大的事件，也可能是最糟糕的事件。除非我们知道如何准备应对和避免潜在风险，否则人工智能就可能成为人类文明史上最糟糕的发明。它会带来威胁，如造就威力巨大的自动化武器，或被少数人利用，来压迫多数人。人工智能能给我们的经济造成严重的破坏。我是一个乐观主义者，我相信我们能够创造出造福世界的人工智能。我相信人工智能能够与人类和谐共处。我们只是需要警惕危险的存在并找出危险，在实践和管理方面尽可能做到最好，并事先做好充分准备，应对可能出现的任何结果。史蒂芬·霍金（ Stephen Hawking）“如果企业从一开始就将 “信任设计” “信任设计” 理 念 注 入 人 工 智 能 系 统 ，就 能 利 用 风险预测风险预测 加速获取 人工智能洞察。当一个错误（或仅仅是感知到的错误）就足以毁掉用户对人工智能的信任时，要如何获得并维系用户信任 ?经营中的每项挑战都是人工智能的机遇所在，但企业对人工智能缺乏信任，因此并未积极主动地去抓住机遇，且慎之又慎地选择使用人工智能的领域。安永与微软欧洲近期联合开展的一项调查显示，71%的受访者将人工智能视为高管的一项重要考虑事项，而只有4的受访者在多个流程中用到了人工智能并执行高级任务。任何技术的开发都会存在风险，而仍处初期创新阶段的人工智能的潜在的开发风险则更多。另外，人工智能涉及技术丰富，潜在应用范围广泛。因此，维系用户对人工智能的信任不是“一蹴而就”的事，而是一个长期的过程，需要一流的治理和控制，并随着人工智能功能的创新而不断更新。信任是企业建立利益相关方信心和鼓励利益相关方积极接纳人工智能系统的基础，但是，在这个信息实时共享的时代，错误的代价可能会很高，一旦失败，很难获得重来的机会。“信任设计”（Trust by Design）能帮助企业将风险优化的思维嵌入人工智能的整个生命周期，通过将风险职能从被动的风险应对升级为强大的、动态的、面向未来的工具来建立信任。的受访企业将人工智能视为高管的“重要考虑事项”的企业在“多个流程中积极使用 人工智能，为复杂任务提供支持”将“信任设计”注入人工智能1.71%仅 4%如何通过风险预测获取人工智能洞察 ? 3建立用户对人工智能的信任2.人工智能带来了新的风险和影响，已超出人工决策范畴，涉及技术发展。人工智能给技术、道德和社会领域带来了风险和影响，我们需要建立新的框架来识别、计量和应对人工智能风险该框架需以现有的治理和控制结构为基础，同时加入新的机制以应对人工智能特有风险。人工智能四大关键风险领域：人工智能四大关键风险领域：与企业战略不符；未知系统限制和边界条件；破坏人的能动性数据质量低；数据隐私和保护；偏见数据； 低代表性的训练数据模式和特征选择不充分； 结果有偏见；“ 黑盒”算法经营超出技术能力； 性能漂移；对抗式攻击设计风险数据风险算法风险绩效风险人工智能应该是安全、公平、可解释并以人为中心的，几乎已成为所有人的共识，但如何实现这几点，尚无定论。 应对人工智能风险，我们不能依赖传统的风险管理方式被动响应，而需加入创新的管理方式，包括：人工智能风险管理不仅仅是为了防范声誉、法律和监管影响，也是为了提高人工智能的可信任度。 一谈到人工智能，公众首先想到的就是其带来的风险，所以建立人们对人工智能系统的信任需要一个过程，也需要与利益相关方进行积极对话。 基于数据的风险分析针对用户反馈和模型验证进行适应性学习持续监控和受监督的响应机制在风险指标和一览表中使用数据科学人工智能开发人员和风险专业人士密切合作如何通过风险预测获取人工智能洞察 ? 5Design risks主张问责制诚信精通一致开放利益相关方是否了解人工智能的优势，以及人工智能将如何改善他们获得的产品和服务?人工智能是否会升级和优化企业的品牌、产品、服务和利益相关方体验?人工智能的使用是否符合企业的既定目标并随着时间的推移支持其达成目标?企业是否就人工智能的使用和潜在风险与核心利益相关方集团进行了有效沟通和互动?企业设计和运行可信任 人工智能的方法是否符合 其利益相关方的期望?建立人们对人工智能的信任需要各方协作，以安永信任模型贯穿五大信任支柱。在建立五大信任支柱时，能将这些支柱串联起来的总体要素是问责制。在建立五大信任支柱时，能将这些支柱串联起来的总体要素是问责制。6 如何通过风险预测获取人工智能洞察 ?问责制是建立信任的基础，也是企业将想法转化为行为的关键点。无论人工智能系统的自主性程度如何，对算法的最终责任必须由个人或企业来承担。企业可以通过将风险管理嵌入到人工智能设计工具和监控机制中，展示其对责任的承诺，承担对人工智能系统的预测、决策和行为的责任。由于企业对人工智能的运行方式以及人工智能风险会在何时以何种方式发展仍需深化理解，许多人工智能系统仍被默认存在高风险，因此用户小心翼翼。为了改变这一现状，安永开发了Trusted AI Platform（受信任人工智能平台），帮助企业量化其人工智能系统的影响和可信任度。随着对每个人工智能系统的风险概况和风险驱动因素的了解更加深入，人工智能设计人员和操作人员可以更好地应对其利益相关方提出的问题。颠覆性的快速发展要求我们必须建立新的风险管理架构，在人工智能带来的机遇和风险间达到平衡。我们要将“哪里可能会出问题？”的思维模式转变为“哪里必须按预期运行？”。领先的人工智能企业认识到信任是赢得竞争优势的关键因素，并从一开始就将“信任设计”构建到人工智能系统中。Amy Brachio 安永全球风险和绩效改善咨询主管“如何通过风险预测获取人工智能洞察 ? 7欲使人工智能充分发挥潜力，企业需要有能力预测和衡量会放大风险和破坏信任的情况。了解与人工智能相关的风险驱动因素需要考虑一系列广泛的影响要素，包括其技术设计、利益相关方影响和控制成熟度。每个因素的设计和操作都可能影响人工智能系统的风险水平。企业在制定风险缓释措施时，应 该了解每个风险驱动因素对风险 的产生或缓释的一般影响，能够 量化每个驱动因素的相对重要性。第三个考虑事项是，了解风 险驱动因素之间的相互关系，以 及这种关系如何增加风险。了解人工智能系统的风险驱动因素是一项复杂的工作。需要仔 细考虑人工智能系统全生命周期中潜在的利益相关方影响。考虑事项包括：88%的受访企业不知道其正在使用 人工智能，却正在其核心流程 中使用人工智能可能面临 未知风险。Narrative Science量化人工智能风险3.人工智能系统设计的目标是什么 （例如：预测） ?人工智能操作将对利益相关方带来何种影响以及影响程度如何 ?人工智能系统的预测错误会对利益相关方产生何种影响 ?人工智能系统进行预测时需要哪些数据 ?使用的数据来源可靠性如何 ?人工智能系统的技术能力复杂程度如何 ?人工智能系统运行环境的稳定程度如何 ?操作人员在决策过程中扮演何种角色 ?人工监测对人工智能系统决策框架的了解程度如何 ?对于人工智能系统控制的成熟度如何 ?8 如何通过风险预测获取人工智能洞察 ?在开发Trusted AI Platform时，安永将这些考虑事项归纳为管理人工智能系统风险的三个重要组成部分：安永开发Trusted AI Platform的目的是提供一种评估、量化和监控人工智能影响和可信任度的综合方法。Trusted AI Platform使用交互式的、基于网页的示意图和评估工具来构建人工智能系统的风险状况，然后使用先进的分析模型，将用户反馈转化为包含人工智能系统技术风险、利益相关方影响和控制有效性的综合评分。技术风险评分包含一个复杂的乘数，该乘数以技术风险对利益相关方的影响为基础，同时考虑意料之外的后果，如社会影响和道德影响。对治理和控制成熟度的评估是降低人工智能系统剩余风险的一个缓释因素。 建立和维持人们对人工智能的信任，将需要进行全新的创新风险管理技术投资，包括综合的人机监控和快速响应机制。只是了解潜在风险和影响还不够，还需要制定更深入的风险驱动因素计量系统。Cathy Cobey 安永全球受信任人工智能咨询主管“控制有效性考虑是否存在降低 人工智能风险的控制及其运行有效性技术风险评估基础技术、技术 操作环境和自主性水平利益相关方影响考虑人工智能代理的目标和目的，以及对外部和内部用户经济、情感和物理方面的影响，以及声誉、监管和法律风险如何通过风险预测获取人工智能洞察 ? 9凭借这三类评分的组合，安永 Trusted AI Platform可以计算出人工智能系统设计的剩余风险，计算公式如下：人工智能剩余风险 技术风险 利益相关方影响 控制有效性对人工智能系统的剩余风险进行定量评分的优势在于，剩余风险可映射到整个人工智能风险组合，并与企业的风险承受能力相匹配。 该类模型的另一个关键优势是能够深入了解三个组成部分中每个组成部分的风险驱动因素。在制定风险缓释策略时，了解风险的来源是至关重要的。例如，风险的出现是因为决定完全依赖自动化决策而无需人为监督，还是因为使用敏感数据属性而缺乏对偏见的有效控制 ?第三个关键优势是，通过预测人工智能设计变更（例如人工智能代理的功能性或自主性级别）对风险的影响，能够执行动态风险管理。这有助于更好地了解人工智能系统的风险状况，并有助于根据企业风险指标对系统进行基于事实的评估。企业在进行稳健桌面设计时可利用Trusted AI Platform进行风险量化，并在人工智能项目开始时对功能进行检验。从一开始就在人工智能系统的设计中嵌入信任需求，将有助于提高人工智能培训效率并增强用户信任度及采纳度。X 132478596固有技术风险影响部分有效 无效人工智能代理剩余风险控制有效性有效监控优化应对接受10080604020010 如何通过风险预测获取人工智能洞察 ?=