【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险
【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险


自2015年以来,德勤一直与世界经济论坛(WEF)合作,共同探讨金融服务业变革的驱动力量。2019年德勤与WEF联合发布《智海领航:在金融服务领域使用 AI 进行负责任创新的路线图》报告,通过对五个广泛关注的领域来审视金融机构在应用人工智能中所面临的相关风险,并对如何减轻这些风险给出建议。德勤同时对此份报告进行了摘要《智海领航:洞悉人工智能在金融服务领域的战略及监管风险》,总结了报告全文的关键性信息,并着眼于金融机构在应用人工智能时需要考虑的一些重要事项。希望能对金融服务领域合理运用人工智能有所启示,并为企业在未来不确定性中平稳前行保驾护航。


能否顺利进入人工智能驱动时代,取决于是否具备以下能力:


合理部署现行人工智能系统。金融行业可能要采用新的治理方式,包括应对人工智能风险事件所采取的例如检测及预防等保障措施,风险发生时的补救机制和提供必要干预手段的流程。


合理扩大人工智能在未来金融系统中的应用。人工智能的应用正推动多个行业重新审视竞争政策、隐私权和运营弹性。这一过程中的共同关注点是数据。客户也逐渐意识到个人数据的价值。这将决定金融机构如何部署人工智能,以及采用何种战略。而潜在的影响不仅包括数据的应用,还包括市场参与者、适用的商业模式和法规等方面的变化。行业的领导者应当积极地参与相关决策,以确保相关政策能对金融机构产生正面的影响。


激发具备可靠人工智能技术的金融系统的潜力。审慎应用人工智能不仅可规避风险,还可以推动行业向善。消费者愈加关注其数据权利和数字主权,这导致科技巨头的优势被逐步削弱,而金融机构则有机会利用更高客户信任度这一优势,实现客户全新的价值主张。

 

金融领域运用人工智能的五大关注点:

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险                                             

人工智能的可解释性

随着深度学习及其他先进方法的出现,人工智能变得越来越复杂。不利于让人们理解人工智能生成决策的逻辑。这促使金融机构和监管机构寻求一个中间地带—介于对人工智能盲目信任(将导致极大风险)和对人工智能不屑一顾(将严重阻碍创新)之间。这种平衡关键在于向用户提供充足的人工智能系统的相关信息,使用户可以信任人工智能系统作出的决策。

 

  • 提供足够的透明度使用户理解人工智能系统如何做出决策
  • 对应到具体的场景使用户理解人工智能系统为何作出特定选择
  • 进行必要的管控使用户相信人工智能生成的决策会符合道德、法律和商业要求

 

换言之,可能需要向用户解释的原因有很多,并且每个原因相应都需要对底层技术采用相应的措施。

 

对高管的重要启示 

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险

 

系统性风险和人工智能

 

全新风险来源



如今,人工智能将再次推动金融市场进行转型。它广泛适用于金融服务行业的各个领域,能积极推动人与机器之间更加频繁的互动。同时,人工智能的黑匣子效应致使投资者更难解读不断变化的市场动态,也更难识别或洞悉新兴风险。上述情况可以通过以下方式增加整个系统的风险:

 

从众行为

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险


算法竞争

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险


信息真空

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险


侵蚀现有防御措施



【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险


对高管的重要启示

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险

歧视与公平

 

来自人的歧视。



人类思维的系统性错误会影响人们的决策和判断。这些歧视可能是有意或无意的。人工智能在系统设计和数据收集阶段可能会引入来自人的歧视。此外,监督式学习和模型应用也会将人类的歧视带入人工智能系统。

 

数据歧视。



若使用不准确、歪曲或其他歧视性数据进行决策系统的开发或训练,可能导致系统对特定人群产生扭曲的结果。模型歧视。计算能力、系统设计或编程逻辑方面的限制—更不必说用户造成的错误等,均会导致人工智能系统的输出结果存在歧视。模型歧视包括因果关系的混淆和对弱势群体的过度保护。

 

间接歧视。



不幸地是,教育、就业和法律诉讼等生活的方方面面目前均存在不公平的歧视。这显然增加了遭受歧视的个人可能面临的金融风险。与其他歧视不同,构建或使用给定模型的人不能直接控制间接歧视;为减少此类歧视,可能需要机构放弃一些对统计精确度的要求。这些间接歧视可能通过更具广度和深度的数据(包括来自第三方的数据),输入给人工智能。


【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险


对高管的重要启示

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险


其他不确定性

就金融领域的人工智能而言,可解释性、系统性风险及歧视与公平是三大重点关注问题。此外,还有两大问题值得提及:一是人工智能系统能否履行受托义务,即始终以客户的最佳利益行事;二是与算法合谋相关,即人工智能系统学会从事反竞争行为。

 

对高管的重要启示 

【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险

 

结语

 

人工智能涉及计算的全新形态。金融机构需克服人工智能在可解释性、系统性风险和公平等方面的挑战,进而从中受益。金融行业应:

  • 在现行金融生态系统中合理地部署人工智能。人工智能要求金融行业开发并合理使用全新工具来保护金融体系。


  • 合理扩大基于人工智能的金融生态体系的范畴。随着时代的发展,人工智能将改变金融机构的运营及参与市场的方式。监管机构势必出台新的监管政策,而这些政策将从根本上改变金融机构可能的战略选择。如果金融机构希望对未来的政策变化有所影响,目前就应该积极参与到与监管机构前期的沟通、讨论与合作中来。


  • 激发具备可靠人工智能技术的金融生态体系的潜力。与传统系统相比,人工智能系统能够更迅速地产生更广泛的影响。因此,人工智能系统应具备更高的标准。

 

人工智能并非孤立存在,已经与云和物联网(IoT)等技术紧密结合,量子计算、5G和其他新兴技术很快也将加入其中。在这一科技飞速发展的环境中,金融行业更加需要提前考虑人工智能的潜在影响。

 

人工智能的影响到底是什么?首先是战略上的转变。人工智能(及其他新兴技术)的普及正推动金融机构与监管层更频繁的对话,重点探讨如何对新技术进行有效的部署和应用。金融机构若想有效制定其未来战略,就应主动与所有利益相关者沟通。同样地,该方法也适用于应对监管政策变化对运营、战略和人力资本的影响。

 

其次是对优先级事项的重新梳理。对于人工智能的应用,其公司治理是首要工作——无论是为了应对风险预警,还是为了与客户的利益保持一致。重视公司治理不仅为金融机构提供实现差异化的契机,而且可以通过与监管机构和金融服务生态系统中的其他参与者建立协作文化来实现数据驱动的决策。

 

最后,我们大可不必针对人工智能在金融服务领域的应用而建立一套全新的道德标准。真正需要我们去做的,是以开放的态度拥抱适用于人工智能应用的新方法。需谨记,无论这些方法如何创新,我们都应以公正性、稳定性、透明度与可操作性四大标准予以权衡,并决定是否采纳。正是这套标准,使得金融行业能够在过往的技术变革浪潮中脱颖而出。

 

 

欢迎您点击下方“阅读原文”获取报告全文,若您希望对报告进行更多更深入的探讨和交流,欢迎您随时与我们取得联系。

 

—————————–

如欲了解更多信息,敬请联络:

 

吴卫军

德勤中国

副主席

金融服务业领导合伙人

电话:+86 10 8512 5999

电子邮件:davidwjwu@deloitte.com.cn

 

张庆杰

德勤中国管理咨询

分析与数据管理领导合伙人

电话:+86 10 8520 7830

电子邮件:qjzhang@deloitte.com.cn

 

薛梓源

德勤中国风险咨询

科技风险及网络安全领导合伙人

电话:+86 10 8520 7315

电子邮件:tonxue@deloitte.com.cn

 

尤忠彬

德勤中国管理咨询

分析与数据管理合伙人

电话:+86 21 2316 6172

电子邮件:zhyou@deloitte.com.cn

 


相关德勤报告阅读


免责声明:
第三方机构如想转载德勤微信文章,请原文转载(不得修改)。如文章内容有改动,须在发布前获得德勤的审核批准。同时,请必须在文章内附以下信息及免责声明:

本通信中所含内容乃一般性信息,任何德勤有限公司、其成员所或它们的关联机构(统称为 “德勤网络”)并不因此构成提供任何专业建议或服务。任何德勤网络内的机构均不对任何方因使用本通信而导致的任何损失承担责任。


【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险
【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险

点击“阅读原文”,下载报告全文。

温馨提示:由于微信界面限制,若打开以下德勤网页后无法下载报告,请按右上角“选项”并于浏览器中打开后进行下载。

原文始发于微信公众号(德勤Deloitte):【报告】智海领航——洞悉人工智能在金融服务领域的战略及监管风险

 

注:本站文章除标明原创外,均来自网友投稿及分享,如有侵权请联系dongxizhiku@163.com删除。

         

发表评论