电子技术标准化研究院:人工智能伦理风险分析报告(附下载)

日前,中国电子技术标准化研究院发布最新《人工智能伦理风险分析报告》。报告显示,自1956 年的达特茅斯会议(Dartmouth Conference)提出人工智能概念以来,人工智能的发展经历了“三起两落”的曲折历程。2016 年3 月,以AlphaGo 以4:1 战胜人类棋手为标志,人工智能开始逐步升温,并成为各国政府、科研机构、产业界以及消费市场竞相追逐的对象。为了在新一轮国际竞争中掌握主导权,抢占人工智能发展的制高点,各国投入大量的精力和资金,开展人工智能关键技术的攻关与应用相关的研究与产品开发,并纷纷推出了不同的人工智能平台与产品。

我国人工智能的应用范围极广。从行业应用的角度看,在制造、物流、医疗、教育、安防等行业都有广泛应用。以制造业为例,当前的制造业不论是生产、流通还是销售,都正趋于数据化、智能化。大数据和人工智能技术可以协助企业分析生产过程中的全链路数据,实现生产效率、库存周转率、设备使用效率提升等目标。在智能制造进程中,工业机器人成为人工智能的典型代表,成为智能制造的重要实现端之一。就物流行业而言,人工智能的技术应用主要聚焦在智能搜索、推理规划、模式识别、计算机视觉以及智能机器人等领域。

如今,现代物流企业纷纷尝试利用人工智能技术优化物流环节、提高物流效率。人工智能还能够帮助企业根据市场销售情况、供应链生产情况、物流配送、仓储库存水平,甚至每个环节的容错概率等等进行精准排产,最大限度利用已有资源。人工智能在医疗健康主要的应用领域则包括五个方面:临床决策支持、临床辅助诊疗系统、患者管理、辅助手术和患者照护的自动设备,即各种机器人、医疗机构的管理以及新药的研发。

人工智能在自动驾驶、医疗、传媒、金融、工业机器人以及互联网服务等越来越多领域和场景下得到应用,一方面带来了效率的提升、成本的降低,,另一方面,人工智能系统的自主性使算法决策逐步替代了人类决策,而这种替代有时非但没有解决已有的问题,还让已有的问题更难解决,甚至给社会带来了全新的问题。这些问题不仅仅引发社会的广泛讨论,更是限制人工智能技术落地的重要因素。

其中最为典型的便是自动驾驶领域,社会的巨大需求与技术的不断成熟让自动驾驶成为了全球炙手可热的研究与发展领域,而其潜在的风险又驱使人们去反思技术带来的伦理问题。各国已有法律与政策的难以适用以及新政策的模糊不清也给自动驾驶技术的落地造成了困难。面对伦理风险与其潜能一样巨大的人工智能技术,人们急需一个广泛、普遍的伦理探讨,并在这些探讨的基础之上找到路径、梳理规范,以保证人工智能的良性发展。

目前,各国、各行业组织、社会团体和人工智能领域的商业公司纷纷提出人工智能的伦理准则,对人工智能技术本身以及其应用进行规制。中国政府把人工智能作为产业升级和经济转型的主要驱动力,鼓励、扶持并推动人工智能的发展。在我国推动人工智能发展的关键时期,推动对人工智能伦理和社会问题的探讨有极为重要的意义。

因此,本报告以人工智能应用引发的社会伦理问题为出发点,在充分了解人工智能系统带来的伦理、法律和社会影响的基础上,分析人工智能应用即自主性决策结果而产生的社会公平、安全及问责等伦理道德问题,例如算法决策与歧视、隐私与数据保护、算法安全与责任、算法解释、算法与产权、算法与竞争、算法滥用以及强人工智能问题,通过遵循人工智能伦理原则与设计相应的风险指标体系,对人工智能的研发和应用提供风险管理指引,以便为人工智能伦理的行业实践提供初步的应用指南与建议,推动人工智能产业的良性、健康发展。

《人工智能伦理风险分析报告》目录
第一章人工智能伦理研究的背景与意义
第二章国内外人工智能伦理发展现状
2.1 国外发展现状
2.2 国内发展现状
第三章人工智能技术的伦理风险
3.1 算法相关的伦理风险
3.1.1 算法安全
3.1.2 算法可解释性
3.1.3 算法决策困境
3.2 数据相关的伦理风险
3.2.1 隐私保护
3.2.2 个人敏感信息的识别和处理
3.3 应用相关的伦理风险
3.3.1 算法歧视
3.3.2 算法滥用
3.4 长期和间接的伦理风险
3.4.1 算法与就业
3.4.2 算法与产权
3.4.3 算法与竞争
3.4.4 算法责任
第四章人工智能伦理原则
4.1 人类根本利益原则
4.2 责任原则
第五章伦理风险评估及其管理
5.1 人工智能伦理风险评估指标
5.1.1 算法方面
5.1.2 数据方面
5.1.3 社会影响方面
5.2 行业实践指南
5.2.1 风险管理框架
5.2.2 风险管理流程
5.2.3 对相关人员进行培训
5.2.4 定期进行风险评估
第六章结论

 

 

PDF全文报告下载:电子技术标准化研究院:人工智能伦理风险分析报告


本站所有资料已分享至本站小密圈,微信扫码加入下载8000+最新行业报告及获取1年期更新(推荐)

发表评论