美国人工智能国家安全委员会(NSCAI)最终版报告(摘要)

编者按

美国人工智能国家安全委员会(NSCAI是一个由15名专家组成的国会两党委员会,成员包括技术人员、国家安全研究人员、企业高管和学界领袖。2021年3月,委员会颁布的最终报告指出,美国还没有做好人工智能时代的防御或竞争的准备。美国政府应采取全面、全国性的行动,以抵御美国面临的人工智能威胁,为国家安全负责任地使用人工智能。美国需要盟友和新的合作伙伴,为人工智能时代建设一个更安全、更自由的世界。

美国人工智能国家安全委员会最终版报告(摘要)
报告封面

没有任何历史资料可以预判人工智能对国家安全的影响。人工智能并非单一的技术突破。争夺人工智能霸权的竞赛并不像月球太空竞赛。爱迪生当年对电力的评价也可以用来评价人工智能的未来:“它拥有重组世界生活的秘密。”
人工智能国家安全委员会(NSCAI)认为,人工智能及其未来依然有待发现,但我们对人工智能已足够了解。
首先,计算机系统解决原本需要人类智力的任务的能力迅速提高,在某些情况下甚至超过人类。人工智能技术是迄今为止最强大的工具,可用于增加知识、增强繁荣和丰富人类经验。人工智能也是典型的民军“两用”技术。机器拥有比人类更快更准确地感知、评估和行动的能力。人工智能将为利用这些技术的公司和国家提供巨大的力量。
其次,人工智能正在扩大美国的脆弱性窗口。自第二次世界大战以来,美国的技术优势成为其经济和军事力量的支柱,但现在这种技术优势首次受到威胁。如果当前的趋势不改变,中国拥有在未来十年超越美国成为人工智能领域世界领导者的潜力、人才和雄心。与此同时,人工智能正在加剧网络攻击和虚假信息运动所构成的威胁,俄罗斯、中国等国家正利用人工智能渗透到我们的社会,窃取我们的数据,干扰我们的民主,这还只是冰山一角。以新冠肺炎和气候变化为例的全球危机扩大了国家安全的概念,美国需要通过创新找到人工智能的解决方案。
委员会的结论认为,美国现在必须采取行动,在人工智能创新方面投入更多资源,以保护美国的安全、促进美国的繁荣和保障民主的未来。但今天,政府并没有组织好投资与对手的技术竞争,没有准备好抵御人工智能带来的威胁,也没有迅速将人工智能应用于保障国家安全。现在不能只是简单地逐步调整联邦研究预算,或者简单地为硅谷技术人员在五角大楼增加一些新职位。美国政府需要在心态上作出重大改变。美国需要白宫的领导、内阁的行动和国会的支持来赢得人工智能时代。
报告提出了一个综合的国家战略,以重组政府,重新定位国家,并团结我们最亲密的盟友和伙伴。这是一种双管齐下的办法。第一部分“在人工智能时代保护美国”,概述了利害关系,解释了美国必须做什么来抵御与人工智能相关的威胁,并建议美国政府如何负责任地使用人工智能技术来保护美国人民和利益。第二部分“赢得技术竞争”,讨论了人工智能竞争的关键要素,并建议政府必须采取行动,促进人工智能创新提高国家竞争力,保护美国的关键优势。

在人工智能时代保护美国

美国的战略竞争对手已经开始开发用于军事和其他恶意用途的人工智能技术,从“深假”(deepfakes)到廉价的民用杀人无人机,人工智能给流氓国家、恐怖分子和罪犯提供了新工具。为保障国家安全,美国必须迅速和负责任地采用人工智能来抵御这些威胁。那些具有人工智能能力的对手,一旦以机器速度运行人工智能,将打开灾难的大门。如果没有人工智能的帮助,人类将无法抵御人工智能进行的网络攻击、虚假信息攻击、无人机集群攻击。国家安全人员必须获得世界上最好的技术来保护自己。委员会建议政府采取以下行动:
抵御人工智能对美国自由开放社会的新威胁。各行各业的数字依赖正在将个人和商业脆弱性转化为潜在的国家安全弱点。敌对分子正使用人工智能来加强虚假信息运动和网络攻击。他们正在收集关于美国人的数据,以建立关于其信仰、行为和生物数据的数据库,以便有针对性地操纵或胁迫个人。政府需要成立一个工作队和7×24小时行动中心来对抗数字虚假信息。它需要更好地保护自己的数据库,并在审查外国投资、管理供应链风险和保护数据立法中优先考虑数据安全。政府应该利用人工智能防御来防止人工智能网络攻击。生物安全必须成为国家安全政策的首要优先事项。
为未来的战争做好准备。如果我们的军队不能加速采用人工智能,他们可能会在未来十年内失去军事技术优势。这需要将自上而下的领导能力与自下而上的创新结合起来。国防部应该:首先,到2025年为人工智能的广泛整合奠定基础。这包括建立一个共同的数字基础设施,培养有数字知识的劳动力市场,建立更灵活的采办、预算和监督过程。它还需要从战略上剥离那些缺乏人工智能操作的作战系统。
其次,到2025年实现军事人工智能准备状态。五角大楼领导人现在必须采取行动,推动组织改革,创新作战概念,确定联合作战网络架构。还需要确保人工智能系统与盟国的互操作性。
管理人工智能武器相关的风险。人工智能将使武器系统具有新的自主性能,这也引起了围绕使用致命武力的法律、道德和战略问题。如果由人类指挥官或操作员授权使用人工智能,需要适当设计和测试自动武器系统以符合国际人道主义法的方式使用。严格现有的武器审查和瞄准程序,包括自主武器系统的专用协议以及承诺道德原则,确保美国部署安全可靠的人工智能和自主武器系统并以合法方式使用。
寻求全球禁止启用人工智能和自主武器系统既不可行,也不符合美国利益,但全球不受限制地使用这类系统会增加意外冲突的风险。为了降低风险,美国应该:(1)明确和公开确认美国现有的政策,即只有人类才能授权使用核武器,并要求俄罗斯和中国做出类似承诺;(2)建立与竞争对手讨论人工智能对危机影响的机制;(3)为开发、测试和使用人工智能和自主武器系统制定国际标准。
改革国家情报部门。情报部门应在从情报的收集到分析各个方面采用人工智能。情报部门将比任何其他国家安全机构都更容易受益于人工智能。为了利用人工智能,国家情报总监办公室需要赋予其科学和技术领导人权力和资源。整个情报系统应在其分析中利用开源和公开信息,并确定科技情报收集的优先级。为了更好地洞察,情报机构需要开发创新的方法来使用人工智能增强人类判断。
在政府中增加数字人才。国家安全机构现在需要更多的数字专家,否则他们将无法购买、建造和使用人工智能及相关技术。国防部和情报系统中的数字人才短缺是到2025年准备人工智能的最大障碍。政府需要新的人才管道,包括美国数字服务学院来培训现有和未来的员工。它需要一个民间的数字人才储备库招募人才,包括行业专家、学者和大学应届毕业生。它需要按照陆军医疗团模式组建数字军团,以组织现役技术人员。
建立对人工智能系统的合理信心。如果人工智能系统不按设计工作,或者在可能产生重大负面后果的基础上安装人工智能,领导人就不会采纳它们,运营商就不会使用它们,国会就不会资助它们,美国人民就不会支持它们。为建立合理信心,政府应确保人工智能系统的强大可靠,包括对人工智能安全研究的投资。随着人工智能系统在数量、范围和复杂性上的增加,还应增强国防部的测试和评估能力。政府应任命高级负责人领导人工智能,改善行政领导和政策监督。
制定人工智能管理的民主模式。人工智能工具对美国情报、国土安全和执法机构至关重要。公众对人工智能的信任取决于合理的保证,即政府使用人工智应尊重隐私、公民自由和公民权利。政府必须赢得这种信任,并确保其使用人工智能工具是有效和合法的。这一当务之急要求加强人工智能工具的监督和审计,提高人工智能的透明度。政府应加强监督和治理机制,建立一个工作队,以评估大赦国际对公民隐私、自由和公民权利的关切。 

赢得技术竞争

研究、开发和部署人工智能正加剧更广泛的技术竞争。中国有完善的组织、丰富的资源、坚定的决心赢得这场竞赛。美国在关键领域仍保持着优势,但目前的趋势令人担忧。虽然深刻的学术和商业联系使竞争变得复杂,但美国必须尽一切努力保持其在世界科技中的创新领导地位。美国政府必须拥抱人工智能的竞争,并通过组织策划来赢得竞争。
组织一个由白宫领导的技术竞争策略。美国必须将人工智能的考虑因素从技术层面提升到战略层面。由人工智能主导的新兴技术支撑着我们的经济繁荣、安全和福利。白宫应建立一个由副总统领导的技术竞争委员会,整合安全、经济和科学考虑;制定全面的技术战略并监督其实施。
赢得全球人才竞争。如果美国不在国内培养更多的人才,也不从国外招募和留住更多的现有人才,那么就有可能失去人工智能的全球竞争。美国必须在这两方面都采取积极的行动。一方面,国会应该通过一项国防教育法案,来解决美国教育体系的缺陷,包括K-12、就业技能再培训、相关专业本科生和研究生奖学金。另一方面,国会应该为高技能移民推行一项全面的移民战略,通过新的激励措施、签证、绿卡和就业改革,鼓励更多的人工智能人才留在美国。
加快美国国内的人工智能创新。政府必须对人工智能研发进行重大投资,完善全国的人工智能研究基础设施,促进人工智能发展的资源和机会民主化。政府应:(1)到2026年,每年为人工智能研发提供双倍的非防卫资金,达到每年320亿美元,建立国家技术基金会,人工智能研究所的数量增加三倍;(2)建立一个由云计算资源、测试床、大型开放培训数据和开放知识网络组成的全国性人工智能研究基础设施,以扩大获得人工智能的机会,并支持新的科学和工程领域实验;(3)为人工智能创造市场和形成区域创新集群网络,加强商业竞争力。
执行全面的知识产权政策。美国必须明确知识产权政策是保卫美国在人工智能和新兴技术领域领导地位的国家安全优先事项。鉴于中国努力利用美国的知识产权,这一点尤其重要。美国缺乏人工智能时代所需要的全面知识产权政策,并受到美国现行专利资格和专利原则中法律不确定性的阻碍。美国政府需要一项计划,旨在推进知识产权的国家安全优先事项改革。
建立微电子产业设计和制造的国内基础。经过几十年的领先微电子行业,美国现在几乎完全依赖外国来源生产尖端半导体,为所有防御系统和其他至关重要的人工智能算法提供动力。简单地说,如果没有政府的一致行动,美国先进芯片的供应链将面临风险。重建国内芯片制造将是昂贵的,但现在是采取行动的时候了。美国应该致力于在最先进的微电子领域保持至少两代人领先中国的战略,并承诺提供资金和奖励,以保持美国尖端微电子制造的多种来源。
保护美国的技术优势。随着与美国技术优势的差距缩小,外国获取美国两用技术的努力在增加,美国必须重新审视如何最好地保护技术和公司,而不过度阻碍创新。美国必须:
首先,实现出口管制和外国投资筛选的现代化,以更好地保护关键的两用技术;与盟国协调对先进半导体制造设备的出口管制;扩大对竞争对手国家投资者的披露要求。
其次,保护美国研究企业——通过向政府机构、执法机构和研究机构提供工具和资源来进行微妙的风险评估,并分享有关特定威胁和战术的信息,与盟友和合作伙伴协调研究保护工作,加强对研究机构的网络安全支持,加强签证审查以限制可疑的研究合作。
构建有利的国际技术秩序。美国必须与盟国和伙伴携手合作,加强新兴技术的民主规范和价值观,协调政策和投资以推动全球通用的数字基础设施和技术,捍卫国际技术标准的完整性,合作推进人工智能创新以防止技术的恶意使用。美国应该领导一个新兴技术联盟,并建立一个多边的人工智能研究所,以提高美国作为新兴技术全球研究中心的地位。国务院应重组和提供资源,领导新兴技术领域的外交工作。

赢得技术竞赛。人工智能位于新兴技术星座的中心,因此美国必须制定一份权威的技术清单,以支撑21世纪的国家竞争力,包括人工智能、微电子、生物技术、量子计算、5G、机器人技术和自主系统、添加剂制造和能源存储技术的领导地位。这需要投资于特定的平台,平台将实现变革性的突破,并在平台中建立充满活力的国内制造生态系统。

结论

这个新的竞争时代将改变我们的世界和生活方式。我们既可以塑造即将到来的变化,也可以被它横扫。我们知道,人工智能在生活各个方面的使用都将会增长,创新的步伐将会继续加速;对手决心用人工智能对抗我们;中国决心在人工智能的领导能力上超越我们。
现在我们必须采取行动。我们建立的原则、进行的联邦投资、领导的国家安全应用、重新设计的组织、建立的伙伴关系和联盟,以及培养的人才将为美国战略铺平道路。美国应投入所需要的资源来维持其创新领导,负责任地利用人工智能来捍卫自由的人民和自由的社会,并为全人类的福祉推进科学的进步。人工智能将重组世界,美国必须带头冲锋。
 

注:本站文章除标明原创外,均来自网友投稿及分享,如有侵权请联系dongxizhiku@163.com删除。

         

发表评论