美国国防部应对人工智能机遇与挑战的分析


2021年1月,美国兰德公司发布相关报告,以回应美国2019年度国防授权法案(NDAA)和美国国防部联合人工智能中心(JAIC)对美国国防部(DOD)如何应对人工智能(AI)机遇与挑战的相关提问,包括:(1)美国DOD是否已经准备好利用AI技术,(2)美国DOD是否需要重新定位以便更有效、更安全地使用AI技术并扩大应用规模 。
预研人工智能、量子信息等先进技术在未来国防领域的应用,加强技术评估研究,也是我国军事科技研发应用的重点 。

美国国防部与人工智能
AI一词首次出现于1956年,自20世纪50年代以来,AI及其分支学科如机器学习得到了很大的发展,但目前尚无AI的统一定义 。为保持研究的灵活性,兰德公司此次也没有明确定义AI而是提出问题:在构建(或获取)、测试、转化和维持AI范畴内的广泛技术方面,美国DOD如何定位?如果这些AI技术不够完善,美国DOD应该如何做?
兰德公司研究小组将待回答的问题分解为3个指导性问题:(1)与美国DOD相关的AI现状是什么?(2)美国DOD目前的AI立场是什么?(3)什么样的内部行动、外部合作和潜在的立法或监管行动可以坚定美国DOD的AI立场?
兰德公司研究小组针对第一个问题评估了美国DOD决策层所需的AI认知,针对第二问题从AI的组织、进展、采用、创新、数据、人才等六个维度进行评估 。
二美国DOD决策层所需的AI认知
为了研究AI对美国DOD和战略决策的影响,需要全局考虑:(1)技术和能力范围,(2)美国DOD的AI应用范围,(3)投资范围及时间等三个关键因素及其相互作用 。
在技术和能力范围方面,包括支撑当前AI解决方案的方法,如算法等 。虽然AI相关的技术很多,但驱动进步的研究集中在少数领域,如深度学习 。深度学习需要大量的数据集,深度学习算法具有专用性,当前应用主要是商用 。此外,验证、确认、测试和评估(VVT&E)仍然是AI广泛应用面临的挑战,包括安全为首的军事应用 。
美国DOD的AI应用范围可以通过4个独立的因素来描述:作业环境可控性、资源可获取性、响应速度和故障影响 。图2以这4个因素描述了企业型AI、任务支持型AI、作战型AI三类应用环境 。企业型AI包括军队医院健康记录管理等应用,此类应用可控性高、资源可获取性高、响应速度要求不高、数据可恢复因而故障影响可忽略 。任务支持型AI包括算法的军事应用,如使用机器学习来辅助分析战区全动态视频等,应用环境在4个因素方面表现居中 。作战型AI包括将AI集成到武器系统中,此类应用必须适应动态及对抗性环境,达到快速响应,然而此类应用的计算和通信资源(可能还包括数据)稀缺,故障影响重大,一旦发生故障将带来战略目标风险和重大伤亡 。
美国国防部应对人工智能机遇与挑战的分析
文章插图
图2美国国防部AI应用环境分析
投资范围及时间方面,除了AI应用范围内的技术投资,还需要以下三方面投资:(1)其他技术和促进因素如支持数据收集和管理的基础设施;(2)用于技术制衡的VVT&E基础和实践;(3)通用技术基础研究,以保持长期技术优势 。
为了进行预期管理并确保持续的支持,制定从AI设计到全面实施的具体目标十分重要 。兰德公司研究小组分析美国DOD的持续投资有望在短、中、长期,分阶段实现AI的大规模部署:(1)短期(最长五年)实现企业型AI应用,(2)中期(五年到十年)实现任务支持型AI应用,(3)长期(十年以上)实现作战型AI应用 。
三美国DoD的AI立场
兰德公司从AI的组织、进展、采用、创新、数据、人才等六个维度对美国DOD的AI立场进行了评估 。兰德公司认为,美国DOD在六个方面均面临重大挑战 。(1)组织上,当前美国DOD的AI战略缺乏过程评估的基准和指标 。目前,JAIC尚未被赋予规模化AI应用所需的权力、资源、可见性 。类似的挑战也存在于个别服务层面 。(2)缺乏数据或者数据缺乏可追溯性、可理解性、可获取性和互操作性 。(3)目前AI技术的验证、确认、测试和评估方案尚不能确保AI系统的性能和安全,尤其对于安全为首的系统 。(4)美国DOD缺乏明确的机制来发展、追踪和培养AI人才,而这一挑战将随着美国DOD与学术界、工业界以及其工作领域的人才争夺而严峻 。(5)美国DOD内缺乏AI建设者和使用者之间沟通渠道 。(6)目前美国DOD的做法和流程(或实施)可能阻碍DOD内部创新进程以及外部创新引入 。
四建议
虽然,美国DOD在AI方面表现出积极态度,但从AI的有效利用和规模化方面来看,整体表现并不理想 。为此,兰德公司提出了一系列战略和战术建议,以推进AI的国防应用 。
(1)美国DOD应该调整AI治理结构,为实现AI的规模化应用匹配相应的权限和资源 。
(2)JAIC应该制定一个五年战略路线图,明确评估基准和指标 。
(3)采用集中式AI服务架构的组织都应该制定一个有基准和指标的五年战略路线图 。
(4)每年或每两年对整个美国DOD范围内的AI投资进行一次审查,并由JAIC牵头,国防部研究和工程副部长(USD-R&E)、国防部采购和维持副部长(USD-A&S)、参谋长联席会议主席和AI服务代表共同参与 。
(5)每年或每两年JAIC应该组织一次技术研讨会以展示美国DOD范围内的AI项目 。
(6)美国DOD应与工业界和学术界合作共同推进AI系统VVT&E的科学和实践 。JAIC应该牵头协调这项工作,与USD-R&E、USD-A&S、美国DOD作战试验和评估部紧密合作,加强美国DOD内外合作伙伴关系 。
(7)所有受资助的AI活动都应该包括VVT&E方面的预算 。
(8)美国DOD的所有机构都应建立或者加强开发者和使用者之间沟通机制,使AI研究人员、技术开发人员和最终的操作人员可以有效连接和沟通 。
(9)美国DOD应该认识到数据是关键的资源,继续加强数据收集和管理的实践方法,扩大数据共享同时保护数据安全 。
(10)为了激发美国DOD的创新活力并加强外部合作,首席数据官应该向AI社区开放美国DOD的一些数据集 。
(11)美国DOD应该保持适度的包容和开放,以促进AI人才获取 。
原文标题:兰德公司分析美国国防部应该如何应对人工智能机遇与挑战
【美国国防部应对人工智能机遇与挑战的分析】文章出处:【微信公众号:集成电路研发竞争情报】欢迎添加关注!文章转载请注明出处 。
责任编辑:haq
.dfma {position: relative;width: 1000px;margin: 0 auto;}.dfma a::after {position: absolute;left: 0;bottom: 0;width: 30px;line-height: 1.4;text-align: center;background-color: rgba(0, 0, 0, .5);color: #fff;font-size: 12px;content: "广告";}.dfma img {display: block;}
美国国防部应对人工智能机遇与挑战的分析
文章插图

    推荐阅读