中国西北部古城西安的科学家们为军队创造了一种前所未有的人工智能(AI),一种新的力量正在崛起。
智能空战系统可以解释自己在激烈战斗中做出的决定,并与人类分享这些举动背后的动机。
这一技术突破意味着中国克服了多年来困惑军队的障碍。这也标志着中美之间的人工智能军备竞赛日趋激烈。
美国比中国更早开始测试人工智能在空战中的应用。当中国还在进行人工控制和人工智能控制的无人机之间的空战时,美国的试飞员已经把他们的人工智能空战带到天空进行试验。
虽然目前还不清楚美国是否也像中国所说的那样,在其新型人工智能驱动的F-16战斗机上解决了同样的人工智能障碍,但中国科学家的开创性工作必将改变未来空战的面貌。
目前流行的人工智能技术,如深度强化学习和大型语言模型,就像一个黑盒子:任务从一端进入,结果从另一端出现,而人类对其内部运作一无所知。
但空战攸关生死。在不久的将来,飞行员将需要与人工智能紧密合作,有时甚至将自己的生命托付给这些智能机器。黑匣子问题不仅破坏了人们对机器的信任,也阻碍了它们之间的深入交流。
由西北工业大学航空学院副教授Zhang Dong领导的团队开发的新型人工智能战斗系统可以用文字、数据甚至图表向飞行控制员解释它发出的每一条指令。
这种人工智能还能阐明每条指令对当前战斗形势的意义、涉及的具体飞行动作以及指令背后的战术意图。
Zhang的团队发现,这项技术为人类飞行员与人工智能互动打开了一扇新的窗口。
例如,在模拟小规模战斗后的审查过程中,经验丰富的飞行员可以从人工智能的自我陈述中发现导致失败的线索。高效的反馈机制可以让人工智能理解人类队友的建议,并在随后的战斗中避开类似的陷阱。
Zhang的团队发现,这种能与人类进行“发自内心”交流的人工智能,只需进行约2万轮实战训练,就能实现近100%的胜率。相比之下,传统的黑盒子人工智能在5万轮后只能达到90%的胜率,而且很难进一步提高。
Zhang的团队在4月12日发表于中国学术期刊《航空学报》的同行评审论文中写道,目前仅将该技术应用于地面模拟器,但未来的应用将“扩展到更真实的空战环境”。
在美国,“黑匣子”问题过去曾被提及,因为它给飞行员带来了问题。
美国空军和国防高级研究计划局(DARPA)正在进行狗斗试验。DARPA的一位高级官员承认,由于“黑匣子”问题,并非所有空军飞行员都欢迎这个主意。
DARPA战略技术办公室项目经理Dan Javorsek上校在2021年接受《国防杂志》采访时表示:“我在DARPA努力解决的一个重大挑战是,如何在这些传统上被认为是无法解释的黑匣子的系统中建立和维护信任。”
DARPA采取了两种策略来帮助飞行员克服对“黑盒子”的忧虑。一种方法是让人工智能最初处理较简单、较低级的任务,如根据锁定目标的属性自动选择最合适的武器,使飞行员只需按一下按钮就能发射。
另一种方法是让高级军官亲自登上人工智能驱动的战斗机,以展示他们的信心和决心。
本月早些时候,美国空军部长弗兰克·肯德尔在爱德华兹空军基地乘坐一架由人工智能控制的F-16战斗机进行了长达一小时的飞行。着陆后,他告诉美联社记者,他在飞行过程中看到的情况足以让他相信这种“仍在学习”的人工智能有能力决定是否在战争中发射武器。
他说:“不具备这种能力会带来安全风险。在这一点上,我们必须拥有它。”
安全风险来自中国。美国空军告诉美联社,人工智能让他们有机会在未来战胜日益强大的中国空军。当时,该报道称,虽然中国拥有人工智能,但没有迹象表明他们发现了除模拟器之外进行测试的方法。
但根据Zhang的团队的论文,中国军方对人工智能进行了严格的安全性和可靠性评估,坚持只有在破解“黑匣子”之谜后才能将人工智能集成到战斗机中。
深度强化学习模型通常会产生人类难以理解的决策结果,但在实际应用中却表现出卓越的战斗力。对于人类来说,根据已有经验理解和推断这种决策框架具有挑战性。
Zhang和他的同事写道:“这给人工智能的决策带来了信任问题。”
“解码‘黑匣子模型’,使人类能够辨别战略决策过程、把握无人机的机动意图并信任其机动决策,是人工智能技术在空战中工程应用的关键。这也强调了我们推进研究的首要目标。”
Zhang的团队在研究中通过多个实例展示了这种人工智能的能力。例如,在一个失败的场景中,人工智能一开始打算爬升并执行眼镜蛇机动,然后是一连串的战斗转弯、横滚和筋斗,与敌机交战,最后以俯冲和平飞等规避机动结束。
但经验丰富的飞行员很快就能发现这种激进机动组合的缺陷。人工智能连续爬升、战斗转弯、横滚和俯冲,导致无人机在交战过程中速度急剧下降,最终未能甩掉敌人。
以下是论文中人类对人工智能发出的指令:“连续激进机动导致速度降低是这次空战失利的罪魁祸首,未来必须避免此类决策。”
![](http://tiebapic.baidu.com/forum/w%3D580/sign=5be4352157dfa9ecfd2e561f52d0f754/ebb0f8dcd100baa1642610860110b912c8fc2e16.jpg?tbpicau=2024-09-17-05_ded74d4eefe4743b7d2ed0d737c62ff1)
智能空战系统可以解释自己在激烈战斗中做出的决定,并与人类分享这些举动背后的动机。
这一技术突破意味着中国克服了多年来困惑军队的障碍。这也标志着中美之间的人工智能军备竞赛日趋激烈。
美国比中国更早开始测试人工智能在空战中的应用。当中国还在进行人工控制和人工智能控制的无人机之间的空战时,美国的试飞员已经把他们的人工智能空战带到天空进行试验。
虽然目前还不清楚美国是否也像中国所说的那样,在其新型人工智能驱动的F-16战斗机上解决了同样的人工智能障碍,但中国科学家的开创性工作必将改变未来空战的面貌。
目前流行的人工智能技术,如深度强化学习和大型语言模型,就像一个黑盒子:任务从一端进入,结果从另一端出现,而人类对其内部运作一无所知。
但空战攸关生死。在不久的将来,飞行员将需要与人工智能紧密合作,有时甚至将自己的生命托付给这些智能机器。黑匣子问题不仅破坏了人们对机器的信任,也阻碍了它们之间的深入交流。
由西北工业大学航空学院副教授Zhang Dong领导的团队开发的新型人工智能战斗系统可以用文字、数据甚至图表向飞行控制员解释它发出的每一条指令。
这种人工智能还能阐明每条指令对当前战斗形势的意义、涉及的具体飞行动作以及指令背后的战术意图。
Zhang的团队发现,这项技术为人类飞行员与人工智能互动打开了一扇新的窗口。
例如,在模拟小规模战斗后的审查过程中,经验丰富的飞行员可以从人工智能的自我陈述中发现导致失败的线索。高效的反馈机制可以让人工智能理解人类队友的建议,并在随后的战斗中避开类似的陷阱。
Zhang的团队发现,这种能与人类进行“发自内心”交流的人工智能,只需进行约2万轮实战训练,就能实现近100%的胜率。相比之下,传统的黑盒子人工智能在5万轮后只能达到90%的胜率,而且很难进一步提高。
Zhang的团队在4月12日发表于中国学术期刊《航空学报》的同行评审论文中写道,目前仅将该技术应用于地面模拟器,但未来的应用将“扩展到更真实的空战环境”。
在美国,“黑匣子”问题过去曾被提及,因为它给飞行员带来了问题。
美国空军和国防高级研究计划局(DARPA)正在进行狗斗试验。DARPA的一位高级官员承认,由于“黑匣子”问题,并非所有空军飞行员都欢迎这个主意。
DARPA战略技术办公室项目经理Dan Javorsek上校在2021年接受《国防杂志》采访时表示:“我在DARPA努力解决的一个重大挑战是,如何在这些传统上被认为是无法解释的黑匣子的系统中建立和维护信任。”
DARPA采取了两种策略来帮助飞行员克服对“黑盒子”的忧虑。一种方法是让人工智能最初处理较简单、较低级的任务,如根据锁定目标的属性自动选择最合适的武器,使飞行员只需按一下按钮就能发射。
另一种方法是让高级军官亲自登上人工智能驱动的战斗机,以展示他们的信心和决心。
本月早些时候,美国空军部长弗兰克·肯德尔在爱德华兹空军基地乘坐一架由人工智能控制的F-16战斗机进行了长达一小时的飞行。着陆后,他告诉美联社记者,他在飞行过程中看到的情况足以让他相信这种“仍在学习”的人工智能有能力决定是否在战争中发射武器。
他说:“不具备这种能力会带来安全风险。在这一点上,我们必须拥有它。”
安全风险来自中国。美国空军告诉美联社,人工智能让他们有机会在未来战胜日益强大的中国空军。当时,该报道称,虽然中国拥有人工智能,但没有迹象表明他们发现了除模拟器之外进行测试的方法。
但根据Zhang的团队的论文,中国军方对人工智能进行了严格的安全性和可靠性评估,坚持只有在破解“黑匣子”之谜后才能将人工智能集成到战斗机中。
深度强化学习模型通常会产生人类难以理解的决策结果,但在实际应用中却表现出卓越的战斗力。对于人类来说,根据已有经验理解和推断这种决策框架具有挑战性。
Zhang和他的同事写道:“这给人工智能的决策带来了信任问题。”
“解码‘黑匣子模型’,使人类能够辨别战略决策过程、把握无人机的机动意图并信任其机动决策,是人工智能技术在空战中工程应用的关键。这也强调了我们推进研究的首要目标。”
Zhang的团队在研究中通过多个实例展示了这种人工智能的能力。例如,在一个失败的场景中,人工智能一开始打算爬升并执行眼镜蛇机动,然后是一连串的战斗转弯、横滚和筋斗,与敌机交战,最后以俯冲和平飞等规避机动结束。
但经验丰富的飞行员很快就能发现这种激进机动组合的缺陷。人工智能连续爬升、战斗转弯、横滚和俯冲,导致无人机在交战过程中速度急剧下降,最终未能甩掉敌人。
以下是论文中人类对人工智能发出的指令:“连续激进机动导致速度降低是这次空战失利的罪魁祸首,未来必须避免此类决策。”
![](http://tiebapic.baidu.com/forum/w%3D580/sign=5be4352157dfa9ecfd2e561f52d0f754/ebb0f8dcd100baa1642610860110b912c8fc2e16.jpg?tbpicau=2024-09-17-05_ded74d4eefe4743b7d2ed0d737c62ff1)