鉴于人工智能、量子技术和网络安全即将带来的变革,本预见文件探讨了未来15年这三个领域发展的现有及潜在趋势,以及相关的机遇、挑战和风险——从全球视角及欧盟角度出发。 由于所有三个领域均经历快速发展且存在显著不确定性,本文设定的2040年展望时段较为长远,文中许多预见性判断仅适用于未来几年。此外,若干里程碑的时间线难以明确界定。

本文分析了总体趋势及全球技术领先者可能取得的进展,重点关注人工智能、量子技术及相关网络安全问题,并探讨其对欧洲和世界的影响。文件聚焦欧洲未来可能的机遇,以及三个领域交叉点的挑战与风险。末章提出了欧盟政策与决策者未来几年将面临的关键战略抉择。

本文件的编写受欧盟战略与政策分析系统(ESPAS)指导小组委托,参与专家来自欧盟委员会(秘书总局、联合研究中心、通信网络内容和技术总司及研究与创新总司)、欧洲议会和欧洲审计院,以及外部专家。编写过程包括文献分析、与ESPAS机构及外部专家的预见研讨会,以及高层专家访谈。文件编写团队还向欧盟委员会联合研究中心管理的人工智能模型提出了问题。

在人工智能(AI)、量子技术和网络安全的发展与应用中领先,利用先发优势,确保韧性并制定全球标准,将在国际力量博弈中发挥关键作用。这三项技术至关重要,因其具有提高生产力和竞争力、推动经济增长以及加速研究、创新与技术进步的潜力。它们还将对生活、工作和社会运作的方式以及民主的未来产生巨大影响。这些技术对安全的重要性也日益增长,因为控制最先进技术和供应链的行为体能够以前所未有的规模集中权力,这将影响他国的经济安全和行动自由。

未来几年,中美之间的全球技术竞赛将愈发激烈,欧盟可能巩固其领先地位,同时新的参与者也将登上舞台。这场竞赛将以对新科技及其应用的大量投资为支撑。将看到不同方法之间的竞争,同时各方努力将自身模型与解决方案推向全球。因此,有效应对人工智能与量子技术发展和应用相关风险的努力可能变得更为紧迫。

在这三个领域的交叉点将产生强大的协同效应和机遇,但也会催生新的风险。结合量子技术与人工智能将开辟新机遇,提供更强大的人工智能模型,能够执行单靠人工智能或量子机器无法完成的任务。但这同样会推动高精度传感器和传感器系统的发展,或应用于医学或学习的先进脑机接口。网络安全的进步很可能促成安全、由人工智能驱动的会话式和多模态人机界面的发展。最后,量子辅助安全和抗量子架构将有助于加强信息系统和网络的网络安全。

风险包括人类面临的存在性风险——一旦人工智能的能力超越最聪明的人类,可能失去对技术的控制;以及主导性人工智能模型不遵守欧盟价值观和社会利益的风险。关键挑战涉及确保在人工智能将发挥越来越大作用的决策和政策制定过程中实现民主控制,管理对此类工具过度自信的风险,以及发展必要的技能和韧性。欧盟还必须应对日益增加的风险,这些风险与将这些技术用于犯罪或其他恶意目的(如战争)有关,包括网络安全风险,以及与某些应用(如利用人工智能进行人类增强)相关的伦理挑战。

欧盟需要解决若干战略问题。这些问题范围广泛,从发展必要技能和留住欧洲人才,到动员投资(特别是欧洲风险资本),以及按照德拉吉和莱塔报告的建议快速改善“有利环境”。其他问题包括如何确保欧盟的战略自主性,维护能够塑造这些快速发展的技术的监管框架,调整管理和风险评估框架,并确保及时向后量子网络安全过渡。最后,发挥领导作用并动员国际合作伙伴,以支持欧洲以人为本、基于价值的人工智能发展方法也将至关重要。

成为VIP会员查看完整内容
1

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
微信扫码咨询专知VIP会员