本文论证自主人工智能网络武器——军事人工智能网络智能体(MAICAs)——构成通往灾难性威胁的路径。它阐明MAICAs的技术可行性,解释地缘政治和网络空间特性如何使MAICAs成为灾难性威胁,并提出政治防御、人工智能防御及模拟系统韧性建设等措施以削弱该威胁。

人工智能风险倡导者与军事人工智能伦理学家均对军事人工智能网络智能体(MAICAs)——即自主规划执行网络行动的完全自主智能体——引发的失控威胁关注不足。必须通过以下措施预防MAICAs必然发展带来的相关威胁:1.采取防止扩散措施避免MAICAs落入不法行为体之手;2.开展防御性研究,开发可削弱不法MAICAs的反制能力;3.投资关键基础设施韧性建设与模拟系统冗余备份以限制不法MAICAs的破坏。

成为VIP会员查看完整内容
22

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《基于自然语言的人工智能军事决策支持》
专知会员服务
148+阅读 · 2024年1月25日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
A Survey of Large Language Models
Arxiv
495+阅读 · 2023年3月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员