本文件规定了生成式人工智能服务在训练数据安全、模型安全、安全措施等方面的要求。 本文件适用于服务提供者开展生成式人工智能服务相关活动,也为相关主管部门以及第三方评估 机构提供参考。 注:训练数据及生成内容涉及的主要安全风险见附录 A,生成式人工智能服务安全评估参考方法见附录 B。

成为VIP会员查看完整内容
8

相关内容

生成式人工智能是利用复杂的算法、模型和规则,从大规模数据集中学习,以创造新的原创内容的人工智能技术。这项技术能够创造文本、图片、声音、视频和代码等多种类型的内容,全面超越了传统软件的数据处理和分析能力。2022年末,OpenAI推出的ChatGPT标志着这一技术在文本生成领域取得了显著进展,2023年被称为生成式人工智能的突破之年。这项技术从单一的语言生成逐步向多模态、具身化快速发展。在图像生成方面,生成系统在解释提示和生成逼真输出方面取得了显著的进步。同时,视频和音频的生成技术也在迅速发展,这为虚拟现实和元宇宙的实现提供了新的途径。生成式人工智能技术在各行业、各领域都具有广泛的应用前景。
智能体任务执行安全要求
专知会员服务
19+阅读 · 7月12日
生成式人工智能预训练和优化训练数据安全规范
专知会员服务
49+阅读 · 2024年4月11日
《信息安全技术大数据服务安全能力要求》国家标准
专知会员服务
37+阅读 · 2022年8月30日
《信息安全技术边缘计算安全技术要求》国家标准意见稿
智能合约的形式化验证方法研究综述
专知
16+阅读 · 2021年5月8日
大数据安全技术浅析
计算机与网络安全
15+阅读 · 2019年4月24日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
174+阅读 · 2023年4月20日
Arxiv
25+阅读 · 2023年3月17日
VIP会员
相关VIP内容
智能体任务执行安全要求
专知会员服务
19+阅读 · 7月12日
生成式人工智能预训练和优化训练数据安全规范
专知会员服务
49+阅读 · 2024年4月11日
《信息安全技术大数据服务安全能力要求》国家标准
专知会员服务
37+阅读 · 2022年8月30日
《信息安全技术边缘计算安全技术要求》国家标准意见稿
相关资讯
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员