随着大模型技术的迅猛发展,大模型在自然语言处理和计算机视觉等领域表现出卓越的性能,成为解决复杂问题的重要工具,并在科研和产业界引发了广泛关注. 然而,当前基于云平台的大模型训练和推理方案面临诸多挑战,包括高昂的成本、有限的可扩展性和信息安全风险等. 随着模型参数规模的不断扩大,对于低成本、高效训练和推理的需求愈发迫切. 在端边侧进行大模型的协同训练和推理,可以显著降低延迟和带宽需求,同时增强数据隐私和操作效率,为大模型在多样化场景中的低成本应用提供关键技术支持,成为当前研究的热点之一. 全面调研了面向边缘智能的大模型相关研究,主要从大模型边缘训练和推理2个角度对当前相关研究进行了深入分析和讨论. 最后,提出了面向边缘智能的大模型技术发展所面临的挑战和未来展望. 希望能促进学术界和产业界对面向边缘智能的大模型技术有更深入了解和关注,并能够启发更多的学者开展深入研究.

成为VIP会员查看完整内容
40

相关内容

面向强化学习的可解释性研究综述
专知会员服务
43+阅读 · 2024年7月30日
机器学习中原型学习研究进展
专知会员服务
47+阅读 · 2022年1月18日
基于深度神经网络的高效视觉识别研究进展与新方向
专知会员服务
39+阅读 · 2021年8月31日
专知会员服务
223+阅读 · 2020年8月1日
专知会员服务
131+阅读 · 2020年7月10日
「基于通信的多智能体强化学习」 进展综述
数据受限条件下的多模态处理技术综述
专知
21+阅读 · 2022年7月16日
基于图神经网络的知识图谱研究进展
AI科技评论
21+阅读 · 2020年8月31日
深度学习模型可解释性的研究进展
专知
26+阅读 · 2020年8月1日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2014年12月31日
Arxiv
174+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
494+阅读 · 2023年3月31日
Arxiv
180+阅读 · 2023年3月24日
Arxiv
25+阅读 · 2023年3月17日
VIP会员
相关VIP内容
面向强化学习的可解释性研究综述
专知会员服务
43+阅读 · 2024年7月30日
机器学习中原型学习研究进展
专知会员服务
47+阅读 · 2022年1月18日
基于深度神经网络的高效视觉识别研究进展与新方向
专知会员服务
39+阅读 · 2021年8月31日
专知会员服务
223+阅读 · 2020年8月1日
专知会员服务
131+阅读 · 2020年7月10日
相关资讯
「基于通信的多智能体强化学习」 进展综述
数据受限条件下的多模态处理技术综述
专知
21+阅读 · 2022年7月16日
基于图神经网络的知识图谱研究进展
AI科技评论
21+阅读 · 2020年8月31日
深度学习模型可解释性的研究进展
专知
26+阅读 · 2020年8月1日
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2014年12月31日
相关论文
Arxiv
174+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
494+阅读 · 2023年3月31日
Arxiv
180+阅读 · 2023年3月24日
Arxiv
25+阅读 · 2023年3月17日
微信扫码咨询专知VIP会员