过去一年多,大模型技术飞速发展,驱动了人工智能开发应用范式的变革,已经开始深刻影响产业发展。与此同时,AI Infrastructure的重要性也更加凸显。大模型以及对应的大数据、大算力,带来了训练推理效率和成本的巨大压力,大模型基础设施能力已上升为核心竞争力。另一方面也要注意到,大模型下开发者面临的痛点难点也相对传统深度学习模型有了很大不同,技术的快速演进也带来了全新的需求。本报告将全面阐述深度学习平台在大模型时代面临的挑战和机遇,并结合飞桨平台支撑文心大模型快速迭代和产业应用的实践,介绍大模型下大规模分布式训练和高效推理部署的关键技术和经验心得,探讨大模型技术及深度学习平台未来的发展趋势。
演讲提纲:
- 大模型的发展概要和技术特点
- 大模型带来的开发应用范式变革
- 大模型训练和推理部署的挑战
- 大模型时代深度学习平台的发展思考
- 大模型大规模分布式训练技术与实践
- 大模型高效推理部署技术与实践
- 深度学习平台对大模型全流程开发应用的支撑
- 未来发展趋势探讨
听众收益点:
- 对大模型关键技术特性和技术挑战的更好认知
- 全面了解深度学习平台对大模型技术迭代和应用落地的作用
- 通过对飞桨+文心大模型的实践经验分享,更好理解相关技术,并有所启发
- 激发对大模型技术和AI基础设施未来发展的思考