InfiniTensor大模型与人工智能系统训练营由启元实验室及清华大学 AI 系统方向团队发起,面向开源社区、高校和产业界,普及人工智能各方面知识和技术,培养相关人才。
训练营联合开源项目开发者、学术界大牛、工业界资深工程师参与授课与项目指导。
课程采用「线上直播授课+ 在线答疑 + 项目实践辅导」的方式进行,确保每位同学都能获得充分成长。训练营全程免费,通过视频、直播课、习题和项目实践,在人工智能飞速发展的背景下,为学员提供一窥深层技术的机会。
模块一
AI 编译器• AI 编译器概述• AI 编译器前后端优化• PyTorch 图优化实践
模块二
大模型推理系统• AI 模型推理基础原理• 推理张量机制与算子实现• 大模型计算优化与分布式推理• 大模型推理多用户服务
模块三
并行计算与异构编程• CUDA 编程系列• Triton 编程系列• OpenCL 编程系列• 国产平台支持:寒武纪 BANGC 开发基础与调优
模块四
大模型训练系统• 训练基础概念• 训练框架底层编程• 分布式训练策略介绍• 训练中的通信优化• 强化学习训练基本原理与实现
模块五
前沿技术专题• 大模型推理系统与多用户服务架构• 高性能算子开发与系统级性能优化实践• 大模型系统性能优化与工业部署