从图像与文本生成到音乐与艺术创作，生成建模一直是人工智能的重要挑战之一。本课程将探讨机器学习与人工智能中推动生成建模和基础模型（foundation models）最新进展的核心技术。学生将理解、开发并应用最前沿的算法，使机器能够生成真实而富有创造力的内容。 核心内容包括：学习的基本机制；如何构建生成模型和其他大型基础模型（如用于视觉和语言的 Transformer、扩散模型）；如何训练这些模型（预训练、微调）以及如何高效地适配它们（适配器、上下文学习）；如何扩展到超大规模数据集（多 GPU/分布式优化）；以及如何将现有模型应用于日常使用场景（如代码生成、生成模型辅助编程）。学生还将探索这些模型的理论基础与实证研究，理解其内部机制，并学习可能出现的问题（偏见、幻觉、对抗攻击、数据污染）以及应对方法。课程强调通过实现来掌握现代技术，同时也引导学生使用现有库和模型来探索生成能力与局限性。本课程适合已完成机器学习或深度学习入门课程的学生。

学习成果

完成本课程后，学生应能够： * 区分不同的学习机制，如参数调优与上下文学习。 * 实现现代生成建模方法所依赖的基础模型，如 Transformer 和扩散模型。 * 将现有模型应用于文本、代码、图像、音频和视频等现实生成问题。 * 掌握基础模型的适配方法，如微调、适配器和上下文学习。 * 使生成建模方法能够扩展至大规模文本、代码或图像数据集。 * 使用现有生成模型解决现实中的判别问题及其他日常应用场景。 * 分析大规模基础模型的理论属性。 * 识别不同模态下生成建模的潜在风险。 * 描述大规模生成式人工智能系统的社会影响。