内容安排

从 AI 问答、拍照识题和推荐系统等日常应用出发，拆开智能应用背后的基本链条：数据如何进入系统，模型如何被调用，程序和算力如何支撑服务，为什么存储、网络、云和数据中心会影响用户体验。

• MIT 6.033 Computer System Engineering
• CMU 15-213 Introduction to Computer Systems

先建立数据、特征、参数和模型的基本直觉，再用神经网络训练过程理解 AI 为什么需要大量数据和反复计算。本讲重点不是推导公式，而是理解数据如何被表示、如何参与训练、为什么规模会影响计算成本。

• CMU 15-213 Introduction to Computer Systems
• Stanford CS336 Language Modeling from Scratch

通过图像分类、目标检测、文本生成、语音处理和多模态应用，理解不同 AI 应用对数据形态、模型结构、计算资源和服务链路的不同需求。课堂会把应用场景连接到后续的框架、处理器和云端系统。

• Stanford CS336 Language Modeling from Scratch
• CMU 15-642 Machine Learning Systems

从“为什么不从零写训练程序”出发，认识张量、操作、计算图、模型推理和模型训练这些框架概念。课堂关注框架如何把复杂模型组织成可运行、可调试、可复用的计算过程。

• CMU 15-642 Machine Learning Systems
• Stanford CS149 Parallel Computing

进一步追问框架背后如何工作：计算图如何构建和执行，自动求导为什么能支持训练，设备管理、算子执行和运行时系统如何影响性能。重点是把“好用的框架”连接到底层系统设计。

• CMU 15-642 Machine Learning Systems
• Stanford CS149 Parallel Computing

从普通处理器如何执行程序讲起，再比较向量处理器和深度学习处理器为什么更适合大量相似计算。课堂用矩阵运算、内存访问和并行任务解释 AI 算力为什么不能只靠普通 CPU。

• Stanford CS149 Parallel Computing
• CMU 15-418/15-618 Parallel Computer Architecture and Programming

拆解 AI 芯片内部最关键的三件事：计算单元如何做矩阵运算，存储系统如何喂数据，通信结构如何让多个单元协作。重点理解速度瓶颈常常来自计算、存储和通信的配合。

• Stanford CS149 Parallel Computing
• Berkeley CS267 Applications of Parallel Computers

讨论当系统里有 CPU、GPU、AI 芯片和不同存储层次时，程序员和框架如何表达计算任务。课堂会联系异构编程、运行时、调试和性能调优，但重点放在“不同硬件如何协同完成 AI 计算”。

• CMU 15-642 Machine Learning Systems
• Berkeley CS267 Applications of Parallel Computers

从大模型训练为什么昂贵切入，理解训练场景中的数据、GPU 集群、通信、系统软件、失败重跑和能耗。重点是把“大模型很大”具体化为系统资源和工程协同问题。

• CMU 11-868 Large Language Model Systems
• CMU 15-642 Machine Learning Systems

通过一次 AI 助手对话，拆解上下文读取、KV cache、批处理、延迟、吞吐、部署成本和用户体验之间的权衡。课堂也会讨论未来智算系统在能耗、安全、可靠性和社会影响上的长期问题。

• CMU 11-868 Large Language Model Systems
• Stanford CS336 Language Modeling from Scratch
• MIT 6.033 Computer System Engineering

结合课程大作业中的典型应用案例，回看智能计算系统的整体链条：数据、模型、框架、芯片、网络、云、成本、能耗和可靠性如何共同决定一个 AI 应用的体验。课堂可安排典型作业讨论、Panel 或开放问答。

• MIT 6.033 Computer System Engineering
• CMU 15-642 Machine Learning Systems