01
验证一次反向传播
写出一个含乘法和加法的计算图，对比自动梯度与有限差分的结果。
完成标准保留输入、两组梯度与误差；能解释每个节点的链式法则。
前置知识
能读写 Python，了解函数与列表；遇到导数和张量运算时，可以边学边补。
设备与环境
基础实验可从 CPU 或 Notebook 开始；GPT 实验按设备缩小模型和训练规模。
获取与费用
公开视频与配套代码；观看平台的网络可用性需自行确认。
READ WITH A QUESTION
本站建议 · 可按已有能力跳读推荐阅读顺序
LEARN BY BUILDING
— / 3 已完成给学习一个完成标准
完成下面的实验并检查结果后，再勾选任务。你可以随时取消勾选。
02
训练一个小语言模型
跟随 makemore，划分训练集与验证集，记录损失并生成样本。
完成标准能解释 next-token 目标；提交损失记录、数据划分和至少三段生成样本。
03
做一次分词往返
用包含中文、英文和 emoji 的小文本测试 encode / decode，观察 token 切分。
完成标准解码后还原原文；能说明字符数与 token 数为什么不同。
勾选记录仅保存在当前浏览器，不会同步到账号或其他设备。
来源与版本说明
按仓库课程目录整理。本站将练习划成三个检查点，不代表课程官方考核。
官方资料核对于 2026-10-13 · 实践任务与完成标准为本站原创整理