全部记录
- 01
DDA5001 HW3 复习笔记：正则化、PCA 与神经网络
从带噪声的多项式拟合到特征脸，再用手写数字实验理解线性层、ReLU 和验证集选模型。
- 02
CSC5001 期中复习：从读题到写证明
期末复习可回查的 CSC5001 笔记，整理递推式证明、线性选择、FFT、动态规划、最短路径和并查集。
- 03
DDA5001 HW2 复习笔记：从 Softmax 到过拟合
从分类分数和训练误差讲起，重新推一遍交叉熵梯度、Legendre 回归与样本外误差，再用实际热力图理解过拟合。
- 04
DDA5001 HW1：从最小二乘到 Pocket
把 HW1 里的秩与零空间、最大似然、Huber、感知机收敛和 Pocket 串起来，重点记录做题时真正卡住的地方。
- 05
CS336 学习记录 02：Resource Accounting
第二节从浮点数、FLOPs 和 Roofline，一路算到反向传播、训练显存、梯度累积和 activation checkpointing。开头整理了一张公式速查卡和两道 napkin math 例题，正文保留推导过程。
- 06
CS336 学习记录 01：Overview 与 Tokenization
从课程 Overview 到 Tokenization，我开始重新理解 token、scaling、data、alignment，以及为什么效率本身就是大模型训练的一部分。开头整理了 scaling law、tokenizer 和 post-training 的速查表。
- 07
RIG-Creature：先把身体做对，再谈“活着”
第一次把 RIG-Arm 的真实结构、运动学和 MuJoCo 视觉模型对到一起。
- 08
learn-dsh：先把 DSH 做成一门课，再验证它能不能真的教会人
一个把 DSH、教材、Teacher、Student、Builder 和 Trajectory 放进同一个工作区的交互式 Harness Engineering 课程。Ch00–Ch05 已完成第一轮实现，但教学质量还在验收。