重点(Key Points)
清晰定义、核心公式、七组易混淆概念、十大高频错误,以及容易产生误解的简化说法。
计算题实验室(Calculation Lab)
逐步练习反向传播、Softmax、Bayes、Entropy、KL Divergence、Huffman Tree 与 CNN 参数计算,数值、梯度流和可视化同步更新。
训练与反向传播(Backpropagation)
从加权和、预测与损失出发,理解链式法则、误差信号、权重梯度和梯度下降。
概率、损失与贝叶斯推断(Bayesian Inference)
最小二乘、平方误差和、最大似然估计、交叉熵、权重衰减、MAP、Bayes 与 KL 散度。
卷积神经网络(CNN)
局部连接、权重共享、滤波器、特征图、池化,以及输出尺寸和参数量计算。
循环神经网络与注意力机制(RNN & Attention)
隐藏状态、通过时间的反向传播、LSTM、GRU、Seq2Seq、双向 RNN 与注意力机制。
词表示与 Word2Vec
N 元语法、共现矩阵、词嵌入、SVD、CBOW、Skip-Gram 与高效训练方法。
强化学习(Reinforcement Learning)
从马尔可夫决策过程(MDP)、价值函数、Q-learning 与贝尔曼方程,延伸到价值学习、策略梯度和 Actor–Critic。
公式速记(Formula Summary)
集中复习梯度、SSE / CE、Bayes / MAP、CNN、RNN 与 Q-learning 的核心公式。
学习路径
训练与反向传播 → 概率与贝叶斯推断 → 卷积神经网络 → 循环神经网络 → 注意力机制 → 词表示与 Word2Vec → 强化学习 → 公式回顾