Appearance
第 03 章配套代码
正文先讲清一次训练,再讨论三个应用。本目录保留从原稿提取的纯 Python 网络模块和完整案例,便于直接运行或逐行查阅。
从本目录运行程序。先确认终端当前目录为 03_神经网络与反向传播/revised_code,再执行:
bash
python3 demo_one_step.py应得到:
text
预测:0.640796 -> 0.588616
损失:0.028991 -> 0.017788文件与正文的对应
| 文件 | 内容 | 正文位置 |
|---|---|---|
| nn.py | 矩阵工具、激活函数、MLP、反向传播、批量训练和梯度检查 | 3.6、3.7,附录 B |
| demo_one_step.py | 固定手算参数,完成一次预测、求导和更新 | 3.2—3.5、3.7.1 |
| demo_xor.py | 无隐藏层与有隐藏层网络的 XOR 对比 | 3.7.3 |
| demo_delaney_mlp.py | ESOL 溶解度的线性基线与 MLP | 3.8.1 |
| check_esol_comparisons.py | 固定划分、改变训练种子,以及最小二乘线性对照 | 3.8.1.3 |
| demo_lennard_jones.py | 能量拟合、势阱位置、受力差分与区间外预测 | 3.8.2 |
| demo_vapor_pressure.py | 三种蒸气压模型的训练与外推比较 | 3.8.3 |
| check_gradients.py | 四种网络配置的梯度差分检查 | 附录 B.4 |
| delaney-processed.csv | 本章已有的 1128 个分子及预计算描述符 | 3.8.1 |
运行案例
核心网络、手算、XOR、势能、蒸气压和梯度检查均只用 Python 标准库:
bash
python3 check_gradients.py
python3 demo_xor.py
python3 demo_lennard_jones.py
python3 demo_vapor_pressure.py程序打印预测和评价指标;纯 Python 的逐样本循环速度较慢,部分案例需要等待。正文中的势能和蒸气压图使用已有插图,这两个案例脚本打印相应数值。
ESOL 描述符已经包含在 CSV 中,无需为了运行本例再安装 DeepChem 或 RDKit:
bash
python3 demo_delaney_mlp.py可选安装 Matplotlib 以生成当前目录下的 esol_parity.png。未安装时,训练与指标仍可计算,程序会报告绘图失败。
补充对照需要 NumPy 求解最小二乘问题:
bash
python3 check_esol_comparisons.py该程序保持数据划分种子为 42,将模型初始化与训练顺序种子分别取 0—4,报告均值和样本标准差(分母为运行次数减一)。它不会用测试集选择最佳随机种子。最小二乘对照使用相同五个描述符、划分和标准化,并包含截距。
读实现的顺序
先读 MLP.forward、MLP.loss_and_delta、MLP.backward 和 MLP.train,再查矩阵工具与初始化。self.W[0] 对应正文第一层权重,activations[0] 是输入。
backward 返回单个样本的损失与梯度,不更新参数;train 对批内样本梯度取平均再更新。训练历史记录的是各批次更新前损失的平均值,最终指标要用训练结束后的参数重新计算。
数值核验
2026 年 10 月 28 日复跑原稿程序,XOR 与三个案例的主要结果在正文显示精度内一致。四种梯度检查的最大相对误差约为 9.62e-9、9.36e-9、1.13e-8、4.83e-8。数值差分对浮点舍入敏感,不同运行环境可能产生末位差异。
补充对照也已复跑:种子 2 的 RMSE 为 0.8764925924,最小二乘基线的 RMSE 为 1.2314856707。正文按三位小数分别报告为 0.876 与 1.231,修正原稿中的 0.877 与 1.232。五次训练的均值和样本标准差与原稿显示值一致。
数据、模型宽度、划分、训练轮数和学习率沿用原稿。demo_one_step.py 补上正文手算的参数更新;check_esol_comparisons.py 把原稿报告的补充对照整理为可执行程序。
