图片详情
—
Skip to content

第 03 章配套代码 ​

正文先讲清一次训练,再讨论三个应用。本目录保留从原稿提取的纯 Python 网络模块和完整案例,便于直接运行或逐行查阅。

从本目录运行程序。先确认终端当前目录为 03_神经网络与反向传播/revised_code,再执行:

bash
python3 demo_one_step.py

应得到:

text
预测:0.640796 -> 0.588616
损失:0.028991 -> 0.017788

文件与正文的对应 ​

文件内容正文位置
nn.py矩阵工具、激活函数、MLP、反向传播、批量训练和梯度检查3.6、3.7,附录 B
demo_one_step.py固定手算参数,完成一次预测、求导和更新3.2—3.5、3.7.1
demo_xor.py无隐藏层与有隐藏层网络的 XOR 对比3.7.3
demo_delaney_mlp.pyESOL 溶解度的线性基线与 MLP3.8.1
check_esol_comparisons.py固定划分、改变训练种子,以及最小二乘线性对照3.8.1.3
demo_lennard_jones.py能量拟合、势阱位置、受力差分与区间外预测3.8.2
demo_vapor_pressure.py三种蒸气压模型的训练与外推比较3.8.3
check_gradients.py四种网络配置的梯度差分检查附录 B.4
delaney-processed.csv本章已有的 1128 个分子及预计算描述符3.8.1

运行案例 ​

核心网络、手算、XOR、势能、蒸气压和梯度检查均只用 Python 标准库:

bash
python3 check_gradients.py
python3 demo_xor.py
python3 demo_lennard_jones.py
python3 demo_vapor_pressure.py

程序打印预测和评价指标;纯 Python 的逐样本循环速度较慢,部分案例需要等待。正文中的势能和蒸气压图使用已有插图,这两个案例脚本打印相应数值。

ESOL 描述符已经包含在 CSV 中,无需为了运行本例再安装 DeepChem 或 RDKit:

bash
python3 demo_delaney_mlp.py

可选安装 Matplotlib 以生成当前目录下的 esol_parity.png。未安装时,训练与指标仍可计算,程序会报告绘图失败。

补充对照需要 NumPy 求解最小二乘问题:

bash
python3 check_esol_comparisons.py

该程序保持数据划分种子为 42,将模型初始化与训练顺序种子分别取 0—4,报告均值和样本标准差(分母为运行次数减一)。它不会用测试集选择最佳随机种子。最小二乘对照使用相同五个描述符、划分和标准化,并包含截距。

读实现的顺序 ​

先读 MLP.forward、MLP.loss_and_delta、MLP.backward 和 MLP.train,再查矩阵工具与初始化。self.W[0] 对应正文第一层权重,activations[0] 是输入。

backward 返回单个样本的损失与梯度,不更新参数;train 对批内样本梯度取平均再更新。训练历史记录的是各批次更新前损失的平均值,最终指标要用训练结束后的参数重新计算。

数值核验 ​

2026 年 10 月 28 日复跑原稿程序,XOR 与三个案例的主要结果在正文显示精度内一致。四种梯度检查的最大相对误差约为 9.62e-9、9.36e-9、1.13e-8、4.83e-8。数值差分对浮点舍入敏感,不同运行环境可能产生末位差异。

补充对照也已复跑:种子 2 的 RMSE 为 0.8764925924,最小二乘基线的 RMSE 为 1.2314856707。正文按三位小数分别报告为 0.876 与 1.231,修正原稿中的 0.877 与 1.232。五次训练的均值和样本标准差与原稿显示值一致。

数据、模型宽度、划分、训练轮数和学习率沿用原稿。demo_one_step.py 补上正文手算的参数更新;check_esol_comparisons.py 把原稿报告的补充对照整理为可执行程序。

浏览配套文件 ​

《原子智能》· 纸质出版预备版 · PolyAI Team 著