Q: 为什么把h取得过小反而会增大数值误差？

当h极小（如h < 10⁻¹²）时，f(x+h)与f(x)在浮点表示中几乎相等。相减时发生灾难性抵消，损失有效数字。由此产生的舍入误差以O(ε/h)增长。在双对数图上，这表现为小h处向上倾斜的直线。IEEE 754双精度的机器精度ε = 2.22e-16设定了这个下限。

Question 1

中心差分的最优步长h如何确定？

Accepted Answer

一阶中心差分的总误差是截断误差O(h²)和舍入误差O(ε/h)之和。最小化得到h_opt = (3ε/|f'''|)^(1/3) ≈ ε^(1/3) ≈ 6×10⁻⁶（float64，ε ≈ 2.22e-16）。最小可达误差约为ε^(2/3) ≈ 10⁻¹⁰–10⁻¹¹。在双对数图上，这个最优点出现在V形曲线的底部，即截断误差和舍入误差贡献相等处。

Question 2

什么时候应该使用四点O(h⁴)中心差分格式？

Accepted Answer

当需要高精度数值微分（如灵敏度分析、雅可比矩阵计算）时，四点中心格式[-f(x+2h)+8f(x+h)-8f(x-h)+f(x-2h)]/(12h)效果最佳。然而，其较大的模板系数使其更容易受到舍入误差影响，将最优h移至约10⁻⁴附近。对于日常CAE雅可比计算，h = 10⁻⁵的中心差分通常已足够精确。

Question 3

中心差分比前向差分精度高多少？

Accepted Answer

在相同步长h = 10⁻³时，前向差分（O(h¹)）误差约为10⁻³，而中心差分（O(h²)）误差约为10⁻⁶——精度约高1000倍。中心差分需要两次函数评估，前向差分只需一次。在计算成本关键的CFD迭代求解器中通常使用前向差分；对于后处理灵敏度分析则优选中心差分。

Question 4

为什么把h取得过小反而会增大数值误差？

Accepted Answer

当h极小（如h < 10⁻¹²）时，f(x+h)与f(x)在浮点表示中几乎相等。相减时发生灾难性抵消，损失有效数字。由此产生的舍入误差以O(ε/h)增长。在双对数图上，这表现为小h处向上倾斜的直线。IEEE 754双精度的机器精度ε = 2.22e-16设定了这个下限。

数值微分截断误差与精度阶次可视化

函数设置

差分格式

舍入误差常数

|误差| vs 步长 h (log-log) — 截断误差 vs 舍入误差的平衡

模板可视化（f(x) 邻域）

误差分解：截断误差 vs 舍入误差（中心差分）