ML不确定性量化 — 故障排除指南
本文已转移至综合版
更多充实的内容请参见 uncertainty-ml.html。
更多充实的内容请参见 uncertainty-ml.html。
问题解决提示
常见问题和解决方案
实现带有UQ的ML模型时出现问题该怎么办？
让我介绍一些典型的故障。
1. 不确定性均匀较大（与无信息状态相同）
原因和解决方案:
- Dropout比率过高。尝试0.1~0.2而不是0.5
- 集合成员数过少。使用5个或更多
- 模型表达能力不足。使用更大的网络
2. 不确定性均匀较小（过度自信状态）
原因和解决方案:
- 校准偏差。使用温度缩放进行后处理
- 学习数据的噪声被低估。确认数据的任意性不确定性
- 模型正则化较弱。添加权重衰减或Dropout
3. 校准曲线偏离对角线
原因和解决方案:
- 过度自信的情况（曲线在对角线下方）：提高温度参数或应用Platt缩放
- 信心不足的情况（曲线在对角线上方）：降低温度参数
- 也可以使用同位回归进行非参数校准修正
在外推区域中，不确定性是否正确增加？
Deep Ensemble在外推区域中趋向于增加认知不确定性，但这并不是保证。已知MC Dropout在外推中的不确定性增长较弱。如果您想确保可靠地检测外推，建议单独实现输入空间覆盖率检查。
4. 计算成本不可接受
对策:
- 减少MC Dropout的T次数（100→20在许多情况下就足够了）
- 并行化集合推理批处理
- 切换到证据深度学习等单一前向传递方法
Coffee Break 闲话
高斯过程代理"自信地犯错"——外推区域的危险性
高斯过程（GP）代理理论上应该在远离训练数据的区域（外推）自动增加不确定性——应该这样。但在实际应用中，这种方法在许多情况下不起作用。例如，如果核函数的选择不正确（在使用RBF核时，实际响应是周期性的），外推区域中的不确定性仍可能被严重低估。在某个航空发动机冷却孔设计优化项目中，GP代理对训练范围外的形状参数持续返回"信心区间狭窄且预测结果偏离很大"的结果。原因是RBF核的长度尺度过度拟合了训练数据范围。应对措施包括"定期使用留一法交叉验证重新优化核"和"在设计空间边界附近强制使用实际的CAE计算重新计算"的组合。
AI×CAE仍是发展中领域。 — Project NovaSolver正在探索机器学习与传统求解器融合所带来的可能性。
与实务工作者共同思考CAE的未来
Project NovaSolver致力于面对ML不确定性量化中的实际问题，创造支持工程实践的工具。
查看项目最新信息 →相关主题
本文评价
感谢您的反馈！
有帮助
需要更多
详情
详情
报告
错误
错误