PCMM(预测能力成熟度模型)
理论:六个要素、四个等级
概述
上司问我“这个仿真能信到什么程度?”,我答不上来。
PCMM正是回答这个问题的工具。它由美国桑迪亚国家实验室于2007年前后提出,把信任仿真的依据分为六个要素,各按0到3四个等级评价。重要的不是分数本身,而是弄清楚“与该决策所需水平相比,哪里不足”。
六个要素
| 要素 | 内容 |
|---|---|
| 表示与几何保真度 | 几何与零件省略与实物的接近程度 |
| 物理与材料模型保真度 | 物理模型与物性的依据 |
| 代码验证 | 程序是否正确求解方程 |
| 解验证 | 离散误差与迭代误差的估计 |
| 模型确认 | 与试验比较 |
| 不确定度与敏感性 | 输入离散对结果的影响 |
每个要素按四个等级评价:0(仅凭个人判断)、1(非正式评估、内部确认)、2(一定程度的正式评估、第三方确认)、3(正式且全面的评估、外部确认)。等级随评估的严谨程度和确认者的独立性而提高。
源于核试验禁令的问题
PCMM诞生的背景是20世纪90年代美国停止核试验。无法再通过试验确认的武器性能与安全性必须靠仿真来保证,于是需要系统地说明“这些计算能信到什么程度”。桑迪亚国家实验室的奥伯坎普等人为此整理了验证与确认(V&V)的思想,PCMM就是成果之一。后来NASA的模型可信度标准和医疗器械的ASME V&V 40也继承了同样的思想。
算例:电子设备机箱热分析
评价了预测电子设备机箱内最热元件温度的热流体分析模型:
| 要素 | 评价 | 常规设计决策 | 安全相关决策 |
|---|---|---|---|
| 几何保真度 | 2 | 1 | 2 |
| 物理/材料模型 | 1 | 1 | 2(不足) |
| 代码验证 | 1 | 1 | 2(不足) |
| 解验证 | 2 | 1 | 2 |
| 模型确认 | 1 | 1 | 2(不足) |
| 不确定度/敏感性 | 0 | 1(不足) | 1(不足) |
| 平均(仅供参考) | 1.17 | 1.00 | 1.83 |
平均1.17,高于常规设计所需的1.00。那就够了吧?
这正是最不该有的解读。几何做得再仔细,也弥补不了没有研究不确定度。各要素之间不能互相弥补,所以不取平均。逐项看表,即使是常规设计,不确定度与敏感性也为0,未达到要求的1。安全相关决策则有4项不足。PCMM的价值就在于能具体看清“下一步该做什么”。
例2:建立等级的依据
作为解验证的依据,用逐次加密2倍的三级网格求最热元件温度,从粗到细为75.8、72.6、71.8 ℃。收敛阶2.00,外推值71.53 ℃,细网格GCI为0.46%(±0.33 K),相当于相对25 ℃环境的温升的0.7%。
模型确认时,与样机测量值70.1 ℃(测量不确定度±1.5 K,2σ)比较,差 $E$ 为1.7 K。数值不确定度0.17 K、测量0.75 K、输入(发热量与物性离散)0.8 K合成的确认不确定度为1.1 K,差是它的1.5倍。差没有大幅超出不确定度范围,但提示模型可能有1~2 K左右的误差。
评价步骤
- 写出仿真要支持的决策,以及决策失误时的影响。
- 根据影响大小确定六个要素各自的要求水平(不一定都相同)。
- 带依据地评价现状,没有依据的等级不给。
- 逐项与要求水平比较,为不足项制定工作计划。不取平均。
- 把评价形成文档,并接受第三方确认。
“全都填了2”
某部门首次引入PCMM时,提交的评价表几乎所有要素都是2。追问依据时,既没有网格加密计算,也没有与试验比较的记录;评价者认为“用的是通用方法”。PCMM的等级不取决于方法是否通用,而取决于实际进行的评估以及确认者的独立性。把依据资料(网格比较、试验比较、敏感性结果)与评价表关联起来,就能防止这种自我评价的虚高。
常见错误
错误与对策
| 错误 | 后果 | 对策 |
|---|---|---|
| 平均分数 | 掩盖缺失要素 | 逐项与要求比较 |
| 无依据评级 | 评价虚高 | 关联依据资料 |
| 不定要求就评价 | 无法判断是否足够 | 先按决策影响确定要求 |
| 把PCMM当合格判定 | 与数值精度混淆 | 作为成熟度评估使用 |
| 评价后不更新 | 模型变更未反映 | 每次变更时复查 |
我想试试建立依据的计算。
可以用Richardson外推工具试网格收敛,用不确定度传播计算和Sobol敏感性指标工具试不确定度与敏感性。步骤参考GCI、解验证和确认度量,医疗器械的用法参考ASME V&V 40。