ML不確実性定量化
ML不確実性定量化の理論基礎
概要
機械学習の予測に「不確実性」があるって、どういうことですか？
CAEでMLサロゲートモデルを使うとき、予測値だけでなく「その予測がどれくらい信頼できるか」を同時に出力することが重要だ。不確実性定量化(UQ)は、予測に信頼区間を付ける技術で、意思決定の信頼性を担保する。
なぜCAEで特に重要なんですか？
安全率の設定や規格適合判定には予測値だけでなく誤差幅が必要だからだ。MLモデルが「この部品の最大応力は200 MPaです」と言うだけでは不十分で、「200 MPa ± 15 MPa（95%信頼区間）」と言えなければ設計判断に使えない。
不確実性の分類
不確実性にも種類があるんですか？
大きく2種類に分けられる。
- アレアトリック不確実性（偶然的不確実性）: データ自体に内在するノイズ。測定誤差や製造ばらつきに起因する。データを増やしても減らない
- エピステミック不確実性（認識論的不確実性）: モデルの知識不足に起因する不確実性。学習データが少ない領域で大きくなる。データを増やせば減らせる
数式ではどう分離するんですか？
MCドロップアウトやDeep Ensembleを使って分離する。$T$回のフォワードパスの予測を$\hat{y}_t$、各パスの予測分散を$\hat{\sigma}_t^2$とすると、
第1項はモデルパラメータの不確かさに起因する分散、第2項はデータノイズに起因する分散だ。
ベイズ推論の枠組み
ベイズ的なアプローチとの関係を教えてください。
厳密なベイズ推論では、パラメータ $\theta$ の事後分布 $p(\theta|\mathcal{D})$ を求め、予測分布を積分で計算する。
しかしこの積分は解析的に解けないので、MCドロップアウト（ドロップアウトをベイズ近似と解釈）やDeep Ensemble（複数モデルの予測分布で近似）を使う。ガウス過程回帰は自然にこの枠組みに収まるが、大規模データではスケーラビリティが課題になる。
ベイズ統計とML不確実性——「確率としての予測」の哲学
「このシミュレーション結果はどのくらい信頼できるか」——この問いに正面から向き合うのがML不確実性定量化（UQ）の理論だ。従来のニューラルネットは点推定（単一の答え）を返すだけで、信頼区間を提供しない。ベイズニューラルネット（BNN）はモデルのパラメータ自体を確率分布として扱い、「答えの分布」を出力する。理論的には美しいが、パラメータが数百万個のNNでは真の事後分布の計算は不可能（NP困難）なため、変分推論（ELBO最大化）やMCMCによる近似が使われる。CAE応用では、クラッシュシミュレーションの応力ピーク予測に対して「95%信頼区間で±15MPa以内」という形の出力が保険・認証の文脈で求められており、規制当局からの圧力がUQ研究を加速させている。
ML不確実性定量化の数値計算手法
主要手法の実装
具体的にどうやって実装するんですか？
代表的な手法をまとめよう。
| 手法 | 原理 | 実装の容易さ | 計算コスト |
|---|---|---|---|
| MCドロップアウト | 推論時もドロップアウトを有効にしT回予測 | 簡単 | T倍 |
| Deep Ensemble | M個の独立したモデルを学習 | 中程度 | M倍 |
| ベイズNN (VI) | 変分推論でパラメータの事後分布を近似 | 難しい | 2〜3倍 |
| ガウス過程回帰 | カーネル法による非パラメトリック回帰 | 中程度 | $O(N^3)$ |
| Evidential DL | Dirichlet分布でアレアトリック/エピステミックを同時推定 | 中程度 | 1倍 |
MCドロップアウトが一番手軽そうですね。
その通り。既存のドロップアウト付きNNがあれば、推論時にmodel.train()モードのままT回（50〜100回）予測するだけだ。平均が予測値、分散が不確実性になる。ただしドロップアウト率の設定がキャリブレーションに影響するので注意が必要だ。
キャリブレーション
不確実性の推定が「正しい」かどうかはどう確認するんですか？
キャリブレーション(較正)が重要な概念だ。95%信頼区間に実際のデータが95%含まれていれば、モデルは「well-calibrated（よく較正されている）」と言える。
- キャリブレーション曲線: 期待信頼度と実際のカバー率をプロットする
- Expected Calibration Error (ECE): キャリブレーションの定量指標
- 温度スケーリング: 後処理でキャリブレーションを改善する手法
較正がずれているとどうなるんですか？
過信（信頼区間が狭すぎる）は危険だ。例えば「95%信頼区間」と称しているのに実際は70%しかカバーしていなければ、設計判断を誤る。温度スケーリングは出力層のロジットを温度パラメータ$T$で割るだけの簡単な後処理だが、キャリブレーション改善に非常に有効だ。
出力形式の設計
CAEエンジニアが使いやすい出力形式はどうすればいいですか？
ドロップアウトを推論時にオンにする——MCドロップアウトのトリック
ベイズニューラルネットの近似法として実装が最も簡単なのが「MCドロップアウト」だ。2016年にGal & GhahramaniがNIPSで発表したこの手法、既存のドロップアウト付きNNの推論時にドロップアウトをオフにせず（通常は推論時オフ）、T回の確率的フォワードパスを実行してその分散を不確実性の代理指標として使う。実装は数行のコード変更で済む点が圧倒的な強みだ。ただし落とし穴もある：ドロップアウト率が低いと不確実性が過小評価され、高いと精度が落ちる。CAEのサロゲートモデルに適用する際は、訓練データが少ない入力空間の端（外挿領域）では不確実性が正しく大きくなることを検証テストとして必ず実施すべきで、これを怠ると「信頼できそうで信頼できない」モデルが生まれる。
ML不確実性定量化の実務適用
実務での活用フロー
実務でUQ付きMLモデルを使う手順を教えてください。
1. 学習データの不確実性を把握する: まず入力データ（材料定数、荷重等）の不確かさと、出力データ（FEM解）のメッシュ誤差を定量化する
2. UQ対応のMLモデルを選択する: Deep Ensemble（実装が比較的容易で性能が安定）が第一候補
3. キャリブレーションを検証する: テストデータで信頼区間のカバー率を確認する
4. 設計判断基準を設定する: 不確実性を含めた安全率の設定方法を事前に決める
5. モニタリングを継続する: 運用中にキャリブレーションが維持されているか定期的に確認する
ベストプラクティス
失敗しないためのポイントは何ですか？
活用事例
具体的にどんな効果がありますか？
| 場面 | UQなし | UQあり |
|---|---|---|
| サロゲート最適化 | 最適解が非物理的な領域に収束 | 不確実性が大きい領域を回避して信頼性の高い最適解を得る |
| デジタルツイン | 予測の信頼性が不明 | 予測精度が低下した箇所をアラートとして通知 |
| 安全評価 | 点推定値で安全率を判定 | 予測分布の上側確率で安全率を判定 |
| 能動学習 | 次のサンプル点を適当に選択 | 不確実性最大の点を選択して効率的にデータ収集 |
核融合炉設計とUQ——「計算できない未知」を数値化する挑戦
核融合炉の設計は不確実性の塊だ。プラズマの挙動は非線形かつカオス的で、材料特性は高中性子線照射環境での実測データが極めて少ない。EUROFUSIONプロジェクトでは、ITERの第一壁（プラズマと接触する炉壁）の熱負荷解析に対してGaussian Process回帰ベースのUQを適用している。物理パラメータの不確実性分布を設定し、数千回のモンテカルロサンプルをGPサロゲートで評価することで、炉壁が溶損するリスクの確率分布を推定する。実用上のポイントは「パラメータの不確実性設定」が結果を大きく左右する点——材料の熱伝導率に±10%の不確実性を仮定するか±30%にするかで設計判断が変わる。専門家の主観的判断をどうベイズ事前分布に落とし込むかが腕の見せどころだ。
ML不確実性定量化のソフトウェア比較
商用ツールでUQに対応しているものはありますか？
Ansys optiSLangがCAE向けUQの代表格だ。サロゲートモデル構築からメタモデルの精度評価、感度解析、信頼性解析まで一貫して対応している。MATLAB + UQLabも学術系では広く使われている。
選定の指針
どう選べばいいですか？
Dakota と UQLab——UQツールの二大巨頭を比較する
ML不確実性定量化の実装には専用フレームワークが便利だ。代表的なのはSandia国立研究所が開発した「Dakota」で、多次元サンプリング（ラテンハイパーキューブ、疎グリッドなど）からGPサロゲート、感度解析まで一通りの機能を無料で使える。設計最適化との統合が強みで、核・航空宇宙分野での実績が豊富だ。一方、スイスETHチューリッヒ発の「UQLab」はMATLABベースで学習コストが低く、機械系エンジニアにとっつきやすい。Pythonユーザーにはchaospy・OpenTURNS・SALibの組み合わせが人気で、Scikit-learnとの連携もスムーズ。商用ではAnsys optiSLang（旧SoSNoW）がGUIベースのUQをサポートしており、大規模モデルへの適用では計算コストの試算機能が重宝する。
ML不確実性定量化の先端研究
最新研究動向
この分野の最先端ではどんな研究が行われていますか？
Conformal Prediction
分布フリーの不確実性定量化として注目されている。学習データの残差の分位点を使って、任意の信頼水準の予測区間を構成する。モデルの分布仮定を必要としないので、どんなMLモデルにも後付けできるのが強みだ。CAEのサロゲートモデルへの適用が増えている。
Neural Process
ガウス過程のニューラルネットワーク版とも言える手法。コンテキストデータ（既知の入出力ペア）からメタ学習的に予測分布を生成する。少数データからの不確実性推定に優れ、CAEのアダプティブサンプリングとの相性が良い。
UQの標準化
ASME V&V 20やNAFEMSのガイドラインでは、シミュレーション結果の不確かさ定量化が求められている。MLサロゲートモデルのUQがこれらの枠組みにどう位置づけられるかの議論が活発化している。
今後の方向性はどうなりますか？
コンフォーマル予測——「カバレッジ保証」という革命的な保証
ベイズ的手法に代わる新潮流として「コンフォーマル予測（Conformal Prediction）」が急速に注目を集めている。この手法の強みは、モデルの仮定（ガウス分布など）に依存せず、「有限のキャリブレーションデータさえあれば予測区間が有効なカバレッジ（例えば90%）を保証できる」という統計的に厳密な保証を提供できる点だ。2023年、MITのグループはコンフォーマル予測をCFDサロゲートモデルに適用し、乱流翼型の揚力係数予測に対して「90%の確率で真値を含む区間」を保証する予測区間を生成することに成功した。認証が厳しい航空宇宙・医療機器分野では「確率論的保証」を要求される場面が多く、コンフォーマル予測はこれらの分野のCAEに極めて相性が良い。
ML不確実性定量化のトラブル対応
よくある問題と対策
UQ付きMLモデルを実装してみて問題が出たらどうすればいいですか？
典型的なトラブルを紹介しよう。
1. 不確実性が一様に大きい（情報がない状態と変わらない）
原因と対策:
- ドロップアウト率が高すぎる。0.5ではなく0.1〜0.2から試す
- Ensembleのメンバー数が少なすぎる。5個以上にする
- モデルの表現力が不足。より大きなネットワークにする
2. 不確実性が一様に小さい（過信状態）
原因と対策:
- キャリブレーションがずれている。温度スケーリングで後処理する
- 学習データのノイズが過小評価されている。データのアレアトリック不確実性を確認する
- モデルの正則化が弱い。Weight decayやドロップアウトを追加する
3. キャリブレーション曲線が対角線からずれている
原因と対策:
- 過信の場合（曲線が対角線の下）: 温度パラメータを上げる、またはPlatt scalingを適用する
- 過小信頼の場合（曲線が対角線の上）: 温度パラメータを下げる
- Isotonic regressionでノンパラメトリックにキャリブレーションを修正することもできる
外挿領域では不確実性が正しく大きくなりますか？
Deep Ensembleは外挿領域でエピステミック不確実性が増大する傾向があるが、保証はない。MCドロップアウトは外挿に対する不確実性の増大が弱いことが知られている。確実に外挿を検知したい場合は、入力空間のカバー率チェックを別途実装することを推奨する。
4. 計算コストが許容できない
対策:
- MCドロップアウトのT回数を減らす（100→20で十分な場合もある）
- Ensembleの推論をバッチ並列化する
- Evidential Deep Learningのような単一フォワードパス手法に切り替える
GPサロゲートが「自信満々に間違える」——外挿領域の危険性
Gaussian Process（GP）サロゲートは理論上、訓練データから離れた領域（外挿）では不確実性が自動的に大きくなる——はずだ。しかし実務ではこれがうまく機能しないケースがある。例えばカーネル関数の選択が誤っていると（RBFカーネルを使ったのに実際の応答が周期的な場合など）、外挿領域でも不確実性が過小評価される。ある航空エンジンの冷却孔設計最適化プロジェクトでは、GPサロゲートが訓練範囲外の形状パラメータに対して「信頼区間が狭い、かつ大幅に外れた予測」を返し続けた。原因はRBFカーネルの長さスケールが訓練データの範囲に過剰適合していたこと。対策として「leave-one-out cross-validationで定期的にカーネルを再最適化する」と「設計空間の境界付近は強制的に実際のCAEで計算し直す」の2つを組み合わせた。
構造解析の収束問題や計算コストに課題を感じていませんか？ — Project NovaSolverは、実務者が日々直面するこうした課題の解決を目指す研究開発プロジェクトです。
ML不確実性定量化の実務で感じる課題を教えてください
Project NovaSolverは、CAEエンジニアが日々直面する課題——セットアップの煩雑さ、計算コスト、結果の解釈——の解決を目指しています。あなたの実務経験が、より良いツール開発の原動力になります。
お問い合わせ（準備中）関連トピック
なった
詳しく
報告