真関数 $y=\sin(x)+0.5\cos(2x)$ に決定論的ノイズを加えた N 個の観測(LCG seed=42 固定)で GP 回帰します。
一時停止中はスライダーを動かすと結果が即座に更新されます。
灰色破線=真関数 $\sin(x)+0.5\cos(2x)$ /黄丸=観測点(1点ずつ追加)/青実線=予測平均 μ(x)/青塗り=95%信頼帯(μ ± 1.96σ)/緑線=事後分布からのサンプル
ガウス過程回帰では、観測点間の共分散をカーネル関数で表し、観測データで条件付けて予測分布を求めます。
RBFカーネル(信号分散 $\sigma_f$、長さスケール $l$):
$$k(x, x') = \sigma_f^2 \exp\!\left(-\frac{(x - x')^2}{2 l^2}\right)$$カーネル行列にノイズ分散を加える($\delta_{ij}$ はクロネッカーのデルタ):
$$K_{ij} = k(x_i, x_j) + \sigma_n^2 \delta_{ij}$$予測点 $x_\ast$ における予測平均と予測分散:
$$\mu(x_\ast) = \mathbf{k}_\ast^\top K^{-1} \mathbf{y}, \qquad \sigma^2(x_\ast) = k(x_\ast, x_\ast) - \mathbf{k}_\ast^\top K^{-1} \mathbf{k}_\ast$$95%信頼区間は $\mu \pm 1.96\,\sigma$。観測点から離れるほど分散が大きくなり、不確かさが自動的に増えるのが特徴です。