情報量規準WBICの高精度化
【研究キーワード】
実対数閾値 / WAIC / WBIC / 汎化誤差 / 自由エネルギー / 特異学習理論 / 代数幾何
【研究成果の概要】
統計的推測において、与えられたデータに対して統計モデルと事前分布の適切さを測る指標のひとつに自由エネルギー(対数周辺尤度の符号反転)がある。自由エネルギーが小さいほど、データ生成分布の周辺確率密度関数と推定された周辺確率密度関数のカルバック・ライブラ距離が平均的に小さくなるので、この最小化を用いて複数の統計モデリングの比較を行うことができるが、その値の算出には一般に膨大な演算量を必要とすることが知られている。この問題を解決するために統計モデルが正則であっても特異であっても自由エネルギーの近似に利用できる広く使えるベイズ情報量規準 WBIC が考案されている。
本研究では情報量規準 WBIC の高精度化を行うことを目標とする。初年度においては次のことを解明した。(1) WBIC の漸近挙動を定めている双有理不変量として実対数閾値がある。混合多項分布の実対数閾値を解明し、事前分布のハイパーパラメータにより相転移を持つことを明らかにした。(2) 縮小ランク回帰モデルにおいて入力の分布が超平面上にあるときの汎化誤差と自由エネルギーの挙動を解明し、その値が入力の見かけの次元には依存しないことを導出した。(3) 回帰関数を推定する問題において、データが独立ではなく、条件つき独立であるときに情報量規準とクロスバリデーションが等価にならない場合があることを明らかにした。
またこれらの研究成果だけでなく、これまでの研究成果を社会全般に還元し広範な用途に役立てるための解説論文の公開も行った。
【研究代表者】
【研究種目】基盤研究(C)
【研究期間】2021-04-01 - 2024-03-31
【配分額】1,820千円 (直接経費: 1,400千円、間接経費: 420千円)