ブースティング手法による統計的推論に関する理論的研究とその計算機による実装
【研究分野】統計科学
【研究キーワード】
ブースティング / アンサンブル学習 / ロバスト統計 / 判別分析 / 多値判別 / 不均一分散 / 回帰分析 / ロバスト化
【研究成果の概要】
今年度はアンサンブル学習のひとつであるブースティングについて,数理統計学や機械学習の観点から研究をおこなった.また,ロバスト統計の手法を応用して,回帰分析に新しいデータ解析法を導入した.以下に概要を述べる.
1.ブーステイングの幾何学構造の解明
性能があまり高くない学習方法を組み合わせて,強力な判別関数を構成する手法であるブースティングについて,情報幾何学的な観点から研究をおこなった.とくに多値判別について,既存手法を大幅に一般化する枠組を提供し,多様なノイズに対処可能な学習方法を提案した。
2.ブースティングのロバスト化と有効性の両立についての研究
ブースティングのロバスト化については,すでに本研究課題により研究がすすめられている.外れ値に対してロバストなだけではなく,さらに予測精度が非常に高いブースティング法を数理統計的な観点から提案し,その性能を理論,データ解析の両面から検証した.その結果,高次元大規模データに対して有効な方法であることが確認された.
3.回帰分析に対する新しいデータ解析法の提案
非常に裾が重く非対称性が高いような極めて複雑なノイズのもとで,安定した推定結果を与える学習方法を提案した.提案方法は単純なアルゴリズムで与えられ,計算効率が非常に良い.また既存方法ではノイズの分布に関する精報が必要であったが,提案手法はノイズに対する詳しい情報が得られない状況であっても,信頼性の高い推定結果が得られることが理論的に示された.さらに保険料推定など実データへの適用によって,提案手法が十分に実用的であることが明らにされた.
【研究代表者】
【研究種目】若手研究(B)
【研究期間】2002 - 2004
【配分額】1,600千円 (直接経費: 1,600千円)