【研究領域課題番号】22H03653 (KAKENデータベースで見る）

【研究キーワード】

機械学習 / 情報幾何 / 転移学習

【研究種目】基盤研究(B)

【研究期間】2022-04-01 - 2027-03-31

【配分額】16,510千円 (直接経費: 12,700千円、間接経費: 3,810千円)

【研究領域課題番号】19H04071 (KAKENデータベースで見る）

【研究キーワード】

機械学修 / 数理統計学 / 最適化 / 機械学習 / 最適輸送 / 多ドメインデータ / 転移学習 / 情報転送

【研究成果の概要】

本年度は，多ドメイン学習において不変性に着目した新しい学習パラダイムの端緒となる研究を開始し，数値的にそのアイデアの有用性を確認した．まず，ドメイン間の違いをデータ分布の違いとして定式化し，ドメイン間の乖離度を適切に計測するための理論的基礎を構築することを目指し，共同研究者らと議論を行った．データの標本空間がドメイン間で共有されている場合には，標準的な方法を用いることが可能である．例えば，高度に発展している統計的ダイバージェンスによる方法などがある．ダイバージェンスについては生成モデルに対する深層ニューラルネットワークによる推定法の進展があり，そのアイデアを用いてさらに複雑なデータドメインを扱うための統計的方法を構築するなどの方向性について集中的に考察した．また，単ドメインにおいて深層ニューラルネットワークでデータ解析を行う学習アルゴリズムをに対して，不確実性を評価するための実践的方法について研究を進めた．深層ニューラルネットワークの学習では，過学習を避けるためにドロップアウトと呼ばれる学習が用いられることがよくあるが，そこではアルゴリズムにランダムネスが導入される．そのランダムネスを事前分布として解釈することでベイズ事後分布を近似的に計算することが可能になる．既存研究のこれらの発展を受け，我々の研究グループでは深層ニューラルネットワークの各層を信号が伝播するときの不確実性を逐次的に計算する手法を開発した．これにより，データを能動的に取得して学習することで必要なデータ数を大幅に削減する能動学習を高い信頼性で実行することが可能になる．通常用いられるフィードフォワード型だけでなく，レカレント型のニューラルネットワークに対しても同様の不確実性評価の方法を確率した．

【研究種目】基盤研究(B)

【研究期間】2019-04-01 - 2024-03-31

【配分額】17,290千円 (直接経費: 13,300千円、間接経費: 3,990千円)

【研究領域課題番号】19K12094 (KAKENデータベースで見る）

【研究キーワード】

動的システム学習 / 健全性監視 / 異常検知 / 転移学習 / 教師なし学習 / システム同定 / 生成モデル / 機械学習 / 予防保全 / 人工知能

【研究成果の概要】

近年、IoTに代表される計測通信技術の普及と、深層学習を含む機械学習の発展が相まって、大規模かつ複雑な人工システムの健全性監視において、データ駆動型のアプローチ、すなわち、過去の膨大なデータからシステムの挙動モデルを統計的に学習して健全性の監視に利用するアプローチが大きな期待を集めている。本研究では、このデータ駆動型健全性監視が抱える2つの問題に焦点を当てている。第一の問題は、現実の人工システムにおいては事前に十分な量と質を兼ねた訓練データを入手することが容易でなく、特に、異常や不具合に関するデータはほとんど存在しないという点である。第二の問題点は、膨大なデータに対して機械学習を適用することによって得られた帰納的モデルが必ずしも専門家が持つドメイン知識と整合しないため、実世界での利用に耐えるだけの説明性を有さないことである。これら２つの問題を解決するため、本研究では、データ駆動健全性監視のための転移学習法を開発すること、および、工学者・専門家にとって解釈性の高い潜在変数-状態空間モデルと最新の機械学習手法との融合を図ることでデータ駆動健全性監視の説明性を実現することを目的とする。
本課題３年度目である2021年度は、前年度から引き続き状態空間モデルと生成的な
深層学習モデルを融合することにより、自然法則やシステム固有のダイナミクスに関する事前知識をモデルに埋め込みつつ、高次元時系列データ入力からシステムの内部状態遷移を推定・監視する技術の開発に取り組んだ。また、変分自己符号器の訓練に自己教師あり学習を用い、地球周回の人工衛星に本来備わる周期性を事前知識として利用することによって、潜在変数空間の各次元が解釈可能になることを示した。

【研究種目】基盤研究(C)

【研究期間】2019-04-01 - 2023-03-31

【配分額】4,290千円 (直接経費: 3,300千円、間接経費: 990千円)

【研究領域課題番号】19K12173 (KAKENデータベースで見る）

【研究キーワード】

転移学習 / 認知心理学モデル / プロトタイプ理論 / 機械学習 / 強化学習 / マルチエージェントロボットシステム / マルチエージェント強化学習 / マルチロボット強化学習 / 認知的経済性

【研究成果の概要】

転移学習を用いた強化学習ロボットの認知的経済性を実現するため，学習知識のカテゴリ化とプロトタイプの抽出，知識選択の高速化について検討した．最短経路探索を対象に，活性化拡散モデルに基づく知識のネットワーク化，プロトタイプ理論に基づくK-means++を用いた知識のカテゴリ化，カテゴリ内知識の平均化によるプロトタイプ抽出を行い，計算機実験により学習時間の短縮を確認した．計算機クラスタを用いた並列計算による知識選択時の計算高速化を図り，自律移動ロボットに実装し効果を検証した．物体形状のカテゴリ化とプロトタイプ抽出のために，学習による物体のプリミティブ形状認識を行い，形状に適した物体操作を実現した．

【研究の社会的意義】

本研究の最終的な目標は，「直観」や「直感」といったヒトの無意識的な判断機構をモデル化し，学習ロボットに実装することである．これにより，知能ロボットの新たなタスクへの導入時に，環境の拘束条件の緩和，タスク適応的な行動の迅速な獲得，咄嗟の環境条件変化への対応などが期待できる．本研究課題では，その基礎検討として，認知心理学の知見である活性化拡散モデルおよびプロトタイプ理論の導入による強化学習ロボットの効率的かつ高速な知識のカテゴリ化と選択（認知的経済性）の方法について提案し，実験により検証した．本研究課題の成果は，学習ロボットや学習エージェントの実用化・普及への貢献が期待できる．

【研究種目】基盤研究(C)

【研究期間】2019-04-01 - 2022-03-31

【配分額】4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)

【研究領域課題番号】19K22863 (KAKENデータベースで見る）

【研究キーワード】

少量学習データ / ドメイン適応 / 弱教師付き学習 / 半教師付き学習 / Few -Shot学習 / Zero-Shot学習 / 機械学習 / 転移学習 / 弱/半教師付き学習 / Few/Zero-Shot学習

【研究成果の概要】

深層学習は圧倒的な性能を発揮することが知られているが、それは大規模な正解データが入手可能である場合に限られる。裏を返せばそのデータを取得・作成するための時間的・金銭的コストが大きな問題である。物体認識などすでに昔から研究がなされている分野では豊富なデータセットが入手可能である一方、産業界のデータや個人情報が絡む医療データなどは大規模な正解データセットを期待できない場合も多い。本研究ではこの問題を解決するために、ドメイン適応、弱/半教師付き学習、Few/Zero-Shot学習、自己教師あり学習、アンバランス学習など少量かつ偏りのあるデータでも学習可能な種々の要素技術を実現した。

【研究の社会的意義】

前述の通り、深層学習アルゴリズムがその性能を十分に発揮するためには、大規模かつ性格なラベリングがなされた学習データが必要であった。産業応用を考えた場合、新たに大量のデータを収集し、かつそのデータに正解ラベルを付与するコストはあまりにも高い。本研究成果はこの制約を緩和し、少量であったり極端にデータの分布に偏りがあったりしても正しく学習がなされる種々の要素技術を実現したことにある。我々の技術はすでにいくつかは実サービスに応用されており、社会的にも貢献している。

【研究種目】挑戦的研究(萌芽)

【研究期間】2019-06-28 - 2022-03-31

【配分額】6,500千円 (直接経費: 5,000千円、間接経費: 1,500千円)

【研究領域課題番号】19K21686 (KAKENデータベースで見る）

【研究キーワード】

機械学習 / 衛星画像 / 統計的因果推論 / サブサハラ・アフリカ / 開発政策 / 転移学習

【研究成果の概要】

本研究の目的は、衛星画像を用いて行う機械学習が、サブサハラ・アフリカのような統計情報の不足する地域の情報収集のための強力なサポートツールになることを示すことである。入力（衛星画像）に対応する出力（経済的情報）がある時期の情報を教師データとし、出力データのない時期のための予測モデルを構築した。さらに他年度のデータから、予測値パネルデータを構築し、民族優遇に関する仮説を検証した。道路の量、質ともに大統領と同じ民族への優遇があることが確認できた。また、全道路のデータを用いた舗装の有無に関する機械学習の結果、偽陰性率はやや高いものの、偽陽性率のかなり低い予測モデルを構築した。

【研究の社会的意義】

本研究の成果は、途上国のデータが欠損する地域への応用可能性を示したのみならず、我が国にも重要な社会的意義がある。人口減少により政策予算が限られていく我が国にとって、地域間・地域内の輸送コストを管理するための道路資本ストックの維持は最重要課題の一つである。本研究は無料公開されている衛星画像を用いることで、道路の質に関する大規模調査情報からパネルデータを構築できる可能性を示すことができた。大規模道路インフラ調査のためには莫大な費用が必要になるが、衛星画像から一定水準以上の精度で予測値をもとめることで、効率的に道路資本ストックの管理を行えるようになる。

【研究種目】挑戦的研究(萌芽)

【研究期間】2019-06-28 - 2022-03-31

【配分額】6,500千円 (直接経費: 5,000千円、間接経費: 1,500千円)