【研究領域課題番号】20K14423 (KAKENデータベースで見る）

【研究キーワード】

機械学習 / 人工ニューラルネットワーク / 強相関電子系 / 手法開発 / 量子多体系 / ニューラル・ネットワーク / ボルツマンマシン / 電子格子相互作用 / フラストレート磁性体 / 第一原理計算 / 物質設計

【研究成果の概要】

本研究の目的の一つは、人工ニューラルネットワーク/機械学習と量子多体論を融合した強力かつ汎用的な強相関数値計算手法を開発することである。その新たな手法と密度汎関数理論などの第一原理計算を組みあわせて、実存する強相関電子系へ適用を行い、高精度な定量計算の実現を目指す。そのため、研究の柱は新たな手法開発である。同時に新手法の精度検証も重要な課題になってくる。

今年度は有限温度計算を可能にする新たな人工ニューラルネットワーク手法の開発に成功した。これまでの人工ニューラルネットワーク手法は、絶対零度で最も安定な基底状態に対する手法開発に終始していた。基底状態は物質を冷やして行った時にどのような状態が実現するかを予測する上で非常に大事な状態であるが、実際の実験は有限温度で行われるために、実験と直接比較する量（例えば比熱など）を計算するためには、手法の有限温度への拡張が必須である。また、同時に有限温度計算は熱揺らぎと量子揺らぎの両方とも取り込む必要があるために、計算科学的にも挑戦的課題となっている。

新たな手法においては、純粋化という概念と人工ニューラルネットワーク波動関数を融合し、有限温度計算を可能にした。有限温度における系の混合状態は、アンシラ自由度を加えた拡張した系の純粋状態にマップすることができる（純粋化）。そのマップされた純粋状態を、人工ニューラルネットワークの一つである深層ボルツマンマシンを用いて表現する。この新たな手法を1次元スピン鎖上の横磁場イジング模型と2次元正方格子上のJ1-J2ハイゼンベルグ模型に適用し、手法の精度検証を行った。その結果、小さいサイズの系において、比熱などの物理量の数値的に厳密な結果を非常に良く再現することがわかった。この手法は厳密な手法と違い、計算コストが系のサイズに対して指数的に増大しないので、より大きな系にも適用可能である。

【研究種目】若手研究

【研究期間】2020-04-01 - 2023-03-31

【配分額】4,160千円 (直接経費: 3,200千円、間接経費: 960千円)

【研究領域課題番号】19H01812 (KAKENデータベースで見る）

【研究キーワード】

ガラス転移 / ジャミング / フラストレート磁性 / コロイド / 制約充足問題 / 統計的推定 / ニューラルネットワーク / ヤーンテラー効果 / スピングラス / 深層ニューラルネットワーク / ジャミング転移 / フラストレートスピン系 / ソフトマター / 情報統計力学 / 機械学習

【研究成果の概要】

本プロジェクトでは、スピン（回転自由度）の関わるガラス・ジャミング転移の物理と数理を広範な領域において分野横断的に研究した。具体的は、フラストレート磁性体、コロイドガラス、ベクトル変数の統計的推定・制約充足問題、深層ニューラルネットワークの学習理論において理論的、数値的に研究を行った。その結果、パイロクロア酸化物Y2MO2O7における外的乱れなしに起こるスピングラス転移のメカニズムの解明、コロイドガラスのガラス・ジャミング相図の導出、多成分ベクトル自由度の統計的推定の理論性能の解析と推定アルゴリズムの実装、深層ニューラルネットワークにおける学習に関する統計力学的理論の構築に成功した。

【研究の社会的意義】

ガラスの物理学はソフトマターから固体物理学、情報科学にまでまたがる学際的問題である。本研究ではスピン (多成分ベクトルで表される回転自由度) に注目しつつ、外的な乱れによる通常のスピングラス転移とは本質的に異なる、スピンの自発的なガラス転移のメカニズムを解明する。このために、統計力学理論と数値シミュレーションによる研究を展開し、分野横断的に解析する。具体的には [A] フラストレートスピン系、[B] ソフトマター系、さらに [C] 多成分ベクトル変数を自由度とする制約充足問題や情報推定などの新しい情報科学の問題の解析を行う。以上の知見を統合し、 [D]「ガラス 転移の数理」を抽出する。

【研究種目】基盤研究(B)

【研究期間】2019-04-01 - 2022-03-31

【配分額】17,030千円 (直接経費: 13,100千円、間接経費: 3,930千円)

【研究領域課題番号】19K15071 (KAKENデータベースで見る）

【研究キーワード】

橋梁 / B-WIM / 振動応答 / 加速度 / 軸重 / ニューラルネットワーク / ウェーブレット変換 / 数値積分 / Bridge Weigh-in-Motion / 加速度積分 / FIRフィルタ / 機械学習 / ウェーブレット散乱 / 構造応答 / 動画像

【研究成果の概要】

本研究は車が通過するときに生じる橋梁の振動応答を利用して車の重量を検知するBridge Weigh-in-Motion(B-WIM)において課題となっていた①計測方法の簡易化と②基準となる橋の振動応答取得（キャリブレーション）を自動化するシステムを開発した．
これまでのB-WIMは複数のセンサを設置する必要があったが，本研究では車が橋に入退出する時刻の検出を桁中央に設置した１つの加速度センサで行い，かつ重量推定についても同一の加速度データの積分によって行う方法を提案した．定期的に走行する路線バスに注目し，路線バスを橋の加速度から検知することでキャリブレーションを自動化させた．

【研究の社会的意義】

多くの道路橋の劣化損傷とその補修が地方公共団体の大きな課題となっており，その主な原因となる交通荷重を把握することは効率的な維持補修計画のために非常に重要である．しかしB-WIMの運用には多くの作業員・初期費用・時間が必要なことが課題となっていた．本研究では，データ分析にAI技術を活用して車種，速度などの交通情報を橋の加速度データから判断し，加速度の数値積分とフィルタリングによる適切な補正によって得られる橋のたわみから車の重量推定やB-WIMシステムのキャリブレーションを常時行うことで，環境や構造応答の長期変動の影響を考慮した点に意義があると考えている．

【研究種目】若手研究

【研究期間】2019-04-01 - 2022-03-31

【配分額】4,290千円 (直接経費: 3,300千円、間接経費: 990千円)

【研究領域課題番号】18H01437 (KAKENデータベースで見る）

【研究キーワード】

次世代移動通信 / へトロジーニアス・ネットワーク / 干渉抑圧技術 / 機械学習 / 強化学習 / 教師無し学習 / 移動通信 / システム制御 / ニューラルネットワーク / 干渉抑圧 / 送信電力制御 / 送信ビームフォーミング制御 / Deep Learning / 誤差逆伝搬法 / Dropout / 変分法的ベイズ推定 / 干渉キャンセル / 送信制御 / EMアルゴリズム / Message-Passing アルゴリズム / 人工知能

【研究成果の概要】

次世代移動通信のへトロジーニアス・ネットワークにおいて，受信機も干渉キャンセル機能を有することを前提に，複雑かつ膨大な演算量を要する統合送信技術を低演算量で，かつ最適システム容量を達成するように制御することを検討した．
具体的には，MIMO (Multiple-Input Multiple-Output) 通信で7セル以上のセルラーシステムを想定し，受信機の干渉キャンセル機能として，線形受信では最適な MMSE (Minimum Mean Square Error) を検討した．全システムの通信路容量を最大にするよう，昨年度と同様，機械学習の強化学習 (Reinforcement Learning)を送信電力及び送信ビームフォーミングの制御に適用した．計算機シミュレーションにより，演算量が膨大となる最適化手法（全探索）に較べ，システム容量の劣化を抑えられ，かつ全探索よりも演算量を大幅に削減できることを確認した．
さらに，教師信号の情報を不要とするため，機械学習の教師無し学習 (Unsupervised Learning) を適用し，Adam Algorithmを用いて学習の収束速度向上を図った．加えて，3セル以上にも適用できるように，評価関数を修正して自律分散制御法の導入を検討した．計算機シミュレーションにより，7セル，3セクターアンテナのセルラーシステムにおいて，同様にシステム容量を改善できることを確認した．
上記の検討例は MMSE を前提にしていたが，現在，固有モード伝送及び注水定理に基づく送信電力制御を行い，1セルでの通信路容量を局小的に最大化し，これを他セルでも繰り返し行うことでシステム全体の通信路容量の最大化を検討しており，自律分散制御のための計算機シミュレーション・プログラムを作成中である．

【研究種目】基盤研究(B)

【研究期間】2018-04-01 - 2023-03-31

【配分額】5,460千円 (直接経費: 4,200千円、間接経費: 1,260千円)

【研究領域課題番号】18K19793 (KAKENデータベースで見る）

【研究キーワード】

人工知能 / 深層学習 / 機械学習 / ニューラルネットワーク / 理論解析

【研究成果の概要】

本研究では，数理的アプローチによって深層学習の学習ダイナミクスなどの理論解析を行った．その結果以下の結果を得た．（１）不連続な関数を推定する場合，深層ニューラルネットは，従来法である固定基底を用いる方法に比べて，推定精度に優位性がある（２）深層ニューラルネットが冗長な中間素子を持つ場合の誤差曲面の鞍点の構造が明らかとなった（３）深層生成ネットワークの学習ダイナミクスの安定性条件が明らかとなった．また，因果方向をメタ学習によって少数のデータから推定する方法を提案した．

【研究の社会的意義】

深層学習は応用面からの成功により現在の人工知能の基盤技術となっているが，モデルが強い非線形性を持つことから理論的な解析を行うことは容易ではなくブラックボックスとして使われる場合が多い．本研究は数理的手法で深層学習の性質を理論的に明らかにするものであり，ブラックボックスを超えた深層学習の理論，特に学習によって得られたネットワークの信頼性や，学習アルゴリズムの安定性に関して重要な知見が得られた．

【研究種目】挑戦的研究(萌芽)

【研究期間】2018-06-29 - 2021-03-31

【配分額】6,370千円 (直接経費: 4,900千円、間接経費: 1,470千円)

【研究領域課題番号】18K18121 (KAKENデータベースで見る）

【研究キーワード】

機械学習 / 眼科学 / ニューラルネットワーク / 緑内障 / マルチタスク学習 / 深層ニューラルネットワーク / 医療画像分析 / 医療データマイニング / バッチ正規化 / PCA

【研究成果の概要】

本研究では緑内障と呼ばれる眼病データの分析を応用分野とし、ニューラルネットワークと呼ばれる機械学習手法の改善を試みた。特にこの応用領域では(1)利用可能なデータが少数に限られる問題へ対処する必要があり、また(2)医学的な立場から結果を説明することが非常に重要である。これを受けて本研究では、学習器が小規模データからも適切な知識を獲得できる手法を開発し、また構築した手法の動作を説明して医学的な見知と照らし合わせ、更には医学分野で認知され得る形で手法の有効性を検証した。

【研究の社会的意義】

緑内障は失明の可能性もある進行性の眼病であるが、治療によって進行を遅らせることが出来るため、その進行予測ならびに症状診断は非常に重要である。しかし症状診断と進行予測の両方に不可欠とされて来た眼の視野感度試験は、計測コストが高くまた計測毎のばらつきから来る信頼性にも問題がある。本研究で開発した手法は機械学習手法を利用してこの問題に対処するものであり、社会的な意義は非常に高い。

【研究種目】若手研究

【研究期間】2018-04-01 - 2022-03-31

【配分額】4,160千円 (直接経費: 3,200千円、間接経費: 960千円)

【研究領域課題番号】18K07644 (KAKENデータベースで見る）

【研究キーワード】

放射線治療 / 小線源治療 / 前立腺癌 / 機械学習 / ニューラルネットワーク

【研究成果の概要】

前立腺癌小線源治療に関する臨床データ、dose-volumeデータ、生物学的データを機械学習の手法を用いて統合分析し、有害事象や再発を予測するモデルを構築することを目的とした。その結果、機械学習を用いた直腸出血の予測モデルは、従来有用と考えられてきた直腸出血の予測因子よりも高い予測精度を示すことがわかった。また、小線源治療後の再発を予測するモデルを構築し、臨床的再発部位の予測に関しても機械学習が有用である可能性が示唆された。

【研究の社会的意義】

本研究で構築したモデルを活用し、前立腺癌小線源治療後の有害事象出現や再発リスクの高い症例をスクリーニングできる可能性が示唆された。特に、臨床的再発部位を予測することで、再発予防に適した後治療（例えば骨盤リンパ節転移の可能性が高い症例には骨盤領域に対する予防照射を行うなど）を検討できる。治療後の有害事象や再発予防につなげることで、個人のQOL向上が期待されるだけでなく、社会全体としての医療費の削減にも寄与できる可能性がある。

【研究種目】基盤研究(C)

【研究期間】2018-04-01 - 2021-03-31

【配分額】3,770千円 (直接経費: 2,900千円、間接経費: 870千円)

【研究分野】ソフトコンピューティング

【研究領域課題番号】16K00326 (KAKENデータベースで見る）

【研究キーワード】

レザバーコンピューティング / 数理解析 / 非線形システム / 省エネルギー / 力学系 / 機械学習 / 時系列データ / 画像処理 / 時系列予測 / 高速機械学習 / 非線形力学系 / ニューラルネットワーク / メモリスタ / スピン波 / デバイス / ハードウェア / 数理モデル / エコーステートネットワーク / ばらつき / 時系列情報処理 / 非線形 / 最適化

【研究成果の概要】

レザバーコンピューティングは、高速学習を可能とする機械学習の枠組みの一つである。本研究では、レザバーコンピューティングの数理的解析とレザバーの最適設計を行い、従来の問題点を解決するとともに、新たなモデルを提案して学習の高速化や計算性能向上を実現した。また、物理的レザバーの可能性を広く探究して数理モデリングを行い、その基本特性や基礎的タスクにおける計算性能を明らかにした。

【研究の社会的意義】

本研究では、レザバーコンピューティング技術の向上を目指して、数理的研究に取り組んだ。レザバーコンピューティングと他の機械学習との融合や、時系列データ予測のための新しい学習モデルは、本手法の発展に寄与するという学術的意義をもつ。物理的レザバーコンピューティングの研究成果は、低消費電力で動作するオンライン機械学習デバイスの開発につながるものであり、人工知能の発展をさらに促すという社会的意義をもつと考えられる。

【研究種目】基盤研究(C)

【研究期間】2016-04-01 - 2019-03-31

【配分額】4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)

【研究分野】通信・ネットワーク工学

【研究領域課題番号】15K06054 (KAKENデータベースで見る）

【研究キーワード】

電波伝搬 / 生体内計測 / ボディエリアネットワーク / ヘルスケア・医療情報通信技術 / 機械学習 / 散乱係数 / 貫通導波管法 / 腹部脂肪 / 電磁波 / 測定法 / 医療・ヘルスケア情報通信技術 / ニューラルネットワーク / メタボリックシンドローム / ヘルスケア / 誘電率 / 予防医学 / 生体内電波伝搬 / ヘルスケア・医療 / 複素比誘電率測定 / 脂肪量推定 / 脂肪量の推定

【研究成果の概要】

本研究では生体内における電波伝搬およびその応用に関する研究を行った。生体内電波伝搬を用いるアプリケーションおよびシステムを設計するためにはその特性が明らかになっていることが必要であり、応用例として腹部の脂肪量をマイクロ波により測定するアプリケーションに関する検討を行った。まず、この計測に利用する矩形導波管のサイズおよび使用する複数の周波数の選択により測定精度を向上させられることを明らかにした。次に、人間の腹部を模擬した数値ファントムによりシミュレーション計算を行い、本測定法による測定およびニューラルネットワークによる推定モデルを作成した結果、良好な推定結果を得ることができることを明らかにした。

【研究の社会的意義】

社会的意義として、これまで生体内の様相を精度良く測定するためには、CTスキャンなどの機材が必要であったが、本研究の成果によりCTスキャンよりは精度が低いが、腹囲測定よりは高精度な腹部の脂肪量推定が低コストで行える可能性がある。例えば毎年の健康診断などで行うことにより、脂肪の蓄積によるメタボリックシンドロームを予防につながると考えられる。学術的異議としては、これまで、生体内でマイクロ波を用いて測定を行うアプリケーションは超音波やX線、MRI等に比べ多くなく、今後、高周波数化や高精度化を目指すことにより、従来これらの測定法ではできなかった検査が行えることも考えられ、今後の研究の発展が期待できる。

【研究種目】基盤研究(C)

【研究期間】2015-04-01 - 2019-03-31

【配分額】4,810千円 (直接経費: 3,700千円、間接経費: 1,110千円)

【研究分野】感性情報学

【研究領域課題番号】15K16076 (KAKENデータベースで見る）

【研究キーワード】

レザバー計算 / リカレントニューラルネットワーク / 非線形力学系 / ファラデー波 / レザバーコンピューティング / 機械学習 / ニューラルネットワーク / 大自由度力学系 / カオス / ソフトマテリアル

【研究成果の概要】

容器に入った液体に縦方向の加振を施すとファラデー波と呼ばれる水面波が生成される。この波のダイナミクスは、カオスを含むきわめて多様な時空間パターンを示すことが知られている。本研究テーマでは、このファラデー波を計算資源として活用することを考える。具体的には、レザバー計算と呼ばれる大自由度力学系を活用した新規情報処理技術に着目し、ファラデー波の時空間パターンに一部計算を実装させるシステム（流体計算機）を構成する。ここではまず、このシステムの応答特性から説明し、水面波のダイナミクスを活用してタイマー（時間間隔の制御）が構築できることを示した。また、その記憶容量についても定量的に解析した。

【研究種目】若手研究(B)

【研究期間】2015-04-01 - 2018-03-31

【配分額】3,900千円 (直接経費: 3,000千円、間接経費: 900千円)

【研究分野】知能情報学

【研究領域課題番号】13F03041 (KAKENデータベースで見る）

【研究キーワード】

自然言語処理 / 機械学習 / ニューラルネットワーク / 深層学習 / 句の表現 / ジョイントモデリング / 意味解析 / 構文解析 / ベクトル空間モデル

【研究成果の概要】

本研究プロジェクトの目的はあらゆる句を正規化であるが、それを行うためには、様々な言語表現によって記述される名詞句や動詞句間の類似性を数値的に表現できる必要がある。
近年、そのような手法として、word2vecをはじめとする単語の分散表現の自動学習手法が注目を集めているが、我々はそれをさらに発展させ、「形容詞＋名詞句」や「主語＋動詞＋目的語」といった句の分散表現を、構文解析済みの大量のテキストから自動学習する手法を開発した。具体的には、述語・項構造と呼ばれる、「深い」構文構造上にニューラルネットワーク言語モデルを構成し、述語・項構造中の単語予測の精度を最大化することによって、単語や句のベクトル表現を学習した。この種のベクトル表現の評価には、人間があらかじめ句の類似性を数値的にアノテートしたデータセットがしばしば用いられる。すなわち、得られたベクトル表現から計算される句同士の類似度が、人間の判断する類似度と高いほど高精度ということになるが、我々の手法によって得られたベクトル表現は、「形容詞＋名詞」や「名詞＋名詞」などにおいては、従来の世界最高レベルと同程度、「主語＋動詞＋目的語」のようなさらに複雑な構造をもつ句に対しては、従来の世界最高精度を上回る精度を達成した。このことは、我々の手法によって得られた句の分散表現が、従来手法よりも句の意味的な類似度をより正確にとらえていることを示している。

【研究種目】特別研究員奨励費

【研究期間】2013-04-01 - 2016-03-31

【配分額】2,300千円 (直接経費: 2,300千円)

【研究分野】制御・システム工学

【研究領域課題番号】25420452 (KAKENデータベースで見る）

【研究キーワード】

サポートベクターマシン / ニューラルネットワーク / 機械学習 / 適応制御 / パターン認識 / 深層学習 / 局所線形化 / パターン分類

【研究成果の概要】

本研究では、制御系設計などに利用しやすい構造を持つニューラルネットワークモデルを構築し、そのパラメータを推定するための体系的な学習法の確立を行った。具体的に、回帰または分類のための利用しやすい線形構造を有する準線形サポートベクターマシン（SVM）の構築およびそのオンライン学習法の開発を行い、スイッチングが適応制御法や高性能分類器の開発等への応用研究を行った。

【研究種目】基盤研究(C)

【研究期間】2013-04-01 - 2017-03-31

【配分額】4,940千円 (直接経費: 3,800千円、間接経費: 1,140千円)

【研究分野】知能情報学

【研究領域課題番号】12680387 (KAKENデータベースで見る）

【研究キーワード】

マルチエージェントシステム / マルチエージェント強化学習 / 強化学習 / 機械学習 / 進化計算 / ニューラルネットワーク / 実数値GA / 最適化 / 共進化 / 世代交代モデル / 自律エージェント / 進化的計算 / ニューラルネット / 人工知能 / 分散人工知能 / 実数値遺伝的アルゴリズム

【研究成果の概要】

近年,強化学習手法を応用して,マルチエージェント環境におかれたエージェント群そのものに,試行錯誤な相互作用を行わせ,それらが採用すべき協調行動をボトムアップ的に組織化させ,それによってマルチエージェントシステムの設計者を支援しようとする試み("マルチエージェント強化学習"と呼ぶ)が数多くなされている.しかし,マルチエージェント環境におかれたエージェント群に,従来の強化学習を適用して適切な協調行動を獲得させようとすると,各エージェントの状態空間は組合せ的に爆発してしまう.
本研究の代表者らは,適度に圧縮表現された状態空間上で各エージェントが学習可能なマルチエージェント強化学習手法を提案し,それにより上記の状態空間の爆発が回避し得ることを実験的に示してきた.平成12年度は,この手法と進化計算を併用することによって,エージェント群に,状態空間の爆発を回避するための適切な状態空間表現を自動的に獲得させながら,それらが採用すべき協調行動を効果的に組織化させるための手法を提案した.提案手法は,マルチエージェントシステムを構成するエージェントの状態表現およびその行動政策を人手に頼ることなく自動的に設計するための要素技術を提供する.
平成13年度は,状態空間の爆発を回避可能な新しいマルチエージェント強化学習手法として,エージェントの行動政策を予め構造が決定されたニューラルネットにより表現すると共に,その重みベクトルを実数値GAにより最適化することに基礎をおく"進化型ニューラルネット手法"に基づく手法を提案した.提案手法は,連続値/離散値が混在する入出力への対応,連続/離散時間による意思決定への対応,大規模な問題への対応,大域的に良好な行動政策の獲得への対応など,従来手法にはない優れた特色を有しており,マルチエージェントシステムの自動設計のための汎用的な要素技術を提供する.

【研究種目】基盤研究(C)

【研究期間】2000 - 2001

【配分額】3,600千円 (直接経費: 3,600千円)

【研究分野】社会システム工学

【研究領域課題番号】11680435 (KAKENデータベースで見る）

【研究キーワード】

データマイニング / ニューラルネットワーク / 確率感度解析 / ブートストラップ法 / MDL情報量基準 / ニューラル・ネットワーク / 機械学習 / ブートストラップ

【研究成果の概要】

本研究の目的は,データマイニングに関して既に得られている数理モデルの特長を拡張し,従来のデータベース技術や統計的手法の利点を活用して,新しいデータマイニング・モデルの構築と解析を行い,さらにシミュレーションやテストデータにより評価・検証して,モデルの特性を明らかにすることであった.この目的に沿って研究を行なった結果,下記の結果を得た.
1.確率感度解析による新しい確率的学習アルゴリズムの導出
データからの知識発見のために,ニューラルネットワークなどの機械学習手法を用いたデータマイニング・モデルにおいて,データの不確定性やノイズ,予測不可能な変動などがモデルの推論結果に与える影響の度合いを確率感度解析によって定量的に評価し,それにもとづいたニューラルネットワークの新しい確率的学習アルゴリズムの定式化に成功した.
2.ブートストラップ手法の最適リサンプリングへの応用
データマイニングの実際の応用においては,学習用データが統計的に偏ったり不充分な量の教師データしか得られないケースによく遭遇するが,統計的に大きく偏ったデータからの知識発見のために,復元を許したリサンプリング手法であるブートストラップ法の適用を提案し,シミュレーションによりその有効性を検証した.さらに,学習データの複合的組み合わせを繰り返して交叉検証(Cross-Validation)を行う場合にも,本提案手法を拡張してデータマイニング・モデルの汎化能力を改善できることを明らかにした.
3.データマイニングの製造スケジューリングや工程管理への応用
データマイニングの新しい応用分野として,生産データ解析における相関(Association)分析やMDL(最小記述長)などの情報量基準の適用について考察を行ない,最適スケジューリングや工程管理手法を提案した.本研究で提案した手法の有効性を数値実験により定量的に示した.

【研究種目】基盤研究(C)

【研究期間】1999 - 2000

【配分額】3,600千円 (直接経費: 3,600千円)