NEWS & EVENTS ニュース&イベント

  • プレスリリース
  • 研究
2022.04.28 Thu UP

入力信号の時間スケールに応じて学習を最適化できる
物理リザバーコンピューティングの新技術を開発
~イオン液体のデザイン性を活かしたチューナブルなAI学習~

研究の要旨とポイント

  • 物理リザバーコンピューティングは、時系列信号の低消費電力かつ高速リアルタイム処理に適した機械学習の枠組みとして注目されており、その核となる物理リザバーに応用可能な物質の研究が行われています。
  • 本研究では、高い分子デザイン性と安定性を有するイオン液体を物理リザバーに適用しました。入力信号に応じた物理リザバー性能の最適化が可能となり、高いAI学習精度が得られることを実証しました。
  • この成果は、生活環境で生じる様々な信号をリアルタイムで直接学習することが可能なエッジAIデバイスの実現につながると期待されます。

東京理科大学理学部第一部応用物理学科の木下健太郎教授、同大学院理学研究科応用物理学専攻(博士後期課程3年)・産業技術総合研究所デバイス技術研究部門リサーチアシスタント(研究当時)の高相圭氏、産業技術総合研究所デバイス技術研究部門の秋永広幸総括研究主幹、島久主任研究員、内藤泰久研究グループ長の研究グループは、リザバーコンピューティング(RC)において学習性能を左右する物理リザバーデバイスに応用可能な物質として、高い分子デザイン性を有するイオン液体(IL)を提案し、ILの粘性を制御することで、入力信号に応じた学習性能の最適化が可能であることを明らかにしました。

新しい機械学習アルゴリズムの開発や枠組みの構築は、日々急速に発展しています。中でもRCは、時系列情報の低消費電力かつ高速リアルタイム処理に適していることから、端末の近く(エッジ)で分散的にデータ処理を行うエッジAI学習に対する適用性が高く、注目を集めています。RC学習において核となるのが、時系列入力信号を分類が容易な時空間パターンに変換する、リザバーと呼ばれる部分です。リザバー(reservoir)は英語で「貯水池」という意味で、貯水池の水面に石を投げ込んで生じた波紋のパターンは、投げ込んだ石のサイズや投げ込む順序を反映することから、石の時系列情報を推測することができます。このように、知りたい情報(投げ込んだ石)を全く別の情報(水面の波紋パターン)に変換して情報処理を行うのが、リザバーコンピューティングです。このリザバーをソフトウェアで実装した場合は計算コストが高くなりますが、物理系のダイナミクスを活用してデバイス化することで(=物理リザバー)、高速かつ低消費電力化が期待できます。

しかし、これまでに提案された物理リザバーのダイナミクスは、生活環境で生じる信号の時間スケールに比べて速すぎるなど、時間スケールの制御性に乏しいことからリアルタイム処理に大きな課題がありました。

そこで研究グループは、電極-IL界面におけるIL分子のダイナミクス(誘電緩和:※1)を物理リザバーとして用いることを提案し、ILの分子設計による学習性能の最適化を試みました。その結果、生活環境で生じる信号に近い時間スケールの信号を学習することが可能になりました。さらに、ILの粘性を制御することで、入力信号の特徴に応じて容易に識別精度を最適化できることを実証しました。

本研究で提案したILの誘電緩和を利用した物理リザバーにより、音声や振動等の生活環境で生じる様々な信号をリアルタイムで学習し、周期など、信号の特徴に応じて学習性能を最適化することが可能なAIデバイスの実現が期待されます。本研究成果は、2022年4月28日に国際学術誌「Scientific Reports」にオンライン掲載されました。

研究の背景

現状のAI技術は、個々の端末からクラウドにアクセスして演算を行うことが一般的ですが、通信遅延やセキュリティ、通信コストの面で問題があり、ウェアラブルデバイスやモバイル端末など、エッジ領域でAI演算を行うエッジAI技術の開発が急務になっています。エッジAIでは、低消費電力かつ高速なデータ処理特性が要求されます。特に、生活環境において生成される時系列データをリアルタイムに処理する場合には、これらの特性が不可欠となります。

このような状況の中、シンプルな学習アルゴリズムによりデータ処理コストと計算時間を従来手法に比べて大幅に削減することができるRCが、エッジAI技術として注目を集めています。RCシステムは、主に入力、リザバー、出力の3層から構成され(図1a)、入力された時系列信号は、リザバーを通じて容易に分類可能な時空間パターンに変換されます。入力信号の時間スケールに対して適切な時間で減衰する特性を持ったリザバーを用いることにより、入力の特徴を反映した出力を得ることができます(図1b)。

非線形応答性を具えた物理系のダイナミクスを利用してリザバーを物理実装することで、計算コストと計算時間の更なる削減が期待されます。ただし、学習処理が可能な信号の時間スケールは、利用する物理系の過渡ダイナミクスの緩和時間と同程度である必要があり、音声や振動等、生活環境で生じる信号の時間スケールを考慮すると、マイクロ秒からミリ秒の範囲の緩和時間を有する物理リザバーが求められます(図2)。

そこで研究グループは、現実環境で生成される入力信号にマッチング可能な周波数を持つ物理リザバーの候補として、ILに着目しました。ILはカチオンとアニオンのみで構成される液体塩であり、クーロン相互作用(※2)に起因した高い安定性を持ちます。同時に、カチオン及びアニオンの選択と組み合わせにより、性質をデザインすることが可能であることから、ILを物理リザバーとして応用できれば、入力信号の時間スケールに応じた学習の最適化が可能になると期待されます。

入力信号の時間スケールに応じて学習を最適化できる物理リザバーコンピューティングの新技術を開発~イオン液体のデザイン性を活かしたチューナブルなAI学習~
図1. (a) リザバーコンピューティング(RC)システムの層構造。入力層、リザバー層、出力層から構成されている。(b) RCシステムを通じた入力信号の変換。リザバーへの電圧パルス信号入力(下段)に対する電流応答のイメージ(上段及び中段)を示す。電流の減衰(誘電緩和)が速すぎる/遅すぎると次の信号が入力される前に電流が飽和値に減衰/増加してしまい、前の信号の履歴が残らない(中段は速すぎる場合のイメージ)。一方、入力パルス信号の時間スケールと電流の減衰の時間スケールが適切であれば、入力パルス信号の履歴が残る(上段)。
入力信号の時間スケールに応じて学習を最適化できる物理リザバーコンピューティングの新技術を開発~イオン液体のデザイン性を活かしたチューナブルなAI学習~
図2. 生活環境で生じる一般的な信号の時間スケール(1周期あたりの時間)。

研究結果の詳細

本研究では、時間スケールが非常に短く(< 10-13 s)、従来研究開発が進められて来た固体素子ではなく、生活環境で生じる信号のリアルタイム処理に適した時間スケール(マイクロ秒からミリ秒)を持つ液体素子へと物理リザバーに用いる材料の大幅な転換を図りました。具体的には、電極-IL界面での誘電緩和に着目し、これを物理リザバーに適用する可能性について検討しました。

まず、様々なアルキル側鎖長(図3に示すカチオンのジグザグ部の長さ)を持つカチオンと固定アニオンからなる複数のIL、すなわち1-アルキル-3-メチルイミダゾリウムビス(トリフルオロメタンスルホニル)イミド([Rmim+][TFSI-]R=エチル(e)、ブチル(b)、ヘキシル(h)、オクチル(o))を作製しました。作製したこれらのILの特筆すべき点は、カチオン側鎖長を調整することで、粘性を制御できるという点です。

これらをSi基板のSiO2表層にパターンニングしたAuギャップ電極上に滴下し、Au/IL/Auリザバーデバイス(Au/[emim+][TFSI-]/Au, Au/[bmim+][TFSI-]/Au, Au/[hmim+][TFSI-]/Au, Au/[omim+][TFSI-]/Au)を作製しました(図3)。

パルス電圧の入射によりILに誘起される過渡電流は、いずれのILでも、デバイ型の誘電緩和(※3)の加重和(※4)で示されることが明らかになり、誘電緩和ダイナミクスが複数の緩和過程により支配される複合的なものであることが示唆されました。

一方で、各緩和時間は、カチオンのアルキル側鎖長によって決定されるILのバルク粘性のべき乗則に従うことが明らかになりました。これは、ILのバルク粘性をパラメータとしてILリザバーの緩和時間を制御できることを示しています。実際、過渡電流の測定から見積もられた誘電緩和の緩和時間は、カチオンのアルキル側鎖が長くなるR = e, b, h, oの順に1 µsから20 µsまで長くなりました(図4)(※5)。以上の結果は、ILの高い分子デザイン性を利用してIL分子の過渡ダイナミクスを制御し、ILリザバーの緩和時間をターゲットとなる信号の時間スケールに応じて調整することで、学習性能の最適化が可能であることを意味します。

手書き数字画像(MNIST)を4ビット×100セットの電圧パルスパターンに変換してILリザバーに入力し、画像識別タスクを実行した結果(図5)、R = e, b, h, oの順に識別精度が向上することが確認されました。この結果は、今回用いた入力信号のパルス幅が1 µsであったことから、1 µs程度で電流の緩和が飽和値に達する[emim+][TFSI-]に比べて、より緩和時間の長いIL(R = b, h, o)を使用することで時系列データの履歴が明確化され、識別精度の向上に繋がることを意味します。[emim+][TFSI-]で87.3%であった識別精度は、[omim+][TFSI-]を用いた場合に90.2%と最も高くなることが明らかになりました(図6)。

入力信号の時間スケールに応じて学習を最適化できる物理リザバーコンピューティングの新技術を開発~イオン液体のデザイン性を活かしたチューナブルなAI学習~
図3. 本研究で開発したイオン液体を用いたリザバー演算素子。カチオン側鎖長の調整により粘性を制御することができる。
入力信号の時間スケールに応じて学習を最適化できる物理リザバーコンピューティングの新技術を開発~イオン液体のデザイン性を活かしたチューナブルなAI学習~
図4. t = 0に階段状電圧をILリザバー入射した際の電流応答特性。
入力信号の時間スケールに応じて学習を最適化できる物理リザバーコンピューティングの新技術を開発~イオン液体のデザイン性を活かしたチューナブルなAI学習~
図5. 画像認識タスクにおける演算の流れ。手書き数字データの画像の中心部分(20×20ピクセル)を並べ替えて100×4ピクセルとし二値化する(紫、黄色)。その後、2種類の色に対応した電圧パルスからなる4ビットパルスパターンをデバイスに入力する。並べ替えた後の画像は列数が100列なので、1つの画像データについて、100個の数値を組み合わせたリザバーからの出力(列ベクトル)が得られる。この出力を機械学習に使い、画像を学習・認識する。
入力信号の時間スケールに応じて学習を最適化できる物理リザバーコンピューティングの新技術を開発~イオン液体のデザイン性を活かしたチューナブルなAI学習~
図6. 画像識別精度の粘性依存性

今回の研究により、入力信号に対して適切な緩和時間の選択を可能にする、物理リザバーデバイスAu/[Rmim+][TFSI-]/Auの有用性が示されました。

従来の固体リザバーが液体リザバーに置き換えられることで、音声や振動等、生活環境で生じる重要な信号の時間スケールをリアルタイムで直接学習することが可能なAIデバイスの実現が期待できます。イオン液体は難揮発性、難燃性をもつことから、液体といえども蒸発することなく、安全性の高いエッジAIデバイスを提供できると期待されます。

※本研究の一部は、日本学術振興会科学研究費補助金JP20J12046の助成を受けて実施したものです。

用語

※1 誘電緩和:変動電場による分子電極の遅れによって生じる、物質における誘電率の瞬間的な遅れのこと。

※2 クーロン相互作用:二つの荷電粒子の間に働く力。クーロン力。

※3 デバイ型の誘電緩和(デバイ型緩和):単一の緩和時間をもつ誘電緩和のこと。

※4 加重和:係数をかけて作られる重み付きの和。

※5 ここでは、緩和時間をパルス入射直後の電流値から自然対数の底の逆数1/eの値になるまでに要する時間と定義した。

論文情報

雑誌名

Scientific Reports

論文タイトル

Reservoir computing with dielectric relaxation at an electrode–ionic liquid interface

著者

Sang-Gyu Koh, Hisashi Shima, Yasuhisa Naitoh, Hiroyuki Akinaga, and Kentaro Kinoshita

DOI

10.1038/s41598-022-10152-9

発表者

高相圭   東京理科大学大学院 理学研究科 応用物理学専攻 博士後期課程3年 <筆頭著者>
国立研究開発法人産業技術総合研究所 デバイス技術研究部門 エマージングデバイスグループ リサーチアシスタント(研究当時)

島久    国立研究開発法人産業技術総合研究所 デバイス技術研究部門 エマージングデバイスグループ 主任研究員 <責任著者>

内藤泰久  国立研究開発法人産業技術総合研究所 デバイス技術研究部門 エマージングデバイスグループ 研究グループ長

秋永広幸  国立研究開発法人産業技術総合研究所 デバイス技術研究部門 総括研究主幹

木下健太郎 東京理科大学 理学部第一部 応用物理学科 教授 <責任著者>

研究室

木下研究室のページ:https://www.rs.tus.ac.jp/kinolab/
木下教授のページ:https://www.tus.ac.jp/academics/teacher/p/index.php?6E52

東京理科大学について

東京理科大学:https://www.tus.ac.jp/
詳しくはこちら