Top


ナカムラ カズアキ
中村 和晃  准教授
東京理科大学 工学部 情報工学科
プロフィール | 研究シーズ | 担当授業(12件)
レフェリー付学術論文(18件) | レフェリー付プロシーディングス(21件) | その他著作(10件) | 著書(2件) | 学会発表(36件)
グループ IT
研究・技術キーワード 画像認識・生成,機械学習,人工知能(AI),AIへの攻撃と防御
研究・技術テーマ
  • 画像や映像の認識・理解(動作映像認識など)
  • 画像や映像の生成(手書き文字画像生成など)
  • 画像認識AIを不正に複製する攻撃とその防御法
  • 画像認識AIから画像を逆生成する攻撃とその防御法
研究・技術内容 ディープラーニングに基づく人工知能(AI)の発達に伴い,AIシステムを活用したクラウドサービスが一般的となりつつあります.一方で,AIシステムを標的とするサイバー攻撃の危険性もまた指摘され始めております.具体例として,標的のAIに対し,そのモデルを不正に複製することを目論むModel Extraction Attack (MEA)や,標的モデルの機械学習に使用された学習データの逆推定・復元を目論むModel Inversion Attack (MIA)が挙げられます.これらの脅威がどの程度現実的であるかを解明し,対策を講じるため,ディープラーニングに基づく画像認識AIを主な対象として,MEAおよびMIAの実行方法,およびそれらに対する防御手法を研究しています.その過程で,ディープラーニングを活用した画像認識技術や画像生成技術の研究も進めております.単に画像認識AIを高度化するのではなく,その安心・安全な運用方式の確立を目標としております.
産業への利用 2022年現在,MEAやMIAなどの攻撃が現実社会で発生した例はまだないということもあり,現状では,自作の画像認識AIを標的として,実験室内で攻撃法や防御法についての基礎検討を進めている段階です.一研究室レベルで収集可能な画像データの量には限りもあるりますため,今のところ自作AIの規模は小さく,より大規模なAIを対象とした追加検討が必要と考えております.この意味で,実用化は当面難しく,まだ先のこととなりますが,将来的には,APIを介して画像認識サービスを提供するサービスプロバイダなどへの提案技術の組込みができれば,と思います.
可能な産学連携形態 共同研究、受託研究、技術相談および指導
具体的な産学連携形態内容
その他所属研究機関
所属研究室 工学部 情報工学科 中村研究室
所有研究装置 GPUを搭載したディープラーニング用計算機(Deep Learning Box II)
SDGs
CLOSE