Top


ナカムラ カズアキ
中村 和晃  准教授
東京理科大学 工学部 情報工学科
プロフィール | 研究シーズ | 担当授業（31件）
レフェリー付学術論文（21件） | レフェリー付プロシーディングス（35件） | その他著作（10件） | 著書（2件） | 学会発表（81件）
グループ IT
研究・技術キーワード 画像認識・生成，機械学習，人工知能（AI），AIへの攻撃と防御
研究・技術テーマ
  • 画像や映像の認識・理解・生成
  • 画像認識・生成AIを不正に複製する攻撃とその防御法
  • 画像認識AIの訓練データを推定・暴露する攻撃とその防御法
  • 画像生成AIの訓練データを推定・暴露する攻撃とその対処法
  • 画像生成モデルのアクセスコントロール技術
研究・技術内容 ディープラーニングに基づく人工知能（AI）の発達に伴い，AIシステムを活用したクラウドサービスが一般的となりつつあります．一方で，AIシステムを標的とするサイバー攻撃の危険性もまた指摘され始めております．具体例として，標的のAIに対し，そのモデルを不正に複製することを目論むModel Extraction Attack (MEA)や，標的モデルの機械学習に使用された訓練データの暴露を目論むModel Inversion Attack (MIA)が挙げられます．これらの脅威がどの程度現実的であるかを解明し，対策を講じるため，画像認識・生成AIを主な対象として，MEAおよびMIAの実行方法，およびそれらに対する防御手法を研究しています．また，画像生成モデルにアクセスコントロール機構を導入し，特定の秘密鍵を所有する認可ユーザが使用したときに限り高品質な画像が生成され，非認可ユーザの使用時には無意味な低品質画像が生成されるようなモデルの実現も検討中です．単にAIを高度化するのではなく，その安心・安全な運用方式の確立を目標としております．
産業への利用 2026年現在，MEAやMIAなどの攻撃が現実社会で発生した例はまだないということもあり，現状では，自作の画像認識・生成AIを標的として，実験室内で攻撃法や防御法についての基礎検討を進めている段階です．一研究室レベルで収集可能な画像データの量には限りもあるりますため，今のところ自作AIの規模は小さく，より大規模なAIを対象とした追加検討が必要と考えております．この意味で，実用化は当面難しく，まだ先のこととなりますが，将来的には，APIを介して画像認識・生成サービスを提供するサービスプロバイダなどへの提案技術の組込みができれば，と思います．
可能な産学連携形態 共同研究、受託研究、技術相談および指導
具体的な産学連携形態内容
その他所属研究機関 総合研究院 知覚AI基盤研究部門
所属研究室 工学部 情報工学科 中村研究室
所有研究装置 GPUを搭載したディープラーニング用計算機（6台）
SDGs
CLOSE