2023年度第12回坊っちゃん講座「AIも攻撃される！？ ～安全な運用を目指して」開催報告
3月23日（土）に2023年度第12回坊っちゃん講座をオンラインで開催し、120名を超える参加者がありました。
本講座は最先端の研究や応用研究において世界をリードしている研究者が研究の面白さを高校生、中学生および大学生に伝え、勉学意欲の向上と進路選択に資するために開講しています。
今回は、本学工学部 情報工学科 中村和晃 准教授に講演いただきました。最初に自己紹介として、自身の年表とゲーム機の年表を重ね、小学生から高校生の頃、ファミコン、スーパーファミコン、プレイステーション、プレイステーション2の発売と続き、漠然とゲーム制作に関わりたいと思い情報系の学部・学科を選択したこと、特に、ファイナルファンタジーⅥからⅦへ変わった時の進化に衝撃を受け、CG（コンピュータグラフィックス）に興味を持ち、その後の専門分野である画像処理、画像認識、画像生成へと繋がっていったとの話がありました。
次に、「そもそも「AI」って何だろう？」では、工学的な立場からの見解として、AIとは入力データに応じて出力データを吐き出す箱であり、出力データは計算により作成します。そこに思考は存在しないことが人間とは大きく異なります。工学的課題として、箱をどのように設計するか（ニューラルネットワークと機械学習）、入力データ/出力データをどのように数値化するかとの説明がありました。
「AIと機械学習」では、箱の中で実行される計算式を適切に定める処理が機械学習であり、与えられた学習用データを単純に覚えるのではなく、実は機械学習はある種の算数パズルを解くことに似ているとの説明もありました。
「AIの基礎：ニューラルネットワーク」では、現在のAIの基礎であるニューラルネットワークについて、人間の脳を模倣した情報処理機構で、ユニットが相互に接続された構造を持ち、ユニットはパーセプトロンとも呼ばれ、加算器と活性化関数から構成されています。また、複数のユニットを並列的に並べたものが層であり、複数の層を直列的に並べたものがニューラルネットワークとの説明がありました。単一ユニットによる情報処理の例として天気予報AIを紹介し、パラメータ設定の重要性について説きました。実用化されているAIでは、言語処理AIのChatGPTのパラメータ数は、GPTが1億2000万、GPT2が15億、GPT３が1750億、GPT3.5が3550億、GPT４が非公開、ちなみに人間の脳は100兆くらいと言われています。（例として挙げた天気予報AIは3つ）その他、AIによる画像認識、画像生成、文章の生成について説明がありました。
「AIに対するサイバー攻撃」では、AIがサイバー攻撃に悪用されるケースとAI自身がサイバー攻撃を受けるケースについて紹介し、現在研究が進められている攻撃として、学習用データに「毒」を混入する中毒攻撃、AIの判断を誤らせる敵対的攻撃（例えば、画像認識AIでは、象の皮膚に猫の形の絵を描いた場合、人間は猫、AIは象と判断する。これは人間とAIではものの見方が異なり、人の目を騙すことなくAIだけ騙せる可能性がある）、AIの学習用データを暴くモデル反転攻撃、海賊版の作成を目論むモデル抽出攻撃などの説明ありました。
最後にまとめとして、①現在のAI ＝ 入力データに応じて出力データを吐き出す箱 ②機械学習 ＝ 箱の中身（具体的な計算方法）を学習用データに基づいて設計すること ➂AIの計算は「ユニット」の組み合わせにより実現される ④信頼できるAIの実現に向けて、AIを標的としたサイバー攻撃と防御に関する研究が進められているとお話され講演を締めくくりました。
講演後、多くの質問に中村先生が1つ1つ丁寧に回答してくださいました。今回の講演では、AIの仕組みから実用、サイバー攻撃と防御に至るまで、分かりやすく説明していただき、参加者が今や毎日聞かないことがないAIについて、理解を深められたことと思います。
参加者からは、「AIという今まで漠然としていたものが、数値化されたあらゆるデータから計算処理されたものなのだと少し理解ができ、興味が持てました。」「現代の社会問題と関係のある内容(フェイクニュースや自動運転等)を取り入れた、AI技術についての深い内容の講義が行われて、大変勉強になりました。」「AIと言う言葉を頻繁に耳にする昨今、AIの実体が解らず困っていたのだが、その仕組や機能がある程度理解できるようになりました。」などの感想が寄せられました。
講演の様子
