情報処理安全確保支援士試験 情報処理安全確保支援士試験 令和3年度秋期 午前Ⅱ 問1: AI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微少な変化を含めることによって AI アルゴリズムの特性を悪用し，判定結果を誤らせ

問題本文

AI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微少な変化を含めることによって AI アルゴリズムの特性を悪用し，判定結果を誤らせる攻撃はどれか。

選択肢

• ア.Adaptively Chosen Message 攻撃
• イ.Adversarial Examples 攻撃
• ウ.Distributed Reflection Denial of Service 攻撃
• エ.Model Inversion 攻撃

正解

イ. Adversarial Examples 攻撃

解説

Adversarial Examples攻撃は、人間には気づけない微小なノイズを入力画像に加え、機械学習モデルの決定境界の脆さを突いて誤分類を誘発する攻撃。AIの数理的特性を悪用する点が本質で、イが正しい。自動運転の標識誤認などが懸念され、実務では敵対的サンプルでの再学習(Adversarial Training)や入力の前処理が防御策となる。

選択肢ごとの解説

• ア.Adaptively Chosen Message攻撃は暗号やMACに対し適応的に選んだ文章で解析する手法で、画像認識とは無関係であり誤り。
• イ.微小ノイズでAIの判定を誤らせる敵対的サンプルの説明そのもので、設問の特徴に合致し正解。
• ウ.DRDoSは反射・増幅型のDoS攻撃で、可用性を狙うもの。AIの誤判定とは関係せず誤り。
• エ.Model Inversionは出力からモデルや学習データを推定する攻撃で、判定を誤らせる攻撃ではないため誤り。