情報処理安全確保支援士試験 情報処理安全確保支援士試験 令和6年度秋期 午前Ⅱ 問2: AI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって，AI アルゴリズムの特性を悪用し，誤認識させる攻撃

問題本文

AI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって，AI アルゴリズムの特性を悪用し，誤認識させる攻撃はどれか。

選択肢

• ア.Adaptively Chosen Message 攻撃
• イ.Adversarial Examples 攻撃
• ウ.Distributed Reflection Denial of Service 攻撃
• エ.Model Inversion 攻撃

正解

イ. Adversarial Examples 攻撃

解説

Adversarial Examples攻撃は、人間には気づけない微小なノイズを入力画像に加え、機械学習モデルの判断境界を突いて意図的に誤分類させる攻撃。AIアルゴリズム特有の脆弱性を悪用する点が問題文と一致し、イが正解。実務では自動運転や顔認証など画像認識を使うシステムの信頼性に直結し、敵対的サンプルへの頑健性確保が課題となる。

選択肢ごとの解説

• ア.適応的選択平文攻撃は暗号の攻撃手法で、AIの画像誤認識とは無関係なので誤り。
• イ.微小なノイズでAIに誤認識させる敵対的サンプル攻撃そのもので、問題文と一致し正しい。
• ウ.DRDoSは反射型DoSで通信を妨害する攻撃。画像の誤認識を狙うものではなく誤り。
• エ.Model Inversion攻撃はモデルから学習データを推定する攻撃で、誤認識を狙うものではなく誤り。