情報処理安全確保支援士試験 情報処理安全確保支援士試験 令和6年度秋期 午前Ⅱ 問2: AI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって，AI アルゴリズムの特性を悪用し，誤認識させる攻撃

正解

イ. Adversarial Examples 攻撃

正答率 90.0%（10人中 9人が正解）

問題の解説

Adversarial Examples攻撃は、人間には気づけない微小なノイズを入力画像に加え、機械学習モデルの判断境界を突いて意図的に誤分類させる攻撃。AIアルゴリズム特有の脆弱性を悪用する点が問題文と一致し、イが正解。実務では自動運転や顔認証など画像認識を使うシステムの信頼性に直結し、敵対的サンプルへの頑健性確保が課題となる。

選択肢ごとの解説

• ア適応的選択平文攻撃は暗号の攻撃手法で、AIの画像誤認識とは無関係なので誤り。
• イ微小なノイズでAIに誤認識させる敵対的サンプル攻撃そのもので、問題文と一致し正しい。
• ウDRDoSは反射型DoSで通信を妨害する攻撃。画像の誤認識を狙うものではなく誤り。
• エModel Inversion攻撃はモデルから学習データを推定する攻撃で、誤認識を狙うものではなく誤り。