情報処理安全確保支援士試験 情報処理安全確保支援士試験 令和3年度秋期 午前Ⅱ 問1: AI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微少な変化を含めることによって AI アルゴリズムの特性を悪用し，判定結果を誤らせ

正解

イ. Adversarial Examples 攻撃

正答率 100.0%（1人中 1人が正解）

問題の解説

Adversarial Examples攻撃は、人間には気づけない微小なノイズを入力画像に加え、機械学習モデルの決定境界の脆さを突いて誤分類を誘発する攻撃。AIの数理的特性を悪用する点が本質で、イが正しい。自動運転の標識誤認などが懸念され、実務では敵対的サンプルでの再学習(Adversarial Training)や入力の前処理が防御策となる。

選択肢ごとの解説

• アAdaptively Chosen Message攻撃は暗号やMACに対し適応的に選んだ文章で解析する手法で、画像認識とは無関係であり誤り。
• イ微小ノイズでAIの判定を誤らせる敵対的サンプルの説明そのもので、設問の特徴に合致し正解。
• ウDRDoSは反射・増幅型のDoS攻撃で、可用性を狙うもの。AIの誤判定とは関係せず誤り。
• エModel Inversionは出力からモデルや学習データを推定する攻撃で、判定を誤らせる攻撃ではないため誤り。