敵対的サンプルとは？てきたいてきさんぷる
敵対的サンプルとは、人の目にはほとんど違いが分からない微小な変更を入力に加え、機械学習モデルに誤った判定をさせる攻撃。モデル自体を書き換えるのではなく推論時の入力だけを操作する点が特徴で、内部が分からないモデルに対しても、別モデルで作った例が効く転移性を使って成立することがある。
最終更新：2026-10-06
この語が出る過去問を解く →背景
機械学習モデルは、人が使うのとは違う手掛かりで判定していることがあり、その手掛かりを狙ってわずかに動かすと出力が飛ぶ。ルールベースのプログラムと違い、なぜその出力になったのかを追いにくいため、弱点の発見も修正も難しい。検知や認証に機械学習を組み込むなら、モデルそのものが攻撃対象になるという前提を置く必要がある。
具体例
道路標識にステッカーを貼るだけで、自動運転向けの画像認識モデルが別の標識と誤認する研究が知られている。マルウェア検知でも、実行時の振る舞いを変えずに無害なデータをファイルへ詰めて分類を回避する手口が同じ構図にあたる。
試験での引っ掛け
学習データへ不正なデータを混ぜて挙動を歪めるのはデータポイズニング、出力から学習データを復元するのはモデルインバージョン、あるデータが学習に使われたかを判定するのはメンバーシップ推測攻撃で、狙う段階も目的も別物。
関連用語
出た過去問
出典：令和3年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問1（IPA）
AIによる画像認識において、認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズムの特性を悪用し、判定結果を誤らせる攻撃…
正解：Adversarial Examples攻撃
要点：微小な摂動でAIの判定を誤らせるのがAdversarial Examples
Adversarial Examples攻撃は、機械学習モデルの決定境界が入力の微小な変化に敏感である性質を突き、人の目には元の画像と区別がつかない摂動を加えて分類結果を意図的に誤らせる手法である。標識の認識を誤らせるなど、現実の判断に直結する用途では深刻な脅威となる。対策としては摂動を含む例を学習させる敵対的学習や、入力の前処理・検知が研究されている。
出典：令和6年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問2（IPA）
AIによる画像認識において,認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって,AIアルゴリズムの特性を悪用し,誤認識させる攻撃はど…
正解：Adversarial Examples攻撃
要点：Adversarial Examplesは微小な摂動でAIに誤認識させる攻撃
Adversarial Examples攻撃は、機械学習モデルの決定境界（分類結果が切り替わる境目）の性質を突き、人間には判別できないほど微小な摂動を入力に加えることで誤分類を誘発する攻撃である。よってイが正しい。学習済みモデルから訓練データを推定するModel Inversionや、学習データを汚染するポイズニングとは狙いが異なる。
出典・参考
公式シラバスの3 技術要素 ＞ 1. 情報セキュリティ ＞ (7) 攻撃手法に掲載されている用語です。
解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。