AIのセキュリティ・信頼性（敵対的サンプル）とは？えーあいのせきゅりてぃ・しんらいせい
AIのセキュリティ・信頼性（敵対的サンプル）とは、機械学習モデルに対する特有の脅威。入力データにごくわずかなノイズを加えることでAIの判定を意図的に誤らせる「敵対的サンプル（Adversarial Example）」や、学習データに悪意あるデータを混入させてモデルの精度や公平性を損なう「データポイズニング」などがある。
最終更新：2026-10-06
応用情報を最短で暗記・合格する →具体例
画像認識AIに人間の目にはほとんど分からない微小なノイズを加えることで、標識の画像を全く別の対象として誤認識させる、といった実験結果が報告されている。
試験での引っ掛け
攻撃が仕掛けられる時点が違う。敵対的サンプルは学習済みモデルへの入力（推論時）を細工する攻撃、データポイズニングは学習データを汚染する（学習時）攻撃で、対策の打ち所も変わる。またこれらはプログラムの脆弱性を突く攻撃ではないため、パッチ適用や暗号化では防げない。モデルの内部構造を知らなくても成立しうる点も見落としやすい。
関連用語
出典・参考
公式シラバスの3 技術要素 ＞ 1. 情報セキュリティ ＞ (7) 攻撃手法に掲載されている用語です。
解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。