データポイズニングとは？
データポイズニングとは、学習データに細工した標本を混入させ、モデルの判断を意図した方向へ歪める攻撃。全体の精度を落とす無差別型と、特定の入力にだけ誤判定を起こさせるバックドア型がある。学習の段階で仕込まれるため、完成したモデルを検査しても発見が難しい。
でーたぽいずにんぐ
データポイズニングの意味
学習データに細工した標本を混入させ、モデルの判断を意図した方向へ歪める攻撃。全体の精度を落とす無差別型と、特定の入力にだけ誤判定を起こさせるバックドア型がある。学習の段階で仕込まれるため、完成したモデルを検査しても発見が難しい。
データポイズニングの具体例
迷惑メール判定器の再学習に、攻撃者が自分の文面を「正常」として大量に投稿し、以後その特徴を持つメールをすり抜けさせる。画像認識では、特定の小さな模様が写っているときだけ別のラベルを返すよう仕込むバックドアが知られている。
データポイズニングは試験でどう引っ掛けられる？
推論時に入力を細工する敵対的サンプルとは、攻撃が成立する工程が違う。こちらは学習時が起点なので、モデルの再学習パイプラインとデータの出所の管理が対策になる。混入率が1％未満でも成立し得る点も見落としやすい。
データポイズニングと関連する用語
最終更新：2026-08-25／解説は資格暗記が独自に作成しています。 過去問の出典は各問題に記載のとおりです。