差分プライバシーとは？さぶんぷらいばしー
差分プライバシーとは、集計処理へ確率分布に従う雑音を組み込み、ある1人のデータが含まれていても含まれていなくても出力の分布がほぼ変わらないようにする、プライバシー保護の数学的な定義。守りの強さをεというパラメータで定量的に示せる点に特徴がある。守れる程度を運用の工夫ではなく定義として示せる点が、従来の匿名化と決定的に違う。
最終更新：2026-10-06
この語が出る過去問を解く →背景
識別子を消す、値を粗くまとめるといった従来の匿名化は、外部データとの突合による再識別で破られる事例が繰り返され、「どこまで安全か」を示す手立てを持たなかった。安全性を運用上の工夫ではなくアルゴリズムの性質として証明可能にするために提案された枠組みで、シラバスでは秘匿化・匿名化の手法の節でk-匿名化と並べて扱われる。
具体例
Appleは絵文字や検索語の利用統計を集める際、端末側で回答へ雑音を加えてから送る方式（ローカル差分プライバシー）を採用し、米国国勢調査局も2020年の集計へ適用している。事業者は集団の傾向を正しく推定できる一方、特定の1人の回答は復元できない。
試験での引っ掛け
εが小さいほど強く守れるが結果は不正確になり、有用性との交換は避けられない。同じデータへ問合せを重ねると雑音が打ち消し合ってεが積み上がるため、プライバシー予算として問合せ回数を管理しないと保護が崩れる。k-匿名化やl-多様性が「出力されたデータ」の性質を述べるのに対し、こちらは「処理手順」の性質を述べる点で対象が異なる。
関連用語
出た過去問
出典：令和7年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問5（IPA）解説で登場
AIに対するモデルインバージョン攻撃に該当するものはどれか。
正解：AIモデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し,学習に用いた元のデータを推測する。
要点：モデルインバージョンは出力から学習データを復元する攻撃
モデルインバージョン攻撃は、入力を少しずつ変えながら出力の確信度などを観察し、その反応から学習に使われた元データの特徴を復元しようとする攻撃である。顔画像で学習したモデルから特定人物の顔を再構成するような例が知られ、学習データに個人情報が含まれる場合に深刻な情報漏えいとなる。対策には、出力する情報量の制限や差分プライバシ（雑音を加えて個人を特定させない手法）の適用がある。
出典・参考
解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。