AIのセキュリティ・信頼性（敵対的サンプル）とは？
AIのセキュリティ・信頼性（敵対的サンプル）とは、機械学習モデルに対する特有の脅威。入力データにごくわずかなノイズを加えることでAIの判定を意図的に誤らせる「敵対的サンプル（Adversarial Example）」や、学習データに悪意あるデータを混入させてモデルの精度や公平性を損なう「データポイズニング」などがある。
応用情報技術者試験の過去問では24回出題されています（2017年度〜2025年度）。
えーあいのせきゅりてぃ・しんらいせい
AIのセキュリティ・信頼性（敵対的サンプル）の意味
機械学習モデルに対する特有の脅威。入力データにごくわずかなノイズを加えることでAIの判定を意図的に誤らせる「敵対的サンプル（Adversarial Example）」や、学習データに悪意あるデータを混入させてモデルの精度や公平性を損なう「データポイズニング」などがある。
AIのセキュリティ・信頼性（敵対的サンプル）の具体例
画像認識AIに人間の目にはほとんど分からない微小なノイズを加えることで、標識の画像を全く別の対象として誤認識させる、といった実験結果が報告されている。
AIのセキュリティ・信頼性（敵対的サンプル）は試験でどう引っ掛けられる？
攻撃が仕掛けられる時点が違う。敵対的サンプルは学習済みモデルへの入力（推論時）を細工する攻撃、データポイズニングは学習データを汚染する（学習時）攻撃で、対策の打ち所も変わる。またこれらはプログラムの脆弱性を突く攻撃ではないため、パッチ適用や暗号化では防げない。モデルの内部構造を知らなくても成立しうる点も見落としやすい。
AIのセキュリティ・信頼性（敵対的サンプル）と関連する用語
AIのセキュリティ・信頼性（敵対的サンプル）が出た過去問
ITIL 2011 editionの可用性管理プロセスにおいて，ITサービスの可用性と信頼性の管理に関わるKPIとして用いるものはどれか。
正解：サービスの中断回数及びそのインパクトの削減率
要点：可用性管理のKPIはサービス中断の回数と影響の削減率
可用性管理は、ITサービスが合意した水準で利用できる状態を維持することを目的とするプロセスである。そのKPIには、サービスが使えなかった回数とその影響の大きさをどれだけ減らせたかを示す指標が適している。
出典：平成29年度 春期 応用情報技術者試験 午前 問55（IPA）クラウドサービスの導入検討プロセスに対するシステム監査において、クラウドサービス上に保存されている情報の消失の予防に関するチェックポイントとして、最も適切なもの…
正解：クラウドサービスを提供する事業者に信頼が置け、かつ、事業やサービスが継続して提供されるかどうかが検討されているか。
要点：クラウドでの情報消失予防は、事業者の信頼性と事業継続性の確認が要
クラウド上のデータは事業者の設備に預けられるため、事業者が撤退・破綻したりサービスを終了したりすると、保存した情報を取り出せず失うおそれがあります。したがって導入検討の段階で、事業者の信頼性と事業・サービスの継続性を確認しているかが、情報消失の予防として最も重要な着眼点になります。
出典：令和1年度 秋期 応用情報技術者試験 午前 問58（IPA）ITIL 2011 editionでは、可用性管理における重要業績評価指標（KPI）の例として、“保守性を表す指標値”の短縮を挙げている。保守性を表す指標に該当…
正解：平均サービス回復時間
要点：保守性は復旧時間で測り、信頼性は故障間隔で測る
保守性は、障害が起きたサービスをどれだけ速やかに復旧できるかを示す性質であり、平均サービス回復時間（MTRS）のような復旧に要する時間で測る。これを短縮すれば停止時間が減り可用性が高まる。一方、平均故障間隔や平均サービス・インシデント間隔は、故障の起きにくさすなわち信頼性を表す指標である。
出典：令和4年度 春期 応用情報技術者試験 午前 問56（IPA）デジタル社会形成基本法において掲げられている10項目の基本理念に含まれているものはどれか。
正解：全ての国民が情報通信技術の恵みを享受できる社会の実現を目指し、情報通信技術を用いた情報の活用により信頼性のある情報の自由かつ安全な流通の確保を図ること
要点：デジタル社会形成基本法は恩恵の享受と安全な情報流通を理念とする
デジタル社会形成基本法は、すべての国民が情報通信技術の恩恵を等しく受けられるデジタル社会の実現を目的とし、その基本理念に、情報通信技術を活用した信頼性ある情報の自由かつ安全な流通の確保などを掲げている。他の選択肢はいずれも別の個別法の目的である。
出典：令和6年度 秋期 応用情報技術者試験 午前 問80（IPA）システムの信頼性指標に関する記述のうち，適切なものはどれか。
正解：MTBFとMTTRは，稼働率が0.5のときに等しくなる。
要点：稼働率=MTBF/(MTBF+MTTR)。0.5なら両者は等しい。
稼働率はMTBF÷(MTBF+MTTR)で表されるので、これが0.5になるのはMTBFとMTTRが等しいときである。MTBFは故障と故障の間隔の平均（平均故障間隔）、MTTRは故障してから復旧するまでの平均（平均修復時間）であり、両者の意味を取り違えないことが重要である。
出典：平成30年度 秋期 応用情報技術者試験 午前 問15（IPA）
最終更新：2026-08-25／解説は資格暗記が独自に作成しています。 過去問の出典は各問題に記載のとおりです。