アルゴリズムバイアス・AI倫理とは？あるごりずむばいあす・えーあいりんり
アルゴリズムバイアス・AI倫理とは、学習データや目的関数に含まれる偏りが、モデルの出力として特定の属性への不利益となって再生産される現象。過去の判断結果を正解として学習させる限り、過去の偏りは不具合ではなく仕様として受け継がれるため、精度の指標だけでは検出できない点が要点になる。
最終更新：2026-10-07
高度試験の午前Iを最短で暗記する →背景
機械学習は「過去に人がどう判断したか」を近似する装置であって、その判断が正しかったかは問わない。だから是正は技術ではなく統治の問題になり、人による最終判断、説明可能性の確保、属性別の結果を事後に監査する枠組みといった運用側の手当てが求められる。
具体例
Amazonが試作した採用選考モデルは、過去10年の応募者が男性に偏っていたため女性を示す語を含む履歴書を低く評価し、2018年に運用が断念された。総務省・経済産業省のAI事業者ガイドラインも、この種の公平性の確保を事業者の責務に挙げている。
試験での引っ掛け
性別の欄を入力から外せば公平になる、という対策は効かない。出身校や居住地が代理変数として属性の情報を運んでしまうためである。また全体の精度を最大化する学習は件数の少ない集団での誤りを増やす方向へ働くので、精度が高いことと公平であることを同一視させる選択肢は誤り。
関連用語
出典・参考
解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。