アルゴリズムバイアス・AI倫理とは？あるごりずむばいあす・えーあいりんり
アルゴリズムバイアス・AI倫理とは、学習データや設計に含まれる偏りが、特定の属性へ不利な出力として再生産される問題がアルゴリズムバイアス。採用・与信・保険料・価格といった人の処遇に関わる判断へ使うと、差別と信用失墜に直結する。人による最終判断の残し方、判断根拠の説明可能性、属性別の結果の定期監査を、誰の責任でどう回すかというガバナンス設計として問われる。
最終更新：2026-10-06
ITストラテジストを最短で暗記・合格する →背景
機械学習は過去のデータに現れた規則性を写し取るため、過去の組織が持っていた偏りもそのまま学ぶ。しかも学ぶのは目的変数と相関する変数であって、公平さは目的関数に入っていない。だから放置すれば偏るのが既定で、公平さは設計と監視の側で意図的に足すしかない。経営会議では、精度の指標に加えて属性別の結果を定点で見る体制を、稼働の条件として置くべきだと説明する。
具体例
アマゾンは2018年、過去の採用実績で学習させた選考支援の仕組みが女性の応募者を不利に評価する傾向を示したため、運用を取りやめている。対策としては、保護属性とその代理になる変数を入力から外し、属性別の通過率を定期監視し、不採用の理由を人が説明できる形で残す統制を置く。EUのAI規則のように、用途の危険度に応じて義務を課す法規制も動いている。
試験での引っ掛け
性別などの項目を入力から外せば公平になるという説明は誤りで、居住地や出身校が代理変数として同じ働きをする。精度が高いことと公平であることも別で、全体の精度を最適化すると数の少ない群での誤りが増えることがある。透明性の確保を、アルゴリズムの公開と同義に扱うのも実務では成り立たない。
関連用語
出典・参考
解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。