1 歴史と背景
1.1 コンピュータ倫理の黎明
情報技術の普及初期、コンピュータは単なる計算機器として捉えられていたが、1960年代以降、データ処理の自動化に伴い倫理的課題が意識され始めた。1970年代には米国でコンピュータ倫理という学問分野が登場し、プライバシー保護や知的財産権に加え、プログラムの公平な運用が議論の対象となった。この時期、企業や政府による大規模データベースの構築が進み、個人情報の不適切な取り扱いが社会問題となる一方で、意思決定へのコンピュータ利用が公正でなければならないという認識が徐々に形成された。
1.2 データ偏見の顕在化
2000年代以降、機械学習の実用化が進むにつれ、訓練データに含まれる歴史的偏見がアルゴリズムを通じて増幅される現象が顕在化した。例えば、採用システムが女性応募者を不当に低く評価する事例や、顔認識技術が特定の人種に対して精度が低い事例が報告され、データバイアスが差別を再生産するメカニズムが明らかになった。2010年代には、Googleの画像認識が黒人を「ゴリラ」と誤分類した事件など、メディアで大きく取り上げられる問題が相次ぎ、技術コミュニティの危機感を高めた。
1.3 規制とガイドラインの整備
これらの問題を受け、各国でAI倫理に関する規制やガイドラインが整備され始めた。欧州連合は2018年に一般データ保護規則（GDPR）を施行し、自動化された意思決定に対する異議申し立て権を規定した。2021年にはEU AI法案が提案され、ハイリスクAIシステムに対する公平性評価の義務化が盛り込まれた。米国では連邦取引委員会がアルゴリズムの差別的な影響を監視する指針を示し、日本でも内閣府がAI原則を公表するなど、国際的に公平性確保の枠組みが急速に整備されている。
2 定義と種類
2.1 集団的公平性
2.1.1 統計的パリティ
統計的パリティは、異なるグループ（人種、性別など）に対してシステムが肯定的な結果を割り当てる割合が等しいことを要求する。例えば、採用システムが男性と女性の応募者を同じ割合で合格にすべきという考え方である。この定義は直感的に理解しやすいが、実際の能力分布がグループ間で異なる場合、不当な結果をもたらす可能性がある。
2.1.2 均等機会
均等機会は、実際に結果が肯定的である個人について、システムが正しく肯定的と予測する確率（真陽性率）がグループ間で等しいことを求める。つまり、能力のある候補者がどのグループに属していても、同じように適切に評価されることを目指す。これは誤った否定（偽陰性）を避ける文脈で重要であり、医療診断や採用選考で広く用いられる。
2.2 個別的公平性
2.2.1 類似個体の類似処理
個別的公平性は、類似した特徴を持つ個人同士が、システムによって同様に扱われるべきという原理に基づく。具体的には、ある距離尺度で近い属性ベクトルを持つ二人の個人に対して、モデルは同じ決定を下すことが望ましい。この考え方は、個人の固有の状況を考慮できる反面、公平な距離尺度の定義が難しく、実装上の課題が多い。
2.2.2 因果的公平性
因果的公平性は、決定の原因となる変数と保護属性（人種や性別など）の因果関係を考慮する。保護属性が結果に直接的な原因となって影響を与える場合のみを差別とみなし、間接的な経路（例えば、教育水準を通じた影響）は許容する。これは、因果推論の枠組みを用いて公平性を定義する高度なアプローチであり、複雑な社会構造を反映できる反面、因果グラフの正確な構築が困難である。
3 評価指標
3.1 バイアスメトリクス
3.1.1 人口統計的パリティ差
人口統計的パリティ差は、異なるグループに対する肯定的結果の割合の差を直接測定する。値が0に近いほど公平であり、正の値は一方のグループが有利であることを示す。計算が容易で解釈も明確なため、初期のバイアス検出でよく使われるが、グループ間の実際の能力差を無視するため単独では不十分である。
3.1.2 誤差率差
誤差率差は、偽陽性率（間違って肯定的に分類）と偽陰性率（間違って否定的に分類）の差をグループ間で比較する。例えば、ある人種グループに対して偽陽性率が高い場合、システムがそのグループに対して不当に厳しい判断を下している可能性がある。この指標は、誤りの種類に応じた不公平を検出するのに有効である。
3.2 フェアネスメトリクス
3.2.1 カリブレーション
カリブレーションは、予測確率が実際の結果確率と一致する程度をグループ間で比較する。例えば、システムがある候補者に対して「合格確率80%」と予測したとき、実際に合格する割合が同一の予測値を持つすべての個人で80%に近ければ、システムは較正されていると言える。この指標は、スコアリングシステム（信用評価など）の公平性評価に重要である。
3.2.2 均等化オッズ
均等化オッズは、真陽性率と偽陽性率の両方がグループ間で等しいことを要求する。つまり、実際に肯定的な個人に対する正しい予測と、実際に否定的な個人に対する誤った予測の両方の均衡を取る。この指標は、刑事司法や医療のように誤りの影響が大きい領域で重視される。
4 実装方法
4.1 前処理段階
4.1.1 データ再サンプリング
データ再サンプリングは、訓練データ内のグループ間の不均衡を調整する手法である。少数派グループのサンプルを増やすオーバーサンプリングや、多数派グループのサンプルを減らすアンダーサンプリングがある。SMOTE（Synthetic Minority Over-sampling Technique）のように人工的にデータを生成する方法も用いられる。単純で効果的だが、過学習や情報損失のリスクがある。
4.1.2 敵対的データ生成
敵対的データ生成は、生成モデル（GANなど）を用いて、保護属性の影響を除去した新しいデータセットを作成する。元のデータから保護属性を予測しようとする敵対的ネットワークと、その予測を妨害するようにデータを変換する生成器を競わせることで、公平性を高めたデータを得る。高度な手法だが、計算コストが高く安定性に課題がある。
4.2 処理段階
4.2.1 制約付き最適化
制約付き最適化は、モデルの訓練時に公平性指標（例えば人口統計的パリティ差）を制約として追加する手法である。目的関数（損失関数）にペナルティ項を加えることで、精度の低下と公平性の向上をトレードオフしながら最適解を求める。ラグランジュの未定乗数法や制約付き凸最適化が用いられる。
4.2.2 公平性正則化
公平性正則化は、モデルの重みに対して正則化項を加えることで、保護属性に関連する特徴への過剰な依存を抑える。例えば、ある特徴の重みが大きいほどペナルティを課すL1正則化や、グループ間の勾配の差を最小化する手法がある。これにより、モデルが差別的なパターンを学習するのを防ぐ。
4.3 後処理段階
4.3.1 決定しきい値調整
決定しきい値調整は、分類モデルの出力スコアに対してグループごとに異なるしきい値を設定する手法である。例えば、あるグループに対しては高いスコアでのみ肯定的判定を下し、別のグループには低いスコアでも許容する。これにより、事後的に誤差率差や統計的パリティを調整できる。実装は簡単だが、しきい値の選択が恣意的になる可能性がある。
4.3.2 郵便番号補正
郵便番号補正は、地理的な属性（郵便番号など）に起因するバイアスを後処理で補正する手法である。例えば、特定の地域に住む個人に対して、信用スコアを一律に引き上げたり引き下げたりする。ただし、郵便番号が人種や所得と強い相関を持つ場合、単純な補正は逆差別を生む恐れがあるため、慎重な設計が必要である。
5 応用分野
5.1 採用・人事評価
採用システムでは、履歴書のスクリーニングや面接評価に機械学習が使われる。性別や年齢、出身大学などの保護属性に基づく差別を防ぐため、公平性対策が不可欠である。Amazonがかつて開発した採用ツールが女性応募者を不利に評価した事例は有名であり、現在では多くの企業が公平性監査を導入している。
5.2 クレジットスコアリング
金融機関はクレジットスコアリングモデルを用いて融資の可否を判断する。人種や居住地域に基づく差別（レッドライニング）を防ぐため、均等機会やカリブレーションの指標が重視される。米国では公正信用報告法（FCRA）や公平貸付法（ECOA）により、説明可能なモデルと差別禁止が義務付けられている。
5.3 医療診断
医療AIでは、疾患の診断やリスク予測において、人種や性別によるバイアスが深刻な問題となる。例えば、皮膚がん検出モデルが肌の色の薄い人に偏って訓練された結果、有色人種への誤診率が高いという事例がある。均等化オッズを確保することで、すべての患者に同等の診断精度を提供することが求められる。
5.4 刑事司法予測
再犯リスク評価ツール（COMPASなど）は、米国の裁判所で保釈や量刑の判断に使われている。しかし、特定の人種グループに対して偽陽性率が高いことが指摘され、公平性を巡る激しい議論を引き起こした。この分野では、プライバシーや説明責任と並んで、公平性の定義そのものの矛盾が顕在化しやすい。
6 課題と将来展望
6.1 定義の矛盾問題
公平性には複数の定義が存在し、多くの場合それらは同時に満たせないことが数学的に証明されている。例えば、統計的パリティと均等機会はトレードオフの関係にあり、一方を改善すると他方が悪化する。システム開発者は、目的や文脈に応じて最適な定義を選択する必要があるが、その判断基準自体が社会的合意を欠くことが課題である。
6.2 プライバシーとの両立
公平性を確保するには、多くの場合、保護属性（人種、性別など）に関するデータが必要となる。しかし、これらのデータは個人情報であり、収集・利用にはプライバシー上のリスクが伴う。差分プライバシー技術を用いた公平性評価手法が研究されているが、実用レベルでの両立は依然として困難である。
6.3 自動化による逆説的バイアス
公平性を自動的に改善するアルゴリズムは、新たなバイアスを導入する可能性がある。例えば、あるグループを優遇するために調整した結果、他のグループに不当な不利益が生じる「逆差別」が発生しうる。また、公平性アルゴリズム自体がブラックボックス化することで、その動作の透明性が失われる危険もある。
6.4 クロスドメイン適応
ある領域で開発された公平性手法が、別の領域では有効でないことが多い。例えば、医療画像で機能した前処理手法が、自然言語処理のテキスト分類では効果が低いなど、ドメイン間のデータ特性やバイアスの構造の違いが障壁となる。汎用的な公平性フレームワークの構築は、今後の重要な研究課題である。