1級 · 読解 · 第37回
不公平の数学
この回の内容
1級 · 読解 · 第37回
「機械は公平という神話 → 過去の不平等を再生産 → 公平の定義が複数 → 数学的に両立しない → 政治はコードに埋まる」の運びです。
不可能性という結論
公平の候補は
- 誤り率を群間で等しくする
- 同じ予測スコアが群を問わず同じ意味を持つ
- 好ましい結果の割合を群間で揃える。
どれも直観的に妥当ですが、a celebrated result … demonstrates that, save in trivial cases, these conditions are mutually incompatible（自明な場合を除き相互に両立しない）。
だから There is … no neutral choice（中立な選択は存在しない）。
政治を埋め込むという批判
To delegate a decision to a model is not to evacuate it of politics; it is to bury the politics in code, where it escapes the scrutiny that an openly stated principle would invite.（モデルへの委任は政治を取り除くのではなく、コードに埋めて監視を逃れさせる）。
結論は remedy cannot be purely technical ━ 設計者が規範性を認め、"fair to whom, and at whose expense?"（誰にとって公平で、誰の負担でか） をデータ収集の前に明示せよ、という要求です。
つまずきやすい所
○ 複数の定義が数学的に両立しない
✗ 公平性は技術的に定義して満たせる
mutually incompatible。
○ 悪意なく過去のデータから継承される
✗ 偏りは設計者の悪意による
mundane rather than sinister。
○ 政治がコードに埋まって不可視になる
✗ モデルに委ねれば政治的判断を避けられる
bury the politics in code。
不可能性定理型の結論。公平の3定義は同時に満たせない ━ 技術では解けない、という不可能性が結論です。