1級 · 読解 · 第6回
客観性という虚飾 ― 予測アルゴリズムと結果の倫理
この回の内容
1級 · 読解 · 第6回
「機械は恨みを持たないという擁護 → 論点のすり替え → データは無垢ではない → 透明性は不十分 → 結果で判断せよ」の運びです。
すり替えを名指しする
擁護論は「処理の公平さ」を語るが、問題は「出自の公正さ」である ━ impartiality in the processing of data is not the same thing as fairness in its origins。
この conflation（混同）こそが未獲得の客観性の見かけを与える、と筆者は名指しします。
過去の判断の堆積で訓練されたモデルは偏見を超えるのではなく launders it（洗浄する）。
結論は手続きではなく実体
透明性を完全に達成しても残る問い ━ what is the system optimising for, and is that goal one we are entitled to pursue?（何のために最適化しているのか、その目標を追う資格があるのか）。
An algorithm tuned with flawless transparency toward an indefensible end is not redeemed（擁護できない目的に向けて完璧に透明でも救われない）。
結論は Good faith … is no defence; only outcomes are.（善意は弁明にならない。結果だけが基準だ）。
つまずきやすい所
○ 必要だが不十分（目的の是非は残る）
✗ 透明性を高めれば問題は解決する
curiously insufficient。
○ 善意は弁明にならない（結果で判断）
✗ 設計者に悪意がなければ責任は軽い
Good faith is no defence。
○ 既存の偏見を洗浄して権威を与える
✗ アルゴリズムが新たな偏見を作り出す
launders it。
論点のすり替えを名指しし、透明性論を越えて結果責任へ進む構成です。