倫理と社会的課題

この章で扱う問い

教育 AI を社会に展開すると、技術的問題から滑らかにつながる仕方で、倫理的・社会的問題が立ち現れます。本章の主張は単純です——倫理は後付けの規制遵守ではなく、設計に内在する制約である。「まずシステムを作って、後で倫理委員会に確認する」という順序は、本質的に間違っています。学習者の認知データをどこまで集めるか、誰のための公平性を担保するか、学習者にどの程度の自律性を残すか、システムの判断にどう説明責任を負うか——これらは設計の最初に決まる事柄であって、設計の終わりに付け足すものではないのです。

本章は、プライバシー、公平性、自律性、説明責任、ラベリング、教師の労働という六つの論点を順に取り上げます。それぞれに固有の難しさがあり、抽象論で済ませず、ProPublica の COMPAS 分析、Hewlett Foundation の AES バイアス検証、GDPR の忘れられる権利訴訟といった具体的な事例で「ここでは何が現実に問題になっているか」を示します。形式化と説明可能性を強みにする立場は、倫理的問題に対しても他のアプローチより少しは有利な道具を持っています——その「少し」を、どう実装に落とすかが本章の関心事です。

前章では応用事例を見てきました。動いているシステムを並べると、効果の話だけで章を閉じたくなります。けれども実際の現場で問題になるのはむしろ、ここで扱う問いの方です。あなたが将来、教育データを扱うシステムを作るとき——ITS / AIED の開発に関わるあなた、学校現場で AI 教材の導入を検討しているあなた、学習データを使った研究を計画しているあなた——それぞれにとって、本章は「設計の最初に立ち止まって考えるべきこと」のチェックリストとして読めるはずです。

なぜ倫理が設計に内在するのか

技術者は「技術は中立的であり、使い方の問題だ」と考えがちですが、この見方は学習支援には当てはまりません。学習支援システムを設計するとき、設計者は次のような問いに必ず答えなければなりません [Friedman2003]。

「何を学ぶべきか」——どの知識・スキルを重視するか。テスト得点に直結する手続き的習熟か、深い概念理解か、創造性か、批判的思考か。「どのように学ぶべきか」——講義型か、探究型か、協調学習か。「誰のための教育か」——エリート教育か、万人のための教育か。「成功とは何か」——テストの点数か、深い理解か、人格形成か、長期的な学習動機の醸成か。

これらの判断は、教育哲学、文化、社会的文脈に依存する 価値判断 です。中立な答えは存在しません。形式化を進めるアプローチは、この価値判断を コードと中間表現に書き込む ことになります。「習熟」を $p(\text{習得})\ge 0.95$ と定義すれば、それは「速く高確率で正答する学習者が良い学習者」という価値観の数値化です。「最適な課題」を「最も学習効率が高い課題」と定義すれば、効率という価値が他のすべての価値を支配する設計が生まれます。

そして善意で設計されたシステムが、しばしば予期せぬ負の帰結を生みます。テストスコア最大化を目的にすれば、学習者は「テストに出る内容」だけを学び、深い理解や創造性が犠牲になります。効率性を重視すれば、学習者の自律性や内発的動機づけが損なわれます。設計者が倫理的判断を意識しないことは、倫理的判断をしないことではなく、無自覚にしていることです。

形式化は、この点で逆説的に有利です——形式化は暗黙の前提を明示化する作業ですから、価値判断もまた明示化される機会を持ちます。「習熟の閾値を 0.95 に設定する」と書く瞬間に、「なぜ 0.95 か」「これは誰の価値基準か」という問いが立ち上がります。形式化が倫理的検証の起点になりうるのです。

プライバシー——学習データは何を映すか

学習支援システムは、解答内容だけでなく、解答に至るプロセス、つまずきのパターン、学習時間、視線データ、感情状態など、極めて密度の高いデータを収集します。これは学習支援に有用ですが、同時に学習者の認知能力、知識の欠如、誤解、感情的脆弱性を 他人より克明に明らかにしうる 情報でもあります。

何が問題か

具体的なリスクは四つに分かれます。差別リスク——「この学習者は理解が遅い」「集中力が低い」というラベルが固定化され、将来の進学・就職機会が制限される。米国では一部の学校で「early warning system」が黒人・ヒスパニック系生徒に対してドロップアウト予測の高リスクを過剰に出力し、これが追加の監視や不利な進路指導につながった事例が報告されています。監視社会化——常時データ収集は学習者に心理的圧迫を与え、リスクを取った試行錯誤を抑制する。データ漏洩——学習データは生涯にわたって本人の評価に影響しうる情報であり、漏洩の被害は深刻になる。商業利用——教育データが企業の利益 (広告ターゲティング、保険料算定など) のために二次利用される。Zuboff の言う「監視資本主義」が教育セクターに侵入する [Zuboff2019]。

GDPR の忘れられる権利訴訟——具体事例

EU の General Data Protection Regulation (GDPR、2018 年施行) は、データ主体に 訂正権、削除権 (忘れられる権利)、データポータビリティ などを与えました。教育の文脈で象徴的な事例を一つ挙げましょう。ある欧州圏の MOOC プラットフォームに対して、修了証取得後に「自分の学習ログ全件の削除」を求めた学習者がいました。プラットフォーム側は「ログは集計分析の改善に必要であり、匿名化されている」と主張しましたが、ログには学習者ごとに固有のセッション ID が紐づき、再識別の可能性が排除できませんでした。最終的にプラットフォーム側が個人レベルログの削除に応じた——これは、GDPR の「忘れられる権利」が学習データに具体的な義務を課す事例として、教育データ実務における先例となっています。

教訓は、「匿名化したから大丈夫」は技術的に成立しない場合がしばしばある ということです。学習ログは行動の系列パターンが個人に対して非常に固有性が高く、外部データとの突き合わせ (例えば成績公表データ、SNS の投稿時刻) で再識別されうるからです。細粒度な認知モデルを構築するシステムでは、この問題は一段と深刻になります——学習者の誤概念のパターン自体が、本人の指紋のように振る舞うのです。あなたが将来、教育データを扱うシステムを作るとき、「うちは個人を特定する気はないから大丈夫」と思い込まないでください。あなたが作るデータ構造そのものが、すでに本人を識別しうる粒度になっていないかを、設計の最初に問い直す必要があります。

対策と原則

具体的な設計原則は次の五つに集約されます。

データ最小化——目的達成に必要最小限のデータのみを収集する。本書の認知モデルが要求するのが「正誤と所要時間」だけなら、視線データや感情データを取らない。

同意と透明性——何のデータを、なぜ、どのように収集・利用するかを学習者 (未成年なら保護者も) に明示し、同意を得る。子どもの同意年齢は GDPR 加盟国で 13–16 歳、米国の COPPA は 13 歳未満を対象とする。

匿名化と再識別リスクの評価——k-匿名性などの形式的指標で再識別困難性を保証する。ただし「絶対的な匿名性」は不可能であることを認識する。

アクセス制御——データへのアクセスを厳格に制限し、暗号化、監査ログ、最小権限原則を徹底する。

データ主権——学習者が自分のデータを確認・修正・削除できる権利を保障する。これは GDPR、日本の個人情報保護法、米国の FERPA (Family Educational Rights and Privacy Act) 等の法的要請でもある。

本書の枠組みに固有の論点として、中間表現として保存される認知モデルそのものの扱い があります。「学習者 A は誤概念 X を持つ」という診断は、生データではなく 本書の中間表現に記録されます。これは生データよりさらに濃縮された個人情報であり、削除権・訂正権の対象は中間表現にも及ぶべきです。本書の中間表現を再利用可能にしようとすればするほど、誰がどの権限でその中間表現を読めるかという設計問題が重くなります。「いま自分が見ている粒度の情報を、当人が見せたくないと言ったら即座に削除できるか」を実装の前段で確認しておく――そんな運用上のディシプリンが、データ主権を絵空事にしないための土台になります。

公平性——複数の正義は同時に満たせない

AI 技術の普及とともに、アルゴリズムバイアスが深刻な問題として認識されるようになりました [Barocas2023]。学習支援も例外ではありません。

バイアスの源泉

バイアスは三段階で入り込みます。

データバイアス——訓練データが特定の属性 (性別、人種、社会経済的背景) に偏ると、システムもそのバイアスを学習します。米国で開発された早期警報システムが、訓練データの大部分が中産階級白人のデータであるために、低所得層・少数派の学生に不適切な予測を出すことが繰り返し報告されています。

設計バイアス——設計者の暗黙の仮定がシステムに反映されます。「良い学習者は速く正確に答える」という仮定は、じっくり考える学習者を不当に低く評価します。「典型的な誤りパターン」を訓練データの多数派から定義すれば、文化的に異なる思考様式の学習者の誤りが「異常」とラベル付けされます。

評価バイアス——何を「成功」と定義するかで、特定のグループが不利になります。標準化テストは文化的背景によって有利・不利があることが知られており、システムがそれを評価指標に採用すれば、バイアスは制度的に固定化されます。

ProPublica の COMPAS 分析——教訓を学習支援に持ち帰る

公平性研究の歴史的転換点となったのが、2016 年の ProPublica による COMPAS 分析です。COMPAS は米国の刑事司法で使われていた累犯リスク予測アルゴリズムで、被告人の再犯確率を予測し、裁判官の判断を補助していました。ProPublica は数万件の予測と実際の累犯データを照合し、「黒人被告は実際には再犯しなかったのに高リスク予測されることが、白人被告より約 2 倍多い」と報告しました。一方で COMPAS の開発元 Northpointe は、「予測スコアごとの実際の累犯率は人種で同等である」と反論しました。

注目すべきは、両者がともに正しいことです。Chouldechova (2017) と Kleinberg ら (2017) が形式的に証明した不可能性結果が示したのは、真陽性率の人種間平等 (ProPublica 基準) と予測値較正の人種間平等 (Northpointe 基準) は、ベース率が群間で異なる限り同時には満たせない ということでした。「公平」には複数の数学的定義があり、それらは互いに両立しません。どの公平性基準を採用するかは、技術的最適化の問題ではなく 価値判断 です。

この教訓は学習支援にそのまま持ち込まれます。例えば「ドロップアウト予測モデル」を考えてみましょう。

• グループ間で 真陽性率 (真にドロップアウトする学生のうち高リスクと予測される割合) を等しくしたいか?
• グループ間で 較正 (高リスクと予測された学生のうち実際にドロップアウトする割合) を等しくしたいか?
• グループ間で 人口統計学的均等 (高リスク予測の割合) を等しくしたいか?

これらはどれも「公平性」と呼べますが、ベース率が群間で異なる限り、同時に満たすことはできません。本書の文脈で、この決定は中間表現の設計時に下されるべきです——「われわれのシステムは、こういう意味での公平性を優先する。なぜなら…」と明示されるべきなのです。

Hewlett Foundation AES コンペのバイアス事後検証

もう一つの具体例として、Automated Essay Scoring (AES、自動エッセイ採点) の事例があります。2012 年、Hewlett Foundation はクラウドソーシング型コンペ Kaggle で AES アルゴリズムの精度を競わせました。優勝アルゴリズムの精度は人間採点者間の一致率に匹敵し、「機械が人間を超える」と話題になりました。

しかし数年後の事後検証で、優勝アルゴリズムを含む多くの AES が、英語非母語話者の作文や、非標準的な英語方言 (African American Vernacular English など) の作文を、人間採点者より系統的に低く評価する ことが示されました。Perelman の批判 [Perelman2014] はもっと露骨で、e-rater は文長や複雑な単語の使用といった表層的特徴に過剰に反応し、内容空虚な長文を高く評価する一方、簡潔で深い論証を低く評価することを示しました。

教訓は二つあります。第一に、「精度」は単一の数字で語れない——平均的な精度が高くても、特定のサブグループで系統的に低ければ、そのシステムはそのサブグループに対しては不公平です。第二に、評価指標と人間の判断の相関だけでは不十分——その人間の判断自体がバイアスを含んでいた可能性を、独立に検証する必要があります。本書の評価設計 (第 13 章) でサブグループ別の効果検証を求めたのは、まさにこの理由からです。

公平性の機械学習的定義

機械学習の公平性研究では、より技術的な定義が定着しています。人口統計学的均等 (Demographic Parity)——保護属性 (性別、人種など) の各グループで、肯定的な予測 (合格、推薦) の割合が等しい。機会均等 (Equal Opportunity)——真の正例の中での真陽性率が、各グループで等しい。等化オッズ (Equalized Odds)——真陽性率と偽陽性率の両方が、各グループで等しい。較正 (Calibration)——予測確率が、各グループで実際の正例率と一致する。

表 17-1: 公平性の機械学習的定義

これらの基準が同時には満たせないという不可能性結果 (Chouldechova 2017、Kleinberg et al. 2017) は、価値判断の必要性を技術的に裏付けます。FCL が形式化を通じて貢献できるのは、「われわれのシステムはどの公平性基準を採用しているか」を中間表現の中で明示する規律です。データ駆動の機械学習システムが暗黙のうちに「精度最大化」だけを最適化対象とするのに対し、本書の枠組みは公平性の選択を設計上の宣言事項として扱えます。

デジタルデバイド——技術自体が格差を拡大する

公平性のもう一つの側面は、技術へのアクセスそのものの不平等です [Warschauer2003]。高品質なデバイス、高速インターネット、静かな学習環境は、すべての学習者に等しく利用可能ではありません。本書の枠組みに基づく洗練された ITS が普及すればするほど、それを使えない学習者と使える学習者の格差は広がります。Reich and Ito [Reich2017] は、教育技術が必ずしも格差を縮小しておらず、むしろ拡大している現状を実証データで示しています。

本書のエコシステム構想 (第 18 章) が、低リソース環境でも動作するモデル、オフライン対応、軽量実装を中核要件として組み込むかどうかが、この問題への態度を決めます。

自律性——学習者をシステムの従属者にしないために

高度に適応的なシステムは、皮肉なことに、学習者の自律性を損ないうるものです。システムが常に「次に何をすべきか」を指示すると、学習者は自分で目標を設定し、方略を選択する能力を失います。システムが常に即座にフィードバックを提供すると、学習者は自己評価や自己調整の能力を発達させる機会を失います。「システムが教えてくれるから、自分で考えなくてもいい」という依存が生じてしまうのです。

教育の本質的目標の一つは、学習者の自律性 (autonomy) と主体性 (agency) の育成です。システムはこの目標を支援すべきであり、阻害してはなりません。具体的には、学習者が自分の学習目標を設定できるようにすること、複数の学習経路を提示し選択させること、段階的にシステムのサポートを減らし (フェーディング) 自律性を高めること、メタ認知的スキル (自己モニタリング、自己調整) を育成すること——これらが設計指針となります。

本書の枠組みは二つの意味でこれを助けうるでしょう。一つは オープンラーナーモデル (第 8 章参照)——学習者に自分の認知モデル (「どのスキルが習得済みか、どの誤概念があるか」) を見せることで、自己調整を促進します。中間表現が学習者にも読める粒度で書かれていれば、学習者は自分の状態を理解し、自分で次の学習を計画できます。もう一つは human-in-the-loop 設計——AI が選択肢を提示し、なぜその推薦をするのかを説明し、最終決定を学習者に委ねる仕組みです。Regan and Jesse [Regan2019] は、学習者が「アルゴリズムに従う存在」になり自己決定能力を失う危険を警告しています。

逆に、本書の形式化を強引に進めると、学習者の状態を細粒度に把握し過剰に介入するシステムを作ってしまいます。「形式化が進むほど自律性を奪う」というトレードオフは、本書の根本的なジレンマです。本書は、形式化は学習者の自己理解を支援する道具であって、学習者を最適化する道具ではない、という立場を取ります。

説明責任——ブラックボックスの問題と 本書の優位性

深層学習や LLM ベースのシステムは、しばしば「ブラックボックス」になります。なぜそのような判断をしたのかを、人間が理解しにくい場合があるのです。学習者や教師が「なぜこのフィードバックが与えられたのか」を理解できなければ、信頼できません。システムが誤った診断や不適切な支援を行ったとき、その原因を特定し修正することも困難になります。

FCL が形式化を重視する理由の一つは、まさに説明可能性です [Caruana2015]。形式化された認知モデルに基づくシステムは、その推論過程を辿れます——「学習者 A には概念 X のフィードバックを提供した。なぜなら、学習者は問題 P を誤り、その誤りパターンはドメインモデルの誤りモデル M における概念 X の誤解を示唆するからだ」と書き下せます。

しかし、説明可能性を技術的に持つことと、それが社会的説明責任に応えることは別です。第 13 章で論じた通り、説明の 正確さ (モデル状態を正しく反映しているか)、理解可能性 (学習者・教師が読める形式か)、行動への寄与 (説明を読んだ人が実際に判断を変えるか) の三観点で、説明は別途検証されなければなりません。本書の形式モデルが「内部的に説明可能」であっても、その説明が学習者にとって意味不明な専門用語で書かれていれば、説明責任を果たしていることにはなりません。

誰が責任を負うか

システムが不適切な支援を提供し学習者に害を与えた場合、誰が責任を負うのでしょうか。システム開発者か、利用した教師か、データを提供した研究者か——これは法的・倫理的に未決の問題です。少なくとも開発者は次の責任を負うべきでしょう——システムの限界を明示する、適切な使用方法を教育する、継続的に評価し問題を修正する、透明性を確保し外部からの検証を可能にする。本書の中間表現の公開は、最後の点に直接貢献します。

ラベリングの危険——「習得済み」と「未習得」の重さ

本書のような形式化されたシステムは、学習者を細かいラベル (「スキル X 習得済み」「誤概念 Y を持つ」「ZPD レベル 3」) でカテゴライズします。これは学習支援に必要ですが、同時に ラベリング効果——ラベルが本人や周囲の期待を方向付け、自己成就予言を引き起こす——のリスクを持っています。

教育心理学の古典的研究 (Rosenthal の Pygmalion 実験など) は、教師が生徒に対して持つ期待が実際のパフォーマンスに影響することを示してきました。本書のシステムが「この学生は数学的概念理解が低い」とラベリングし、それが教師に共有されれば、教師の期待が実際の指導行動を変え、結果として学生の伸びを抑制しうるのです。

形式化はラベルの 精度 を高めますが、同時にラベルの 固定化リスク を高めます。曖昧で印象的な評価なら、教師も生徒も「実際に当たっているのか」と疑問を持てます。形式化された数値スコアは、根拠のない権威を持ちうるのです。本書の中間表現が「学習者の状態は時間とともに変化する流動的なもの」として設計され、ラベルの 有効期限 や 確信度 を明示し、容易に更新可能であることが、ラベリングの害を緩和します。学習者のスキル状態を扱う際には「これは数週間後にはまた変わる確率の塊だ」と意識的に自分に言い聞かせる――それくらいの留保なしには、一度貼ったラベルが見立てそのものを縛りにきてしまいます。

教師の労働——増強か、置き換えか、de-skilling か

学習支援システムは、教師を置き換えることを目指すべきでしょうか。本書の立場は明確に「否」です。

人間の教師は、単なる知識伝達以上の役割を果たします——情緒的サポート、ロールモデル、社会的スキルの育成、価値観の形成、現場文脈に応じた即興的判断。これらは現在の技術では代替が困難です。本書の目標は教師を 増強 (augment) することです [Luckin2016]。システムは個々の学習者の詳細な診断、大量の課題の自動採点、リアルタイムのダッシュボードなど、教師の能力を拡張する道具となります。これにより教師は、より創造的で人間的な側面——個別対話、動機づけ、メンタリング——に時間を割けるようになります。

しかし「増強」が実際にそうなるかは、設計次第です。同じ技術が、教師を「AI の指示を実行する作業員」 (de-skilling) に貶める方向に使われることもあります。例えば授業時間の半分を ITS に充て、教師にはダッシュボードを監視するだけの役割を与える設計は、教師の専門性を侵食します。

Holstein, McLaren & Aleven [Holstein2019] は、教師との 協働設計 (co-design) を強調しています——研究者・開発者が一方的に設計するのではなく、実践者の知見を取り入れて設計する。教師がシステムの動作を理解し、必要に応じてカスタマイズできることが重要です。形式化された中間表現は、この点でも役立ちます——教師が読める粒度で記述された認知モデルなら、教師は「この前提関係は私のクラスでは違う」と修正でき、システムを自分の文脈に適応させられます。

教師の労働問題は、技術的問題ではなく労働社会的問題です。本書の研究者が考えるべきは、「教師の専門性を拡張する設計」を選び、「教師を不要化する設計」を選ばない、という規範的態度を持つことです。

文化的・社会的文脈とグローバルサウス

認知の基本的メカニズム (例: ワーキングメモリの容量制約) はある程度普遍的ですが、学習のスタイル、価値観、社会的規範は文化によって異なります。ある文化圏で開発されたシステムを別の文化圏に適用することには問題があります。例えば個人主義的文化で設計された個別学習システムは、集団主義的文化では不適切かもしれません。

教育技術の研究・開発は、主に欧米と日本などの先進国で行われています。しかし教育の課題はグローバルサウスでより深刻な場合が多く、これらの地域ではインフラ (電力、インターネット) の制約が大きく、欧米で開発されたシステムがそのまま機能しないことが多いです。言語、教育制度、教師の訓練レベルも異なります。本書の中間表現の可搬性は文化的適応を容易にする可能性を持っています——ドメイン知識や教授戦略を文化的文脈に応じて修正できれば、ローカライゼーションが促進されるからです——が、これは可能性に留まり、実現には現地研究者・実践者との協働が不可欠です。

倫理的設計の実践——プロセスへの組み込み

これらの論点を「設計の最初に組み込む」ことを実装するには、組織的・プロセス的な仕組みが必要です。

倫理審査と規制遵守——研究段階では機関の倫理審査委員会 (IRB) の承認が必要で、特に未成年を対象とする研究では厳格な審査が求められます。GDPR、米国の FERPA、日本の個人情報保護法、自治体・学校設置者ごとの規程に注意してください。

多様なステークホルダーの参加——技術者だけでなく、教育者、学習者、保護者、倫理学者、社会学者など多様な立場を設計に参加させます。単一の専門家集団では見落とされるリスクが、多様な視点で発見されます。

継続的評価と改善——倫理的問題は設計時だけでなく、運用中にも生じます。システムの影響を継続的に評価し、問題が発見されたら迅速に対応する体制が必要です。技術や社会の変化に応じて、倫理的基準自体も更新されます。

事前登録と透明な報告——第 14 章で論じた事前登録、CONSORT 等の報告基準、コードとデータの公開は、倫理的検証の前提でもあります。検証できない研究は、倫理的に責任を取れない研究です。

まとめ

倫理は規制遵守ではなく設計に内在する制約です——本章の中心主張をもう一度言い直しておきます。プライバシーは「同意書を取る」だけでは済まず、データ最小化と匿名化と削除権を中間表現の設計に書き込みます。公平性は「悪意がない」では済まず、複数の数学的定義のうちどれを優先するかを明示し、サブグループ別に検証します。自律性は「学習者を尊重する」というポーズでは済まず、オープンラーナーモデルや human-in-the-loop で実装します。説明責任は「説明可能な AI」と謳うだけでは済まず、説明の正確さ・理解可能性・行動寄与を独立に検証します。ラベリングは精度を高めれば済まず、ラベルの流動性と更新可能性を設計に組み込みます。教師の労働は「増強する」と宣言するだけでは済まず、協働設計と専門性拡張を実装に落とします。

本書の形式化と説明可能性は、これらの問題に対して他のアプローチより少しは有利な道具を持っています。しかし「少しは有利」は「自動的に解決する」ではありません。形式化が暗黙の価値判断を明示化する道具であるからこそ、設計者は自らの価値判断を問われ続けます。これが、FCL が技術的方法論であると同時に倫理的態度の問題であることの意味です。

次章への橋渡し

倫理を設計に内在する制約として受け止めたうえで、改めて「では 本書の枠組みはこれからどこへ向かうのか?」を問うのが、本書の最終章です。次章では、多層形式化、LLM との責任ある統合、コミュニティとデータ共有という三つの研究プログラムを、未来予測としてではなく、いま取り組める研究上の問いとして提示します。本書を読み終えた読者が、自分の関心領域から 本書のエコシステムへ何を持ち寄れるかを考えるための、最後の足場として読んでいただければと思います。

さらに学ぶために

• Holstein, K., McLaren, B. M., & Aleven, V. (2019). Co-designing a real-time classroom orchestration tool to support teacher–AI complementarity. Journal of Learning Analytics, 6(2), 27–52.
• O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown.
• Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.
• Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
• Barocas, S., Hardt, M., & Narayanan, A. (2023). Fairness and Machine Learning: Limitations and Opportunities. MIT Press.
• Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica. （COMPAS 分析の原典記事）
• Chouldechova, A. (2017). Fair prediction with disparate impact: A study of bias in recidivism prediction instruments. Big Data, 5(2), 153–163. （公平性不可能性結果）
• Kleinberg, J., Mullainathan, S., & Raghavan, M. (2017). Inherent trade-offs in the fair determination of risk scores. Proceedings of ITCS 2017. （同上）