機械学習を意思決定に役立てる方法を探る: The Recon Approach: A New Direction for Machine Learning in Criminal Law
意思決定を科学するpiqcyです(新しい自己紹介)。機械学習を意思決定に活用する場合、人の判断を代替する活用方法が多いと思います。例えば面接官に代わって採否を判断する、明日の弁当発注量を予測するなどですね。司法での活用も例外ではなく、犯罪が発生しそうな地域の予測、再犯確率の判断などに使用されています。しかしそうした活用は司法を効率化しても社会正義の実現にはつながらないのではないか？そう指摘し新しい機械学習の活用方法を提唱しているのが今回紹介する。”The Recon Approach: A New Direction for Machine Learning in Criminal Law”です。
論文の問題意識に共感したため読んでみました。この論文には実験結果などがあるわけでなく、アプローチの提案とその実現に必要な技術がまとめられています。本記事は3点に分けて解説します。
- 司法における機械学習活用の課題
- 新しいアプローチ: Recon Approach
- Recon Approachに必要な技術
では、解説していきます！
1.司法における機械学習活用の問題点
司法の現場では、”Predictive”なアプローチで機械学習が活用されています。具体的には警備予測ツールとリスク評価ツールです。
警備予測ツールは、犯罪が起きそうな地域を予測します。ロサンゼルスやシカゴでは、犯罪防止のために人員などを増やすかどうか検討するのに使用しています。米国の70%の警察機関が、今後5年でこうした警備予測ツールの導入や適用範囲の拡大を計画しているそうです。ずいぶん進んでいるなと驚きましたが、日本でも警視庁で「犯罪・交通事象・警備事象の予測におけるＩＣＴ活用の在り方に関する有識者研究会」が立ち上がり研究が行われていました。
リスク評価ツールは、個人が暴力的な行動を取るかどうかを予測します。暴力的な行動の発生を年齢や逮捕歴、雇用歴等から予測します。1920年代から統計モデルの研究はありましたが、データ量が増え始めてから、機械学習の活用が増え始めました。刑法の実務家向けに60以上のリスク評価ツールが提供されており、評価ツールのスコアを参考にしている裁判官もいるとのことです。日本でも2012年度から法務省で開発が進められています。
興味がある方は、法務省から文書が出ているので読んでみてください。一点注意頂きたいのは、これが「犯罪の未然防止」を目的に使われているわけではないことです。犯罪の未然防止とは、あいつは犯罪を犯しそうだから早めに取り締まろう、という行動のことです。PSYCHO-PASSというアニメで「犯罪係数」という数値が登場しましたが、犯罪係数は犯罪の未然防止に使用されています。これに対し、リスクアセスメントツールは対象者にあった再犯防止プログラムを客観的・定量的に行うことを目的として開発されています。
予測ツールに対しては、精度、人種のバイアス、予測の透明性の欠如などに対し批判があります。一方で、そもそも人間はアルゴリズムほど公平ではないという論調もあります。人間より、アルゴリズムの方が公平な判断ができるということですね。公平性という観点で、人間の「裁量」には意味がないのでしょうか?
人間の代替、裁量の排除という方向ではなく、むしろ人間の「裁量」を効果的に使用するために機械学習を使うことはできないだろうか?Recon Approachの背景にはこの考えがあります。
2. 新しいアプローチ: Recon Approach
Recon Approachは。「偵察」と「再考」という2つの機能を備えています。
- Reconnaissance: 意思決定に影響を及ぼした要員を明らかにする
- Reconsideration: 異常な意思決定の特定
予測ではなく、過去から「学ぶ」形です。学ぶのは機械学習モデルではなく、人間です。Recon Approachは、人間の意思決定訓練を通じ、公平な判断と成文化された判断を追求するためにデザインされています。公平な判断とは、道徳的に正当な根拠に基づく、個別事例ごとの判断です。成文化された判断とは、法律に即した判断です。恣意的なバイアスを減らし、効率性と一貫性の向上に貢献します。
Predictiveなアプローチは、コスト効率よく犯罪行動を最小化します。機械が得意なのは定量化可能な値の処理なので、機械学習はこの領域によく適合します。一方で、Recon Approachは人間の裁量が公平性に利用されるよう促進するという点で遠い位置にあります。
Recon Approachの機能について解説します。
- Reconnaissance: 意思決定に影響を及ぼした要員を明らかにする
機械学習を用い、過去の意思決定に共通するパターンを洗い出します。意思決定にかかわる要素の決定は、様々なステークホルダーから収集します。具体的には、判決を受けた人、弁護士、研究者、議員などに対し何が意思決定の際に考慮されるべきかを検討します。Reconnaissanceで構築されるモデルは、高い透明性を持つ必要があります。そのため、明確な考慮する要素のリスト、そして「考慮しない」要素のリストと共に開発される必要があります。
2. Reconsideration: 異常な意思決定の特定
パターンから外れるケースについて意思決定のし直しや、関係者からのフィードバックを受けます。ただ、特定の判決が異常値だからといって、それが悪いことにはなりません。逆に、個別要素を考慮するという点で公平性実現の好例となるかもしれません。もちろん、再考慮すべき判決かもしれません。
3. Recon Approachに必要な技術
Recon Approachの効果を実証するには、実際ツールを作る必要があるとしています。ただ、そのためには克服しなければならない技術的な課題があります。
10,000語程度の文書に対応できる検索が必要です。現在は500~1000語程度の文書で、コンテキストを認識するには不十分な量です。コンテキストの例としては、文中に「麻薬」という単語が出てきたときに本人が使っていたのか麻薬の売人だったのかを前後の文脈から考慮したうえで関連性を判断する必要があります(これは語数の問題というよりコンテキスト考慮の問題という気がする)。
マルチステップの推論に対応できる質問応答が必要です。例えば、仮釈放者の記事が最後に書かれたのはいつか?という質問に対してはまず記事を探して、かつその日付を取得する必要があります。
モデルの説明可能性が必要です。決定木のモデルなど、同一のパターンと判断されたケースの根拠を知ることができる必要があります。
以上でした。とても興味深く読みました。今行っているサービスでは企業の非財務評価を扱っているのですが、そこでも同じ課題があります。Reconnaissanceの実践にあたっては、非財務評価のフレームワークはリストが使えるかと思いました。
人間がすでに行った決定から潜在的な問題を明らかにし、できるだけ間違えないようにする。この取り組みにはとても共感しました。
