犯罪容疑者が裁判開始前に保釈されるべきかどうかを決定するためのアルゴリズムについて調べた。ジャーナリストらの発見によれば、再犯を犯さなかった黒人は、再犯を犯さなかった白人よりも、保釈前に再犯リスクを中~高程度と予測される割合が高かったという。

 直観的には、人種によって偽陽性率(再犯リスクが高いと予測された人が、再犯を犯さなかった割合)が異なるということは、アルゴリズムに人種的バイアスがあることを示す、疑いようのない事例と考えられる。しかし実際のところ、このアルゴリズムは、もう1つの重要な「公平性」の概念ならば満たしているということが判明した。すなわち、再犯リスクが高いと予測された人が、「実際に再犯を犯した」割合は、人種に関わらずほぼ予測通りだったのである。

更新情報知らせます はい 不要