2020年11月に立ち上がったのが、「AIインシデント・データベース」である。
人工知能(AI)が原因で発生したインシデント(事件や事故)を集めたこのオンラインデータベースは、自動車や航空機に比べると規制が緩い自律走行車やロボットといった分野の安全性向上を目的につくられた。
このデータベースには「No.68、警備ロボットが噴水に落ちた」「No.16、グーグルの写真管理サーヴィスで、黒人の写真に『ゴリラ』のタグが付けられた」など、21年6月時点で100件のインシデントが登録されている。いわば、「AI版の不名誉の殿堂(Hall of Shame)」だ。