データサイエンティストはAIモデルを、いわゆるブラックボックス型とホワイトボックス型に区別する。

 ホワイトボックス型は通常、少数の単純なルールのみを伴い、ツリー型でデータを分析する決定木が一つで、パラメータの数も限られた単純な線形モデルなどで示される。ルールやパラメータの数が少ないため、アルゴリズムの背後にあるプロセスはたいてい人間による理解が可能だ。

 対照的にブラックボックス型は、数百から数千もの決定木(「ランダムフォレスト」と呼ばれる)や、数十億のパラメータを用いて(深層学習など)、アウトプットを提供する。

 認知負荷理論によれば、人間に理解できるモデルは最大7つ程度のルールやノードしかないものに限られるため、ブラックボックス型のシステムによる決定を人間の観察者が説明するのは機能的に不可能である。

更新情報知らせます はい 不要