However, explaining decisions may n

However, explaining decisions may not be straightforward even with small symbolic models. For example, suppose the model is a binary decision tree that receives two inputs and predicts 1 when either of the inputs is 1. Then, by examining the tree, one may come to the wrong conclusion that (for one of the leaves) one of the inputs needs to be different from 1 for the tree to predict 1.

結果 (繁體中文) 1:

然而，解釋決策可能不是直接的，即使有小的象徵車型。例如，假設模型是接收兩個輸入和預測1時其中一個輸入是1。然後，通過檢查樹的二進制決策樹，可以得出錯誤的結論，即（對於葉中的一個）中的一個的輸入必須是不同於1的樹來預測1。

結果 (繁體中文) 2:

但是，即使有小型符號模型，解釋決策也並非易事。例如，假設模型是接收兩個輸入的二進位決策樹，當任一輸入為 1 時預測 1。然後，通過檢查樹，可能會得出一個錯誤的結論，即（對於其中一個葉子）一個輸入需要不同于 1，樹才能預測 1。

結果 (繁體中文) 3:

然而，即使使用小的符號模型，解釋決策也可能並不簡單。例如，假設模型是一個二叉決策樹，它接收兩個輸入，並在其中一個輸入為1時預測1。然後，通過檢查樹，人們可能會得出錯誤的結論，即（對於其中一片葉子）其中一個輸入需要與1不同，樹才能預測1。