This paper tackles the problem of e

This paper tackles the problem of explaining data-driven system decisions from a causal perspective: if the question we seek to answer is “why did the system make a specific decision”, we can instead ask “which inputs caused the system to make its decision?” This approach is advantageous because (a) it standardizes the form that an explanation can take; (b) it does not require all features to be part of the explanation, and (c) the explanations can be separated from the specifics of the model. Thus, we define an explanation as a set of features that is weakly causal (meaning that removing the set from the instance changes the decision) and irreducible (meaning that removing any subset of the features in the explanation would not change the decision). Our work generalizes previous work in counterfactual explanations in at least four important ways: (i) we explain system decisions (which may incorporate predictions from several predictive models) rather than model predictions, (ii) we do not enforce any specific method to remove features, (iii) our explanations can deal with feature sets with arbitrary dimensionality and data types, and (iv) we allow the tailoring of explanations to domain needs by introducing costs—for example, the costs of changing the features responsible for the decision. Finally, we showcase the approach using a real data set to illustrate its advantages over feature importance weights when the goal is to understand system decisions better. Future versions of this work will incorporate an extended section of the empirical analysis in: (1) high-dimensional settings, (2) settings in which explanations are expected to be used as recommendations with associated costs, and (3) settings where the decision-making procedure draws on more than one model.

結果 (繁體中文) 1:

本文鏟球從因果關係的角度解釋數據驅動系統的決策的問題：如果我們試圖回答的問題是“為什麼系統做具體的決定”中，我們可以改為問：“哪些輸入導致系統作出決定？“這種方法是有利的，因為（a）該標準化，一個解釋可以採取的形式; （b）中它不要求所有特徵是部分的解釋，和（c）的說明可以從模型的具體分離。因此，我們定義了一個解釋為一組的功能，是弱因果（也就是說，除去從實例中的改變決定）和束縛（這意味著在解釋刪除的功能任何子集不會改變決定）。我們的工作概括在至少四個重要方面解釋反以往的工作：（一）我們解釋了系統的決定（可能包含來自多個預測模型的預測），而不是模型預測，（二），我們不執行任何特定的方法來刪除功能，（三）我們的解釋可以處理功能集任意維和數據類型，以及（iv）我們允許解釋來域需要的剪裁通過引入成本，例如，改變的成本設有負責的決定。最後，我們用真實數據集來說明在功能重要性權自身的優勢時，目標是了解系統的決策更好地展示方法。這項工作的未來版本將在包括一個擴展部分的經驗分析：（1）高維設置，（2），在該預期的解釋將被用作相關聯的費用的建議設置，

結果 (繁體中文) 2:

本文從因果角度闡述了資料驅動系統決策的問題：如果我們尋求回答的問題是"系統為什麼做出具體決策"，我們可以問"哪些輸入導致系統做出決策？這種方法是有利的，因為（a） 它使解釋可以採取的形式標準化;（a） 使解釋形式標準化;（b） 它不要求所有特徵都成為解釋的一部分，（c） 解釋可以與模型的細節分開。因此，我們將解釋定義為一組弱因果的特徵（這意味著從實例中刪除該集會更改決策）和不可還原（這意味著刪除解釋中的任何特徵子集不會更改決策）。我們的工作以至少四種重要方式概括了以前在反事實解釋方面的工作：（i） 我們解釋系統決策（其中可能包含來自多個預測模型的預測），而不是模型預測，（ii） 我們不強制執行任何刪除要素的特定方法，（iii） 我們的解釋可以處理具有任意維數和資料類型的要素集，（iv） 我們允許通過引入成本來定制對域需求的解釋，例如，更改要素的成本負責決策。最後，我們展示使用真實資料集的方法，以說明其相對於功能重要性權重的優勢，而目標是更好地瞭解系統決策。這項工作的未來版本將納入經驗分析的擴展部分：（1） 高維設置，（2） 預期將解釋用作相關成本建議的設置，以及 （3）決策程式借鑒了多個模型。

結果 (繁體中文) 3:

本文從因果的角度解决了解釋數據驅動系統決策的問題：如果我們試圖回答的問題是“系統為什麼要做出特定的決策”，那麼我們可以反問“哪些輸入導致系統做出決策？”？“這種方法是有利的，因為（a）它使解釋可以採取的形式標準化；（b）它不要求所有特徵都是解釋的一部分；（c）解釋可以與模型的細節分開。囙此，我們將解釋定義為一組弱因果（意味著從實例中移除該集合會更改決策）和不可還原（意味著移除解釋中的任何特徵子集不會更改決策）的特徵。我們的工作至少概括了四個重要的反事實的解釋：（i）我們解釋系統決策（可能包含來自幾個預測模型的預測）而不是模型預測，（ii）我們不強制任何特定的方法來删除特徵，（iii）我們的解釋可以處理具有任意維度和資料類型的特徵集，並且（iv）我們允許通過引入成本（例如，更改負責決策的特徵的成本）來根據域需求裁剪解釋。最後，我們用一個真實的數据集來展示這種方法，以說明它相對於特徵重要性權重的優勢，目的是更好地理解系統決策。這項工作的未來版本將包括一個擴展的經驗分析部分：（1）高維設定，（2）預期解釋將用作相關成本建議的設定，以及（3）決策程式借鑒多個模型的設定。