Some researchers (Martens and Provo

Some researchers (Martens and Provost, 2014; Wachter, Mittelstadt and Russell, 2017) have proposed to explain models from a causal perspective: when the question we seek to answer is “why did the model-based system make a specific decision?”, we ask specifically, “which data inputs caused the system to make its decision?” This approach is advantageous because it standardizes the form that an explanation can take; it does not require all features to be part of the explanation, and the explanations can be separated from the specifics of the model. The main contribution of this paper is to provide a multi-faceted generalization of this perspective to providing explanations for data-driven decisions rather than model predictions. Our framework for explanations (i) can address features with arbitrary data types, (ii) is model-agnostic, (iii) is scalable to thousands of features, and (iv) can take into consideration the potential cost of changing features as a result of the explanation. We present the framework and an associated explanation-finding algorithm. Then, to showcase situations in which counterfactual explanations explain data-driven decisions better than feature importance weights, we apply the algorithm to data on credit-investment decisions.

結果 (繁體中文) 1:

一些研究者（馬滕斯兼教務長2014;沃切特，Mittelstadt和Russell，2017）提出從因果關係的角度解釋模型：當我們試圖回答的問題是，“為什麼基於模型的系統做具體的決定？”我們明確要求，“該數據輸入導致系統作出決定？”這種做法是有利的，因為它是標準化的解釋可以採取的形式; 它不要求所有功能都可以部分的解釋，而解釋可以從模型的細節分開。本文的主要貢獻是提供這個角度多方位推廣提供數據驅動的決策，而不是模型預測的解釋。我們的解釋框架（ⅰ）可以解決特徵具有任意數據類型，（ii）的模型無關，（ⅲ）可擴展到數以千計的特徵，以及（iv）能夠考慮到改變的功能，作為解釋的結果的潛在成本。我們提出的框架和相關的解釋搜索算法。然後，展示情況，即反解釋解釋數據驅動的決策優於功能重要性的權重，我們應用算法對信貸投資決策數據。

結果 (繁體中文) 2:

一些研究人員（馬滕斯和教務長，2014年;Wachter、Mittelstadt 和 Russell，2017） 建議從因果角度解釋模型：當我們尋求回答的問題是"為什麼基於模型的系統做出具體決策？決定嗎？這種方法是有利的，因為它標準化瞭解釋可以採取的形式;它不要求所有功能都成為解釋的一部分，並且解釋可以與模型的細節分開。本文的主要貢獻是提供了一個多方面的概括，以提供解釋資料驅動的決策，而不是模型預測。我們的解釋框架 （i） 可以解決具有任意資料類型的功能，（ii） 與模型無關，（iii） 可擴展到數千個要素，（iv） 可以考慮解釋後更改要素的潛在成本。我們提出了框架和相關的解釋查找演算法。然後，為了展示反事實解釋比特徵重要性權重更好地解釋資料驅動決策的情況，我們將該演算法應用於信貸投資決策的資料。

結果 (繁體中文) 3:

一些研究人員（Martens and Provost，2014；Wachter，Mittelstadt and Russell，2017）提議從因果的角度解釋模型：當我們試圖回答的問題是“基於模型的系統為什麼要做出特定的决定？”？，我們特別問，“哪些資料登錄導致系統做出决定？“這種方法是有利的，因為它使解釋可以採取的形式標準化；它不要求所有特徵都是解釋的一部分，而且解釋可以與模型的細節分開。本文的主要貢獻是對這個觀點進行了多方面的概括，為數據驅動的決策提供了解釋，而不是模型預測。我們的解釋框架（i）可以處理具有任意資料類型的特性，（ii）與模型無關，（iii）可以擴展到數千個特性，（iv）可以考慮由於解釋而更改特性的潜在成本。我們提出了一個框架和相關的解釋查找算灋。然後，為了展示反事實解釋比特徵重要性權重更好地解釋數據驅動決策的情况，我們將該算灋應用於信貸投資決策數據。