Users’ lack of understanding of sys

Users’ lack of understanding of systems that use predictive models to make automated decisions is one of the main barriers for their adoption. We adopt the increasingly accepted view of a counterfactual explanation for a system decision: a set of the system inputs that is causal (meaning that removing them changes the decision) and irreducible (meaning that removing any subset of the inputs in the explanation does not change the decision). We generalize previous work on counterfactual explanations in three ways: we explain system decisions rather than model predictions; we do not enforce any specific method for removing inputs, and our explanations can incorporate inputs with arbitrary data structures. We also show how model-agnostic algorithms can be tweaked to find the most useful explanations depending on the context. Finally, we showcase our approach using a real data set to illustrate its advantages over other explanation methods when the goal is to understand system decisions better.

結果 (繁體中文) 1:

用戶缺乏使用預測模型，使自動化系統的決定是理解為他們收養的主要障礙之一。我們採用的一個系統決定一個反事實的解釋越來越接受的觀點：一組系統輸入是因果（也就是說，除去他們改變決定）和束縛（這意味著在解釋刪除的輸入任何子集沒有變化決定）。我們歸納三種方式對反事實說明以前的工作：我們解釋了系統的決定，而不是模型預測; 我們不強制任何具體的方法去除的投入，我們的解釋可以將任意的數據結構輸入。我們還表明模型無關算法如何可以調整，以找到根據上下文最有用的解釋。最後，

結果 (繁體中文) 2:

使用者對使用預測模型進行自動化決策的系統缺乏瞭解是採用這些系統的主要障礙之一。我們採用系統決策的反事實解釋日益被接受的觀點：一組因果（意味著刪除它們會改變決策）和不可還原的系統輸入（這意味著刪除解釋不會改變決定）。我們從三個方面概括了以前關於反事實解釋的工作：我們解釋系統決策，而不是模型預測;我們不強制刪除輸入的任何特定方法，我們的解釋可以將輸入與任意資料結構合併。我們還展示了如何根據上下文調整與模型無關的演算法，以找到最有用的解釋。最後，我們展示我們的方法，使用實際資料集來說明它相對於其他解釋方法的優勢，當目標是更好地瞭解系統決策時。

結果 (繁體中文) 3:

用戶對使用預測模型進行自動決策的系統缺乏瞭解是採用這些模型的主要障礙之一。我們採用了一種越來越被接受的觀點，即對系統決策的反事實解釋：一組具有因果關係（即删除它們會改變決策）和不可約性（即删除解釋中的任何輸入子集不會改變決策）的系統輸入。我們將以往關於反事實解釋的工作概括為三個方面：我們解釋系統決策而不是模型預測；我們不強制執行任何特定的方法來移除輸入，我們的解釋可以將輸入與任意資料結構結合起來。我們還展示了如何調整模型不可知算灋，以根據上下文找到最有用的解釋。最後，我們用一個真實的數据集來展示我們的方法，當我們的目標是更好地理解系統決策時，它比其他解釋方法更具優勢。