After doing this, SHAP computes an

After doing this, SHAP computes an importance weight of 0.5 for both the loan amount and the annual income, and there are two counterfactual explanations: the applicant can either reduce the loan amount or increase the annual income to get the loan approved (columns 1 and 2 in Table 2). Now, consider a different scenario. Suppose the bank were stricter with the loans it approves and used a decision threshold 2.5 percentage points lower. Now, in order to get approved the applicant of Loan 4 would need both to reduce the loan amount and to increase his/her annual income. In other words, with this different decision system, there is only one counterfactual explanation consisting of both features. However, SHAP would still show an importance weight of 0.5 for each feature, heedless of the fact that the decision-making process changed.

結果 (繁體中文) 1:

這樣做了以後，SHAP計算的0.5的貸款金額和年收入都重要性權重，並有兩個反解釋：申請人可以減少貸款量或提高年收入來獲得貸款批准（列1和2在表2中）。現在，考慮不同的方案。假設銀行是與它批准貸款嚴格，使用的判決門限2.5個百分點。現在，為了得到批准貸款4的申請人將需要既減少貸款額，並增加他/她的年收入。換句話說，與此不同的決策系統，只有一個由兩個特徵反的解釋。然而，SHAP仍然會顯示0.5為每個要素的重要性權重，這一事實不顧的決策過程改變。

結果 (繁體中文) 2:

執行此操作後，SHAP 計算貸款金額和年收入的重要性權重為 0.5，並且有兩種相反的解釋：申請人可以減少貸款金額或增加年收入以獲得貸款批准（表 2 中的第 1 和第 2 欄）。現在，考慮一個不同的場景。假設銀行對批准的貸款更加嚴格，並且使用決策門檻低 2.5 個百分點。現在，為了獲得批准，貸款4的申請人需要減少貸款金額，並增加他/她的年收入。換句話說，對於這種不同的決策系統，只有一種由這兩個特徵組成的反事實解釋。但是，SHAP 仍將顯示每個功能的重要性權重 0.5，而對決策過程發生變化的事實卻不為所重視。

結果 (繁體中文) 3:

在此之後，SHAP計算出貸款金額和年收入的重要性權重為0.5，並且有兩個相反的解釋：申請人可以减少貸款金額或新增年收入以獲得貸款準予（錶2中的第1和第2列）。現在，考慮一個不同的場景。假設銀行對準予的貸款更加嚴格，並且使用的決策閾值降低了2.5個百分點。現在，為了獲得批准，貸款4的申請人既需要减少貸款額，又需要新增年收入。換句話說，在這個不同的決策系統中，只有一個反事實的解釋包含了這兩個特徵。然而，SHAP仍然會顯示每個特性0.5的重要性權重，而忽略了決策過程改變的事實。