One common way of assessing feature

One common way of assessing feature importance is based on simulating lack of knowledge about features (Lemaire, Féraud and Voisine, 2008; Robnik-Šikonja and Kononenko, 2008). For instance, one could compare the original model’s output with the output obtained when removing a specific feature. If the output changes, it means that the feature was important for the model prediction. Methods that use this approach often decompose each prediction into the individual contributions of each feature and use the decompositions as explanations, thus enabling the visualization of each instance-decision explanation separately. A notable challenge, however, is that interactions between features may lead to ambiguous explanations because the order in which features are removed may affect the importance attributed to each feature. Therefore, subsequent work proposed to assess feature importance by removing all possible subsets of features (rather than only one feature at a time), retraining models without the removed features, and comparing how predictions change (Štrumbelj, Kononenko and Robnik-Šikonja, 2009). However, such approaches may take hours of computation time and have been reported to handle only up to about 200 features. Alternative formulations have attempted to reduce computation time by sampling the space of feature combinations and by using imputation to deal with removed features, resulting in sampling-based approximations of the influence of each feature on the prediction (Strumbelj and Kononenko, 2010; Ribeiro, Singh and Guestrin, 2016; Datta, Sen and Zick, 2017; Lundberg and Lee, 2017).

結果 (繁體中文) 1:

評估功能重要性的一種常用方法是基於模擬缺乏對功能（勒梅爾，FERAUD和Voisine，2008; Robnik-Šikonja和Kononenko，2008年）的知識。舉例來說，一個可以比較原始模型與移除特定功能時獲得的輸出輸出。如果輸出的變化，這意味著該功能是為模型預測的重要。使用這種方法的方法往往分解每個預測到每個功能的個人繳費和使用分解作為解釋，從而使單獨的每個實例決策解釋可視化。一個顯著的挑戰，但是，是特徵之間的相互作用可能導致模糊的解釋，因為特徵被刪除可能影響重要性的順序歸因於每個功能。因此，隨後的工作提出了通過刪除所有可能的特徵的子集（而不是在同一時間只有一個功能），如果沒有刪除的功能再培訓模型，比較，以評估功能的重要性如何預測變化（Štrumbelj，Kononenko和Robnik-Šikonja，2009）。然而，這些方法可能需要的計算時間小時，據報導，僅處理了約200個特徵。替代製劑已經嘗試通過採樣特徵組合的空間，並通過使用插補處理除去的功能，從而導致每個特徵的影響的所述預測（Strumbelj和Kononenko，2010基於採樣的近似來減少計算時間; Ribeiro的，辛格和Guestrin，2016;達塔，Sen和濟科，2017;倫德伯格和Lee，2017）。

結果 (繁體中文) 2:

評估特徵重要性的一種常見方法是類比對特徵缺乏瞭解（萊邁爾、費勞德和沃伊辛，2008年;羅布尼克-希科尼亞和科諾年科，2008年）。例如，可以比較原始模型的輸出與刪除特定特徵時獲得的輸出。如果輸出發生更改，則意味著該功能對於模型預測非常重要。使用此方法的方法通常將每個預測分解為每個要素的各個貢獻，並使用分解作為解釋，從而能夠單獨顯示每個實例決策解釋。但是，一個值得注意的挑戰是，要素之間的交互可能會導致模棱兩可的解釋，因為刪除要素的順序可能會影響賦予每個要素的重要性。因此，隨後的工作建議通過刪除所有可能的要素子集（而不是一次只刪除一個要素），重新訓練模型而不刪除要素，並比較預測如何變化（_trumbelj、Kononenko）來評估要素的重要性（和羅布尼克-希科尼亞，2009年）。但是，這些方法可能需要數小時的計算時間，並且已報告僅處理多達 200 個要素。替代公式試圖通過採樣要素組合的空間以及使用插量來處理移除的要素來減少計算時間，從而基於採樣近似每個特徵對預測的影響（斯特魯姆貝利和科諾年科，2010年;裡貝羅，辛格和古斯林，2016年;達塔，森和齊克，2017年;倫德伯格和李，2017年）。

結果 (繁體中文) 3:

評估特徵重要性的一種常見方法是基於對特徵缺乏知識的類比（Lemaire、Féraud和Voisine，2008年；Robnik-什ikonja和Kononenko，2008年）。例如，可以將原始模型的輸出與删除特定特徵時獲得的輸出進行比較。如果輸出發生變化，則意味著特徵對於模型預測非常重要。使用此方法的方法通常將每個預測分解為每個特徵的單獨貢獻，並使用這些分解作為解釋，從而使每個實例決策解釋單獨視覺化。然而，一個值得注意的挑戰是，功能之間的互動可能導致不明確的解釋，因為删除功能的順序可能會影響每個功能的重要性。囙此，後續工作建議通過删除所有可能的特徵子集（而不是一次只删除一個特徵）、重新培訓沒有删除特徵的模型以及比較預測如何變化來評估特徵重要性（什特隆貝爾、科諾內科和羅布尼克-什伊孔賈，2009）。然而，這種方法可能需要幾個小時的計算時間，據報導，它最多只能處理200個特徵。替代公式試圖通過對特徵組合的空間進行採樣和使用插補處理移除的特徵來减少計算時間，從而基於採樣對每個特徵對預測的影響進行近似（Strumbelj和Kononenko，2010；Ribeiro、Singh和Guestrin，2016；Datta、Sen和Zick，2017年；Lundberg和Lee，2017年）。