針對這種模型的解釋, 需要在不修改模型自身結(jié)構(gòu)及參數(shù)的情況下完成, 結(jié)合預(yù)訓(xùn)練模型的輸入、中間層參數(shù)和輸出等信息, 實(shí)現(xiàn)對模型內(nèi)部表征及決策結(jié)果的解釋.對于預(yù)訓(xùn)練模型的事后解釋方法, 現(xiàn)有研究主要分為以下3類:表征可視化. 表征可視化是一種基于特征重要性的解釋方法, 主要研究模型內(nèi)部的特征表示及這些特征與模型輸入、輸出之間的關(guān)系.
2721 15 9
王者歸來123 ??? 3年前