SHapley Additive exPlanations (Lundberg 2017)
개별 특징에 대해 해당 특징을 포함한 특징 집합(inclusive)들과 해당 특징을 배제한 특징 집합(excluded)들을 각각 학습한 모델들의 성능을 비교하여, 해당 특징의 Shapely value 를 계산하고 이를 통해 특징 기여도를 평가 및 시각화 하는 방법
•
모델 애그노스틱(model-agnostic)
세부 모델
DeepExplainer
딥러닝 계열 모델에 적용 가능한 Explainer. keras 에서 제공하는 데이터 구조와 모델을 사용함.
KernelExplainer
선형회귀, 로지스틱스회귀 모델과 같은 선형 모델에 적합한 Explainer.
TreeExplainer
Tree 구조 기반의 모델(예: Random Forest, XGBoost) 에 적합한 Explainer.
참고 문헌
•
•
•
