LIME,即Local Interpretable Model-Agnostic Explanations,是一种解释分类器或回归器预测的算法,通过用可解释的模型对其进行局部近似。它通过调整特征值来修改单个数据样本,并观察其对输出的影响。它扮演着 "解释者" 的角色,解释每个数据样本的预测。LIME的输出是一组解释,代表每个特征对单个样本预测的贡献,这是一种局部可解释性。
手工制作
在机器学习的许多应用中,要求用户信任模型来帮助他们做出决策。医生肯定不会仅仅因为“模型这么说”就给病人做手术。即使在风险较低的情况下,例如从 Netflix 选择要观看的电影时,在我们根据模型放弃几个小时的时间之前,也需要一定程度的信任。尽管许多机器学习模型都是黑匣子,但了解模型预测背后的基本原理肯定会帮助用户决定何时信任或不信任他们的预测。
开合