[本站讯]近日,软件学院硕士研究生邢钟毓为第一作者,余国先、王峻、崔立真教授指导的论文“解释纠偏框架:基于标准解释的归因分数生成方法”获得了第十二届CCF大数据学术会议唯一最佳学生论文奖(总投稿219篇)。余国先教授为该论文的通讯作者,第一作者和通讯作者单位均为山东大学软件学院。
获奖论文针对不同深度学习模型对数据解释的不一致性,进行了模型归因分数解释不确定性问题的理论研究。论文探讨了解释与模型不确定性因素间的联系,证明了SHAP方法对于相似模型的波动上限,减少了归因分数解释的随机性;并基于模型训练随机因素等属性对各类特征归因方法影响的综合分析,提出了一种基于标准解释的归因分数生成框架ASGM。在多种数据集上的实验均验证了ASGM框架能够生成受模型影响较小的规格不足集或罗生门效应集合的归因分数解释,生成解释的质量接近标准解释,且计算时间显著低于标准解释,还可以用于预测规格不足集解释间的不确定性。该工作为可解释人工智能领域中模型不确定性和可解释性的研究提供了新的研究思路。
第十二届CCF大数据学术会议(CCF BigData 2024)在山东省青岛市举行,由中国计算机学会(CCF)主办,CCF大数据专家委员会和山东大学联合承办,是国内大数据领域最具影响力、规模最大的学术会议之一。