近日，湖北大学生命科学学院陈前军高级实验师与资源环境学院刘杰教授团队联合在计算机科学信息系统顶级期刊Information Sciences（中科院一区顶刊，CCF-B类）上发表题为“Visualizing Deep Networks using Segmentation Recognition and Interpretation Algorithm”（基于分割识别深度网络的可视化算法）的研究论文，提出了一种新型深度神经网络解释算法，用以解决深度神经网络的分类、预测模型的可信解释问题。硕士生丁永昌为第一作者，刘畅和朱海峰为参与作者，陈前军和刘杰为共同通讯作者，湖北大学为第一单位（如图1）。

图1.文章首页

随着机器学习技术的进步，人工智能越来越多地被应用于数据分析和问题决策过程。但由于深度神经网络“黑盒”特征，它的决策过程很难被简明扼要地解释清楚，模型研发者很难让用户完全相信决策过程和决策结果，因此理解和解释深度学习预测模型做出的决策过程在许多领域极具现实价值。研究人员在研究已有解释算法的基础上，提出了一种新型的深度卷积神经网络模型的解释算法，即采用分割识别总体思路来对模型进行解释（如图2）。与其它主流解释算法相比，该算法能够对模型预测过程中的正向特征与负向特征进行标注（定性分析），可通过颜色浓度表达和真实标签的相关程度（定量分析），并且只存在正向传播、参数量更少，占用更少的硬件资源，却拥有更快的模型解释速度等特性。其次，该算法在保证解释准确性前提下，拥有更好的场景适应性。

图2. NNI-SRI算法思想和流程

研究人员将该算法应用在基于深度学习的蜘蛛性别分类模型中，得到了较好的实验效果。该解释算法准确标注出蜘蛛样本头胸部的雄蛛触肢器末端膨大、雌蛛外雌器角质化所在区域（分类学家鉴定雌雄的主要依据），从计算机角度证明了人工智能分类模型的正确性，同时提示着拟遁蛛属蜘蛛的花纹极有可能存在肉眼不易识别的雌雄二型现象，这一发现目前暂无相关报道，该结论对于学者在蜘蛛的形态分类学研究中具有着指导作用（如图3）。

图3. NNI-SRI模型解释效果

据悉，刘杰教授团队一直聚焦于蜘蛛经典分类与分子系统学、农田蜘蛛生态学方面的研究，近年来在Pest Management Science, Molecular Phylogenetics and Evolution, Intergrative Zoology, Microorganisms等SCI期刊发表论文35篇，主持国家自然科学基金5项。陈前军老师团队一直从事计算机软件、人工智能基础理论的研究和开发工作，近年来合作研发的葛洲坝人才招聘系统、运百跨境电商管理系统、湖北省公安厅执法资格大规模在线考试系统和湖北文化产业网等信息系统一直运行稳定、效果良好，得到一致好评。

文章链接：https://linkinghub.elsevier.com/retrieve/pii/S0020025522008568

（审稿：谢玉平）