近日，www.bifa88.com-88bifa必发官网-bifa88前沿交叉院杨国元课题组提出了一种适用于表征脑功能层级加工的卷积神经网络可解释性框架，并成功应用于人类视觉通路的深度神经网络模型，揭示了人脑与模型之间的功能层级对应关系。该成果以“A Convolutional Neural Network Interpretable Framework for Human Ventral Visual Pathway Representation”为题发表在人工智能顶级国际会议AAAI 2024（CCF-A）。该论文通讯作者为www.bifa88.com-88bifa必发官网-bifa88助理教授杨国元，论文第一作者为www.bifa88.com-88bifa必发官网-bifa88硕士研究生薛慕樊。

卷积神经网络(CNN)已成为捕获腹侧视觉通路中神经活动和层次结构的最佳定量编码模型，但其黑箱特质带来的弱可解释性阻碍了它们揭示视觉表征编码机制的能力。研究人员首先建立了卷积神经网络模型的可解释性框架 (CNN-IF, 图1），并成功应用于腹侧视觉通路编码模型的可解释性研究。通过使用了高时空分辨率、长时间采样的个体化功能磁共振成像数据进行模型的训练，实现了高性能腹侧视觉通路可解释性编码模型的构建，该模型分层预测结果与腹侧视觉通路功能层次表现出明显的一致性。

图1. CNN-IF的模型框架图

研究人员进一步利用网络剖析模型可解释性方法，实现了体素响应和视觉概念在网络层级间的一致性量化，成功建立起人脑腹侧视觉通路与深度神经网络模型之间的功能层级对应关系（图2）。结果表明，CNN-IF通过构建人脑腹侧视觉通路与深度学习模型之间的层级对应关系，对理解人脑腹侧视觉通路语义信息的编码加工机制提供了崭新的视角，并为基于脑影像的深度学习模型在理解人脑功能组织模式方面开辟了新的可能性。

图2. 人脑腹侧视觉通路与深度学习模型之间的层级对应关系

论文详情：Mufan Xue, Xinyu Wu, Jinlong Li, Xuesong Li, Guoyuan Yang^*. “A Convolutional Neural Network Interpretable Framework for Human Ventral Visual Pathway Representation”, Proceedings of the AAAI Conference on Artificial Intelligence, (2024)

原文链接：http://doi.org/10.1609/aaai.v38i6.28461

作者简介：

杨国元：www.bifa88.com-88bifa必发官网-bifa88前沿交叉科学研究院助理教授，硕士生导师，主要研究领域集中在脑结构与功能图谱、种族差异下的脑结构与功能变异性、个体化脑网络与脑疾病机理。文章以第一作者（含共一）及通讯作者发表在 Nature Neuroscience，Cerebral Cortex，NeuroImage 和 Human Brain Mapping 等国际期刊。主持和参与的科研项目包括：科技创新2030—“脑科学与类脑研究”重大项目，国家自然科学基金重点项目，国家自然科学基金青年项目，博士后面上一等项目和恩三基金项目等。