基于张量计算的卷积神经网络语义表示学习

杨礼吉; 王家祺; 景丽萍; 于剑

首页> 中文期刊> 《计算机学报》 >基于张量计算的卷积神经网络语义表示学习

基于张量计算的卷积神经网络语义表示学习

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

卷积神经网络已在多个领域取得了优异的性能表现,然而由于其不透明的内部状态,其可解释性依然面临很大的挑战.其中一个原因是卷积神经网络以像素级特征为输入,逐层地抽取高级别特征,然而这些高层特征依然十分抽象,人类不能直观理解.为了解决这一问题,我们需要表征出网络中隐藏的人类可理解的语义概念.本文通过预先定义语义概念数据集(例如红色、条纹、斑点、狗),得到这些语义在网络某一层的特征图,将这些特征图作为数据,训练一个张量分类器.我们将与分界面正交的张量称为语义激活张量(Semantic Activation Tensors,SATs),每个SAT都指向对应的语义概念.相对于向量分类器,张量分类器可以保留张量数据的原始结构.在卷积网络中,每个特征图中都包含了位置信息和通道信息,如果将其简单地展开成向量形式,这会破坏其结构信息,导致最终分类精度的降低.本文使用SAT与网络梯度的内积来量化语义对分类结果的重要程度,此方法称为TSAT(Testing with SATs).例如,条纹对斑马的预测结果有多大影响.本文以图像分类网络作为解释对象,数据集选取ImageNet,在ResNet50和Inceptionv3两种网络架构上进行实验验证.最终实验结果表明,本文所采用的张量分类方法相较于传统的向量分类方法,在数据维度较大或数据不易区分的情况下,分类精度有显著的提高,且分类的稳定性也更加优秀.这从而保证了本文所推导出的语义激活张量更加准确,进一步确保了后续语义概念重要性量化的准确性.

著录项

来源
《计算机学报》 |2023年第3期|568-578|共11页
作者
杨礼吉; 王家祺; 景丽萍; 于剑;
展开▼
作者单位

北京交通大学计算机与信息技术学院;

北京交通大学交通数据分析与挖掘北京市重点实验室;

展开▼
原文格式 PDF
正文语种 chi
中图分类人工智能理论;
关键词
深度学习; 卷积神经网络; 语义建模; 张量表示; 支持张量机; 张量分类;

相似文献

中文文献
外文文献
专利

1. 基于张量表示的直推式多模态视频语义概念检测 [J] . 吴飞 ,刘亚楠 ,庄越挺 . 软件学报 . 2008,第11期
2. 基于张量表示的域适配的迁移学习中特征表示方法 [J] . 赵鹏 ,王美玉 ,纪霞 . 电子学报 . 2020,第002期
3. 基于深度学习表示的医学主题语义相似度计算研究 [J] . 黄承宁 ,李双梅 ,景波 . 计算机与数字工程 . 2022,第6期
4. 基于网络表示学习的本体语义挖掘与功能语义检索方法 [J] . 倪子健 ,李文强 ,唐忠 . 工程设计学报 . 2021,第5期
5. 一种基于前向无监督卷积神经网络的人脸表示学习方法 [J] . 朱陶 ,任海军 ,洪卫军 . 计算机科学 . 2016,第006期
6. 基于HowNet的语义表示学习 [C] . Jingwen Zhu ,朱靖雯 ,Yuji Yang . 第十七届全国计算语言学学术会议暨第六届基于自然标注大数据的自然语言处理国际学术研讨会（CCL 2018） . 2018
7. 面向图像标注的张量表示与语义建模方法研究 [A] . 钱智明 . 2015

基于张量计算的卷积神经网络语义表示学习

摘要

著录项

相似文献

相关主题

期刊订阅