图结构数据的表示学习算法研究与实现

论文摘要

物理、生物、社会和信息系统中的多种关系数据可以被建模为同质或异质的概念图,对图的有效建模可以促进图上研究与应用的发展。表示学习是人工智能领域的重要研究方向之一,在图像语义对齐、自然语言处理等相关领域具有核心基础地位。利用表示学习技术对图数据进行特征提取与表达,能更好地支持图的分析与应用。本文主要研究图结构数据的表示学习方法,即采用机器学习的方法,通过特征映射的方式,实现对实体和关系的语义信息提取与表示。通过对现有的图表示学习算法的设计思路与建模机制进行深入分析后,发现这些方法存在以下几个不足:第一,目前主流的相关工作忽略了目标对象的语义多样性,其所依赖的基本假设存在语义悖论,导致算法对实体和关系的语义分辨率低,在处理复杂关系类型时的准确率存在难以突破的瓶颈。第二,现有的工作无法对同质图与异质图进行统一建模,在特定领域下的表示学习方案无法实现应用迁移。第三,关系的非对称性在解决关系的语义多样性问题中扮演着重要角色,但现有的工作没有对关系的对称非对称特性进行深入分析与建模,算法性能不可避免的受到影响。本文针对上述问题进行研究,提出了相应的解决方案,主要贡献如下:1.通过调研与分析目前基于翻译假设的表示学习算法中存在的语义悖论问题,提出非线性嵌入的解决方案,利用堆叠神经网络对实体和关系的语义进行自编码,并通过数据的双向训练策略提高算法的准确率和召回率。实验结果表明,所提出的算法显著优于目前主流的相关工作。2.通过研究和发掘不同类型的复杂网络中节点间关联性的规律,提出了一种统一的图表示学习算法。从人类的逻辑推理思维模式建模角度入手,设计了一种基于Multi-shot的知识学习机制,据此提出了基于深度神经网络的广义图表示学习框架。实验证据对提出的建模思想的有效性形成了有力支持,表明所设计的知识表示学习框架能有效地应用于多种不同类型的网络环境下。3.综合考虑关系的对称非对称性对算法性能的影响,提出关系镜像的算法设计思路,并据此提出了一种利用循环神经网络对实体和关系进行语义组合编码,再利用深度神经网络进行语义解码的自编码模型,有效地解决了非对称关系的建模与表示学习问题。在公开数据集上的实验表明,所提出的算法在关系推理任务和多标签分类任务上的准确性和召回率等关键指标上优于相关工作。

论文目录

• 摘要
• abstract
• 第一章 绪论
•   1.1 研究背景与意义
•     1.1.1 研究背景
•     1.1.2 研究意义
•   1.2 研究历史与现状
•     1.2.1 异质图表示学习
•     1.2.2 同质图表示学习
•   1.3 拟解决的关键问题
•   1.4 本文的主要贡献与创新
•   1.5 本论文的结构安排
• 第二章 相关技术背景及算法
•   2.1 知识表示方式
•     2.1.1 独热向量
•     2.1.2 词袋模型
•     2.1.3 分布式表示
•   2.2 知识图谱与关系推理
•   2.3 神经网络与深度学习
•     2.3.1 多层感知机
•     2.3.2 卷积神经网络
•     2.3.3 循环神经网络
•   2.4 本章小结
• 第三章 基于堆叠神经网络的表示学习算法
•   3.1 符号定义与问题描述
•     3.1.1 符号定义
•     3.1.2 关系类型划分
•     3.1.3 问题描述
•   3.2 算法描述
•     3.2.1 模型定义
•     3.2.2 算法实现
•   3.3 实验与讨论
•     3.3.1 实验环境
•     3.3.2 实验数据
•     3.3.3 实验方法与评价指标
•     3.3.4 算法综合测评
•     3.3.5 表示向量可视化分析
•   3.4 本章小结
• 第四章 广义图的通用表示学习框架
•   4.1 问题描述
•   4.2 算法描述
•     4.2.1 算法设计思路
•     4.2.2 算法实现
•   4.3 实验与讨论
•     4.3.1 实验环境
•     4.3.2 实验数据
•     4.3.3 实验方法与评估指标
•     4.3.4 关系推理任务实验结果
•     4.3.5 多标签分类任务实验结果
•     4.3.6 表示向量可视化分析
•   4.4 本章小结
• 第五章 基于符号语义映射的表示学习算法
•   5.1 问题描述与符号定义
•   5.2 算法描述
•     5.2.1 算法设计思路
•     5.2.2 算法实现
•   5.3 实验与讨论
•     5.3.1 实验环境与实验数据
•     5.3.2 关系推理任务实验结果
•     5.3.3 多标签分类任务实验结果分析
•     5.3.4 表示向量可视化分析
•     5.3.5 逆关系镜像机制的有效性验证
•   5.4 本章小结
• 第六章 总结与展望
•   6.1 全文总结
•   6.2 工作展望
• 致谢
• 参考文献
• 攻读硕士学位期间取得的成果

文章来源

类型: 硕士论文

作者: 杨晓慧

导师: 刘峤

关键词: 表示学习,图嵌入,知识图谱,关系推理,多标签分类

来源: 电子科技大学

年度: 2019

分类: 基础科学,信息科技

专业: 数学,自动化技术

单位: 电子科技大学

分类号: TP181;O157.5

总页数: 96

文件大小: 15518K

下载量: 309