Link Prediction in Knowledge Graphs Based on Hyperbolic Graph Attention Networks
-
摘要: 现有的大多数知识表示学习模型孤立地看待每个知识三元组,未能发现和利用实体周围邻域特征信息,并且将树状层级结构的知识图谱嵌入到欧式空间,会带来嵌入式向量高度失真的问题。为解决上述问题,该文提出了一种基于双曲图注意力网络的知识图谱链路预测方法(HyGAT-LP)。首先将知识图谱嵌入到负常数曲率的双曲空间中,从而更契合知识图谱的树状层级结构;然后在所给实体领域内基于实体和关系两种层面的注意力机制聚合邻域特征信息,将实体嵌入到低维的双曲空间;最后利用得分函数计算每个三元组的得分值,并以此作为判定该三元组成立的依据完成知识图谱上的链路预测任务。实验结果表明,与基准模型相比,所提方法可显著提高知识图谱链路预测性能。Abstract: Most existing knowledge representation learning models treat knowledge triples independently, it fail to cover and leverage the feature information in any given entity’s neighborhood. Besides, embedding knowledge graphs with tree-like hierarchical structure in Euclidean space would incur a large distortion in embeddings. To tackle such issues, a link prediction method based on Hyperbolic Graph ATtention networks for Link Prediction in knowledge graphs (HyGAT-LP) is proposed. Firstly, knowledge graphs are embedded in hyperbolic space with constant negative curvature, which is more suited for knowledge graphs’ tree-like hierarchical structure. Then the proposed method aggregates feature information in the given entity’s neighborhood with both entity-level and relation-level attention mechanisms, and further, embeds the given entity in low dimensional hyperbolic space. Finally, every triple’s score is computed by a scoring function, and links in knowledge graphs are predicted based on the scores indicating the probabilities that predicted triples are correct. Experimental results show that, compared with baseline models, the proposed method can significantly improve the performance of link prediction in knowledge graphs.
-
Key words:
- Knowledge graphs /
- Link prediction /
- Hyperbolic space /
- Graph attention networks
-
1. 引言
根据世界卫生组织统计,2020年有3624820例新增消化道癌症病例,有2248042名患者死于消化道癌症,消化系统的癌症死亡人数占到癌症总死亡人数的22.6%[1]。内窥镜检查是现在主要的消化道疾病诊断方法,传统内窥镜具有直接、准确、价格低的优点,是目前最常用的胃部检查方法。随着医药科技的发展,新兴的胶囊胃镜技术因其更佳的检测体验,已逐渐得到普及。
然而,无论是使用传统的胃镜还是胶囊胃镜,在图像采集过程中都必然会出现运动模糊造成的图像质量下降的问题。特别是胶囊胃镜,在数据采集过程中医生无法实时控制采集设备。其运动受到胃肠蠕动的影响。当胃肠蠕动快时,拍摄数量减少锐度降低,图像模糊程度比普通胃镜更严重。模糊图像会给计算机辅助诊断带来巨大的困难,进而干扰医生对病变部位的判断。因此,通过内窥镜的去模糊算法,提高了内窥镜的成像质量,对提高临床诊断准确率具有重要意义。
2017年Mahesh等人[2]提出一种卷帘(Rolling Shutter, RS)盲去运动模糊的模型,用以解决互补金属氧化物半导体(Complementary Metal Oxide Semiconductor, CMOS)传感器的卷帘快门引起的运动模糊。2018年,Tao等人[3]提出尺度递归网络(Scale-Recurrent Network-DeblurNet, SRN-DeblurNet),它类似于构造重建金字塔并逐步优化以获得最终的重建清晰图片。Kupyn等人[4]提出的去模糊生成对抗网络(Deblurring€Generative Adversarial€Networks, DeblurGAN)是一种结合条件生成对抗网络和内容损失的端到端运动去模糊学习模型。两年之后,Kupyn等人[5]又在DeblurGAN的基础之上提出了改进型去模糊生成对抗网络(Deblurring Generative Adversarial Networks-v2, DeblurGAN-v2),改进了生成器的网络结构和鉴别器,并使该算法便于使用现有成熟的基础网络,不仅提高了去模糊的图像质量,而且能够以低计算成本设计模型。与普通图像不同,消化道内镜图像的纹理细节较为丰富,且图像结构较为多样,现有的去模糊方法如SRN-DeblurNet, DeblurGAN-v2在处理这一类图像时因为过度关注细节特征,全局特征关注不够,总会伴有一定程度的结构变形甚至出现伪影,虚构生成了实际不存在的重影轮廓。在图像超分辨领域,已经被证明可以用梯度轮廓作为先验[6-8]指导超分辨率图像更好地保留结构信息,生成更加清晰的高分辨率图像。其中,清华大学Ma等人[8]提出了基于生成对抗网络的保留结构信息的超分辨率网络(Structure-Preserving Super Resolution, SPSR),证明了在梯度信息指导下通过生成对抗网络生成结构不变形且纹理细节丰富的图像的可行性。2021年Tran等人[9]提出一种方法来编码任意的清晰-模糊图像对数据集的模糊核空间,并利用这种编码来解决一些特定的任务,如图像去模糊和模糊合成。Chi等人[10]提出一种自监督元辅助学习,通过整合外部和内部学习来提高去模糊的性能,并提出一个元辅助训练方案,进一步优化作为基础学习的预训练模型。Chen等人[11]提出一个非盲目去模糊网络(Non-Blind Deblurring Network, NBDN)来恢复夜间模糊的图像,为降低个别不符合反模糊模型的像素所带来的副作用,设计了置信度估计单元(Confidence Estimation Unit ,CEU),确保这些像素在去卷积步骤中的贡献较小,并通过共轭梯度(Conjugate Gradient, CG)方法进行优化。Dong等人[12]提出一种在最大后验(Maximum A-Posteriori, MAP)框架内联合学习空间变异数据(spatially-variant data)和正则化项的方法,用于非盲目图像去模糊化。
本文提出基于梯度指导的生成对抗去模糊网络和类U型网络(U-shaped Network, U-Net)预训练模型。预训练模型使用3层类U-Net结构,解码器部分引入残差连接,预先对剧烈模糊图像进行处理,大大缩短了网络的训练周期。去模糊网络以Res2net[13]结构作为基础模块增大感受野,减轻冗余特征带来的运算负担,网络同时包含图像信息和梯度信息两个相互交互的支路,通过梯度支路指导真实图像的复原重建,更好地保留图像的结构信息,消除伪影缓解结构变形,从而复原生成更加清晰的胃镜图像。
2. 模型
2.1 梯度指导的去模糊生成对抗网络
在去模糊网络中,模糊图像IB作为输入,根据清晰的标签图像ISI生成清晰图像ISO。生成器G,其参数表示为θG,由G得到ISO=G(IB;θG),输出ISO在分布上应尽可能地与输入ISI相似。整个去模糊网络结构如图1所示。生成器由两个分支组成,其中一个是保留结构信息的图像分支,另一个是图像的梯度分支。图像信息分支以IB作为输入,在梯度分支的指导下恢复出清晰图像ISO。
生成对抗网络(Generative Adversarial Networks, GAN)因其对抗学习的特性具有强大的图像生成能力,对于生成图像的细节纹理质量有很大提升[4],因此在图像信息支路中本文使用了类似增强型超分辨率生成对抗网络(Enhanced Super-Resolution Generative Adversarial Networks, ESRGAN)[14]的网络结构,ESRGAN具有良好的细节生成能力,并且能够解决一定程度的伪影问题。ESRGAN算法的生成器使用密集残差网络(Residual in Residual Dense Block, RRDB)的基础模块,将残差块以稠密连接网络(DenseNet)[15]方式进行连接,这种方式增加了训练参数,并保留了更多的有效特征。通常在对胃镜图像去模糊测试,会有过多的特征冗余,容易导致伪影现象的出现,虚构生成不存在的重影轮廓。为改善去模糊效果,本文引入基于Res2net的基础模块来代替RRDB,这样既增大了感受野,同时又减少了冗余特征带来的运算负担和重影轮廓。
梯度支路采用了梯度强度作为梯度图,从图像到图像之间的转换空间来学习两种模式之间的映射。由于梯度图中大部分区域数值接近于0,而轮廓边缘具有较大的数值,卷积神经网络能更多地关注轮廓的空间关系。在梯度支路中与基于生成对抗网络的保留结构信息的超分辨率网络(Structure-Preserving Super Resolution,SPSR)不同,本文没有使用梯度模块加卷积层的结构,而是直接使用Res2net模块,减少了中间的冗余特征,网络更容易捕获关键部位结构依赖性,由梯度图指导生成清晰图像。
如图1所示,梯度分支和图像信息分支有多层级的特征信息交互,这些特征流作为一个强先验来提升梯度分支的性能,在这种情况下,可大大减少参数。在实验中,本文将梯度分支的最后一层产生的特征图传递到真实图像分支。同时,通过1×1卷积层生成输出层梯度图。通过这种双支路交互,图像信息分支最终能够携带丰富的结构信息,确保复原后的图像不会产生明显的结构变形。判别器部分使用了相对平均判别器,网络结构为如图2所示的VGG-128[16]。
2.2 类U型网络预训练模型
本文在使用梯度指导生成对抗网络(Gradient Guidance GAN,GGGAN)对模糊胃镜图像进行实验时发现,GGGAN具有良好的图像生成效果,但在复原重度模糊图像时复原图像会出现一定程度的纹理扭曲,且训练收敛时间较长,这一现象源于GAN网络自身的性质[17],很难通过内部的结构调整避免。这一情况会影响图像的整体视觉效果,降低峰值信噪比(Peak Signal to Noise Ratio, PSNR)这一评价指标,对于图像复原效果并不理想。
为解决这一问题,本文在GGGAN网络之前设计了一个预处理模块,通过这一模块对实验图像进行预先修正处理,可以在一定程度上减小输入图像的模糊程度,避免因输入图像模糊程度太大带来的纹理扭曲,缩短训练时间。
预处理模块的整体结构类似于U-Net[18],使用3层编码器-解码器结构,并在解码部分引入残差连接[15],扩充感受野,其结构如图3。在满足预处理需求的前提下,3层编码器-解码器结构的训练参数量较少,不会带来更多的训练负担。
2.3 GGGAN与预训练模块的结合
预训练模型和GGGAN的生成器构成的网络结构如图4所示,预处理模块放在此结构之前。
计算模糊图像预处理后输出IX与清晰图像IY之间的结构相似性指标[19]
SSIMpre(IX,IY)=2μXμY+C1μ2X+μ2Y+C1⋅2σXσY+C2σ2X+σ2Y+C2⋅σXY+C3σXσY+C3 (1) 其中,μX,μY分别表示图像IX和IY的像素值均值,σX,σY分别表示图像IX和IY的像素值标准均方差,σXY表示图像IX和IY的协方差;C1, C2, C3为常数,C1=6.5025, C2=58.5225, C3=0.5C2。
将SSIMpre加入到损失函数中,参与回传,以此指导训练中参数的调整。损失函数即为预处理损失Losspre与GGGAN损失LossGG加权之和,即
Loss=Los{s_{pre}}+Los{s_{GG}} (2) 其中
Losspre=1−SSIMpre (3) 为使得两损失函数在同一数量级,以免将另一指标在训练中淹没,选取α=10−3。
3. 实验结果与分析
3.1 实验准备
3.1.1 数据集
采用内窥镜伪影检测(Endoscopy Artifact Detection, EAD)挑战赛数据集[20]以及胶囊胃镜数据集[21](internet-based digital video atlas of capsule endoscopy for research purposes)中的图像作为清晰图像,人为添加运动模糊产生对应的模糊图像,其中运动模糊的范围为平移50~80像素点,旋转模糊核在–40°~40°范围内随机产生,每个图像对的模糊核不同。传统胃镜数据集共有清晰-模糊图像对780组,其中480对为训练集,300对为测试集。胶囊胃镜数据集中共有清晰-模糊图像对2398组,分为训练集1398对,测试集1000对。
由于数据采集过程中采用了随机裁切的方法,无须再对数据集做单独的增广。随机裁切使得训练过程中同一对图像每次输入是不同的,极大程度上避免了过拟合现象的产生,保证了网络的泛化能力。
3.1.2 实验评价指标
为比较不同算法的去模糊效果,本文使用两种评价指标来测量最终结果:峰值信噪比(PSNR)和结构相似度(SSIM)。PSNR是评价图像质量最常用、应用最广泛的客观测量方法[22]。对于灰度图像,给定清晰的图像I和大小为m×n的模糊图像K,均方误差(Mean Square Error, MSE)定义为
MSE=1mnm−1∑i=0n−1∑j=0[I(i,j)−K(i,j)]2 (4) 然后将PSNR(dB)定义为
PSNR=10⋅lg(MAX2IMSE) (5) 其中,MAXI是图像的最大像素值。如果每个像素用8位二进制表示,则为255。对于彩色图像,计算红绿蓝(Red-Green-Blue,RGB)3个通道的MSE,然后除以3得到最终的PSNR值。
SSIM指标是度量两幅图像的结构相似程度,是一种感知模型。与MSE绝对误差不同,它是更符合人类直观感知的图像质量评估标准,可以抵消MSE无法测量图像结构[23]相似性的缺点。SSIM已在损失函数部分中简要介绍,在这里将给出其计算方法。
SSIM公式基于图像的3个关键特征度量:亮度(l(IX,IY))、对比度(c(IX,IY))和结构(s(IX,IY))
l(IX,IY)=2μXμY+C1μ2X + μ2Y+C1 (6) c(IX,IY)=2σXσY+C2σ2X + σ2Y+C2 (7) s(IX,IY)=σXY+C3σXσY+C3 (8) 一般采用C3=0.5C2。C1=(k1L)2, C2=(k2L)2以避免分母为0。L是像素值的范围上限,取255。默认值为k1=0.01, k2=0.03。所以
SSIM(IX,IY)=[l(IX,IY)αc(IX,IY)βs(IX,IY)γ] (9) 以α=β=γ=1为例
SSIM(IX,IY)=(2μXμY+C1)(2σXY+C2)(μ2X+μ2Y+C1)(σ2X+σ2Y+C2) (10) 3.1.3 实验计算资源
本文中,所有进行实验比较的模型都是基于PyTorch框架,并在Intel Xeon E5-2680 v4处理器和2片NVIDIA GeForce RTX 2080 Ti(总计显存为22 GB)的服务器上训练了500000个epoch。
3.2 实验方法
本实验数据中图像尺寸为1349×1079,为适应运行时设备限制的内存占用空间,将图像随机裁切为128×128大小进行训练,生成器和鉴别器的初始学习率均为10−4,在迭代周期分别为50000, 100000, 200000, 300000时进行10−1的衰减。网络的训练过程中采用了小批次训练迭代,批量尺寸(batch size)被设置成4。使用自适应矩估计(Adaptive moment estimation, Adam)优化算法[24]来优化模型参数。在传统胃镜数据集和胶囊胃镜数据集上分别与SRN-DeblurNet, DeblurGAN-v2两种主流的去模糊算法及改进SPSR网络进行了对比。SRN-DeblurNet, DeblurGAN-v2为目前效果较好的开源算法,改进SPSR网络则是将Ma等人[8]的超分辨率网络改为去模糊网络,用来对比算法性能。在胶囊胃镜数据集的实验中,本文增加了迁移测试实验,利用传统胃镜数据集训练好的模型在胶囊胃镜数据集上直接进行测试,对比不同模型的泛化性能。
对传统胃镜数据集进行测试,结果如表1所示。实验结果显示,在数据指标上本文算法比其他方法在两个指标上均有所提升。与对照组中指标较高的DeblurGAN-v2相比较,本文算法将PSNR值从26.55提升至26.89,SSIM值从0.818提升至0.849。
表 1 不同算法在传统胃镜数据集上的指标测试结果SRN-DeblurNet 改进SPSR DeblurGAN-v2 本文算法 峰值信噪比(PSNR) 26.40 26.47 26.55 26.89 结构相似度(SSIM) 0.799 0.815 0.818 0.849 从图5可以看出,SRN-DeblurNet, DeblurGAN-v2方法处理后,图像仍然存在模糊,尤其在消化道中溃疡出血、增生息肉及肠壁边缘处较为明显。改进的SPSR方法虽然在细节生成效果上优于SRN-DeblurNet,但是出现了重影的现象,实际的复原效果也并不理想。本文算法处理后的胃镜图像与SRN-DeblurNet方法和DeblurGAN-v2方法相比不但提高了清晰度,丰富了边缘和纹理信息;还缓解了GAN网络虚构出的重影现象,复原图像更加贴近真实的清晰图像,在胃内粘液、出血和褶皱等细节处,本文算法有更好的表现力。
表2为不同算法在胶囊胃镜数据集上的指标测试结果,从表2实验数据可以看出,本文算法在不同的数据上也能有更好的表现力。在评价指标方面,本文算法训练后的PSNR和SSIM值分别达到了29.04和0.826,高于SRN-DeblurNet的28.01和0.795,也高于改进SPSR的28.70和0.771以及DeblurGAN-v2的28.81和0.813;迁移测试中,本文算法在传统胃镜数据集上的PSNR和SSIM值分别为28.83和0.801,高于其他3种对比算法SRN-DeblurNet、改进SPSR和DeblurGAN-v2。
表 2 不同算法在胶囊胃镜数据集上的指标测试结果SRN-DeblurNet 改进SPSR DeblurGAN-v2 本文算法 峰值信噪比(PSNR) 迁移 26.93 28.33 28.79 28.83 训练 28.01 28.70 28.81 29.04 结构相似度(SSIM) 迁移 0.777 0.767 0.783 0.801 训练 0.795 0.771 0.813 0.826 从图6标识迁移的图像是使用光学胃镜数据集训练后直接在胶囊胃镜数据集上迁移测试的结果,标识训练的图像是使用胶囊胃镜数据集训练并测试得到的结果,本文算法在胶囊胃镜数据集上直接训练实验及迁移测试复原的胃镜图像效果均优于SRN-DeblurNet、改进SPSR和DeblurGAN-v2 3种对比算法,在毛细血管、局部溃疡等细节变化多的位置最为明显。
4. 结束语
本文提出一种基于梯度指导生成对抗网络的内镜图像去模糊算法并对损失函数进行了改进,通过梯度信息指导模糊图像的复原,缓解了结构变形和虚构重影的现象;设计了预处理网络来纠正过度模糊,提高训练效率。通过在传统光学胃镜和胶囊内镜的数据集上进行训练和测试,检验其性能。实验结果表明,在性能指标方面,本文算法的PSNR值及SSIM值较SRN-DeblurNet和DeblurGAN-v2等均有所提升,且迁移测试效果也优于上述算法。直接视觉评估,本文算法在细节和边缘处有更好的生成效果,缓解了结构变形和虚构重影的现象,视觉效果更好。下一步工作,针对特征提取对全局信息的关注仍然不充分,可考虑采用计算机视觉中近期研究热点Transformer结构,Transformer本身具有很好的全局信息提取能力,与卷积神经网络结合,可更好地整合全局信息和局部信息,预期可获得更好的胃镜图像去模糊效果。
-
表 1 FB15k-237数据集和WN18RR数据集统计量信息
数据集 |V| |R| 三元组数 ρ 训练集ETrain 验证集EValid 测试集ETest 总三元组数E FB15k-237 14541 237 272115 17535 20466 310116 1308.5 WN18RR 40943 11 86835 3034 3134 93003 8454.8 表 2 FB15k-237数据集和WN18RR数据集上知识图谱链路预测结果
流形 模型 FB15k-237 WN18RR MRR Hits@1 Hits@3 Hits@10 MRR Hits@1 Hits@3 Hits@10 R TransE 0.294 0.186 0.321 0.465 0.226 0.427 0.441 0.532 DistMult 0.241 0.155 0.263 0.419 0.444 0.412 0.470 0.504 ConvE 0.325 0.237 0.356 0.501 0.456 0.419 0.470 0.531 ConvKB 0.289 0.198 0.324 0.471 0.265 0.058 0.445 0.558 MuRE 0.336 0.245 0.370 0.521 0.475 0.436 0.487 0.554 TuckER 0.358 0.266 0.394 0.544 0.471 0.443 0.482 0.526 RGHAT 0.522 0.462 0.546 0.631 0.483 0.425 0.499 0.588 C ComplEx 0.247 0.158 0.275 0.428 0.449 0.409 0.469 0.530 RotatE 0.338 0.241 0.375 0.533 0.476 0.428 0.492 0.571 B MuRP 0.335 0.243 0.367 0.518 0.481 0.440 0.495 0.566 ATTH 0.384 0.252 0.384 0.540 0.486 0.443 0.498 0.573 HyGAT-LP 0.529 0.467 0.566 0.650 0.521 0.441 0.511 0.619 表 3 在WN18RR数据集中每类关系的统计量信息
关系名 简记 总三元组数 Khs ξG hypernym HY 37221 1.00 –2.46 has_part HP 5142 1.00 –1.43 member_meronym MM 7928 1.00 –2.90 synset_domain_topic_of SDTO 3335 0.99 –0.69 instance_hypernym IH 3150 1.00 –0.82 member_of_domain_region MODR 983 1.00 –0.78 member_of_domain_usage MODU 675 1.00 –0.74 also_see AS 1396 0.36 –2.09 derivationally_related_form DRF 31867 0.04 –3.84 similar_to ST 86 0 –1.00 verb_group VG 1220 0 –0.50 表 4 预测排名前10尾实体情况
(european_union,member_meronym,?) (geology,derivationally_related_form,?) 排序 MuRE MuRP HyGAT-LP MuRE MuRP HyGAT-LP 1 england noway bulgaria geologist geologist geologist 2 poland bulgaria denmark give scientist paleontologist 3 scotland denmark europe psychologist anatomist doctor 4 switzerland switzerland noway explorer meteorologist scientist 5 denmark poland iceland religionist film biologist 6 noway iceland belarus theologian biologist geophysicist 7 bulgaria scotland switzerland ophthalmologist geomorphologic geomorphologic 8 united_states croatia hungary philosopher paleontologist philosopher 9 europe belarus ireland diagnostician chronologize physicist 10 turkey united_states czechoslovakia specialist geophysicist musician -
[1] 王昊奋, 漆桂林, 陈华钧. 知识图谱: 方法、实践与应用[M]. 北京: 电子工业出版社, 2019: 1–3.WANG Haofen, QI Guilin, and CHEN Huajun. Knowledge Graph[M]. Beijing: Publishing House of Electronics History, 2019: 1–3. [2] REINANDA R, MEIJ E, and DE RIJKE M. Knowledge graphs: An information retrieval perspective[J]. Foundations and Trends® in Information Retrieval, 2020, 14(4): 289–444. doi: 10.1561/1500000063 [3] 张崇宇. 基于知识图谱的自动问答系统的应用研究与实现[D]. [硕士论文], 北京邮电大学, 2019.ZHANG Chongyu. Application research and implementation of automatic question answering system based on knowledge graph[D]. [Master dissertation], Beijing University of Posts and Telecommunications, 2019. [4] 秦川, 祝恒书, 庄福振, 等. 基于知识图谱的推荐系统研究综述[J]. 中国科学:信息科学, 2020, 50(7): 937–956. doi: 10.1360/SSI-2019-0274QIN Chuan, ZHU Hengshu, ZHUANG Fuzhen, et al. A survey on knowledge graph-based recommender systems[J]. Scientia Sinica Informationis, 2020, 50(7): 937–956. doi: 10.1360/SSI-2019-0274 [5] BRONSTEIN M M, BRUNA J, LECUN Y, et al. Geometric deep learning: Going beyond Euclidean data[J]. IEEE Signal Processing Magazine, 2017, 34(4): 18–42. doi: 10.1109/MSP.2017.2693418 [6] WANG Quan, MAO Zhendong, WANG Bin, et al. Knowledge graph embedding: A survey of approaches and applications[J]. IEEE Transactions on Knowledge and Data Engineering, 2017, 29(12): 2724–2743. doi: 10.1109/TKDE.2017.2754499 [7] BORDES A, USUNIER N, GARCIA-DURÁN A, et al. Translating Embeddings for modeling multi-relational data[C]. Proceedings of the 26th International Conference on Neural Information Processing Systems (NIPS), Lake Tahoe, USA, 2013: 2787–2795. [8] SUN Zhiqing, DENG Zhihong, NIE Jianyun, et al. RotatE: Knowledge graph embedding by relational rotation in complex space[EB/OL]. https://arxiv.org/abs/1902.10197, 2019. [9] NICKEL M, TRESP V, and KRIEGEL H. A three-way model for collective learning on multi-relational data[C]. Proceedings of the 28th International Conference on Machine Learning (ICML), Bellevue, USA, 2011: 809–816. [10] YANG Bishan, YIH W T, HE Xiaodong, et al. Embedding entities and relations for learning and inference in knowledge bases[EB/OL]. https://arxiv.org/abs/1412.6575, 2015. [11] TROUILLON T, WELBL J, RIEDEL S, et al. Complex embeddings for simple link prediction[C]. Proceedings of the 33rd International Conference on International Conference on Machine Learning (ICML), New York, USA, 2016: 2071–2080. [12] BALAZEVIC I, ALLEN C, and HOSPEDALES T. TuckER: Tensor factorization for knowledge graph completion[C]. Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), Hong Kong, China, 2019: 5184–5194. [13] DETTMERS T, MINERVINI P, STENETORP P, et al. Convolutional 2D knowledge graph embeddings[EB/OL]. https://arxiv.org/abs/1707.01476, 2018. [14] NGUYEN D Q, NGUYEN D Q, NGUYEN T D, et al. A convolutional neural network-based model for knowledge base completion and its application to search personalization[J]. Semantic Web, 2019, 10(5): 947–960. doi: 10.3233/SW-180318 [15] SCHLICHTKRULL M, KIPF T N, BLOEM P, et al. Modeling relational data with graph convolutional networks[C]. 15th International Conference on The Semantic Web, Heraklion, Greece, 2018: 593–607. [16] ZHANG Zhao, ZHUANG Fuzhen, ZHU Hengshu, et al. Relational graph neural network with hierarchical attention for knowledge graph completion[C]. The AAAI Conference on Artificial Intelligence (AAAI), Palo Alto, USA, 2020: 9612–9619. [17] WU Zonghan, PAN Shirui, CHEN Fengwen, et al. A comprehensive survey on graph neural networks[J]. IEEE Transactions on Neural Networks and Learning Systems, 2021, 32(1): 4–24. doi: 10.1109/TNNLS.2020.2978386 [18] 王强, 江昊, 羿舒文, 等. 复杂网络的双曲空间表征学习方法[J]. 软件学报, 2021, 32(1): 93–117. doi: 10.13328/j.cnki.jos.006092WANG Qiang, JIANG Hao, YI Shuwen, et al. Hyperbolic representation learning for complex networks[J]. Journal of Software, 2021, 32(1): 93–117. doi: 10.13328/j.cnki.jos.006092 [19] ZHANG Chengkun and GAO Junbin. Hype-HAN: Hyperbolic hierarchical attention network for semantic embedding[C]. Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence (IJCAI), Yokohama, Japan, 2020: 3990–3996. [20] BALAŽEVIC I, ALLEN C, and HOSPEDALES T. Multi-relational poincaré graph embeddings[EB/OL]. https://arxiv.org/abs/1905.09791, 2019. [21] CHAMI I, WOLF A, JUAN Dacheng, et al. Low-dimensional hyperbolic knowledge graph embeddings[C]. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), Seattle, USA, 2020: 6901–6914. [22] BONNABEL S. Stochastic gradient descent on Riemannian manifolds[J]. IEEE Transactions on Automatic Control, 2013, 58(9): 2217–2229. doi: 10.1109/TAC.2013.2254619 [23] SAKAI H and IIDUKA H. Riemannian adaptive optimization algorithm and its application to natural language processing[J]. IEEE Transactions on Cybernetics, 2021, 51(1): 1–12. doi: 10.1109/TCYB.2021.3049845. [24] ADCOCK A B, SULLIVAN B D, and MAHONEY M W. Tree-like structure in large social and information networks[C]. IEEE 13th International Conference on Data Mining, Dallas, USA, 2013: 1–10. [25] KRACKHARDT D. Computational Organization Theory[M]. London: Psychology Press, 1994: 89–111. 期刊类型引用(7)
1. 陈清江,邵菲,王炫钧. 基于边缘引导与特征融合的分阶段图像去模糊. 光电子·激光. 2025(01): 17-26 . 百度学术
2. 潘晓英,廉佳,贺琪琪,薛玉锋,王昊,罗斌. 基于生成对抗网络的蓝光激光刀视频实时上色方法. 武汉大学学报(工学版). 2025(01): 150-162 . 百度学术
3. 张建禄,吴超,岳永刚,翟春雨,武剑灵,方国宝. 高电压分解下SF_6断路器气体泄漏快速预警算法研究. 电测与仪表. 2025(03): 104-111 . 百度学术
4. 李羽馨,张选德. 基于特征保真网络的图像超分辨研究. 陕西科技大学学报. 2024(01): 161-168 . 百度学术
5. 马伟良. 大数据挖掘在移动通信网络故障诊断中的应用研究. 产业与科技论坛. 2024(17): 38-41 . 百度学术
6. 徐辛酉,杨晓芳. 生成对抗网络在老照片档案智能化修复中的应用. 档案学通讯. 2024(06): 115-121 . 百度学术
7. 严靖易,李小霞,秦佳敏,文黎明,周颖玥. 抽样切分卷积实现跨尺度特征融合及内镜图像去模糊. 计算机应用研究. 2023(04): 1233-1238 . 百度学术
其他类型引用(7)
-