您的位置首页  网络杂谈  微信营销

直播预告:阿里巴巴SIGIR 2021论文分享会

  :实际知识图谱中由于长尾分布的关系和动态更新的特性而存在一定的小样本关系,最近小样本知识图谱补全(FKGC)引起了越来越多研究者的关注。一些现有的模型采用了小样本关系的多跳邻域信息来增强小样本关系的语义表示。但是,当邻居过于稀疏而导致没有邻域信息可用于表示小样本关系时,甚至会放大噪声邻域信息。此外,使用传统的知识图谱补全的方法建模和推理一对多(1-N),多对一(N-1)和多对多(N-N)的复杂关系需要相对更复杂的模型和大量的训练样本。然而,在小样本知识图谱补全的场景下,训练样本非常有限,因此现有的知识图谱补全和小样本知识图谱补全的方法都很难推理复杂的关系。在本文中,我们提出了使用全局-局部两阶段的小样本关系学习来解决上述问题。在全局阶段,我们设计了一种新颖的门控注意力邻域聚合器,以有效地聚合小样本关系的邻域语义信息,在知识图谱邻域信息非常稀疏时能够过滤噪声邻域信息。在局部阶段,我们设计了一种基于元学习的TransH(MTransH)方法来对复杂的关系进行建模,并以小样本学习的方式训练我们的模型。大量的实验表明,我们的模型在常用的基准数据集NELL-One和Wiki-One上优于现有的小样本知识图谱补全方法。针对5-shot知识图谱补全任务,关于Hits @ 10指标,我们的模型与表现突出的基线模型MetaR相比,在NELL-One数据集上取得了8.0%的性能提升,在Wiki-One上实现了2.8%的提升。

  论文摘要:点击率(CTR)预估是在线广告系统的重要组成部分。近期基于深度学习的模型利用特征嵌入(feature embedding)和高维特征非线性技术,取得了空前进展。然而,这些模型在新广告上效果不佳,因为新广告的ID还没有训练好的特征嵌入,在线或随机向量。在这篇论文中,我们提出了图元嵌入(Graph Meta Embedding,GME)模型来解决新广告的CTR预估问题。GME模型基于图神经网络和元学习构建,能够快速学习如何为新广告的ID生成初始特征嵌入。现有工作考虑了如何利用新广告自身属性生成初始特征嵌入。不同的是,GME模型同时考虑新广告自身和系统中已有的老广告。GME模型构建新老广告之间的关系图,然后动态从邻居老广告中提取有用信息,并与新广告自身属性融合。我们提出了三种GME模型,从不同角度探索应该使用何种数据以及如何提取有用信息。具体的,GME-P使用预训练好的邻居老广告的ID特征嵌入,GME-G使用生成的邻居老广告的ID特征嵌入,GME-A使用邻居老广告的属性特征。实验表明,GME模型能够在冷启动(cold-start)和预热(warm-up)场景大幅提升CTR预估准确性。GME模型也能用于转化率(CVR)预估任务。

  论文摘要:图文检索是信息检索和多媒体计算领域的基础性任务,对其有效的解决能够促进上层应用的发展。为解决其所面临的模态内关系推理和模态间语义对齐两大挑战,本文提出了一种基于动态模态交互建模的图文检索方法,其主要包括四种不同类型的交互模块:修正恒等模块、模态内推理模块、整体-局部引导模块、模态间精炼模块。为发挥它们之间的协作能力,本文提出稠密连接策略对这些模块在宽度和深度上进行连接,构成路径空间。基于此空间,模块内的动态路由可以生成依赖于数据的交互路径。此外,本文提出了语义一致性正则化方法以提升路径学习效率。

免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186