菠菜平台-十大菠菜平台

菠菜平台-十大菠菜平台

我院师生论文被CCF A类聚会会议SIGKDD 2023录用_菠菜平台高瓴人工智能学院

学院新闻

您当前所在的位置: 菠菜平台> 新闻通告> 学院新闻

我院师生论文被CCF A类聚会会议SIGKDD 2023录用

宣布时间:2023-05-25


5月16日,中国盘算机学会(CCF)推荐的A类国际学术聚会会议SIGKDD 2023论文接收结果宣布。菠菜平台高瓴人工智能学院师生有11 篇论文被录用。国际知识发现与数据挖掘大会 (ACM SIGKDD Conference on Knowledge Discovery and Data Mining,简称KDD) 是数据挖掘领域的顶级聚会会议,也是菠菜平台A+类学术聚会会议。KDD 2023 的Research Track录用率为22.10%。

KDD1.png

论文介绍

论文题目:Contrastive Learning for User Sequence Representation in Personalized Product Search (Research Track)

作者:戴诗桐,刘炯楠,窦志成,Haonan Wang, Lin Liu, 文继荣

通讯作者:窦志成

论文概述:个性化产物搜索在工业和研究界都吸引了越来越多的关注。现有的个性化产物搜索要领大多是从历史搜索日志中对用户的小我私家搜索兴趣进行建模,从而生成个性化的搜索结果。然而,在实际应用场景下,用户的历史搜索纪录可能是稀疏的或有噪音的,这使得现有的要领难以在个性化搜索中实现准确和具有鲁棒性的用户建模。为了解决这个问题,我们提出了一个基于对比学习的框架CoPPS,从而在个性化产物搜索中学习高质量的用户体现。我们设计了三种数据增强的要领,以利用原始的用户历史搜索数据构建自我监视信号;在预训练阶段通过三个差异条理的对比学习任务来优化编码器,从而更好地体现拥护序列。这些对比学习任务充实利用了知识图谱(KG)、搜索序列之间与搜索序列内部的相关性,并为用户建模提供了更有效的体现,进一步提高了个性化搜索的结果。在Amazon数据集上的实验结果讲明,我们的模型能够发生更好的用户表征,从而提升产物搜索的质量。

窦1.png

论文介绍

论文题目:Improving Search Clarification with Structured Information Extracted from Search Results (Research Track)

作者:赵梓良,窦志成,郭宇,曹朝,程小华

通讯作者:窦志成

论文概述:对话式搜索系统中的搜索澄清通常显示由几个候选方面项和一个澄清问题组成的澄清窗格。为了提供一个好的窗格,现有的研究通常单独依赖于非结构化的检索文档文本或结构化的知识库。然而,搜索结果中包罗的重要结构化信息没有获得有效的考虑,在某些情况下导致生成的候选项和问题禁绝确。在本文中,我们强调了利用搜索结果中的结构化信息对革新现有搜索澄清要领的重要性。我们提出用两种结构化信息增强非结构化检索文档:一种是从HTML列表结构中获得的“In-List”关系,它有助于提取具有富厚并行信息的高质量候选项组;另一种是从知识库中提取的“Is-A”关系,有助于生成带有明确提示的高质量问题。为了制止引入过多的噪声,我们设计了一个关系选择历程来明确地过滤掉无效信息。我们进一步用双粒度可见矩阵修改BART编码器,以对关系增强的文档建模,并使用BART解码器生成一个问题或几个候选项。在MIMICS数据集上的实验结果讲明,作为纯文本的良好增补,结构化信息划分有助于提高生成的候选项和澄清问题的质量。

论文介绍

论文题目:PSLOG: Pretraining with Search Logs for Document Ranking (Research Track)

作者:苏展,窦志成,周雨佳,赵子元,文继荣

通讯作者:窦志成

论文概述:最近,预训练模型不仅在自然语言处置惩罚方面而且在信息检索 (IR) 方面都取得了显著的效果。先前的研究讲明,面向 IR 的预训练任务可以比仅在 IR 数据集中微调预训练语言模型获得更好的性能。此外,从主流搜索引擎获得的海量搜索日志数据可以用于IR预训练,因为它包罗了用户在具体查询下对文档相关性的隐式判断。然而,现有要领主要使用直接的会话内查询文档点击信号来预训练模型,来自搜索日志的潜在监视信号远未获得充实探索。在本文中,我们提出综合利用四种查询-文档的相关关系,包罗跨会话和多跳关系,来训练针对信息检索的预训练排序模型。具体来说,我们关注用户的点击行为,并构建一个点击图来体现所有搜索会话中查询和文档之间的全局相关关系。使用点击图,我们不仅可以获取查询和文档的直接相关关系,还可以通过其邻居节点考虑跨会话和多跳的查询-文档关系。基于从点击图中提取的关系,我们提出了四种战略来生成正负例的训练样本,并使用这些数据来预训练排序模型。在商业数据集和果真的学术数据集的实验结果证明了我们要领的有效性。

苏展.png

论文介绍

论文题目:Improving Conversational Recommendation Systems via Counterfactual Data Simulation (Research Track)

作者:王晓磊,周昆,汤昕宇,赵鑫,潘凡,曹朝,文继荣

通讯作者:赵鑫

论文概述:对话推荐系统(CRS)旨在通过自然语言对话满足用户个性化偏好。现有要领通常依赖于足够的训练数据来进行模型优化,由于很难劈面向推荐的对话数据集进行标注,这些要领经常因训练数据稀缺而存在训练不足的问题。为了解决这个问题,在本文中,我们提出了一种反事实数据仿真要领CFCRS。我们的要领是基于反事实数据增强的框架开发的,该框架逐渐重写真实对话数据中的用户偏好中,而不会滋扰整个对话流程。具体而言,我们通过对话中的实体来体现用户偏好并组织对话流,并设计了基于对话流语言模型的多阶段推荐对话模拟器。在用户偏好和对话模式的指导下,对话流语言模型可以发生合理和连贯的对话流,进而获得完整的对话。基于对话模拟器,我们在表征层面对目标用户交互的实体进行干预,并设计了基于课程学习的反抗训练要领来逐步优化数据增强战略。实验讲明,我们的要领可以有效提升多个 CRS 模型的性能,而且优于其他数据增强要领,尤其是在训练数据很是有限的情况。

周昆.png

论文介绍

论文题目:Optimal Dynamic Subset Sampling: Theory and Applications  (Research Track)

作者:易璐,王涵之,魏哲巍

通讯作者:魏哲巍

论文概述:这篇论文我们研究了独立事件采样的一类基本问题,名为“子集采样”。具体而言,考虑一个由n个差异事件S={x_1, …, x_n}组成的荟萃,其中每个事件x_i都有一个相关概率p_i。子集采样问题旨在采样一个S的子集,使得每个x_i以概率p_i独立地被包罗在S中。一个朴素的解决方案是为每个事件抛一次硬币,这需要O(n)的采样时间。但我们希望算法的采样时间与预期输出巨细(即元素概率之和)同阶,而元素概率之和在许多应用中可能明显小于n。许多任务中需要频繁地子集采样,而且子集采样相关问题已经被研究凌驾十年。目前大部门子集采样的事情都基于静态假设,即事件个数和事件的概率都不会改变。这些事情要么需要较长的采样时间要么需要较长的更新时间,所以实际应用中亟需一个能满足动态更新要求的子集采样算法。这篇论文我们提出第一个最优子集采样算法,采样时间和更新时间都到达了理论最优的庞大度。理论分析和实验结果都证明了我们的算法的优越性。

论文介绍

论文题目:MGNN: Graph Neural Networks Inspired by Distance Geometry Problem (Research Track)

作者:崔冠宇, 魏哲巍

通讯作者:魏哲巍

论文概述:图神经网络(GNN)是机械学习领域的研究热点。现有的 GNN 模型主要分为两类:谱域 GNN 和空域 GNN。谱域模型通过设计多项式图滤波器来建模,而空域模型则接纳消息通报机制。为了增强谱域模型的表达能力和通用性,可以设计具有更好迫近能力的基。对于空域模型,尽管有模型试图将其与几何看法和物理工具联系起来,但是目前仍然缺乏从这两个角度分析其通用性的研究。本文从图神经网络分类阶段中的分类器对全等的嵌入矩阵(即两个嵌入矩阵对应向量对之间的距离相等)不敏感的性质受到启发,提出了一种名为 MetricGNN(MGNN)的空域模型。我们指出,如果一个图神经网络模型能够生成与任何给定嵌入矩阵全等的嵌入矩阵,那么它就具备空域通用性,而这与距离几何问题(DGP)密切相关。为了解决 DGP 这个 NP-Hard 问题,我们提出了基于弹簧网络(Spring Network)和多维标度(Multi-Dimensional Scaling)问题的能量函数优化要领,使得我们的模型能够处置惩罚同配和异配图。最后,我们接纳迭代要领优化能量函数,并在合成和真实数据集上进行了实验,评估了我们模型的有效性。

论文介绍

论文题目:Clenshaw Graph Neural Networks (Research Track)

作者:郭雨荷,魏哲巍

通讯作者:魏哲巍

论文概述:图卷积网络(GCNs)使用栈式堆叠的消息通报模块,是图体现学习中基础的空域要领,而在异配图上具有优势的多项式滤波器则来自与图卷积差异的谱域角度。本文中,我们引入ClenshawGCN,它通过一个简朴的残差模块(包罗二阶负残差与初始残差),将谱域模型的特性注入到空间模型中。我们证明了ClenshawGCN能模拟任意Chebyshev基下的任意多项式滤波器。实验讲明,这样一个融合空域、谱域二者特性的模型能够结合双方的优势。

论文介绍

论文题目:Delving into Global Dialogue Structures: Structure Planning Augmented Response Selection for Multi-turn Conversations (Research Track)

作者:付廷琛*,赵学亮*,严睿

通讯作者:严睿

论文概述:目前,基于大规模预训练的语言模型的迅速生长,开放领域对话模型可以凭据历史配景选择切合语境的回复。然而,它们通常将对话历史直接连接起来,作为模型的输入,这种扁平化的处置惩罚方式,忽略了差异对话轮次之间的关联关系。在这项事情中,我们提出了动态对话模型,在该模型中,我们引入了一种动态流机制来对文本流进行建模,并用来捕捉跨语言话语的信息动态,发现语料集之中的特征对话结构知识。

论文介绍

论文题目:Hierarchical Invariant Learning for Domain Generalization Recommendation (Research Track)

作者:张泽宇,高赫阳,杨镐,陈旭

通讯作者:陈旭

论文概述:大多数跨域推荐需要目标域信息或者源域与目标域的重叠信息来进行域适应。然而在现实世界中,目标域可能缺乏这些信息。本文将该问题界说为域泛化问题,并提出了相应的模型。此外,我们论述了它与零样本推荐、预训练推荐和冷启动推荐之间的关系,并区分于基于内容的推荐。我们提出了HIRL+模型来解决这一问题。我们提出了条理稳定学习的要领,以排除域层级和情况层级的特定模式,并在泛化空间中找到通用模式。为了使情况层级更为灵活、精细宁静衡,我们提出了一个可学习的情况分配要领。为了提高模型对域泛化漫衍偏移的鲁棒性,我们设计了一种反抗式的情况调整要领。此外,我们还在真实世界的数据集上进行了实验,验证了模型的有效性,并对域间距和域多样性进行了进一步的研究。

论文介绍

论文题目:JiuZhang 2.0: A Unified Chinese Pre-trained Language Model for Multi-task Mathematical Problem Solving (Applied Data Science Track)

作者:赵鑫,周昆,张北辰,龚政,陈志朋,周远航,文继荣,沙晶,王士进,刘聪,胡国平

通讯作者:赵鑫

论文概述:自动解决数学问题是一种人们一直所期望的机械智能能力。虽然预训练语言模型(PLMs)最近在数学推理方面取得了许多研究进展,但它们并没有被专门设计成一个多任务的求解器,因此在实际应用中面临着高昂的多任务部署成本(例如需要为每个任务部署一个模型)以及在庞大数学问题上体现不佳的问题。基于上述问题,本文提出了JiuZhang 2.0,一种专门用于解决多种数学相关任务的统一中文预训练语言模型。我们的想法是保持一个参数量适中的模型,并利用跨任务的知识共享模块来提高多任务设置下的模型容量。具体来讲,我们构建了一个混淆专家(MoE)架构来建模数学文本,以捕捉差异任务之间的配合数学知识。为了训练MoE架构,本文设计了多任务连续预训练和多任务微调战略来让模型适应多任务设置。这些训练战略能够有效地剖析差异任务数据中的知识,并通过专家网络建设跨任务知识共享。为了进一步提高模型解决差异庞大任务的通用能力,我们利用大型语言模型(LLMs)作为增补模型,通过上下文学习迭代革新我们的PLM生成的解决方案。在八个任务上的离线评估和在线A/B测试中都证明了我们模型在数学问题解决方面的有效性。

论文介绍

论文题目:Controllable Multi-Objective Re-ranking with Policy Hypernetworks (Applied Data Science Track)

作者:陈思睿*,王原*,温子敬,李志宇,张昌硕,张骁,林泉,朱成,徐君

通讯作者:王原,张骁

论文概述:机械学习模型在在线部署阶段常面临着目标需求变化的问题,如何在无需重训练的前提下在线的调整机械学习模型参数,以保证模型面对变化情况的可控性已成为当前机械学习理论研究与实际应用的要害问题之一。本文以电商中的重排问题为应用场景,关注排序物品列表的用户偏好、多样性、新颖性等多个目标的需求变化,探究在线模型的可控性问题。现有重排要领通常接纳静态模型,在离线训练阶段确定目标偏好权重并在在线部署期间保持稳定,当需要修改偏好权重时,须重新训练模型,这无法保证模型的实时可控性。同时,最合适的目标偏好权重可能因用户群体或时间变化(例如:节日促销期间)而大相径庭。本文提出了一种名为可控多目标重排(CMR)的框架,它结合了一个超网络,可凭据差异的偏好权重在线的生成重排模型的参数。通过这种方式,CMR能够凭据在线情况的目标需求变化动态的调整偏好权重,而无需重新训练模型。此外,CMR集成了基于Actor-Evaluator框架的训练—验证框架,Evaluator为CMR提供了可靠的实际测试平台。基于淘宝App实际数据进行的离线实验讲明,CMR通过将其作为底层模型革新了几种流行的重排模型,使其获得了实时控制能力;在线A/B测试验证了CMR的有效性和灵活性。