新加坡国立大学访学分享

周雨佳

访学基本情况

访学所在：新加坡国立大学NExT++实验室

外方导师：蔡告竣教授

海内导师：窦志成教授

博士入学时间：2019年9月

访学时间：2022年9月至2023年3月

经费来源：国家公派留学联合培养博士生项目（往返机票+2200新/月）

主要研究内容：生成式文档检索

科研学习情况

在为期六个月的访学交流历程中，我的主要科研学习方式可以分为以下三个方面：组会学习，与蔡教授一对一交流，与组内博士生/博士后讨论。

组会学习：NExT++实验室每周有一次组会，主要内容是请组内的两名同学陈诉自己近期的研究结果，每人约30-40分钟陈诉+10-20分钟QA，约莫每两个月会请两名外校的老师做一次talk。加入组会的人员主要包罗：NExT++的博士生/博士后，会见老师，会见学生，实习生。在半年的会见交流历程中，我共加入约15次组会，共听陈诉30次，主要主题包罗：推荐系统，多模态对话，视频理解，3D建模等。

一对一交流：我与蔡教授的一对一交流约两周一次，每次一小时，会见期间共交流7次，主要由浅入深地介绍了自己的事情，并探讨了信息检索的未来生长偏向。1-3次交流：主要向蔡教授介绍了生成式检索的基本框架，以及在研事情“排序导向的生成式检索”的主要思路，蔡教授认为生成式检索的主要挑战在于如何发挥大模型的优势，以及如何保证生成结果的多样性。4-5次交流：主要与蔡教授讨论了生成式检索与其他先进技术的融合方式，例如与扩散模型结合，与ChatGPT结合等。6-7次交流：着重探讨了信息检索未来的生长偏向，在生成式大语言模型的配景下，蔡教授认为未来的信息检索方式具备两个特点，其一是交互式，也就是说用户可以与搜索引擎进行充实的交互，而且搜索引擎也能够主动提问，获取用户的信息需求。其二是多模态，蔡教授认为图片视频音频等信息在信息检索的交互行为中会充当重要角色。因此，多模态交互式信息检索会是未来生长的主流。

与组内学生讨论：组内同学们偏向各异，我不定期会找几名博士生/博士后进行讨论，讨论内容包罗：研究事情讨论，博士生学习经验讨论，未来去向讨论。研究事情的讨论中，我主要同做推荐和QA的同学约莫每月进行一次讨论，主要针对生成式检索主要存在的问题进行讨论，例如在生成历程中beam search对检索结果多样性带来的影响，生成式损失函数与排序任务存在偏差等。博士生学习经验的讨论中，我们针对博士生应当具备的能力进行了总结，除科研能力外，我认识到外洋的情况对于学生交流相同能力和作陈诉的能力具有显著优势，由于外洋老师的治理模式，学生之间的交流频率与方式均越发自由。作陈诉的能力主要源自于每位学生陈诉的时机更多，包罗但不限于博士生课程陈诉，组会陈诉，项目相助陈诉。未来去向讨论主要思考了博后，互联网公司，研究员的利弊，也让我越发坚定了做博后的选择，博后是从博士生向老师的一个过渡，能够很是好地锻炼自己多任务并行，培养学生，独自做项目的能力。

外洋生活情况

外洋的生活既是孤苦的，也是富厚多彩的，除了科研学习，其他时间主要包罗交友，运动，娱乐三大方面。

交友：外洋的社交圈主要分为3个圈子，实验室同学、室友、CSC联培同学。其中，与实验室同学会有定期团建运动，与室友主要日常约饭逛超市，与CSC联培同学更多是一起探店，逛景点，跨年等更具纪念意义的运动。与新加坡当地人认识的时机并不是许多。

运动：新加坡常年夏天，特别适合运动，我的主要运动包罗慢跑、羽毛球、徒步，慢跑每周约15公里，羽毛球每周约1-2次，徒步每月一次，长度约10公里。慢跑获得得益于NExT++实验室的传统，每周组会结束后都市由蔡教授牵头，组织各人围着西海岸公园跑一圈，全长约5公里。在其他时间，各人也会不定期组织种种跑步运动。羽毛球运动主要是由CSC联培的学生配合提倡，各人一起组织定园地。徒步运动属于小我私家喜好，新加坡有很是多景色优美，且远离都市喧嚣的徒步路线，既可以起到锻炼身体的作用，也能够修养身心。

娱乐：新来到一个都市，基本的娱乐运动就是品尝当地的美食，鉴赏当地的景点。每周周末最快乐的事情就是去探索好吃的饭馆，或者和朋友们一起去旅行新加坡的景点。虽然吃了许多美食，但不得不说最好吃的永远是中餐，东北菜和暖锅成为了最常吃的美食。影象深刻的景点包罗：万圣节举世影城，夜间动物园，国家博物馆，滨海湾花园等。其中影象最深刻的是跨年运动，由于这是第一次在外洋过年，十几位同在新加坡联培的博士生们一起组织跨年运动，外卖小吃+桌游麻将+春晚烟花让2023的春节变得很有意义。

收获&总结

此次新加坡会见之旅收获满满，可以总结为：科研理念，生活态度，社交人脉三个方面。

科研理念：这次会见让我认识到，什么样的问题其实都可以成为科研问题，作为博士生，最快乐事情应当是能够研究自己喜欢的工具，而非为了论文而科研。科研自己是充满乐趣的，这切合人类求知的天性，然而由于一些外界条件的束缚，有些科研酿成了自己的枷锁，使自己生活变得枯燥，心理变得抑郁。因此，平衡好理想与现实，在二者中间求得一个最适合自己的状态很是重要。关于这个问题，印象最深刻的一个事情是有一次组会talk，是一位新加坡当地同学，他的研究内容是如何用刷子一笔一笔地画出一份水彩画，此类研究任务在已往我的认知中，似乎并不算是主流的科研偏向，但是他可以潜心研究，而且做得很好。现在的我，逐渐学习如何追随自己的内心来做科研，科研和艺术其实只有一墙之隔，二者都是追求极致的缔造力，区别在于，前者是为科学注入科学家的思想，后者是为绘画音乐等注入作者的情感。

生活态度：外洋相比于海内，通常越发考究事情生活的平衡，但其实对于在实验室的博士生，事情方面我并没有感受到太大差异。对比NExT++和GSAI，各人都很努力，都很上进，事情强度相当。相比之下，外洋的学生会越发自律，更明白如何部署时间，更明白如何解决庞大问题。纵然是刚入学的博士生，也能够自己探索研究偏向，掌握一套科研的要领（可能是得益于有博后带，经过多年的迭代，组内有很完善的带学生的机制）。在生活上，NExT++的同学们体育锻炼和喜好会更多，因此整体给人的感受越发积极，越发有活力。综上，我也会在未来的生活中，融入更富厚的业余运动，使我越发有活力地做科研。

社交人脉：在新加坡半年，结识了许多志同道合的小同伴，也认识了许多差异专业，却依然有许多话题的朋友。本次会见，结识NExT++实验室老师同学约40人，其他种种挚友约20人。同时很是幸运这次出国会见有时机线下加入国际学术聚会会议WSDM2023，我这次是以志愿者的身份参会，既熟悉了聚会会议组织准备的流程，也认识了许多的朋友。据统计，本次聚会会议线下聊天约40人，增加微信挚友约30人，并建设学术联系，人员划分来自清华大学，中国科学技术大学，上海交通大学，复旦大学，武汉大学，山东大学，新加坡治理大学，新加坡国立大学，南洋理工大学，犹他大学，滑铁卢大学，昆士兰大学，百度搜索，快手推荐，华为诺亚。此次聚会会议上，我与诸多老师同学探讨了生成式检索与GPT时代下的信息检索，总的感受是LLM虽然统一了自然语言处置惩罚，但对于IR，是一个新的机缘。