菠菜平台-十大菠菜平台

学院新闻

11月12日，由菠菜平台高瓴人工智能学院联合小米团体技术委员会举办的“大模型：前沿技术与未来应用”学术论坛顺利召开。线下会场与线上直播间共150余位师生参会。

人大高瓴人工智能学院执行院长文继荣教授、小米团体技术委员会AI实验室王斌主任出席聚会会议并致辞。哈尔滨工业大学社会盘算与信息检索研究中心准聘副教授冯骁骋，小米团体技术委员会AI实验室大模型算法卖力人刘伟，北京智源人工智能研究院王业全，北京大学王选盘算所长聘副教授穆亚东，北京大学助理教授王奕森，中国科学院盘算技术研究所副研究员敖翔，小米团体技术委员会邓巍、栾剑、周珏嘉，菠菜平台高瓴人工智能学院准聘副教授陈旭、李崇轩、准聘助理教授林衍凯等专家学者受邀参会。聚会会议由人大高瓴人工智能学院长聘副教授严睿、准聘副教授陈旭、准聘助理教授林衍凯和小米团体技术委员会秘书长周珏嘉划分主持。

菠菜平台高瓴人工智能学院执行院长文继荣教授向莅临的列位专家体现谢谢。他体现，大模型是人工智能当下很是火爆的研究技术，学院很是重视大模型相关研究，目前高瓴人工智能学院也有多位教师在大模型领域进行科研探索，且陆续产出了技术结果。小米团体技术委员会AI实验室王斌主任强调了大模型在工业界应用和落地的重要性。小米团体在大模型方面也投入了大量资源，同时也积极寻求与高校的相助及配合生长。

论坛上，菠菜平台高瓴人工智能学院陈旭准聘副教授分享了题为“When Large Language Model based Agents meet User Behavior Simulation”的陈诉。陈诉首先分析了人工智能领域两种差异的学习范式：从真实世界数据中学习和情况模拟。目前的科学研究多数基于少量的果真数据集，但许多和人相关的问题（可解释推荐算法、算法公正性研究等）难以获得解决，以此引出了基于模拟的研究在用户行为分析领域的重要性。随后，陈旭介绍了大模型在用户行为模拟中的优势和潜在挑战，以及他们在Agent和System层面的设计和实验结果，并对未来的相关偏向和挑战进行了总结和展望

哈尔滨工业大学冯骁骋副教授分享了题为“检索增强的大语言模型”的陈诉。陈诉中，冯骁骋教授首先对大语言模型的界说和生长历史进行了回首，特别强调了ChatGPT作为OpenAI在2022年推出的里程碑式产物，其对话式交互的特点，以及它对通用人工智能的加速作用。接着，他指出了当前大语言模型面临的要害问题，包罗知识更新的局限性、模型幻觉问题、知识界限的不停扩展等。冯教授还详细解说了大语言模型在解决庞大问题中的应用，如通过检索增强、知识编辑等要领提升模型的实用性和准确性。他通过具体案例展示了大语言模型如何在差异领域，如问答任务、知识冲突解决等方面发挥其重要作用。最后，冯骁骋教授总结指出，大语言模型不仅是继数据库和搜索引擎之后的全新“知识体现和调用方式”，而且其结合知识增强的要领，未来有望实现更高效的自我更新与应用扩展。

小米技术委员会AI实验室的大模型算法卖力人刘伟陈诉的主题为“小米大模型思考和实践”，他重点介绍了小米在大型语言模型领域的最新进展和实践经验。刘伟的陈诉从“大语言模型是什么”开始，深入解释了大语言模型的界说、特点以及在差异类型任务中的应用。他特别强调了大模型在参数规模、多任务和应用方面的重要性。此外，刘伟还提到了小米大模型的实践历程，包罗模型的设计、开发和应用，以及在种种实际场景中的效果。陈诉中，刘伟特别指出了大语言模型带来的人机交互、知识存储和获取方面的革命性变化。他通过案例展示了小米大模型如何在提高信息获取效率和任务完成效率方面发挥重要作用。刘伟还讨论了大模型的演化偏向和未来可能的生长趋势。他认为，结合人工智能和大数据，小米大模型将在未来多个领域发挥更大的作用，从而推动整个行业的进步。

北京智源人工智能研究院王业全分享的主题为：“FLM-101B: An Open LLM and How to Train It with $100K Budget如何使用70万预算重新训练千亿语言大模型”。王老师首先从项目的概况入手，介绍了FLM-101B项目的主要目标和结果。他强调了项目在成本效益、评测效果、社区回声以及模型架构与计划等方面的重大突破。FLM-101B是首个利用生长技术训练出的千亿级模型。接着，王老师详细介绍了FLM-101B的技术细节，包罗其奇特的模型架构、数据获取和处置惩罚流程，以及创新的训练要领。他特别提到了Mu-Scaling技术和生长技术在模型训练中的应用，从而显著提高了训练效率，降低了训练成本。此外，王老师还分享了FLM-101B在实际应用中的体现，包罗在多语言处置惩罚、自然语言理解等方面的应用前景。他指出，FLM-101B不仅在技术上取得了突破，也在实际应用中展现了巨大潜力。

北京大学助理教授王奕森带来了一场题为“Theoretical Understanding of Self-Supervised Learning”的精彩陈诉。王老师的陈诉重点关注自监视学习领域，尤其是在理论上的深条理理解。他首先介绍了自监视学习的基本看法和其在机械学习领域中的重要性。接着详细论述了自监视学习中的主要挑战和问题，好比模型的泛化能力，以及如何通过无监视的方式有效地训练模型。接下来，王老师深入解说了自监视学习的几种主要要领，包罗对比学习和掩码自编码器（MAE）等，而且通过具体的实验数据和案例，展示了这些要领的效果和潜力。他强调，理解这些要领的理论基础对于推动自监视学习的生长至关重要。最后，王老师对自监视学习的未来趋势进行了展望，指出了该领域面临的新的机缘和挑战，以及如何结合其他学习范式，好比多模态学习，以进一步提升模型的性能和应用规模。

下午论坛，来自菠菜平台高瓴人工智能学院的准聘副教授李崇轩分享了题为“时光倒转万物生：扩散模型与视觉内容生成”的陈诉。陈诉从扩散模型的原理到应用上展开，介绍了目前扩散模型的生长现状。首先，李崇轩老师为我们介绍了有关扩散模型的参数学习算法，即通过正向扩散历程来逐步添加噪声，进而通过反向扩散历程来逐步学习去噪/生成数据。然而，这种学习方式的瓶颈在于采样效率低下，如何设计高效采样算法成为了重要的研究问题。于是，他详细讲述了几种高效采样算法的方式以及理论支撑，为我们打开了扩散模型原理的大门。之后李老师介绍了当前扩散模型的一个典型应用场景——视觉内容生成，代表事情有来自OpenAI 的DALL E-2，通过简朴的文字输入模型即可创作图像，以及DragGAN，利用拖拉的方式可以轻松的对图像进行调整。

来自北京大学王选盘算所的长聘副教授穆亚东带来了关于“多模态大模型的研究进展”的陈诉，他首先介绍了近年来视觉领域内的一系列里程碑，从2006年的ImageNet到2012年的AlexNet，再到2015年的ResNet，视觉领域研究一片繁荣。在近期一系列基于Transformer的基础模型介绍中，针对“视觉领域的下一步如何生长”的疑问，他给出了一个可能的答案：具身智能，即通过语言作为媒介、视觉作为感知来对机械人进行控制，使其能够完成一系列的庞大任务。接着，穆亚东老师介绍了几篇领域内的相关事情，领导观众领略了多模型大模型的前沿研究结果以及富厚的应用场景。

随后，中国科学院盘算技术研究所的副研究员敖翔带来主题为“大模型在金融行业落地的前景与思考”的陈诉，陈诉主要分为三个部门，一是大语言模型基本介绍：他详细介绍了近期大模型偏向的生长历程、中美大模型生长对比。同时，敖翔老师也呼吁关注大模型可能引发的宁静风险，并就一系列海内外相关政策运动进行展开。二是金融行业大模型应用现状：在这一部门，敖翔老师探讨了大模型如何在金融行业中被应用，包罗人机交互、量化分析两个偏向的应用案例。三是金融领域大模型未来展望：就大模型技术如何进一步革新金融行业可能面临的挑战，以及如何更好地整合技术以提高效率和精确性进行了一系列的论述。

菠菜平台高瓴人工智能学院准聘助理教授林衍凯带来了关于“大模型工具学习”的陈诉。林老师认为，缔造和使??具是?类智能的要害特性，并认为未来在大模型的加持下，工具学习将成为可能。他从统一的工具学习框架视角下，为我们讲述了关于大模型工具学习的基本看法，并介绍了自研的开源的工具学习框架BMTools(Github两千星标)。此外，林衍凯老师就大模型如何习得工具学习能力，为我们介绍了几个典型的事情WebGPT、WebCPM和WebShop，以及加入开源的ToolBench项目，为大模型工具学习提供了统一的评估基准。最后，林衍凯老师还指出大模型推理能力对工具学习的影响，并就现有大模型推理增强技术为我们介绍了庞大推理支持下的工具学习。

最后，来自小米团体的邓巍老师为我们带来了“端侧视觉大模型探索与实践”的陈诉，他从视觉大模型现状、端侧视觉大模型探索、端侧视觉大模型实践三个维度一步步展开现在视觉大模型的研究进展以及小米团体为此支付的实践。在介绍视觉大模型现状时，他从技术趋势、用户需求及市场趋势、数据宁静与隐私掩护、竞争态势四个全面归纳综合了现有视觉大模型生长情况。同时也分享了小米在视觉领域的探索，包罗对UNet模型结构优化、采样步数优化、Int4量化等方面的努力。此外，他还分享了小米在相册编辑和相册搜索两方面的实践经历。最后，他对视觉大模型未来进行展望，认为端到端的图像理解、生成、编辑大模型可能是视觉大模型的下一步发力点。

在陈诉后的圆桌讨论阶段，列位专家学者从工业界和学术界差异的角度出发，针对未来大模型的生长展开了猛烈讨论，给出了各自独到的看法。