菠菜平台-十大菠菜平台

学院新闻

2021年1月1日至3日，中国盘算机学会(CCF)第八期启智会在北京举行。聚会会议由菠菜平台教授文继荣、清华大学教授唐杰提倡，来自清华大学、复旦大学、菠菜平台、中国科学院盘算所等单元的11名相关领域学者出席了聚会会议。

聚会会议合影，后排从左至右：刘潇、顾煜贤、韩旭、刘洋、袁进辉、邱锡鹏、刘知远、赵鑫、霍宇琦

前排从左至右：黄民烈、兰艳艳、文继荣、唐杰、宋睿华、朱军

聚会会议围绕“超大规模预训练模型的优势、局限与未来趋势”的话题展开讨论。近几年来，预训练模型在自然语言处置惩罚领域蓬勃生长，在多个子偏向取得了颠覆性的结果。作为一项最近几年被人们大规模应用的技术，预训练模型尽管取得了极大乐成，仍然有许多还未被掘客的有效要领，也另有许多亟待解决的重要问题。例如，预训练模型的理论基础是什么？如何分析与理解预训练模型中存储的 “知识” ？如何设计神经网络的底层架构，实现更高效的大规模预训练？下一代的预训练模型是什么样的，是更大参数的模型，照旧多个小模型的融合，抑或是多模态、融合外部知识，面向认知的模型？预训练模型又会有那些新的应用场景？如何推动中国预训练模型技术的研究进展？

本期启智会聚会会议接纳主题陈诉、辩说、自由讨论相结合的形式，从差异的角度对超大规模预训练模型的优势、局限和未来偏向进行了探讨。与会专家围绕聚会会议主题，结合自己的研究偏向论述了看法，并对其中一些较有争议的话题展开了猛烈的辩说，就预训练模型的乐成之处、当前不足、未来研究偏向开展了深入讨论，并就预训练模型、尤其是中文预训练模型的相关研究告竣了若干共识。聚会会议从模型结构、优化算法、知识融合、符号推理、语言理解等多个角度进行了思辨，尤其就中文预训练模型的研究现状、计划、生态进行了探讨。

北京智谱华章科技有限公司对本次启智会提供了部门赞助支持。