当前位置: 网站首页 技术文章 正文

复旦MOSS模型正式上线,国内首个插件增强型开源对话语言模型。

来源:互联网 发布时间:2024-06-27 08:50:43

据上交所消息,4月21日,由复旦大学自然语言处理实验室研发的新版MOSS模型正式上线,成为国内首个插件增强型开源对话语言模型。

目前,MOSS模型已经上线并开源,相关代码、数据和模型参数已经在Github、拥抱脸等平台开放,供研究人员下载。开源代码包括模型训练和推理代码,开源数据包括超过100万条对话训练数据。开源模型包括160亿参数中英双语基础语言模型、对话模型和插件增强对话模型。

MOSS基于开放的中英文数据进行训练。目前,MOSS拥有200亿个参数,具备与人类对话的能力,可以通过与人类交互实现迭代优化。

复旦MOSS模型正式上线,国内首个插件增强的开源对话语言模型

2月20日,复旦大学自然语言处理实验室发布了国内首个大规模会话式语言模型MOSS,并通过邀请码进行内测。

复旦大学自然语言处理实验室认为,MOSS还是一个非常不成熟的模型,距离ChatGPT还有很长的路要走。由于训练数据中多语言语料库有限,MOSS不擅长理解和生成非英语文本。目前正在开发改进版,以提高其中文能力。

复旦莫斯网站:moss.fastnlp.top/

相关教程