上海AI实验室发布“书生・浦语”大模型:具有1040亿参数

6月7日消息,从上海人工智能实验室官方公众号获悉,6 月 7 日,上海人工智能实验室(上海 AI 实验室)、商…

6月7日消息,从上海人工智能实验室官方公众号获悉,6 月 7 日,上海人工智能实验室(上海 AI 实验室)、商汤科技联合香港中文大学、复旦大学及上海交通大学发布千亿级参数大语言模型“书生・浦语”(InternLM)。

 

“书生・浦语”具有 1040 亿参数,是在包含 1.6 万亿 token 的多语种高质量数据集上训练而成。

 

上海人工智能实验室称,全面评测结果显示,“书生・浦语”不仅在知识掌握、阅读理解、数学推理、多语翻译等多个测试任务上表现优秀,而且具备很强的综合能力,因而在综合性考试中表现突出,在多项中文考试中取得超越 ChatGPT 的成绩,其中就包括中国高考各科目的数据集(GaoKao)。

 

据介绍,“书生・浦语”联合团队选取了 20 余项评测对其进行检验,其中包含全球最具影响力的四个综合性考试评测集:由伯克利加州大学等高校构建的多任务考试评测集 MMLU;由微软研究院推出的学科考试评测集 AGIEval(含中国高考、司法考试及美国 SAT、LSAT、GRE 和 GMAT 等);由上海交通大学、清华大学和爱丁堡大学合作构建的面向中文语言模型的综合性考试评测集 C-Eval;由复旦大学研究团队构建的高考题目评测集 Gaokao。

本文来自网络,不代表随客网立场,转载请注明出处。