百川智能宣布推出Baichuan2-192K,上下文窗口长超GPT-4约14倍

10月30日消息,百川智能宣布发布Baichuan2-192K大模型。 据介绍,该模型上下文窗口长度达192K…

10月30日消息,百川智能宣布发布Baichuan2-192K大模型。

据介绍,该模型上下文窗口长度达192K,能够处理约35万个汉字,是目前全球最长的上下文窗口,是目前支持长上下文窗口最优秀大模型Claude2(100K上下文窗口,实测约8万字)的 4.4倍,是 GPT-4(支持32K上下文窗口,实测约 2.5万字)的14倍。

今年9月25日,百川智能宣布已开放Baichuan2的API接口,进军企业级市场,开启商业化进程。此次Baichuan2-192K将以API调用和私有化部署的方式提供给企业用户,目前百川智能已启动Baichuan2-192K的API内测,开放给法律、媒体、金融等行业的核心合作伙伴。

上下文窗口长度是大模型的核心技术之一,通过更大的上下文窗口,模型能够结合更多上下文内容获得更丰富的语义信息,更好的捕捉上下文的相关性、消除歧义,进而更加准确、流畅的生成内容,提升模型能力。