8月21日消息,近日,据报道,前谷歌著名研究人员David Ha和Llion Jones宣布在东京创办人工智能研究公司Sakana AI。
据报道,Jones是Google2017 年研究论文《Attention is all you need》的第五作者,该论文介绍了“transformer”深度学习架构,是支持聊天机器人ChatGPT和当前由生成式AI驱动的产品开发竞赛的基础。
Jones上月表示将从谷歌离职,并自行创业。David Ha此前曾是谷歌日本人工智能研究部前负责人,于2022 年离开谷歌,后担任Stability AI的研究主管。据悉,David Ha将担任公司CEO。
Jones表示,Sakana AI 将专注于为基础模型创建新的架构。Ha说:“我们的方法不是构建一个吸收所有这些数据的巨大模型,而是使用大量较小的模型,每个模型都有自己独特的优势和较小的数据集,并让这些模型相互通信和协作来解决问题”。
据称,Sakana这名字来源日语单词“さかな”(sa-ka-na),意为“鱼”,意在唤起“一群鱼聚集在一起,通过简单的规则形成一个连贯的实体”的想法,类似于自然界中的进化论、集体智慧等概念 。