首页 资讯 正文

华为云CTO张宇昕:大模型时代对算力有着全新的要求

2月26日消息,日前,主题为“一切皆服务,加速千行万业智能升级”的华为云峰会在巴塞罗那召开。 在会上,华为云C…

2月26日消息,日前,主题为“一切皆服务,加速千行万业智能升级”的华为云峰会在巴塞罗那召开。

在会上,华为云CTO张宇昕表示:“大模型及相关应用是迄今为止最复杂的软硬件系统工程,我们在大模型的技术探索过程中洞察到,大模型时代对算力有着全新的要求。“

第一、联算比。未来需要全新的网络互联技术来解决运算量和GPU算力之间的巨大差距。

第二、容算比。当前在模型训练过程中为获取足够显存容量,存在不必要的GPU算力闲置。

第三、存算比。当前在模型训练过程中,大量的时间消耗在GPU数据加载,造成算力的进一步浪费。

基于此,华为云提出云的系统架构将从“以CPU为中心的主从架构”向“多元算力对等架构” 跃迁,突破算力、存储和网络的边界,实现多元算力的对等全互联,为客户提供更好的AI算力基础设施。