首页 资讯 正文

华为云推出首个大模型混合云

11月30日消息,据“华为云”公众号消息,以“践行深度用云,加速智能升级”为主题的华为云行业高峰论坛2023在…

11月30日消息,据“华为云”公众号消息,以“践行深度用云,加速智能升级”为主题的华为云行业高峰论坛2023在北京开幕。

会上,华为云推出业界首个大模型混合云,并发布《深度用云展望2025》白皮书及深度用云行动计划,希望通过创新技术、理论沉淀及行动举措,助力政企践行深度用云,加速智能升级。

未来,所有企业都会使用大模型。源于长期的行业积累,大型企业拥有丰富的私有数据资源,这些私有数据对大模型的训练至关重要。大型政企由于其业务特点,更倾向于将数据留在本地,确保“数据不出域”。因此,基于混合云的大模型将成为未来行业大模型的重要部署形态,既满足业务创新诉求,也缓解企业对数据安全和隐私的担忧。

华为混合云总裁尚海峰在主题演讲中表示:“在大模型时代,华为云致力于成为政企智能升级首选伙伴。希望基于华为云Stack提供的丰富的云服务和盘古大模型的强大能力,让AI的建设、开发和运营更简单,让每个企业都拥有自己的专属大模型”。

据悉,华为云Stack 8.3在业界率先实现大模型能力基于混合云部署,提供算力平台、云服务、开发套件和专业服务等业界最完整的AI生产链,帮助政企客户一站式建立专属大模型能力。

华为云Stack针对大模型场景做了四大优化:

首先,基于原生混合云能力,用户可以将大模型从本地延伸到边缘和公有云,多云协同架构让行业大模型在公有云上训练,在混合云上结合企业本地数据微调,然后推送到边缘云进行推理,实现全场景跨云部署。

其次,通过软硬协同实现算子融合与混合精度的优化,模型训练性能提升45%,充分挖掘算力潜能。

第三,华为云Stack提供3类工具套件,让企业能够高效地完成数据清洗、模型开发和应用开发,降低开发门槛。

最后,大模型训练任务通常需要连续执行数天,华为云Stack通过无感断点续训的能力,让AI训练可以长稳运行30天以上。

目前,华为云Stack已经联合10多个政企客户基于混合云探索行业大模型。

本文来自网络,不代表随客网立场,转载请注明出处。