华为推出全新架构昇腾 AI 计算集群

发布时间:2023-09-20 阅读量:670 来源: 综合网络 发布人: bebop

9月20日,在华为全联接大会2023期间,华为常务董事、ICT基础设施业务管理委员会主任、企业BG总裁汪涛正式发布全新架构的昇腾AI计算集群——Atlas 900 SuperCluster,可支持超万亿参数的大模型训练。


据汪涛介绍,新集群采用全新的华为星河AI智算交换机CloudEngine XH16800,借助其高密的800GE端口能力,两层交换网络即可实现2250节点(等效于18000张卡)超大规模无收敛集群组网。新集群同时使用了创新的超节点架构,大大提升了大模型训练能力。此外,发挥华为在计算、网络、存储、能源等领域的综合优势,从器件级、节点级、集群级和业务级全面提升系统可靠性,将大模型训练稳定性从天级提升到月级。


此外,华为发布了更开放、更易用的 CANN 7.0 异构计算架构,不仅全面兼容业界的 AI 框架、加速库和主流大模型,还深度开放底层能力,让 AI 框架和加速库可以更直接地调用和管理计算资源,使能开发者自定义高性能算子,让大模型具备差异化的竞争力。


硬件使能是释放大算力的关键,也是大模型开发的基础。汪涛称,为了加速大模型的创新,华为还发布了更开放、更易用的CANN7.0,不仅全面兼容业界的AI框架、加速库和主流大模型,还能够让AI框架和加速库可以更直接地调用和管理计算资源,使能开发者自定义高性能算子,让大模型具备差异化的竞争力。


面向Transformer网络模型的开发,华为此次还升级了Ascend C编程语言,以更高效的编程方式,简化算子实现逻辑,将融合算子的开发周期从2人月缩短到2人周,使能AI模型与应用的快速开发。


汪涛表示,华为基于最新发布的行业智能化参考架构,联合客户、伙伴,发布了金融、政务、制造、电力、铁路等九大行业智能化解决方案。汪涛表示,未来,华为还将打造更多的行业方案,推动AI与行业场景深度融合。


相关资讯
2025全数会智能工业展四大焦点发布!展位预订火热开启!

2025(第六届)全球数字经济产业大会暨智能工业展将于2025年7月30日至8月1日在深圳福田会展中心举办

项目需求推荐 |预算7万,X86开发板、人体探测等优质项目亟需工程师!

百余优质电子开发项目等你抢单 接外快/找服务 上快包平台

佳节献好礼,DigiKey 第 16 届年度 DigiWish 佳节献礼活动即将开启!

DigiKey 将于 2024 年 12 月 1 日正式启动其第 16 届年度 DigiWish 佳节献礼活动。

贸泽电子深入探讨以人为本的工业5.0新变革 探索灵活的可持续未来工业机遇

本期EIT探讨了从工业4.0到工业5.0的转变,以及即将实现的技术进步

2025第24届西部全球芯片与半导体产业博览会

CWGCE2025西部芯博会总规模将达到60000㎡,同期举办光电展+工业展+智能展+军工展等相类展会,将有更多集成电路行业新装备、新产品、新材料、新技术、新工艺、新趋势及新应用集中亮相