时间:2025-07-29 03:57 作者:一盏新茶
华为云CloudMatrix 384超节点再出圈,昇腾AI云服务解锁超级算力
7月26日,在全球AI顶级盛会世界人工智能大会(WAIC 2025)上,华为384超节点真机荣获“镇馆之宝”奖项,现场基于CloudMatrix 384超节点的华为云新一代昇腾AI云服务,因为弹性灵活按需取用的特点,让超级性能的算力更随手可得,成为了场内参观焦点。该服务目前已在芜湖、贵安、乌兰察布和林格尔数据中心全面上线。
基于华为384超节点的昇腾云引关注
更令观众关注的是华为云的昇腾AI云服务,让超节点能够以云服务的形态实现按需用、随心用,降低企业应用先进智算基础设施的门槛,同时直接使用华为云成熟的软件栈和工具链,为自身研发、部署、应用大模型赋予全新的加速度,为“百模千态”时代做好软硬一体的底座支持。
同时华为云CloudMatrix 384超节点还具备四大技术特点:首先,吞吐突破性能强,可实现软硬件协同优化,单卡Decoding吞吐达到2300Tokens;其次,主流模型覆盖多,沉淀了行业主流160+模型,可高效支撑模型迁移;同时,专家并行效率高,国内首创大规模专家并行方案,可实现系统级优化支撑更大吞吐、更低decode时延;以及规模灵活,规模灵活,初始投资小,每年迭代发布新版本,可实现弹性灵活按需用,这些都能够更好地支撑“AI+”的落地需求。
目前,华为云CloudMatrix 384超节点已在行业中得到广泛应用:助力新浪“智慧小浪”推理交付效率提升50%以上;支撑硅基流动每天为600万用户提供高效推理服务;助力中科院自研模型训练框架,快速构建AI4S科研大模型;推动面壁智能“小钢炮”模型推理业务性能大幅提升;为360“超级搜索”纳米AI搜索提供性能领先、贴合需求的AI算力;助力讯飞大模型实现极致的推理性能等。受益于领先的AI算力,众多行业伙伴正快速推动自身大模型的构建和升级。
值得关注的是,本届大会还特别设立了“中国人工智能产业创新成果展”,向公众讲述中国人工智能发展的重要里程碑,华为云CloudMatrix 384和华为云ModelArts Studio大模型开发平台列其中,凸显了华为云构筑智算底座、支撑“AI+”落地的重要贡献。
展区还带来多款基于华为云全栈AI能力打造的智能产品,吸引了一大批观众。包括一伸胳膊即可实现机器把脉的智能中医把脉仪,可以和观众打招呼、握手、抱拳、舞蹈的戴盟机器人,在系统层面内置大模型能力的鸿蒙电脑等,让观众充分体验最前沿科技的魅力。
当下,公众对AI的期许在于如何与产业相结合,解决生产生活中的实际问题。华为云在本次大会上充分展现了如何利用自身的“尖刀技术”与行业垂直解决方案,携手各产业“解产业难题、做行业难事”,用AI重塑千行万业。未来,华为云也将持续深耕数智“黑土地”,携手客户及伙伴共绘未来智能世界新图景。
1、和泰人寿副总经理崔传波任职资格获批 担任总精算师不到一年