华为云CloudMatrix 384超节点再出圈,昇腾AI云服务解锁超级算力
基于华为384超节点的昇腾云引关注
更令观众关注的是华为云的昇腾AI云服务,让超节点能够以云服务的形态实现按需用、随心用,降低企业应用先进智算基础设施的门槛,同时直接使用华为云成熟的软件栈和工具链,为自身研发、部署、应用大模型赋予全新的加速度,为“百模千态”时代做好软硬一体的底座支持。
同时华为云CloudMatrix 384超节点还具备四大技术特点:首先,吞吐突破性能强,可实现软硬件协同优化,单卡Decoding吞吐达到2300Tokens;其次,主流模型覆盖多,沉淀了行业主流160+模型,可高效支撑模型迁移;同时,专家并行效率高,国内首创大规模专家并行方案,可实现系统级优化支撑更大吞吐、更低decode时延;以及规模灵活,规模灵活,初始投资小,每年迭代发布新版本,可实现弹性灵活按需用,这些都能够更好地支撑“AI+”的落地需求。
目前,华为云CloudMatrix 384超节点已在行业中得到广泛应用:助力新浪“智慧小浪”推理交付效率提升50%以上;支撑硅基流动每天为600万用户提供高效推理服务;助力中科院自研模型训练框架,快速构建AI4S科研大模型;推动面壁智能“小钢炮”模型推理业务性能大幅提升;为360“超级搜索”纳米AI搜索提供性能领先、贴合需求的AI算力;助力讯飞大模型实现极致的推理性能等。受益于领先的AI算力,众多行业伙伴正快速推动自身大模型的构建和升级。
值得关注的是,本届大会还特别设立了“中国人工智能产业创新成果展”,向公众讲述中国人工智能发展的重要里程碑,华为云CloudMatrix 384和华为云ModelArts Studio大模型开发平台列其中,凸显了华为云构筑智算底座、支撑“AI+”落地的重要贡献。
除了领先的算力基础设施,在具身智能领域华为云的CloudRobo具身智能开发与运行平台,结合了具身多模态生成大模型、具身规划大模型、具身执行大模型等能力,为企业提供端到端的具身智能解决方案。国家地方共建人形机器人创新中心(简称“上海国地中心”)依托该平台,与华为云联合构建了虚实融合的具身数据生成与增广流水线,不同类型的机器人均可快速接入系统,并可实现自动生成抓取、搬运、分拣等任务的轨迹数据,节约数据采集成本达90%,使得工业机器人在流水线上的应用进程大大提速。
展区上华为云带来的众多行业垂直解决方案,以及携手客户伙伴共创的最新实践,吸引了来自各行业的与会企业代表驻足。如,华为云与北铁所合作打造铁路大模型和高铁动车智能巡检机器人,助力中国铝业集团打造有色金属行业首个大模型“坤安”,与玖天气象合作通过“AI+气象”助力新能源发电提质增效,与能科科技合作打造AI工业链赋能“智造”,华为云Stack赋能钢铁热轧毫米级控制钢板,AI CITY架构赋能人工智能系统化创新,打造未来城市新范式等,成为千行万业拥抱大模型的坚实支撑。
2、美商务部长称8月1日加征关税期限将不再延长,美国加征关税时间 节点
3、观演热情高涨 夏日文旅升温(中国消费向新而行·关注夏日消费)