• 最新
帮大模型提速80%,华为拿出昇腾推理杀手锏FlashComm,搞定通算瓶颈

近日,华为数学家出手,祭出FlashComm,三箭齐发,解决大模型推理通算难题: FlashComm1:大模型推理中的AllReduce通信优化技术。将AllReduce基于通信原理进行拆解,并结合后续计算模块进行协同优化,推理性能提升26%。...

帮大模型提速80%,华为拿出昇腾推理杀手锏FlashComm,搞定通算瓶颈

机器之心发布机器之心编辑部在今年 2 月的 DeepSeek 开源周中,大模型推理过程中并行策略和通信效率的深度优化成为重点之一。近日,华为数学家出手,祭出 F

华为全面揭秘超大规模MoE模型昇腾推理部署技术,国产芯片推理性能再创新高

在2025年4月,硅基流动联合华为云基于CloudMatrix384超节点昇腾云服务和高性能推理框架SiliconLLM,用大规模专家并行最佳实践正式上线DeepSeek-R1。...华为发布昇腾推理系列关键技术,并将于近期开放技术代码,构建开放共赢的开发...

华为曝光两大黑科技!打破推理延迟魔咒,大模型从此「秒回」

华为曝光两大黑科技!打破推理延迟魔咒,大模型从此「秒回」,推理,算法,算子,华为,延迟,大模型,黑科技,知名企业,深度思考模型

华为云黄瑾:昇腾云CloudMatrix 384 超节点六大科技创新,定义下一代AI基础设施

5月16日,华为云AI峰会在北京召开,华为云副总裁黄瑾发表主题演讲,介绍了更多CloudMatrix 384 超节点技术优势与细节。他指出,随着大模型训练和推理对算力需求的爆炸式增长,传统计算架构已难以支撑AI技术的代际跃迁,超节点...

万兴科技牵手华为云达成国内首例音视频垂类大模型和通用大模型的战略合作

作为全球增长最快的主流云厂商之一,华为云致力于将AI大模型与行业核心业务系统结合,解决行业难题,释放AI生产力,与客户一起构建合作共赢的AI生态体系,加速AI应用落地。目前,华为云盘古大模型已在30多个行业、400多个场景...

山东省机器人大会|华为云“一城一云一模型”走深向实,助力千行万业智能化升级

刘洋表示,华为云通过打造“自主创新、安全可信”AI算力底座,以昇腾AI云服务支持百模千态,以盘古大模型重塑千行万业,赋能越来越多的城市“解难题,做难事”,向着更高质量、更具创新力的发展方向不断前行。例如深圳福田的...

万兴科技与华为云达成战略合作 共同推进AI大模型的技术和应用创新

作为全球增长最快的主流云厂商之一,华为云致力于将AI大模型与行业核心业务系统结合,解决行业难题,释放AI生产力,与客户一起构建合作共赢的AI生态体系,加速AI应用落地。目前,华为云盘古大模型已在30多个行业、400多个场景...

万兴科技与华为云签订战略合作 共建AI联合实验室探索场景深度应用

云计算 技术有限公司(以下简称“华为云”)官微均发布消息...作为全球增长最快的主流云厂商之一,华为云则致力于将AI大模型与行业核心业务系统结合,解决行业难题,释放AI生产力,与客户一起构建合作共赢的AI生态体系,加速AI...

华为发布全球最大折叠屏电脑 重新定义未来高端笔记本电脑形态

nova 14系列及鸿蒙电脑新品发布会在成都举行,nova 14系列、鸿蒙电脑、...展示出承袭华为擎云商用电脑的智慧、品质、安全设计基因的理念,还基于分布式软总线和大模型能力,重构用户体验。擎云星河计划 赋能千行百业 擎云星河计划...

相关阅读