![]()
。据介绍,该技术延续了“用软件填充硬件”的创新思路,能够将GPU、NPU等计算资源的利用率从业界平均水平的30%-40%大幅提升至70%,显着释放计算硬件的潜力。知情人士指出,华为的新技术将针对主要运行技术:NVIDIA于2024年底收购的以色列公司AI。旨在通过软件创新,实现NVIDIA、Assend等第三方对算力的统一资源管理和使用,屏蔽算力和硬件的差异,在支持训练和推理方面提供更好的支持。 2024年12月,NVIDIA宣布将以7亿美元(约合人民币51亿元)收购2018年成立的以色列公司RUN:AI。在过去的七年里,这家公司的产品只专注于一件事——如何高效利用GPU,如提供业务仪表板、GPU权限分配、任务分配等直观的可视化操作工具。本质上,它是GPU的“数据产品经理”。对于拥有强大研发能力和AI积累的大公司来说,自研这样的内部工具或许不成问题,但对于非AI行业的中小用户来说,跑:AI技术至关重要。资料来源:NVIDIA 运行时报道:AI 用户包括全球打印机巨头 Zebra Technologies、利用端到端技术一鸣惊人的自动驾驶公司 Wayve,以及伦敦医学影像和人工智能中心等。其中,Wayve利用RUN:AI提供的工具,将GPU集群的效率从不足25%提升至80%以上。在收购的同时,NVIDIA还宣布所有RUN:AI平台技术都是开源的,如果购买NVIDIA GPU就可以免费使用它们。钍黄仁勋之所以这么做,是因为英伟达在AI芯片领域占据垄断地位,控制着80%的高端GPU市场和几乎100%的AI计算领域,并寻求构建立体的产品优势+生态系统。长期以来,黄仁勋和英伟达想做的就是垂直整合AI产业,从芯片到工具再到软件应用,打造一个能够满足任何AI用户、让客户依赖的生态系统的一站式商店。然而,对于今天的中国来说,重要的是要避免过度依赖NVIDIA,特别是在先进工艺有限且单卡计算能力无害的情况下。国内产业需要“系统补单点”、“软件补硬件”来支撑AI产业的发展。今年以来,华为推出了多项关键技术,弥补芯片方面的短板。以Ascend 384超级节点为例,例子。该技术利用华为在通信、存储、核心软件等方面的大杂烩优势,突破互联网瓶颈,实现算力规模赶超。再比如最近开源的UCM(Unified Cache Manager)内存内存管理技术,利用充分了解不同存储介质的特性,降低AI推理对高端HBM的依赖,平衡成本。人工智能是一个系统工程,算力代表着高昂的成本。拥有中国先进的芯片,华为即将推出的新技术将如何提高计算资源的使用效率,无疑值得关注。返回搜狐查看更多