近期,全球图形处理与人工智能计算领域的领导者Nvidia宣布,已正式完成对AI基础架构管理软件开发商Run:ai的收购。这一里程碑式的交易不仅标志着Nvidia在AI管理解决方案领域的进一步拓展,还预示着更加开放的GPU管理新时代的到来。
公司目前持有的GPU芯片数量超过2万张,其中AI推理芯片占比高达90%,GPU芯片的整体利用率维持在70%-80%之间。
到2025年,计算需求正从智能计算基础设施向终端设备扩展,端侧和边缘AI的趋势愈发明显。这种趋势主要受两方面因素的驱动:一是端侧或边缘AI与具体应用或业务紧密结合,因其能大幅提升产品功能或用户体验;二是端侧或边缘设备的AI功能需要实时性和完好性,减少 ...
现在的情况是,核心的GPU架构、性能本身,能威胁到英伟达的其实并不多。目前英伟达控制着高端芯片市场80%的份额,几乎100%的AI计算份额。 比如在 2019 年斥资 69 亿美元收购了高性能计算公司 Mellanox,还收购了用于边缘 AI ...
来源:硬AI作者:蒋紫涵AI行业巨头纷纷推迟新一代模型发布,AI技术发展进入瓶颈期了吗?去年夏天,马斯克曾在社交平台X上发文称,xAI的下一代AI模型Grok 3将在10万张H100 ...
FPGA与ASIC的适用场景也不尽相同,就边缘AI而言,FPGA确实展现出了更高的适用性;ASIC的主要优势在于其针对特定任务的高度优化,这通常会导致更高的性能和更低的功耗(在大量生产时),也正因此,在AI计算应用中,业内对于ASIC的呼声似乎要略高 ...
在全球人工智能技术迅猛发展的背景下,NVIDIA首席执行官黄仁勋近日宣布投资50亿人民币,专门用于培训和指导AI公司高效使用GPU。这一举动不仅彰显了黄仁勋对AI行业未来发展的信心,更为相关企业赋能带来了实质性的支持。
在人工智能浪潮的推动下,智能可穿戴设备的应用场景越来越广泛,而首都在线在AI眼镜领域的布局则成为了这一趋势的缩影。1月2日,首都在线在互动平台上透露,公司目前持有超过2万张GPU芯片,AI推理芯片占比约90%。这意味着,首都在线不仅具备强大的技术实力,更在智能可穿戴设备的竞争中占得先机。
前言:随着人工智能技术的迅猛发展,全球对计算能力的需求急剧上升,这促使人工智能芯片市场持续升温。 然而,随着大型人工智能模型的发展进入新阶段,人工智能芯片市场的竞争格局正在经历微妙的变化。 有观点认为ASIC正迅速崛起,对GPU在人工智能计算领域的主导地位构成威胁。 人工智能计算分为训练和推理两个方面。 训练任务需要更强大的计算能力,因此在人工智能训练方面,厂商们主要使用GPU。 而推理任务对计算 ...
AI应用全球化趋势在加速,训练和推理所必须的GPU算力,尤其是高端GPU,需求也在暴涨,整体稳定性挑战也在与日俱增。对于大部分AI出海企业来讲,选择有软件平台加持的、稳定安全高效的GPU云服务商,远比找一些纯低价裸金属GPU服务器更有价值,无论是降本,还是增效。