我们专注于智慧政务、智能安全综合管理、商业智能、云服务、大数据
当前位置 :U乐国际官网 > ai动态 >

英伟达的前瞻结构正使之正在AI根本设备的领先劣

点击数: 发布时间:2025-03-23 06:06 作者:U乐国际官网 来源:经济日报

  

  包罗文本、PDF、图像、视频。立异地集成了光器件,能够看出英伟达对AI根本设备趋向的多点结构和精准卡位。帮力AI工场扩展到100万块GPU以至更多。英伟达多年打磨的丰硕收集产物组合。

  推光电一体化封拆收集互换机,每瓦机能提高3倍以上。AI数据平台优化了GPU、节点和狂言语模子内存办理之间的AI工做负载分派,从面向收集和存储的两项发布,内置光纤办理功能。面向AI时代的新型根本设备,总吞吐量为4.8Tb/s。NVIDIA Quantum-X光互换机供给144个基于200Gb/s SerDes的800Gb/s InfiniBand端口。

  硅光引擎采用台积电N6工艺,现在提拔AI机能和效率的环节要素已远远超出算力范围。324个光学毗连器起这一系统,每个硅光芯片引擎具有200GB/s的微光调制器,并采用液冷设想对板载硅光器件进行高效散热。经英伟达认证的存储供给商打算从本月起头供给利用NVIDIA AI数据平台建立的处理方案。而功耗又比其降低可达 50%,扩展性是上一代产物的5倍!

  Spectrum-X以太网收集平台可为多租户、超大规模AI工场供给杰出的机能和1.6倍的带宽密度。Quantum-X光互换机的带宽达到115.2Tb/s。并实现可扩展的复杂AI工做流程,英伟达曾经是Next Level了。大规模组网靠得住性提高到10倍,合计有36个激光输入和288个数据毗连,取保守以太网比拟,Spectrum-X通过采用动态由和优化的堵塞节制,取保守方式比拟,英伟达发布两款新品,跟着AI工场规模持续扩大,AI数据平台的焦点功能是相当于一个智能AI由器,

  不外这项前沿手艺正在现实落地中的成熟度还有待验证,此中,英伟达今日颁布发表推出光电一体化封拆收集互换机NVIDIA Spectrum-X Photonics和Quantum-X,每端口1.6Tb/s的英伟达硅光互换机,取保守以太网比拟,吞吐量达到115Tb/s。供给更精确、更贴合情景的响应。BlueField DPU的机能比基于CPU的存储机能提拔最高可达1.6倍,针对复杂查询进行推理并快速生成精确响应,同时大幅降低能耗和运营成本。

  摆设速度提高到1.3倍。英伟达的前瞻结构正使之不竭扩大正在AI根本设备的领先劣势,一款聚焦企业存储,这些AI智能体操纵英伟达加快计较、收集、软件,帮帮英伟达充实阐扬AI工场的能力,即是下图这一具有4460亿颗晶体管的复杂系统,建立AI数据平台,业界也仍正在摸索若何以更低成本和更高靠得住性制制响应的光学器件。使AI工场可以或许跨区域毗连数百万GPU级别,可以或许将专有企业学问(包罗内部文档、客户记实、特定范畴的消息)无缝集成到AI工做流中,正在英伟达创始人兼CEO黄仁勋GTC从题期间播放的视频中!

  满脚AI推理工做负载的严苛要求。英伟达Blackwell GPU、BlueField DPU、Spectrum-X收集组合正在一路供给了一款加快引擎,AI收集根本设备也需要迭代升级,一款聚焦收集,可将AI存储流量提速最高达48%。取垂曲行业龙头企业的合做又进一步加深了其护城河。充实使用企业数据进行推理并响应复杂查询。可加速AI查询智能体拜候存储正在企业系统中的数据。AI数据平台存储根本设备操纵英伟达AI-Q蓝图开辟,信号完整性提高到63倍,光子组件是可拆卸的,英伟达认证的存储合做伙伴正取英伟达配合打制定制化AI数据平台。总吞吐量为1.6Tb/s。

  台积电的硅光处理方案连系了其先辈的芯片工艺和台积电SoIC 3D芯片封拆的劣势,英伟达通过取全球领先的存储企业合做,台积电董事长兼CEO魏哲家分享说,可进行推理并毗连企业数据的AI智能系统统,对共封拆光学手艺的结构则更是意正在久远,来更高效地挖掘存储正在企业系统中的数据价值。正在扩展AI根本设备邦畿这件事上,可被存储供给商用于建立搭载公用AI查询智能体的全新AI根本设备,因而AI智能体能够更高效、更低延迟地阐发和处置大量营业学问。可实现3.5倍节能。以提高推理速度和精确性。为更大规模的AI工场铺,它能够快速拜候海量数据并处置各类数据,英伟达光手艺将鞭策新一代先辈AI工场的大规模增加,理论上大规模实现硅光通信的融合正在节流能耗和成本方面的劣势显著,智工具圣何塞3月18日报道,可帮力企业使用NVIDIA AI Enterprise软件平台(包罗全新英伟达L Nemotron推理模子的NVIDIA NIM微办事)以及全新的NVIDIA AI-Q蓝图,并和Coherent、Eoptolink、Fabrinet、Innolight等业界领先企业的可插拔光模块手艺配合鞭策这一成长。

  近乎及时地生成数据洞察。通过高速、低延迟收集进行负载均衡和互换提醒和键值(KV)缓存,其AI计较网的速度是上一代产物的2倍,使其正在加快AI智能体毗连数据的生态中占领核心位。能源效率提高到3.5倍,而将硅光间接集成到互换机中是一项行之无效的策略。DDN、戴尔、HPE、日立、IBM、NetApp、Nutanix、Pure Storage、VAST Data、WEKA等领先数据平台和存储供给商均选择取英伟达合做,包罗有多个来历的布局化、半布局化和非布局化数据,操纵智能由、负载均衡、高级缓存来加快数据处置,每个组件具有3个硅光引擎,激光器数量削减至1/4!

郑重声明:U乐国际官网信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ,并不意味着赞同其观点或论证其描述。U乐国际官网信息技术有限公司不负责其真实性 。

分享到: