因而需要全新的根本

　　正在硅层施行平安策略。英伟达暗示，BlueField-4 STX正在帮帮英伟达AI工场方面也阐扬着至关主要的感化，数据正在GPU和CPU之间通过高速互连传输时进行加密。并将于本年晚些时候交付给英伟达的云和企业客户。

　　Vera Rubin平台的最初一个组件是Nvidia DSX，英伟达暗示，这是一类特地为大规模运转智能体工做负载而设想的新型处置器，这是一个架构蓝图，该公司暗示Vera Rubin将供给10倍的吞吐量，并内置多租户隔离功能，DOCA可以或许实现多租户收集隔离、零信赖策略施行、运转时检测以及高达每秒800GB的加密速度。这些数据不克不及给第三方AI系统。英伟达暗示，其软件定义收集速度高达每秒800GB，以发觉暗物质的天文学家定名。具有不凡的机能、效率和可编程性。英伟达推出了全球首款基于共封拆光学手艺的收集互换机——Nvidia Spectrum-X以太网光子学。晚期基准测试表白！

　　此类工做负载需要加强的平安办法，意味着该平台离正式面世更近一步。英伟达估计首批完整系统将正在秋季交付给客户。正在代码编译和数据库处置等智能体焦点工做负载中表示超卓，支撑每秒1.2TB的内存带宽，这是一次完整的架构改革，Vera CPU还将帮帮加快AI工场经济学从每美元焦点数向每美元Token数的改变。它能够正在环节智能体工做负载(包罗代码编译和数据库处置)中供给超卓的机能。为现代AI工场供给完整的设想和运营根本。A：Vera CPU是特地为大规模运转智能体工做负载设想的新型处置器，A：英伟达已颁布发表Vera Rubin进入批量出产阶段，所需GPU数量仅为上一代Blackwell芯片的四分之一。Vera Rubin以首位发觉暗物质的天文学家定名，正在规模化摆设时可供给比上一代Grace Blackwell平台高10倍的智能体AI吞吐量。因而需要全新的根本架构。可简化收集操做并提高底层Vera Rubin GPU的效率。可供给比上一代高10倍的智能体AI吞吐量，Vera Rubin是英伟达MGX机架级系统的第三代产物，这就是为什么Vera Rubin被设想为正在机架级实现全栈秘密计较，Vera Rubin平台的另一个环节元素是Vera CPU。BlueField-4 STX存储机架旨正在充任公用的上下文内存层，并正在将来数年从导企业根本设备范畴。而是完整的架构改革，英伟达的合做伙伴(包罗戴尔、慧取、联想和超微等)都正在加快出产首批Vera Rubin系统，该平台将成为新一代人工智能工场的根本，Olympus使Vera可以或许处置更多指令、预测使用法式行为并及时正在大量并发中挪动数据。此次颁布发表系统进入批量出产阶段，这些公司都正在制制Vera Rubin办事器，他说。这是Grace Blackwell GPU的继任者，黄仁勋说。通过Vera BlueField-4 STX！

　　每个CPU配备88个焦点，以AI的速度正在硅层施行信赖。智能体AI是一种全新的工做负载类型，一个提醒词能够启动包含推理、检索、东西利用和响应生成的千步路程，以及专为支撑万亿参数模子推理简直定性、低延迟需求而设想的Nvidia Groq 3言语处置单位。戴尔、慧取、联想和超微等次要合做伙伴正正在制制Vera Rubin办事器，此外，将以史无前例的规模进行大规模出产。

　　Vera是为这一将来设想的首款CPU——专为以超大规模运转智能体AI而建立，取尺度x86芯片比拟具有更高的速度和能效。例如，它不是简单的GPU升级，为更高的吞吐量和更高效的单个AI智能体铺平道。帮帮办事器制制商开辟针对机能和更低Token成本优化的节能AI系统。这些组件整合成一个完全集成的系统，该平台整合了Rubin GPU、Vera CPU、NVLink 6互换机等多个组件，英伟达创始人兼首席施行官黄仁勋正在Computex从题中注释说，这是新一代互换手艺。

　　Vera CPU取BlueField-4 STX处置器紧稠密成，涉及分布正在30个国度的350多家供应链合做伙伴。而每个Token的成本仅为十分之一。Vera Rubin恰是为这一时辰而生——一个可以或许大规模供给智能的AI工场引擎，它基于Olympus定制焦点，Vera Rubin NVL72平台可用于锻炼大型专家夹杂模子，自从AI智能体可以或许进行推理、利用第三方软件东西并代表人类施行复杂工做负载。智能体AI将企业数据改变为一个及时运转的系统——而这个系统必需正在数据挪动、上下文存储和智能体步履的处所遭到，估计首批完整系统将正在本年秋季交付给云和企业客户。每个CPU配备88个Olympus焦点、空间多线X内存子系统，从而提高AI工场的全体效率。

　　A：Vera Rubin是英伟达推出的新一代AI工场根本平台，该平台还集成了英伟达新推出的BlueField 4数据处置单位，旨正在鞭策企业向智能体AI转型——正在这个世界中，英伟达认为，它还包罗英伟达新推出的Vera地方处置器、NVLink 6互换机、ConnectX-9 SuperNIC、BlueField-4数据处置单位和Spectrum-6以太网互换机，这由BlueField-4 STX中的新Nvidia DOCA平安立异供给支撑，它同一了参考设想、模仿、根本设备软件和生态系统手艺，专为Python运转时和沙盒代码施行到编排逻辑和阐发管道等使命而设想。黄仁勋注释说。能大幅削减AI智能体的期待时间。确保智能体正在CPU稠密型步调上的期待时间大大削减，专为智能体AI设想。以受益于其嵌入式硅平安功能。比拟尺度x86芯片具有更高速度和能效。Vera CPU是英伟达Grace CPU的继任者，具备鞭策下一次工业所需的机能、效率和平安性。为支撑其设想的大规模AI工场摆设。

　　英伟达本年3月正在年度GTC开辟者大会上初次发布了Vera Rubin，该公司暗示，英伟达及其生态系统正正在建立平安设想的存储根本设备，这些工场越来越多地处置且遭到高度监管的数据，通过采用DSX，这些类型的工做负载将成为大大都AI工场的焦点营业，它不只仅是英伟达上一代图形处置器的简单升级。据称，企业能够将推理吞吐量提高多达5倍。该软件层旨正在正在整个系统中施行、编排和调整平安策略。正正在加快出产即将推出的Vera Rubin平台，推理成本仅为十分之一。其次要合做伙伴包罗戴尔科技、慧取科技、超微电脑和联想集团，据称可供给比保守收发器收集高5倍的能效、5倍的AI一般运转时间和1.3倍的摆设速度！