Новини›Još›NVIDIA спечели всички тестове на MLPerf Training с Vera Rubin
Снимка: NVIDIA
Još

NVIDIA спечели всички тестове на MLPerf Training с Vera Rubin

NVIDIA · понеделник, 16 ноември, 18:00 · 1 мин четене

Новата платформа се представя най-добре при обучение и при агентен изводен процес.

NVIDIA обяви резултатите си в MLPerf бенчмарковете с новата платформа Vera Rubin. При обучението на AI модели компанията зае първо място във всеки един от тестовете MLPerf Training v6.1. В първото си участие в MLPerf Endpoints платформата показа над 10 пъти по-голяма производителност на ват при агентен AI спрямо предишното поколение.

Показателят измерва колко агентна работа дава една система с всеки ват енергия. Колкото повече токени система може да генерира всяка секунда за всеки ват, толкова повече агенти може да обслужва.

В теста за DeepSeek-V3 Vera Rubin NVL72 мащабира от 256 до 1024 графични процесора с ефективност около 97 процента. Четирикратното увеличаване на процесорите намали времето за обучение от 16 минути до около четири. Самата NVIDIA изпробва системата и на 10 240 графични процесора GB300, а Microsoft Azure постигна същия мащаб с GB200 системи.

Когато системата е в мрежа от много процесори, тя трябва да работи като едно цяло.

В MLPerf Endpoints тестовете проверяват реални агентни задачи, като писане на код и бизнес процеси, и се гледа дали агентите завършват задачите правилно. В предварителен резултат за Kimi K3 Vera Rubin NVL72 дава над 10 пъти повече обработка на ват от GB300 NVL72 при същата скорост на отговор.

В тестовете участваха 20 партньори, сред които ASUS, Azure, Cisco, CoreWeave, Dell, Google Cloud, HPE, Lambda, Nebius, Oracle и Supermicro. Резултатите ще се подобряват с по-добър софтуер и по-нататъшна оптимизация.

Още новини