Новини›Otras›NVIDIA разширява поверителните изчисления за създателите на големи модели
Снимка: NVIDIA
Otras

NVIDIA разширява поверителните изчисления за създателите на големи модели

NVIDIA · сряда, 21 октомври, 13:30 · 1 мин четене

Нов режим Confidential Bare Metal позволява собствен софтуер и защита на моделите върху чужда инфрас

NVIDIA разшири технологията си за поверителни изчисления с нов вариант за внедряване, наречен Confidential Bare Metal. Той позволява на създателите на големи AI модели да работят с чувствителни задачи върху отделна инфраструктура на трета страна, като запазват контрола над моделите и данните си.

Новите защитни механизми покриват данните при предаване, проверяват целостта на платформата и налагат ограничения за достъп на ниво хардуер. Така създателите на модели могат да управляват собствения си софтуерен стек, включително основния системен софтуер, върху ускорена NVIDIA инфраструктура при доставчици на облак, neocloud и корпоративни системи.

NVIDIA Confidential Computing вече предлага три варианта за внедряване, които да се подберат според нуждите за доверие и работа. Технологията се разширява и върху системите NVIDIA Grace Blackwell и Rubin, като ще се интегрира с NVIDIA DSX OS като референтна архитектура за доставчици, които строят AI фабрики.

Cohere планира да добави Confidential Bare Metal към своя продукт Cohere Model Vault. Google Cloud пък разширява поддръжката за инстанции A4X Max с NVIDIA GB300 NVL72, които ще комбинират неvirtualizирани изчисления с криптографска защита на данните за обучение.

Поддръжката вече включва системи NVIDIA Grace Blackwell NVL72, както и NVIDIA HGX Rubin NVL8 и DGX Rubin NVL8. Сред доставчиците, които работят с тази технология, са CoreWeave, Lambda, Microsoft Azure, Nebius и Vultr, а системните партньори са Cisco, Dell, HPE, Lenovo и Supermicro.

Още новини