NVIDIA анонсувала рішення на базі мережевої технології Spectrum-X Ethernet для AI

За повідомленням NVIDIA, компанії Dell Technologies, Hewlett Packard Enterprise і Lenovo першими інтегрують мережеві технології NVIDIA Spectrum-X Ethernet для AI у свої серверні лінійки, щоб допомогти корпоративним клієнтам прискорити роботу з генеративним AI. Зазначається, що створений спеціально для генеративного AI, Spectrum-X пропонує підприємствам новий клас Ethernet-мереж, який дає змогу досягти 1,6-кратного зростання продуктивності для AI порівняно з традиційними пропозиціями Ethernet. Нові системи від трьох провідних виробників об'єднують Spectrum-X з графічними процесорами NVIDIA Tensor Core, ПЗ NVIDIA AI Enterprise та NVIDIA AI Workbench, надаючи підприємствам необхідні компоненти для трансформації бізнесу за допомогою генеративного AI.

"Генеративний AI і прискорені обчислення є рушійною силою зміни поколінь, оскільки підприємства модернізують свої центри обробки даних для обслуговування цих робочих навантажень", - сказав Дженсен Хуанг (Jensen Huang), засновник і генеральний директор NVIDIA. "Прискорені мережеві технології - це каталізатор нової хвилі систем від провідних партнерів NVIDIA з виробництва серверів, які прискорюють перехід до ери генеративного AI".

"Прискорені обчислення та мережеві технології є ключовими для створення систем, що відповідають вимогам великих мовних моделей і додатків генеративного AI", - сказав Майкл Делл (Michael Dell), голова та генеральний директор Dell Technologies. "Завдяки нашій співпраці Dell Technologies і NVIDIA надають клієнтам інфраструктуру і програмне забезпечення, необхідне для швидкого і безпечного вилучення інтелектуальних даних".

"Генеративний AI, безсумнівно, стане рушійною силою інновацій у багатьох галузях", - сказав Антоніо Нері (Antonio Neri), президент і генеральний директор HPE. "Ці нові потужні застосунки потребуватимуть принципово іншої архітектури для підтримки різноманітних динамічних робочих навантажень. Щоб дозволити клієнтам реалізувати весь потенціал генеративного AI, HPE співпрацює з NVIDIA для створення систем, що володіють необхідною потужністю, ефективністю і масштабованістю для підтримки цих додатків".

"Генеративний AI здатний забезпечити безпрецедентну трансформацію, але висуває безпрецедентні вимоги до корпоративної інфраструктури", - сказав Юаньцін Ян (Yuanqing Yang), голова ради директорів і генеральний директор Lenovo. "У тісній співпраці з NVIDIA Lenovo створює ефективні, прискорені системи з мережевими, обчислювальними та програмними можливостями, необхідними для роботи сучасних додатків AI".

Для досягнення максимальної ефективності робочих навантажень AI Spectrum-X поєднує в собі екстремальну продуктивність Ethernet-комутатора Spectrum-4, мережеву карту NVIDIA BlueField-3 SuperNIC, новий клас мережевих прискорювачів для прискорення гіпермасштабних робочих навантажень AI, а також програмне забезпечення для прискорення. Spectrum-X доповнює інфраструктурну обчислювальну платформу DPU BlueField-3.

Spectrum-4 - перший у світі комутатор Ethernet зі швидкістю 51 Тб/с для AI, що забезпечує високоефективну пропускну спроможність даних у масштабі та під навантаженням при мінімізації перевантажень мережі для багатокористувацьких хмарних робочих навантажень AI. Інтелектуальна технологія тонкої маршрутизації дає змогу максимально ефективно використовувати мережеву інфраструктуру в будь-який момент часу.

Мережеві карти BlueField-3 SuperNIC призначено для інтенсивних масово-паралельних обчислень, вони забезпечують мережеву взаємодію між GPU-серверами зі швидкістю до 400 Гбіт/с за технологією RDMA over Converged Ethernet (RoCE), а також підвищують продуктивність трафіку навчання та виводів AI в мережі "схід-захід" усередині кластера. Крім того, вони дають змогу створювати безпечні багатокористувацькі середовища ЦОД, забезпечуючи детерміновану та ізольовану продуктивність між робочими місцями орендарів. Завдяки енергоефективному формфактору PCIe з половинною висотою і довжиною BlueField-3 SuperNIC підходять для серверів корпоративного класу.

Програмне забезпечення для прискорення Spectrum-X охоплює набори розробки NVIDIA, такі як Cumulus Linux, Pure SONiC і NetQ, які разом забезпечують продуктивність платформи, а також програмний фреймворк NVIDIA DOCA, що лежить в основі BlueField.

NVIDIA AI Enterprise надає фреймворки, попередньо навчені моделі та інструменти розробки для безпечного, стабільного і підтримуваного виробничого AI. NVIDIA AI Workbench дає змогу розробникам швидко створювати, тестувати та налаштовувати попередньо навчені генеративні моделі AI на ПК або робочій станції, а потім масштабувати їх практично на будь-який центр обробки даних або хмару.

Spectrum-X також забезпечує роботу суперкомп'ютера NVIDIA Israel-1 - еталонної архітектури для систем AI нового покоління. Israel-1 - це результат співпраці з Dell Technologies, у якому використовуються сервери Dell PowerEdge XE9680 на базі восьмипроцесорної платформи NVIDIA HGX H100, а також DPU і SuperNIC BlueField-3 з комутаторами Spectrum-4.

Нові системи від Dell, HPE і Lenovo з повним стеком NVIDIA AI очікуються в першому кварталі наступного року.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365