參考價(jià): | 面議 |
- 產(chǎn)品型號(hào)
- 品牌
- 其他 廠商性質(zhì)
- 深圳市 所在地
訪問(wèn)次數(shù):483更新時(shí)間:2022-05-30 11:45:43
各種 AI 工作負(fù)載的通用系統(tǒng)
NVIDIA DGX A100 是適用于所有 AI 基礎(chǔ)架構(gòu)(包括分析、訓(xùn)練、推理基礎(chǔ)架構(gòu))的通用系統(tǒng)。該系統(tǒng)設(shè)定了新的計(jì)算密度,將 5 petaFLOPS 的 AI 性能裝進(jìn) 6U 尺寸,用一個(gè)平臺(tái)代替所有 AI 工作負(fù)載的傳統(tǒng)基礎(chǔ)架構(gòu)孤島。
DGXperts:集中獲取 AI 專業(yè)知識(shí)
NVIDIA DGXperts 是一個(gè)擁有 16000 多位 AI 專業(yè)人士的團(tuán)隊(duì),這些團(tuán)隊(duì)成員在過(guò)去十年間積累了豐富的經(jīng)驗(yàn),能夠幫助您更大限度地提升 DGX 投資價(jià)值。
更快的加速體驗(yàn)
NVIDIA DGX A100 是在采用 NVIDIA A100 Tensor Core GPU 的系統(tǒng)。通過(guò)集成八塊 A100 GPU with up to 640GB of GPU memory,此系統(tǒng)可出色完成加速任務(wù),并可針對(duì) 軟件和整套端到端 NVIDIA 數(shù)據(jù)中心解決方案進(jìn)行全面優(yōu)化。
的數(shù)據(jù)中心可擴(kuò)展性
NVIDIA DGX A100 內(nèi)置 Mellanox ConnectX-6 VPI HDR InfiniBand 和以太網(wǎng)適配器,其雙向帶寬峰值為 500Gb/s。此優(yōu)勢(shì)是使 DGX A100 成為 NVIDIA DGX SuperPOD™ 等大型 AI 集群基礎(chǔ)構(gòu)件的諸多因素之一,也是成為可擴(kuò)展 AI 基礎(chǔ)架構(gòu)企業(yè)藍(lán)圖的原因之一。
NVIDIA A100 Tensor Core GPU
NVIDIA A100 Tensor Core GPU 可針對(duì) AI、數(shù)據(jù)分析和高性能計(jì)算 (HPC) 實(shí)現(xiàn)出色的加速,應(yīng)對(duì)極其嚴(yán)峻的計(jì)算挑戰(zhàn)。借助第三代 NVIDIA Tensor Core 提供的巨大性能提升,A100 GPU 可高效擴(kuò)展至數(shù)千塊,或在使用多實(shí)例 GPU 時(shí),可將其分配為七個(gè)較小的專用實(shí)例對(duì)各種規(guī)模工作負(fù)載進(jìn)行加速。
多實(shí)例 GPU (MIG)
借助 MIG,可將 DGX A100 中的八塊 A100 GPU 配置為多達(dá) 56 個(gè) GPU 實(shí)例,每個(gè)實(shí)例都具有自己的高帶寬內(nèi)存,高速緩存和計(jì)算核心,*隔離。這使管理員可合理調(diào)配 GPU 資源,確保多個(gè)工作負(fù)載的服務(wù)質(zhì)量。
新一代 NVLink 和 NVSwitch
DGX A100 中的第三代 NVIDIA® NVLink® 使 GPU 至 GPU 直接帶寬提高一倍,達(dá)到600 GB/s,幾乎比 PCIe 4.0 高出 10 倍。DGX A100 還采用新一代 NVIDIA NVSwitch™,其速度是前一代的兩倍。
Mellanox ConnectX-6 VPI HDR InfiniBand
DGX A100 采用 Mellanox ConnectX-6 VPI HDR InfiniBand/以太網(wǎng)適配器,每個(gè)適配器的運(yùn)行速度高達(dá)200 Gb/s,為大規(guī)模 AI 工作負(fù)載創(chuàng)建高速網(wǎng)絡(luò)結(jié)構(gòu)。
優(yōu)化的軟件堆棧
DGX A100 集成經(jīng)過(guò)測(cè)試和優(yōu)化的 DGX 軟件堆棧,包括通過(guò) AI 調(diào)整的基本操作系統(tǒng)、所有必需的系統(tǒng)軟件以及 GPU 加速應(yīng)用、預(yù)訓(xùn)練的模型以及 NGC™ 提供的更多功能。
內(nèi)置安全機(jī)制
DGX A100 采用多層方法為 AI 部署提供了大的安全性,該方法可以保護(hù)所有主要的硬件和軟件組件,包括自加密驅(qū)動(dòng)、簽名軟件容器、安全管理和監(jiān)控等。