Nvidia mendorong ke pusat data – tertanam / perangkat keras – jaringan elektronik

Dengan BlueField 3, Nvidia menghadirkan chip yang tidak hanya mempercepat AI, tetapi juga meningkatkan infrastruktur pusat data.

Sementara papan mikro Jetson adalah modul yang menghitung tugas AI di perangkat terakhir, BlueField adalah rekannya dan memastikan bahwa pelatihan jaringan saraf tiruan dipercepat di pusat data. Pada konferensi teknologi GTC 21, Nvidia mengumumkan BlueField-3, unit pemrosesan data (DPU) yang menawarkan fungsi akselerasi tidak hanya untuk kecerdasan buatan, tetapi juga untuk tugas jaringan, penyimpanan, dan keamanan siber di pusat data.

Pusat data cloud sepenuhnya virtual. Pada platform dengan daya komputasi besar-besaran, konektivitas jaringan, dan ruang penyimpanan, setiap pengguna menerima bagian mereka: apakah itu mesin virtual, bandwidth jaringan, layanan perangkat lunak, atau memori untuk menyimpan data. Modul akselerator BlueField-DPU menangani infrastruktur, seperti manajemen jaringan, pemisahan domain pengguna yang berbeda, pemindaian lalu lintas untuk keamanan, enkripsi IPsec, dan banyak lagi. Aplikasi sebenarnya masih ada dan ditangani oleh prosesor “tradisional” yang sekarang dapat menangani bisnis mereka dengan pengecualian dari semua tugas administratif. Jadi, BlueField-3 memisahkan infrastruktur pusat data dari aplikasi bisnis. Adapun yang terakhir, BlueField-3 memiliki 16 prosesor Arm-A78. Berkat akselerator, bagaimanapun, menurut Nvidia, DPU seharusnya memiliki kinerja yang setara dengan sekitar 300 Xeon mid-range.

Sewa $ 9000 sebulan

Sedikit yang diketahui tentang Nvidia tidak hanya sebagai pemasok komponen atau kartu grafis dan papan komputer, tetapi juga sistem yang lengkap. Dalam kasus BlueField, Nvidia menawarkan perangkat dalam berbagai tahap ekspansi, dari DGX Station, yang bertindak sebagai workstation untuk tim, ke server DGX, hingga “DGX Superpod”, yang merupakan infrastruktur siap pakai untuk data pusat. Karena investasi pada perangkat ini tinggi, Nvidia juga memperkenalkan model sewa di GTC: Anda dapat menyewa workstation DGX seharga $ 9.000 sebulan.

BlueField-3 juga menyediakan Nvidia yang terintegrasi penuh ke dalam sistem DGX penuh, dari workstation (depan) hingga “pod”, yang terdiri dari tiga server, hingga “superpod” untuk pusat data.

“Cloud modern berskala hiper membutuhkan arsitektur baru yang mendasar untuk pusat data. Jenis prosesor baru yang dirancang untuk menangani perangkat lunak infrastruktur pusat data diperlukan untuk mengurangi dan mempercepat beban komputasi besar-besaran dari virtualisasi, jaringan, penyimpanan, keamanan, dan layanan lainnya, “kata Jensen Huang, Pendiri dan CEO Nvidia. Dari layanan kecerdasan buatan asli.”

Dukungan perangkat lunak untuk “pusat data dalam chip”

Selain hardware, Nvidia juga memiliki software framework yang dapat digunakan untuk membuat hardware tersebut berfungsi. Nvidia menawarkan kit pengembangan perangkat lunak untuk BlueField yang disebut DOCA, yang merupakan singkatan dari “pusat data pada chip”. “Apa itu CUDA untuk GPU, DOCA untuk DPU” adalah bagaimana manajer produk yang bertanggung jawab menyimpulkan fungsi DOCA secara singkat. Ini mencakup lingkungan runtime untuk membangun, menerjemahkan, dan mengoptimalkan aplikasi DPU BlueField, alat koordinasi untuk menyebarkan, memperbarui, dan memantau ribuan DPU di seluruh pusat data, serta perpustakaan, API, dan semakin banyak aplikasi seperti pemindaian dan pemuatan paket dalam. balancing.