400G ve 800G NIC: Hangisini Seçmelisiniz?

400G NIC ile 800G NIC arasında seçim yapmak, ödeme-sayfası karşılaştırması değil, yapısal bir karardır. Daha hızlı adaptör yalnızca sunucu, anahtar, optik ve kablolama bu hızı uçtan uca taşıyabildiğinde karşılığını verir. Bu kılavuz, dağıtım ve satın alma açısından-karşılaştırmayı ele alır; böylece adaptörlere, anahtarlara, alıcı-vericilere, DAC'lere, AOC'lere, AEC'lere veya fibere bütçe ayırmadan önce karar verebilirsiniz.

Kısa versiyon: 400G NIC, günümüzün yapay zeka, HPC, depolama ve bulut iş yüklerinin çoğu için- olgun, uygun maliyetli varsayılandır ve NDR InfiniBand ve PCIe Gen5 ana bilgisayarlarıyla temiz bir şekilde eşleşir. 800G NIC, daha yoğun GPU'lara, daha yoğun doğu-batı trafiğine ve XDR InfiniBand'a, 800G Ethernet'e ve sonunda 1,6T'ye yönelik bir yol haritasına sahip yeni-nesil bir AI yapısı oluşturduğunuzda premium değerini kazanır.

400G ve 800G NIC

Sunucularınız, anahtarlarınız ve optik sisteminiz zaten 400G Ethernet veya NDR InfiniBand üzerinde standartlaştırıldığında veya iş yükü her GPU-GPU'ya-yolunu doyurmadığında 400G NIC'yi seçin. Ayrıca kullanılabilirlik, bütçe ve yeterlilik süresinin en yüksek bağlantı noktası hızından daha önemli olduğu durumlarda bu daha güvenli bir çağrıdır.

Ağ, büyük-ölçekli eğitim, yüksek-yoğunluklu GPU sunucuları veya yeni-nesil hızlandırıcılar için darboğaz haline geliyorsa 800G NIC'yi seçin. Belirli bir bant genişliği miktarı için gereken bağlantı ve optik modül sayısını kabaca yarıya indirir ve yapıyı bir sonraki yükseltmeye hazırlar.

800G bağlantı noktası yalnızca sistemin geri kalanı onu besleyebildiğinde satın almaya değerdir. Ana bilgisayar adaptöre yeterli sayıda PCIe hattını gösteremezse, 800G NIC performans yükseltmesi yerine pahalı, az kullanılan bir bağlantı noktası haline gelir.

400G NIC Nedir?

400G NIC, bağlantı noktası başına saniyede 400 gigabite kadar hareket eden bir ağ bağdaştırıcısıdır. Yapay zeka ve HPC ortamlarında GPU-küme ağını, dağıtılmış eğitimi, depolama erişimini, MPI trafiğini, RoCE yapılarını ve NDR InfiniBand bağlantılarını yönetir. Çoğu operatör için 400G, 100G veya 200G'den zaten büyük bir sıçramadır ve sunucu ve anahtar katmanlarının yeniden tasarlanmasını gerektirmeden bariz darboğazları ortadan kaldırır.

400G NIC'lerin Bugün Uygun Olduğu Yer

400G bağdaştırıcıları, mevcut-nesil GPU'lar, HPC ve bilimsel-bilgi işlem yapılarında, yüksek-performanslı depolama ağlarında, RoCEv2 Ethernet ve InfiniBand yapılarında, genel bulut sunucu filolarında ve karma nesil odalarda 100G/200G'den-400G'ye yükseltmelerdeki AI eğitim kümelerinde varsayılan olarak çalışır. Bu ayarlarda 400G nadiren bir uzlaşmadır. Küme boyutu, GPU sayısı ve bütçe, 800G'nin eklenen karmaşıklığını haklı çıkarmıyorsa, bu kesinlikle doğru hız sınıfıdır.

Neden 400G Hala Mantıklı?

NIC seçimi bir sistem-dengesi sorunudur. Bir ana bilgisayar 800G bağdaştırıcısını besleyemiyorsa, iş yükü bilgi işlem- veya depolama-ya bağlıysa ya da omurga hâlâ 400G ise 800G NIC'lerin dahil edilmesi, uygulama performansını etkilemeden maliyeti artırır. Düşük abone talebi, temiz bir topoloji, RDMA, kaliteli optikler ve ayarlanmış tıkanıklık kontrolü ile iyi tasarlanmış bir 400G yapı, zorlu yapay zeka ve HPC işlerini hâlâ rahatça taşıyor.

800G NIC Nedir?

800G NIC, bağlantı noktası başına saniyede 800 gigabit'e kadar sunar. İletişim talebinin geleneksel sunucu ağlarını geride bıraktığı yeni-nesil yapay zeka veri merkezlerini, büyük GPU kümelerini ve hiper ölçekli yapıları hedefler. 800G nesli artık standartlaştırıldı:IEEE 802.3df standardı, 2024'te onaylandı, 800 Gigabit Ethernet'i tanımlar ve 1x800G, 2x400G ve 8x100G gibi alt-hızları destekler; karma hızlı geçişi pratik- yapan da budur.

Değer yalnızca iki katına çıkan başlık oranı değildir. 800G, mimarların bant genişliği yoğunluğunu artırmasına, bağlantı ve modül sayılarını kesmesine ve daha agresif tümden{1}}tüm trafiğe sahip daha büyük eğitim yapılarını desteklemesine olanak tanır.

Yapay Zeka Kümeleri Neden 800G'ye Taşınıyor?

Büyük-model eğitimi, GPU'dan-GPU'ya ve sunucudan-sunucuya-muazzam bir trafik oluşturur. Kademeli değişim, uzman yönlendirme, kontrol noktası oluşturma ve depolama-yoğun ardışık düzenlerin tümü-azaltma,{-uzmanların-karışımı yapıyı güçlendirir. Hızlandırıcılar hızlandıkça ağın buna ayak uydurması gerekir veya pahalı GPU'lar senkronizasyon için boşta bekler. 800G NIC'ler buna düğüm başına, hızlandırıcı başına veya ağ hattı başına bant genişliğini artırarak yanıt verir.

800G Sadece Bir Adaptör Değil, Yapıya Dayalı Bir Karardır

800G'ye geçiş; anahtar seçimini, optikleri, erişim planlamasını, termal tasarımı, hava akışını ve raf düzenini yeniden şekillendirir. Özellikle optik ve bakır seçenekleri daha da katılaşıyor: 800G bağlantı noktası bir OSFP veya QSFP-DD modülünü kullanabilir ve anahtar-yan ve NIC-yan modülleri termal ve mekanik tasarım açısından aynı oranda bile farklılık gösterebilir. Tesisinizde yapılandırılmış fiber kullanılıyorsa modül ve konnektör türlerini önceden onaylayın; bizimQSFP-DD form faktörüne genel bakışOSFP'ye göre nereye uyduğunu kapsar. 800G'yi tek bir satırlık-öğe değişimi olarak değil, yapı düzeyinde-bir program olarak ele alın.

400G NIC ve 800G NIC

400G NIC Ne Zaman Seçilmeli?

Hedef, olgun donanıma, öngörülebilir dağıtıma ve kontrollü maliyete sahip yüksek-performanslı bir ağ olduğunda 400G NIC'yi seçin.

Mevcut 400G Altyapısını Geliştiriyorsunuz

Anahtarlarınız, kablolarınız, optikleriniz ve sunucu platformlarınız zaten 400G'de standartlaştırılmışsa, 400G NIC'leri kullanmak bir dizi uyumluluk kontrolünü ortadan kaldırır ve mevcut ekosistemin çoğunu yeniden kullanmanıza olanak tanır. Bu, özellikle performans kazancının büyük olduğu ve ekosistemin 800G'den çok daha olgun olduğu 100G veya 200G'den yükseltme yaparken geçerlidir.

Yapay Zeka İş Yükünüz Yapıyı Doyuma Ulaştırmıyor

Her AI işinin sunucu başına 800G'ye ihtiyacı yoktur. Birçoğu işlem-bağlantılı, depolama-bağlantılı, bellek-bağlıdır veya ağ bant genişliği yerine yazılım verimliliğiyle sınırlıdır. Profil oluşturma, ağın birincil darboğaz olmadığını gösteriyorsa 400G NIC genellikle daha iyi getiri sağlar.

Uygun Maliyetli{0}}Etkili HPC'ye İhtiyacınız Var

Birçok HPC iş yükü, ham bant genişliğinden ziyade gecikmeye, mesaj{0}iletme davranışına ve yapı tıkanıklığına duyarlıdır. İyi-ayarlanmış bir 400G kumaş, genellikle kötü entegre edilmiş 800G kumaşı yener. Yararlı soru hangi NIC'in daha hızlı olduğu değil, hangi ağ tasarımının dolar başına en iyi uygulama performansını sağladığıdır.

Daha Hızlı, Daha Düşük Riskli-Tedariklere İhtiyacınız Var

400G adaptörleri, optikleri ve kablolarının kaynaklanması ve daha fazla sunucu ve anahtar platformunda değerlendirilmesi daha kolaydır. Ekibin doğrulama için sınırlı bir süresi olduğunda 400G, çoğu darboğazın üstesinden gelebilecek daha düşük-riskli bir seçimdir.

800G NIC Ne Zaman Seçilmeli?

Uygulama, GPU platformu ve yapının ek bant genişliğini gerçekten kullanabileceği durumlarda 800G NIC'yi seçin.

Yeni-Nesil Yapay Zeka Eğitim Yapısı Tasarlıyorsunuz

Büyük eğitim kümeleri,-herkese-ve doğu-batıya yoğun iletişim sağlar. Model boyutu, GPU sayısı ve paralellik arttıkça ağ sınırlayıcı hale gelir. Burada 800G NIC'ler, düğüm başına bant genişliğini-artırır ve yapının GPU'ları kısıtlama riskini azaltır.

Daha Yüksek Bant Genişliği Yoğunluğuna İhtiyacınız Var

800G, belirli miktarda bant genişliği sağlamak için gereken bağlantı noktası, bağlantı ve modül sayısını azaltır. Bu, raf alanının, ön-panel bağlantı noktası sayısının, kablo yönetiminin ve anahtar tabanının kısıtlı olduğu yoğun kümelerde önemlidir. Daha az ve daha hızlı bağlantı, anahtar yapısının ve kablolama planının buna göre tasarlanması koşuluyla yapıyı basitleştirebilir.

Yeni-Nesil GPU Platformlarını Planlıyorsunuz

Yol haritası yeni-nesil GPU sunucularını, daha yüksek raf güç yoğunluğunu, sıvı soğutmayı ve daha büyük kümeleri içeriyorsa 800G daha güçlü bir stratejik çağrıdır. Bugün 400G satın almak hâlâ mantıklı olabilir ancak kumaşın 800G veya ötesine geçiş yolu olacak şekilde tasarlanması gerekiyor.

Uzun-Dönem Yükseltme Kesintisini Azaltmak İstiyorsunuz

Aşamalı bir 800G stratejisi gelecekteki geçiş sıkıntısını azaltır. Önce 800G-özelliğine sahip anahtarları dağıtın, mevcut 400G NIC'leri ara veya karma-hız tasarımlarıyla bağlayın, ardından sunucuları daha sonra 800G'ye yükseltin. Bu, kumaşı gelecek nesil için hazırlarken mevcut yatırımı da korur.

800G NIC Ne Zaman Seçilmemelidir?

Bu genellikle en yararlı sorudur ve pişman olunan satın alma işlemlerinin çoğunu filtreler. Aşağıdakilerden herhangi biri doğruysa 800G'yi bırakın:

• Ana bilgisayar, adaptöre giden tam PCIe Gen6 sınıfı x16 yolunu gösteremez. Bağlantı noktası aç olarak çalışacak ve sunucu veri yolunun sağlayamayacağı bant genişliği için ödeme yapmış olacaksınız.
• Omurgaya aşırı talep var veya hala 400G. Daha hızlı bir NIC, kısıtlanmış yapıyı düzeltmez; sadece darboğazı bir adım öteye taşır.
• İş yükü, bant genişliğine- bağlı olmak yerine gecikmeye- veya MPI'ya- bağlıdır. Ekstra aktarım hızı, senkronizasyon veya küçük-mesaj davranışıyla kontrol edilen işler için çok az şey yapar.
• 800G için optik, kablolama veya soğutma, zaman çizelgenizde temin edilemez ve doğrulanamaz. Yük altında kanat çırpan vasıfsız bir modül, ayakta kalan daha yavaş bir bağlantıdan daha kötüdür.
• Bugün primi haklı çıkaracak somut bir büyüme yol haritası yok.

Bunlardan iki veya daha fazlası geçerliyse, 400G bu yapı için neredeyse kesinlikle doğru cevaptır ve 800G bir sonraki yenileme için yedekte tutulur.

Bulut Veri Merkezleri için 400G ve 800G NIC Karşılaştırması

Bulut kumaşları nadiren her yerde tek hızda çalışır. Trafik sınıfına göre bölümlere ayrılırlar ve NIC seçimi bir bütün olarak veri merkezi yerine segmenti takip eder.

• Ön-uç / kuzey-güney trafiği:400G, akış başına bant genişliğinin mütevazi olduğu ve bağlantı sayısının fazla olduğu kullanıcı- ve API katmanları için genellikle bol miktarda bulunur.
• Depolama ve doğu-batı trafiği:cevap, mimarinin ne kadar ayrıştırıldığına bağlıdır. 400G, genel havuzların çoğunu kapsar; 800G, büyük, dağıtılmış depolama sürücülerinin doğu-batı yükünü sürdürdüğü durumlarda yardımcı olur.
• Yapay zeka çıkarımı:400G birçok çıkarım bulutu için yeterliyken, 800G, belirteçlerin birçok düğüm arasında hareket ettiği yoğun-uzman-yönlendirme karışımına veya ayrıştırılmış hizmete uygundur.
• Çok-kiracılı yapı:burada aşırı abonelik oranı ve kiracı izolasyonu performansı en yüksek NIC oranından çok daha fazla şekillendiriyor. Güçlü izolasyona sahip dengeli bir 400G kumaş genellikle daha hızlı ancak sıkışık olanı yener.

Bulutun doğu{0}}batı büyümesi yapısal fibere dayandığından, NIC ile birlikte hat kablolarını da planlayın; bizimMPO/MTP devre kablolaması kılavuzuyüksek-yoğunluktaki çalışmaları kapsar. Genel bir kural olarak, çoğu ön uç ve genel bulut katmanı için 400G kullanın ve yoğun AI hizmetinin veya büyük doğu-batı havuzlarının hakim olduğu segmentler için 800G ayırın.

Bağlantı Noktası Hızının Ötesinde Temel Seçim Faktörleri

Daha hızlı bir NIC, platformun tamamı desteklemediği sürece daha hızlı iş yüklerini garanti etmez. Bir 800G bağlantı noktasının dağıtım yapıp yapmayacağını veya boşta mı kalacağını beş faktör belirler.

PCIe Üretimi ve Ana Bilgisayar Bant Genişliği

NIC, ana bilgisayara PCIe üzerinden ulaşır ve bu bağlantı sert bir tavandır. 400 Gb/sn'lik bir bağlantı noktası, yön başına yaklaşık 50 GB/sn'ye ihtiyaç duyar; yön başına yaklaşık 63 GB/sn kullanılabilirliğe sahip bir PCIe Gen5 x16 yuvası bunu taşıyabilir. 800 Gb/sn'lik bir bağlantı noktası, Gen5 x16 yuvasının ötesinde, yön başına yaklaşık 100 GB/sn'ye ihtiyaç duyar; bu nedenle 800G adaptörleri genelliklePCI-SIG'den PCIe 6.0 spesifikasyonu(64 GT/s, x16'da çift yönlü olarak 256 GB/s'ye kadar) veya alışılmadık bir x32 tasarımı. 800G'ye taahhütte bulunmadan önce şunları onaylayın:

• PCIe üretimi
• Şerit sayımı ve slot kablolaması
• NUMA yerleşimi ve GPU{0}}-NIC yolu
• Bağdaştırıcı için sunucu{0}satıcı doğrulaması
• BIOS ve ürün yazılımı desteği

GPU sunucularında, CPU'lara ve GPU'lara göre NIC yerleşimi, verilerin ne kadar temiz taşınacağına karar verir. Gen5 x8 yuvasına yerleştirilen Gen6-sınıfı NIC, sahada kendi kendine oluşan en yaygın darboğazdır.

Yapıyı Değiştirme ve Aşırı Abonelik

NIC hızının yapıyla eşleşmesi gerekir. 800G adaptörleri, yaprak-omurgasına aşırı abone olunması veya yukarı bağlantıların zayıf olması durumunda hiçbir şey yapmaz. Yaprak ve omurga bağlantı noktası hızlarını, aşırı abonelik oranını, ağ raylarının sayısını, doğu-batı modelini, arıza-alan tasarımını ve gerekli ikiye bölme bant genişliğini kontrol edin. Eğitim için, daha düşük bir aşırı abonelik oranı genellikle performans açısından daha hızlı bir NIC'den daha fazlasını sağlar.

RoCE, InfiniBand ve Ultra Ethernet

Yapay zeka ve HPC yapıları, CPU yükünü azaltmak için RDMA'ya dayanır ve protokol, NIC'yi, anahtarı, tıkanıklık kontrolünü ve işlemleri şekillendirir. Bugün NDR InfiniBand, bağlantı noktası başına 400 Gb/s hızında çalışıyor veXDR InfiniBand bağlantı noktası başına 800 Gb/s'ye ulaşıyor400G ve 800G NIC katmanlarıyla doğrudan aynı hizadadır. Ethernet tarafında,

Ultra Ethernet Konsorsiyumunun 1.0 spesifikasyonuNIC'leri, anahtarları, optikleri ve kabloları kapsayan, doğrudan AI ve HPC'nin ölçeğini genişletmeyi-hedefleyen, Ethernet yığını üzerinden-bir-RDMA'yı tanımlar.

Ekibiniz bu ekosistemi biliyorsa, sıkı bir şekilde entegre edilmiş, düşük{0}}düşük gecikmeli bir HPC veya AI yapısı için InfiniBand'ı seçin. Daha geniş satıcı seçeneği ve bulut entegrasyonu için Ethernet veya RoCE'yi seçin. Yeni-nesil yüksek-performanslı Ethernet için standartlaştırılmış, açık bir yol istiyorsanız Ultra Ethernet'i düşünün.

Optik, Form Faktörleri ve Kablolama

400G ve 800G'de hız kadar fiziksel uyumluluk da önemlidir. İki modül aynı hızı paylaşabilir ancak form faktörü, termal tasarım ve ana bilgisayar gereksinimleri açısından farklılık gösterir. OSFP, QSFP112 ve QSFP-DD, düz-üst ve kanatlı-üst OSFP, anahtar-yan ve NIC-yan modül gereksinimlerini, DAC, AEC, AOC veya optik erişim, koparma desteği ve satıcı kodlaması ile donanım yazılımını doğrulayın. Bir anahtarda çalışan 800G OSFP'nin bir NIC'ye doğru şekilde yerleştirilip soğuyacağını varsaymayın; birçok anahtar ve NIC modülü farklı termal ve mekanik tasarımlar kullanır.

Güç, Hava Akışı ve Termal Doğrulama

800G bileşenleri daha fazla güç çeker ve daha sıcak çalışır. NIC'yi, optikleri, anahtar bağlantı noktalarını ve hava akışı yolunu boşta değil sürekli yük altında doğrulayın. NIC ve optik-modül gücünü, hava akışı yönünü ve soğutma boşluğunu, maksimum giriş sıcaklığını, kablo yoğunluğunu ve hava akışı tıkanıklığını ve hava- ile sıvı-soğutma varsayımlarını doğrulayın. Termal dengesizlik, bağlantı kapakları ve artan hata oranları olarak kendini gösterir; bu, üretimde takip edilmesi yavaş ve pahalı olan aralıklı bir arıza türüdür.

Kaçınılması Gereken Yaygın Hatalar

800G'yi Sırf Daha Hızlı Olduğu İçin Satın Almak

800G otomatik olarak daha iyi değildir. İş yükü, sunucu veya yapı bant genişliğini kullanamıyorsa ekstra maliyet uygulama performansına dönüşmez. Bağlantı noktasını gerçekte sahip olduğunuz darboğazla eşleştirin.

PCIe Bant Genişliğini Göz Ardı Etme

Bir NIC, verileri yalnızca ana veri yolunun izin verdiği hızda taşıyabilir. Donanım geldikten sonra değil, hız sınıfını seçmeden önce PCIe üretimini, şerit sayısını ve sunucu topolojisini doğrulayın.

Yanlış Optik Modülü Seçmek

Bu oranlarda modül form faktörü ve termal tasarım kritik öneme sahiptir. Yanlış bir OSFP çeşidi belirli bir kafese uymayabilir veya takılabilir ancak sürekli trafik altında aşırı ısınarak yapı sorunu gibi görünen hatalara neden olabilir.

Kablo Erişimini Unutmak

DAC, AEC, AOC, çok modlu optikler ve tek{0}}modlu optiklerin her biri farklı mesafe aralıklarına hizmet eder ve farklı fiber sınıfları farklı mesafeler taşır; bizimOM1'den OM5'e erişim limitlerinin dökümüher sınıfın en iyi olduğu yeri gösterir. Yanlış ara bağlantının seçilmesi gecikmeyi, maliyeti veya yeniden çalışmayı artırır.

NIC'leri, Anahtarları ve Optikleri Ayrı Satın Alma İşlemleri Olarak İşleme

Adaptörü, anahtarı, optik aksamı ve kabloları doğrulanmış tek bir malzeme listesi olarak sipariş edin. Dağıtımdan sonra keşfedilen bir uyumsuzluk, bağlanan ancak kanatlanan bir bağlantı noktası veya derlemenin ortasında- iade edilmesi gereken donanım anlamına gelir; bu, nitelendirme sırasında onu yakalamaktan çok daha rahatsız edicidir.

Nihai Tavsiye

Günümüzün AI, HPC, depolama ve bulut yapılarına uyan, kanıtlanmış, uygun maliyetli-bir adaptör için 400G NIC'yi seçin. Mevcut GPU kümelerinin ve karma-nesil odaların çoğu için pratik seçimdir. Bant genişliği yoğunluğu, büyük-ölçekli GPU iletişimi ve yükseltme hazırlığının ön maliyetten daha ağır bastığı ve tüm yolun buna göre oluşturulduğu durumlarda 800G NIC'yi seçin.

Karar asla tek başına hız değildir. Sunucularınızın, anahtarlarınızın, optiklerinizin, kablolarınızın, gücünüzün ve soğutmanızın bu hızı uygulama performansına dönüştürüp dönüştüremeyeceğidir. Bütçeyi koruyan disiplin basittir: Siparişi vermeden önce NIC'yi, anahtarı, optikleri ve kabloları tek bir sistem olarak doğrulayın.