400G va 800G NIC: qaysi birini tanlash kerak?

400G NIC va 800G NIC oʻrtasida tanlov qilish toʻgʻridan-toʻgʻri qaror boʻlib, hisob-kitob{2}}sahifasini taqqoslash emas. Tezroq adapter faqat server, kalit, optika va kabellar bu tezlikni oxirigacha ko'tara olsagina o'z samarasini beradi. Ushbu qoʻllanma savdoni joylashtirish va xarid qilish nuqtai nazaridan-koʻrib chiqadi, shuning uchun siz adapterlar, kalitlar, uzatgichlar, DAC, AOC, AEC yoki tolaga byudjet ajratishdan oldin qaror qabul qilishingiz mumkin.

Qisqa versiya: 400G NIC bugungi sunʼiy intellekt, HPC, xotira va bulutli ish yuklarining koʻpchiligi uchun -etuk, tejamkor standart hisoblanadi va u NDR InfiniBand va PCIe Gen5 xostlariga aniq mos tushadi. 800G NIC yangi{5}}GPU’lari zichroq, sharq{6}}g‘arbiy yo‘nalishdagi trafik va XDR InfiniBand, 800G Ethernet va oxir-oqibat 1,6T yo‘l xaritasi bilan yangi avlod AI matosini yaratayotganingizda o‘z mukofotini oladi.

400G va 800G NIC

Agar serverlaringiz, kalitlaringiz va optik qurilmangiz 400G Ethernet yoki NDR InfiniBand’da standartlashtirilgan bo‘lsa yoki ish yuki har bir GPU-GPU yo‘lini-to‘ytirmasa, 400G NIC tanlang. Bu, shuningdek, mavjudlik, byudjet va malaka vaqti port tezligidan ko'ra muhimroq bo'lsa, xavfsizroq qo'ng'iroqdir.

Tarmoq katta{1}}miqyosdagi treninglar, yuqori{2}}zichlikdagi GPU serverlari yoki keyingi-avlod tezlatkichlari uchun muammoga aylanganda 800G NICni tanlang. Bu ma'lum miqdordagi tarmoqli kengligi uchun zarur bo'lgan ulanishlar va optik modullar sonini taxminan ikki baravar kamaytiradi va matoni keyingi yangilash uchun tayyorlaydi.

800G portni faqat tizimning qolgan qismi uni oziqlantirishi mumkin bo'lganda sotib olishga arziydi. Agar xost adapterga yetarlicha PCIe qatorlarini ochib bera olmasa, 800G NIC unumdorlikni oshirishdan ko'ra qimmat, kam foydalaniladigan portga aylanadi.

400G NIC nima?

400G NIC tarmoq adapteri bo'lib, har bir portda soniyasiga 400 gigabitgacha harakat qiladi. AI va HPC muhitlarida u GPU{3}}klaster tarmogʻi, taqsimlangan trening, xotiraga kirish, MPI trafiki, RoCE matolari va NDR InfiniBand havolalarini boshqaradi. Aksariyat operatorlar uchun 400G allaqachon 100G yoki 200G dan katta sakrash bo'lib, server va o'tish darajalarini qayta loyihalashga majburlamasdan, aniq to'siqlarni olib tashlaydi.

400G NICs bugungi kunda qayerga mos keladi

400G adapterlari hozirgi{1}}avlod GPU, HPC va ilmiy{2}}kompyuter qurilmalari, yuqori{3}}samarador saqlash tarmoqlari, RoCEv2 Ethernet va InfiniBand matolari, umumiy bulutli serverlar parki va 100G/200G{0}{0}G{0}da{0}{0}{0}{1}}avloddagi GPU`lar, ilmiy{2}}ta'lim qurilmalari bo'yicha AI o'quv klasterlarida standart standart hisoblanadi. aralash avlod xonalari. Ushbu sozlamalarda 400G kamdan-kam hollarda murosaga keladi. Klaster hajmi, GPU soni va byudjet 800G ning qo'shimcha murakkabligini oqlamasa, bu shunchaki to'g'ri tezlik sinfidir.

Nima uchun 400G hali ham mantiqiy

NIC tanlash - bu tizim{0}}balans muammosi. Agar xost 800G adapterini ta'minlay olmasa, ish yuki hisoblash- yoki xotiraga-bog'langan bo'lsa yoki umurtqa pog'onasi hali ham 400G bo'lsa, 800G NIC-larni tashlab qo'yish ilova unumdorligini ko'chirmasdan narxni oshiradi. Yaxshi qurilgan 400G mato, past obuna, toza topologiya, RDMA, sifatli optika va sozlangan tirbandlikni nazorat qilish-, hali ham AI va HPC talablarini bemalol bajara oladi.

800G NIC nima?

800G NIC portiga soniyasiga 800 gigabitgacha yetkazib beradi. U keyingi avlod AI maʼlumotlar markazlari, yirik GPU klasterlari va aloqa talabi anʼanaviy server tarmogʻidan oshib ketadigan yuqori miqyosli matolarga moʻljallangan. 800G avlodi endi standartlashtirilgan:IEEE 802.3df standarti, 2024 yilda ratifikatsiya qilingan, 800 Gigabit Ethernetni belgilaydi va 1x800G, 2x400G va 8x100G kabi quyi tariflarni qoʻllab-quvvatlaydi, bu esa aralash{8}}tezlikli migratsiyani amaliy qiladi.

Qiymat nafaqat ikki baravar oshirilgan sarlavha tezligi. 800G arxitektorlarga tarmoqli kengligi zichligini oshirish, havolalar va modullar sonini qisqartirish hamda barcha{1}}to-trafiklarga nisbatan agressivroq kattaroq o‘quv matolarini qo‘llab-quvvatlash imkonini beradi.

Nima uchun AI klasterlari 800G ga o'tmoqda

Katta{0}}model oʻqitish katta GPU-to-GPU va serverdan-serverga trafikni hosil qiladi. Gradient almashinuvi, barcha-kamaytirish,-mutaxassislarning marshrutlash, nazorat qilish va saqlash-qorishmasi matoga zarba beradi. Tezlatgichlar tezlashgani sayin, tarmoq tezligini saqlab turishi kerak yoki qimmat GPUlar sinxronizatsiyani kutishda ishlamay qoladi. 800G NIClar har bir tugun, tezlatkich yoki tarmoq relslari uchun tarmoqli kengligini oshirish orqali javob beradi.

800G - bu shunchaki adapter emas, balki mato qaroridir

800G ga oʻtish kalit tanlash, optika, masofani rejalashtirish, termal dizayn, havo oqimi va raf tartibini oʻzgartiradi. Ayniqsa, optik va mis tanlovlari yanada qattiqlashadi: 800G porti OSFP yoki QSFP-DD modulidan foydalanishi mumkin, o'tish{4}}yon va NIC-yon modullari esa issiqlik va mexanik dizaynda bir xil tezlikda ham farq qilishi mumkin. Agar zavodingiz tuzilgan toladan foydalansa, modul va ulagich turlarini erta tasdiqlang; bizningQSFP-DD forma faktoriga umumiy nuqtaiOSFPga nisbatan mos keladigan joyni qamrab oladi. 800G ni bitta satrni almashtirish- emas, balki mato{2}}darajadagi dastur sifatida ko'ring.

400G NIC va 800G NIC

400G NICni qachon tanlash kerak

Maqsad yetuk uskuna, prognoz qilinadigan joylashtirish va boshqariladigan xarajatga ega boʻlgan yuqori{1}}samarador tarmoq boʻlsa, 400G NIC tanlang.

Siz mavjud 400G infratuzilmasi asosida qurmoqdasiz

Agar kalitlaringiz, kabellaringiz, optikangiz va server platformalaringiz allaqachon 400Gda standartlashtirilgan bo‘lsa, 400G NIC-lar bilan qolish bir qator muvofiqlik tekshiruvlarini olib tashlaydi va joriy ekotizimning ko‘p qismini qayta ishlatishga imkon beradi. Bu, ayniqsa, 100G yoki 200G dan yangilanganda to'g'ri keladi, bu erda unumdorlik ortishi katta va ekotizim 800G dan ancha etukroq.

Sizning AI ish yukingiz matoni to'ydirmaydi

Har bir AI ishiga server uchun 800G kerak emas. Ko'pchilik hisoblash{2}}bog'langan, xotiraga{3}}bog'langan, xotiraga-bog'langan yoki tarmoq o'tkazish qobiliyati emas, balki dasturiy ta'minot samaradorligi bilan cheklangan. Agar profilni aniqlash tarmoqning asosiy to'siq emasligini ko'rsatsa, 400G NIC odatda yaxshi daromad keltiradi.

Sizga xarajat-samarali HPC kerak

Koʻpgina HPC ish yuklari xom tarmoqli kengligidan koʻra kechikish, xabar{0}}oʻtish harakati va mato tiqilib qolishiga sezgir. Yaxshi sozlangan{2}}400G mato ko'pincha yomon o'rnatilgan 800G matodan ustun turadi. Foydali savol qaysi NIC tezroq ekanligi emas, balki qaysi tarmoq dizayni har bir dollar uchun eng yaxshi dastur ishlashini ta'minlaydi.

Sizga tezroq, pastroq{0}}xavfli xarid kerak

400G adapterlari, optikasi va kabellari koʻproq server va kommutator platformalarida manba va saralash osonroq. Agar jamoada tekshirish uchun vaqt cheklangan boʻlsa, 400G eng past xavf- tanlov boʻlib, koʻpgina qiyinchiliklarni bartaraf qiladi.

800G NICni qachon tanlash kerak

Ilova, GPU platformasi va mato qo'shimcha tarmoqli kengligidan foydalanishi mumkin bo'lsa, 800G NIC ni tanlang.

Siz keyingi{0}}avlod AI o‘quv matosini loyihalashtiryapsiz

Katta oʻquv klasterlari hammadan{0}}hammaga-va sharqga{2}}gʻarbga ogʻir aloqa hosil qiladi. Model hajmi, GPU soni va parallellik o'sishi bilan tarmoq cheklovchiga aylanadi. Bu yerda 800G NIClar har bir tugunning oʻtkazish qobiliyatini-koʻtaradi va grafik protsessorlarni blokirovka qilish xavfini kamaytiradi.

Sizga yuqori tarmoqli kengligi zichligi kerak

800G ma'lum miqdordagi tarmoqli kengligi yetkazib berish uchun zarur bo'lgan portlar, havolalar va modullar sonini kamaytiradi. Raf maydoni, old panel portlari soni, kabel boshqaruvi va kalit radisi cheklangan zich klasterlarda bu muhim ahamiyatga ega. Kamroq, tezroq havolalar qurilishni soddalashtirishi mumkin, agar u uchun kalit mato va kabellar rejasi ishlab chiqilgan bo'lsa.

Siz keyingi avlod{0}}GPU platformalarini rejalashtiryapsiz

Agar yo‘l xaritasi yangi{0}}avlod GPU serverlarini, yuqori quvvat zichligi, suyuq sovutish va kattaroq klasterlarni o‘z ichiga olsa, 800G kuchliroq strategik chaqiriqdir. Bugungi kunda 400G sotib olish hali ham o'rinli bo'lishi mumkin, ammo mato 800G yoki undan tashqariga migratsiya yo'li bilan ishlab chiqilishi kerak.

Siz yangilanishning uzoq-muddatli uzilishlarini kamaytirmoqchisiz

Bosqichli 800G strategiyasi kelajakdagi migratsiya og'rig'ini kamaytiradi. Avval 800G{3}}qobiliyatli kalitlarni oʻrnating, mavjud 400G NIC-larni uzilish yoki aralash{5}}tezlikli dizayn orqali ulang, keyin serverlarni 800Gga yangilang. Bu keyingi avlod uchun matoni tayyorlashda joriy investitsiyalarni himoya qiladi.

Qachon 800G NIC ni tanlamaslik kerak

Bu ko'pincha foydaliroq savol bo'lib, u eng afsuslangan xaridlarni filtrlaydi. Quyidagilardan biri to‘g‘ri bo‘lsa, 800G ni o‘chirib qo‘ying:

• Xost adapterga to'liq PCIe Gen6-sinf x16 yo'lini ochib bera olmaydi. Port och qoladi va siz server avtobusi yetkazib bera olmaydigan tarmoqli kengligi uchun pul to'lagan bo'lasiz.
• Orqa miya ortiqcha obuna yoki hali ham 400G. Tezroq NIC cheklangan matoni tuzatmaydi; u darboğazni faqat bir hop uzoqlashtiradi.
• Ish yuki tarmoqli kengligi-bog'langandan ko'ra kechikish- yoki MPI-bog'lanadi. Sinxronizatsiya yoki kichik{4}}xabarlar harakati bilan bog'langan ishlar uchun qo'shimcha o'tkazuvchanlik unchalik katta emas.
• 800G uchun optika, kabel yotqizish yoki sovutish manbasini olish va vaqt jadvalingizda tasdiqlanishi mumkin emas. Yuk ostida qoplanadigan malakasiz modul yuqorida turgan sekinroq havoladan ko'ra yomonroqdir.
• Bugungi kunda mukofotni oqlaydigan aniq o'sish yo'l xaritasi yo'q.

Agar ulardan ikkitasi yoki undan ko'pi qo'llanilsa, 400G bu tuzilish uchun deyarli to'g'ri javob bo'ladi, 800G keyingi yangilash uchun zaxirada saqlanadi.

Bulutli ma'lumotlar markazlari uchun 400G va 800G NIC

Bulutli matolar kamdan-kam hollarda hamma joyda bir tezlikda ishlaydi. Ular trafik klassi bo'yicha segmentlanadi va NIC tanlovi butun ma'lumotlar markaziga emas, balki segmentga mos keladi.

• Old-oxiri/shimoliy-janubiy tirbandlik:400G odatda foydalanuvchi{1}}va API darajalari uchun yetarli boʻladi, bunda har bir oqim oʻtkazuvchanligi oʻrtacha va ulanish soni ustunlik qiladi.
• Saqlash va sharq{0}}gʻarbiy traffik:javob arxitektura qanchalik ajratilganligiga bog‘liq. 400G ko‘pchilik umumiy hovuzlarni qamrab oladi; 800G katta, taqsimlangan xotira drayverlari sharq-g‘arbiy yuklamada yordam beradi.
• AI xulosasi:400G koʻplab xulosa bulutlari uchun yetarli, 800G esa tokenlar koʻp tugunlar boʻylab harakatlanadigan-mutaxassislarning marshrutlash-ning zich aralashmasi yoki ajratilgan xizmatga mos keladi.
• Ko'p-ijaraga oluvchi mato:Bu erda obuna bo'lish koeffitsienti va ijarachilarning izolyatsiyasi samaradorlikni eng yuqori NIC darajasidan ancha ko'proq shakllantiradi. Kuchli izolyatsiyaga ega muvozanatli 400G mato ko'pincha tezroq, lekin tiqilib qolgan matoni uradi.

Bulutning sharqiy{0}}gʻarbiy oʻsishi tuzilgan tolaga tushganligi sababli, NIC bilan birga magistral kabellarni ham rejalashtiring; bizningMPO/MTP magistral kabellari bo'yicha qo'llanmayuqori{0}}zichlikdagi yugurishlarni qamrab oladi. Qoida tariqasida, koʻpgina old va umumiy bulutli darajalar uchun 400G dan foydalaning va zich sunʼiy intellekt xizmati yoki katta sharq-gʻarbiy hovuzlar hukmron boʻlgan segmentlar uchun 800G ni zaxiralang.

Port tezligidan tashqari asosiy tanlash omillari

Tezroq NIC, agar butun platforma uni qo'llab-quvvatlamasa, tezroq ish yukini kafolatlamaydi. 800G porti yetkazib beradimi yoki ishlamaydimi, besh omil hal qiladi.

PCIe avlodi va xost tarmoqli kengligi

NIC xostga PCIe orqali yetib boradi va bu havola qattiq shiftdir. 400 Gb/s portga har bir yo‘nalishda taxminan 50 Gb/s tezlik kerak bo‘ladi, uni PCIe Gen5 x16 uyasi, har bir yo‘nalishda taxminan 63 Gb/s tezlikda ko‘tara oladi. 800 Gb/s portga Gen5 x16 uyasidan tashqari har bir yo'nalishda taxminan 100 Gb/s kerak bo'ladi, shuning uchun 800G adapterlari odatda kutishadi.PCI-SIG'dan PCIe 6.0 spetsifikatsiyasi(64 GT/s, x16 da ikki tomonlama 256 GB/s gacha) yoki kam uchraydigan x32 dizayni. 800G ga ulanishdan oldin quyidagilarni tasdiqlang:

• PCIe avlodi
• Yo'laklar soni va uyalar simlari
• NUMA joylashuvi va GPU-to-NIC yoʻli
• Adapter uchun-server sotuvchisi tekshiruvi
• BIOS va dasturiy ta'minotni qo'llab-quvvatlash

GPU serverlarida protsessorlar va GPUlarga nisbatan NIC joylashuvi ma'lumotlarning qanchalik toza harakatlanishini hal qiladi. Gen5 x8 uyasiga tushirilgan Gen6-sinf NIC bu sohada eng ko‘p uchraydigan o‘z-o‘zidan yuzaga keladigan muammo hisoblanadi.

Mato va ortiqcha obunani almashtirish

NIC tezligi matoga mos kelishi kerak. 800G adapterlari barg-umurtqa pogʻonasi haddan tashqari koʻp boʻlsa yoki yuqoriga havolalar ingichka boʻlsa, hech narsa qilmaydi. Barglar va orqa miya port tezligini, ortiqcha obuna koeffitsientini, tarmoq relslari sonini, sharq-g'arbiy naqsh, nosozlik-domen dizayni va kerakli bisektsiya o'tkazish qobiliyatini tekshiring. Trening uchun, pastroq obuna koeffitsienti, odatda, tezroq NICdan ko'ra ishlashga ko'proq yordam beradi.

RoCE, InfiniBand va Ultra Ethernet

AI va HPC matolari CPU qo'shimcha xarajatlarini kamaytirish uchun RDMA-ga tayanadi va protokol NIC, kalit, tiqilinch nazorati va operatsiyalarni shakllantiradi. Bugungi kunda NDR InfiniBand portiga 400 Gb/s tezlikda ishlaydi vaXDR InfiniBand har bir port uchun 800 Gb/s ga etadi, bu to'g'ridan-to'g'ri 400G va 800G NIC darajalariga mos keladi. Ethernet tomonida,

Ultra Ethernet Consortiumning 1.0 spetsifikatsiyasiNIC-lar, kalitlar, optika va kabellarni qamrab oluvchi--ethernet stekidagi RDMA-ni aniqlaydi, bu toʻgʻridan-toʻgʻri AI va HPC miqyosini-kengaytirishga qaratilgan.

Jamoangiz ekotizimni yaxshi bilsa, mahkam integratsiyalashgan, past kechikish muddati-bo‘lgan HPC yoki AI uchun InfiniBandni tanlang. Kengroq sotuvchi tanlash va bulutli integratsiya uchun Ethernet yoki RoCE ni tanlang. Keyingi avlod -yuqori samarali Ethernet uchun standartlashtirilgan, ochiq yo‘lni istasangiz, Ultra Ethernet-ni ko‘rib chiqing.

Optika, shakl faktorlari va kabellar

400G va 800G da jismoniy muvofiqlik tezligi kabi muhimdir. Ikki modul tezlikni bo'lishishi mumkin, ammo shakl omili, termal dizayn va xost talablarida farqlanadi. OSFP va QSFP112 va QSFP-DD, tekis-yuqori va qanotli{7}}yuqori OSFP, switch{8}}yon va NIC-yon moduli talablari, DAC, AEC, AOC yoki optik ulanish, uzilishni qo‘llab-quvvatlash hamda sotuvchi kodlash va proshivkani tekshiring. Kommutatorda ishlaydigan 800G OSFP NICda to'g'ri joylashadi va soviydi deb o'ylamang; ko'p kalit va NIC modullari turli termal va mexanik dizaynlardan foydalanadi.

Quvvat, havo oqimi va issiqlik tekshiruvi

800G komponentlari ko'proq quvvat sarflaydi va issiqroq ishlaydi. NIC, optika, o'tish portlari va havo oqimi yo'lini bo'sh holatda emas, balki barqaror yuk ostida tekshiring. NIC va optik{3}}modul quvvati, havo oqimi yoʻnalishi va sovutish boʻshligʻi, maksimal kirish harorati, kabel zichligi va havo oqimining bloklanishi hamda havo- va suyuqlik{5}}sovutish boʻyicha taxminlarni tasdiqlang. Issiqlik beqarorligi bog'lanish klapanlari va ko'tarilgan xato stavkalari sifatida namoyon bo'ladi, bu ishlab chiqarishda sekin va qimmatga tushadigan intervalgacha nosozliklar.

Qochish kerak bo'lgan umumiy xatolar

800G ni tezroq bo'lgani uchun sotib olish

800G avtomatik ravishda yaxshiroq emas. Agar ish yuki, server yoki mato tarmoqli kengligidan foydalana olmasa, qo'shimcha xarajatlar dastur ishlashiga aylanmaydi. Portni sizda mavjud bo'lgan darboğaz bilan moslang.

PCIe tarmoqli kengligiga e'tibor bermaslik

NIC ma'lumotlarni faqat xost avtobusi ruxsat bergan tezlikda ko'chirishi mumkin. Uskuna kelgandan keyin emas, balki tezlik sinfini tanlashdan oldin PCIe generatsiyasini, qatorlar sonini va server topologiyasini tekshiring.

Noto'g'ri optik modulni tanlash

Ushbu stavkalarda modul shakl omili va termal dizayn muhim ahamiyatga ega. Noto'g'ri OSFP varianti ma'lum bir qafasga mos kelmasligi mumkin yoki to'xtovsiz tirbandlik ostida to'g'ri kelishi, lekin haddan tashqari qizib ketishi, mato muammosiga o'xshash xatolarni keltirib chiqarishi mumkin.

Kabel aloqasini unutish

DAC, AEC, AOC, multimode optika va bitta rejimli optika{0}}har biri turli masofalar diapazonlariga xizmat qiladi va turli tolali sinflar turli masofalarga ega; bizningOM1 dan OM5 gacha bo'linish chegaralariga erishishhar bir sinf qayerda yuqori ekanligini ko'rsatadi. Noto'g'ri o'zaro ulanishni tanlash kechikish, narx yoki qayta ishlashni oshiradi.

NIClar, kalitlar va optikalarni alohida xaridlar sifatida ko'rib chiqish

Adapter, kalit, optika va kabellarni bitta tasdiqlangan materiallar ro'yxati sifatida buyurtma qiling. Joylashtirishdan so‘ng aniqlangan nomuvofiqlik bog‘lovchi, lekin flapli port yoki qurilmaning-o‘rtalarida qaytarilishi kerak bo‘lgan uskunani bildiradi, bu esa kvalifikatsiya paytida uni ushlashdan ko‘ra ko‘proq xalaqit beradi.

Yakuniy tavsiya

Bugungi sunʻiy intellekt, HPC, xotira va bulutli qurilmalarga mos keladigan, tasdiqlangan, tejamkor{1}}adapter uchun 400G NIC tanlang. Bu mavjud GPU klasterlarining aksariyati va aralash{3}}avlod xonalari uchun amaliy tanlovdir. Tarmoqli kengligi zichligi, katta{6}}GPU aloqasi va yangilanishga tayyorlik dastlabki xarajatlardan ko‘proq bo‘lganda va butun yo‘l buning uchun tuzilgan bo‘lsa, 800G NIC tanlang.

Qaror hech qachon yolg'iz tezlik emas. Sizning serverlaringiz, kalitlaringiz, optikangiz, kabellar, quvvat va sovutish bu tezlikni dastur ishlashiga aylantira oladimi. Byudjetni himoya qiluvchi intizom oddiy: buyurtma berishdan oldin NIC, kalit, optika va kabelni bitta tizim sifatida tasdiqlang.