Ayon sa mga ulat, ang upstream chip end ng NVIDIA AI GPU H200 ay pumasok sa panahon ng paggawa ng masa sa huli na Q2 at inaasahang maihatid sa maraming dami pagkatapos ng Q3.Ngunit ang iskedyul ng paglulunsad ng platform ng Nvidia Blackwell ay hindi bababa sa isa hanggang dalawang quarter nang maaga sa iskedyul, na nakakaapekto sa pagpayag ng mga customer na magtapos na bumili ng H200.
Itinuturo ng supply chain na sa kasalukuyan, ang mga order ng kliyente na naghihintay ng kargamento ay karamihan ay puro sa HGX na arkitektura ng H100, na may isang limitadong proporsyon ng H200.Sa Q3, ang H200 na gagawin ng masa at maihatid ay pangunahing NVIDIA DGX H200;Tulad ng para sa B100, mayroon na itong bahagyang kakayahang makita at inaasahang maipadala sa unang kalahati ng susunod na taon.
Bilang isang iterative na produkto ng pag-upgrade ng H100 GPU, ang H200 ay nagpatibay ng HBM3E mataas na teknolohiya ng memorya ng bandwidth sa kauna-unahang pagkakataon batay sa advanced na arkitektura ng hopper, nakamit ang mas mabilis na bilis ng paglilipat ng data at mas malaking kapasidad ng memorya, lalo na nagpapakita ng mga makabuluhang pakinabang para sa mga aplikasyon ng modelo ng wika.Ayon sa opisyal na data na inilabas ng NVIDIA, kapag ang pakikitungo sa mga kumplikadong malalaking modelo ng wika tulad ng Meta's LLAMA2, ang H200 ay may maximum na pagpapabuti ng 45% sa generative AI output na bilis ng pagtugon kumpara sa H100.
Ang H200 ay nakaposisyon bilang isa pang milestone na produkto ng NVIDIA sa larangan ng AI computing, hindi lamang nagmana ng mga pakinabang ng H100, kundi pati na rin ang pagkamit ng mga makabuluhang tagumpay sa pagganap ng memorya.Sa pamamagitan ng komersyal na aplikasyon ng H200, ang demand para sa mataas na memorya ng bandwidth ay inaasahan na patuloy na tumaas, na higit na magtutulak sa pag -unlad ng buong chain ng industriya ng AI computing hardware, lalo na ang mga pagkakataon sa merkado para sa mga supplier na may kaugnayan sa HBM3E.
Ang B100 GPU ay magpatibay ng teknolohiyang paglamig ng likido.Ang dissipation ng init ay naging isang pangunahing kadahilanan sa pagpapabuti ng pagganap ng chip.Ang TDP ng NVIDIA H200 GPU ay 700W, habang tinatantya ng konserbatibo na ang TDP ng B100 ay malapit sa kilowatts.Ang tradisyunal na paglamig ng hangin ay maaaring hindi matugunan ang mga kinakailangan sa pagwawaldas ng init sa panahon ng operasyon ng chip, at ang teknolohiya ng pagwawaldas ng init ay magiging komprehensibong makabago patungo sa likidong paglamig.
Sinabi ng CEO ng NVIDIA na si Huang Renxun na nagsisimula mula sa B100 GPU, ang teknolohiya ng paglamig ng lahat ng mga produkto sa hinaharap ay magbabago mula sa paglamig ng hangin hanggang sa paglamig ng likido.Naniniwala ang Galaxy Securities na ang B100GPU ng NVIDIA ay may hindi bababa sa dalawang beses sa pagganap ng H200 at lalampas sa apat na beses na H100.Ang pagpapabuti sa pagganap ng CHIP ay bahagyang dahil sa mga advanced na proseso, at sa kabilang banda, ang pagwawaldas ng init ay naging isang pangunahing kadahilanan sa pagpapabuti ng pagganap ng chip.Ang TDP ng H200 GPU ng NVIDIA ay 700W, na kung saan ay konserbatibong tinatayang malapit sa kilowatts.Ang tradisyunal na paglamig ng hangin ay maaaring hindi matugunan ang mga pangangailangan sa pagwawaldas ng init sa panahon ng operasyon ng chip, at ang teknolohiya ng pagwawaldas ng init ay ganap na mababago patungo sa likidong paglamig.
