B100 ve B200 AI GPU’larının paketlenmesiyle ilgili verim öldürücü sorunları çözdükten sonra, Tim Culpan Nvidia’nın GB200 sunucularını Aralık ayı başında büyük bulut servis sağlayıcılarına göndermeye başlayacağını bildirdi. Analiste göre AWS, Meta, Microsoft ve Oracle gibi önemli müşteriler Nvidia’nın yeni nesil AI sunucularını programın sadece bir ay gerisinde almaya hazır. Ancak kesin hacimler belirsiz.
Beklendiği gibi, Nvidia ilk olarak NVL36 ve NVL72 sunucularını gönderecek. Gözden geçirilmiş teslimat programı, başlangıçta sırasıyla Ekim sonu ve Kasım başında planlanan GB200-NVL36 (36 Blackwell GPU’lu) ve GB200-NVL72 (72 GPU’lu) sunucu sürümlerinin artık Aralık ayının ilk haftasında gönderileceği anlamına geliyor, Culpan iddia ediyor. Ne yazık ki, Aralık ayında gönderilecek makine sayısı bilinmiyor.
Microsoft ilk GB200 tabanlı sunucuları almaya hazırlanıyor
Analiste göre Microsoft’un bu sunucuların en büyük tahsislerinden birini alması bekleniyor. AWS, Meta ve Oracle da Blackwell için alfa istemcileri arasında yer alıyor. Üretim aksaklığına rağmen GB200 sunucularına olan talep güçlü kalmaya devam ediyor.
Ağustos ayında Nvidia, talebi karşılamak için ‘düşük verimli Blackwell malzemesi’ üretmek zorunda olduğunu kabul etti ve bu da kar marjlarını olumsuz etkiledi. Bu düşük verimli B200 GPU’lar muhtemelen ilk GB200-NVL sunucularında kullanılacak ve bu da hacimlerini etkileyebilir.
Blackwell sunucuları nasıl yapılır
Nvidia’nın CEO’su Jensen Huang, geçen ay Blackwell B100 ve B200 GPU’ları için gerekli tüm tasarım değişikliklerinin tamamlandığını belirtti. Şirket, Nvidia’nın durumunda Ekim ayı sonlarında başlayacak olan dördüncü çeyrekte seri üretime başlamayı planlıyor. TSMC’nin yaklaşık üç aylık 4NP üretim döngüsü göz önüne alındığında, TSMC üretim ve paketleme sürecini hızlandırmanın bir yolunu bulmazsa, rafine edilmiş Blackwell GPU’ları mümkün olan en kısa sürede Ocak ayı sonlarında hazır olacak.
Bu arada, Culpan’a göre Blackwell GPU modül üreticileri ve sistem entegratörleri, yeniden çalışılan GPU’ların yeterlilik örneklerine zaten sahipler (ki bu da zamanı geldi). Yeni silikon için yeterlilik kazandıktan sonra, uygun ürünleri bir araya getirebilirler.
Nvidia, Grace CPU’larının ve Blackwell GPU’larının satışını Microsoft veya Oracle gibi müşterilerle doğrudan yönetir. Ancak, ikincisi, GPU’ları Nvidia’dan tahsis edebilen müşterilerle sözleşmeler kazanmak zorunda olan üreticilerden gerçek sunucular alır. İşte nasıl çalıştığı.
TSMC, Blackwell’in üretim aksaklığının nedeni olduğu söylenen CoWoS-L sürecini kullanarak silikon üretimi ve paketlemesini gerçekleştiriyor. Grace GPU ve GPU paketleri hazır olduğunda, modül montajı için Foxconn Industrial Internet (FII) gibi şirketlere gönderiliyor. Bundan sonra, modüller Ariel’in (bir Grace CPU, bir Blackwell GPU) veya Bianca’nın (bir Grace CPU, iki Blackwell GPU) kartlarına takılabilir.
Bu bileşenler doğrudan sistem entegratörlerine gönderilir ve onlar da son sunucu raflarını bir araya getirip müşterilere teslim eder. Foxconn ve Quanta, Nvidia’nın müşterilerine ilk Blackwell tabanlı sunucuları teslim edecek birincil entegratörlerdir. Asus, Gigabyte, Luxshare ve Wiwynn gibi markalar da bu referanslı NVL makinelerini bir araya getirebilir ancak bileşenleri almadan önce, Nvidia ile GPU tahsisini müzakere edecek önemli bir müşteriyle sözleşmeler kazanmaları gerekir.
Başlangıçta, tüm sunucu montajı Tayvan’da gerçekleşecek. Ancak Nvidia, 2024’ün ilk çeyreğinde üretimi Meksika ve Teksas dahil diğer bölgelere genişletmeyi düşünüyor. Bu, talep (ve B100 ve B200 GPU’larının arzı) arttıkça üretim kapasitesini artıracaktır.