Microsoft, özel bir AMD CPU ile desteklenen yeni yüksek performanslı bilgi işlem (HPC) Azure sanal makinelerini duyurdu. Bu sanal makineler, Azure’un HBv serisinin bir parçası olarak, HPC için kritik bir bileşen olan yüksek bellek bant genişliği sunuyor. Microsoft, bu özelliği “en büyük HPC darboğazı” olarak tanımlıyor.
Önceden, Microsoft HPC yükleri için AMD’nin 3D V-Cache teknolojisine sahip Milan-X ve Genoa-X sunucu CPU’larını kullanmıştı. Ancak en yeni HBv5 VM’leri için, daha da yüksek performans sağlayacak bir çözüm arayışında olan Microsoft, özel bir AMD CPU tercih etti.
HBv5 VM’lerinde Kullanılan Özel AMD CPU
HBv5 VM’lerinde kullanılan özel AMD CPU, genellikle veri merkezi GPU’ları için tercih edilen HBM3 bellek teknolojisine sahiptir. Bu CPU, dört çipli bir yapıyla tek bir VM’de 6,9 TB/sn bant genişliği sunar. Bu, Microsoft’un HBv4 VM’lerinde kullanılan Genoa-X CPU’larına kıyasla yaklaşık dokuz kat, HBv3 VM’lerindeki Milan-X çiplerine göre ise 20 kat daha hızlıdır.
HBM3, 3D V-Cache gibi bellek teknolojilerinin aksine, çok daha büyük bant genişliği sunar, fakat yüksek gecikmelere yol açabilir. Ancak, bu gecikme bazı iş yüklerinde pek de önemli değildir. HBM3 bellek, bu özel CPU’nun bir parçası olarak devasa bir L4 önbelleği ekler, ancak L3 önbelleğini genişletmez.
HBv5 VM’lerinin Özellikleri
Her bir HBv5 VM, dört adet özel AMD CPU içerir. Bu CPU’lar, 450 GB HBM3 bellek ve 4 GHz hızına kadar ulaşabilen 352 Zen 4 çekirdeğiyle donatılmıştır. Ayrıca, normal EPYC CPU’larında bulunan Infinity Fabric bant genişliğinin iki katını sunar. Ancak, SMT (hyperthreading) devre dışı bırakılmıştır. Bu VM’lerde, ağ bağlantıları için 800 Gb/sn Nvidia Quantum-2 InfiniBand kullanılır.
Toplamda dört CPU’da 352 çekirdek bulunur. Her çekirdek, işlemleri verimli bir şekilde yönetebilmek için tasarlanmıştır. Zen 4 çekirdeklerinin her biri, sekiz ya da 16 çekirdekli CCD’lerle donatılmıştır. Özel CPU, genellikle bir CCD’deki sekiz çekirdeğin devre dışı bırakıldığı 11 Zen 4 CCD veya altı Zen 4c CCD kullanır. Bu, toplamda 96 tam işlevsel çekirdek sağlar. Bu çekirdeklerin sekizi, VM’yi çalıştırmak için ayrılmış olabilir.
Özel AMD CPU’nun Geçmişi ve MI300C ile İlgisi
Bu özel AMD CPU’nun, geçen yılki söylentilerde adı geçen MI300C çipine benzediği düşünülmektedir. Başlangıçta, bu CPU’nun bir MI300A APU olması bekleniyordu, ancak yalnızca Zen 4 CCD’leri içeriyor ve bu sayede HBM3’lü 96 çekirdekli bir yapı ortaya çıkıyor. MI300A’nın CPU çekirdekleri, HBv5 CPU’sundan pek farklı olmayan 3,7 GHz hızına ulaşabiliyor. Bu durum, özel Azure işlemcisi ve MI300C’nin aynı teknolojiyi taşıyor olabileceğini gösteriyor.
Glenn Lockwood, Microsoft mühendislerinden biri, bu özel CPU’nun yalnızca Azure ortamında kullanılabileceğini belirtmiştir. Ayrıca, AMD bellek mühendisi Phil Park, HBv5 işlemcisinin başlangıçta halka sunulması planlansa da pazar bulma konusunda zorluk yaşanmış olabileceğini ifade etmiştir. Park, AMD’nin EPYC ve HBM’yi birleştirme kararının, HBM donanımının özel tasarım gereksinimleri nedeniyle zorlayıcı olabileceğini vurgulamıştır.
HBM Teknolojisinin CPU’larda Kullanımı
HBM teknolojisi, CPU’larda şimdiye kadar pek yaygın kullanılmadı. Intel, Xeon Max adını verdiği Sapphire Rapids tabanlı HBM destekli CPU’ları piyasaya sürmüş olsa da, AMD, MI300C’yi üretmek için Microsoft ile yaptığı anlaşma sayesinde bu teknolojiye daha fazla odaklanmış görünüyor. Intel’in, Xeon Max’tan devam etmeme kararı ve Granite Rapids’in geleceği belirsizliğini koruyor.
AMD’nin pragmatik bir yaklaşım sergileyerek, HBM3’lü CPU’ları yalnızca Azure için üretmesi, bu alandaki ticari başarılarını pekiştirebilir.
[SPECIAL_ELEMENT_X]