NVIDIA, OpenAI’ın GPT-4’ü gibi derin öğrenme ve büyük dil modellerinde (LLM’ler) gelecekteki atılımlarda büyük rol oynayacak olan yeni nesil yapay zeka süper bilgisayar çiplerini piyasaya sürdüğünü duyurdu. Teknoloji, son nesile göre önemli bir sıçramayı temsil ediyor. Hava durumu ve iklim tahmini, ilaç keşfi, kuantum hesaplama ve daha fazlası gibi görevler üzerinde çalışan veri merkezlerinde ve süper bilgisayarlarda kullanılmaya hazırlanıyor. En önemli ürün, NVIDIA’nın “Hopper” mimarisine dayanan ve popüler H100 GPU’nun yerini alan HGX H200 GPU’dur. Şirketin daha hızlı ve daha fazla kapasiteye sahip ilk çipi olan ve HBM3e belleği kullanabilen bu ürün, böylece büyük dil modelleri için daha uygun hale geliyor. Şirket, “HBM3e ile NVIDIA H200, saniyede 4,8 terabayt hızında 141 GB bellek sunarak selefi NVIDIA A100’e kıyasla neredeyse iki kat daha fazla kapasite ve 2,4 kat daha fazla bant genişliği sağlıyor” diye yazdı. NVIDIA, HGX H200’ün 70 milyar parametreli bir LLM olan Llama 2’de çıkarım hızını H100’e kıyasla iki katına yükselttiğini söylüyor. H100 sistemlerindeki hem yazılım hem de donanımla uyumlu 4 ve 8 yollu konfigürasyonlarda sunulacak.
Her tür veri merkezinde (şirket içi, bulut, hibrit bulut ve uç) çalışacak ve diğerlerinin yanı sıra Amazon Web Services, Google Cloud, Microsoft Azure ve Oracle Cloud Infrastructure tarafından dağıtılacak. 2024’ün ikinci çeyreğinde kullanıma sunulması planlanıyor. NVIDIA’nın diğer önemli ürünü, şirketin NVLink-C2C ara bağlantısını kullanarak HGX H200 GPU ve Arm tabanlı NVIDIA Grace CPU’yu birleştiren GH200 Grace Hopper Superchip. NVIDIA, süper bilgisayarların “bilim insanlarının ve araştırmacıların terabaytlarca veri çalıştıran karmaşık yapay zeka ve HPC uygulamalarını hızlandırarak dünyanın en zorlu sorunlarının üstesinden gelmelerini” sağlamak için tasarlandığını yazdı. Şirket, GH200’ün Dell, Eviden, Hewlett Packard (HP), Lenovo, QCT ve Supermicro dahil olmak üzere “küresel araştırma merkezleri, sistem üreticileri ve bulut sağlayıcıları genelinde 40’tan fazla yapay zeka süper bilgisayarında” kullanılacağını söyledi. Bunlar arasında HP’nin dörtlü GH200’leri kullanacak ve on binlerce Grace Hopper Superchip düğümüne kadar ölçeklenecek “Cray EX2500” süper bilgisayarları dikkat çekiyor.
Belki de en büyük Grace Hopper süper bilgisayarı, Almanya’daki Jülich tesisinde bulunan ve 2024 yılında kurulduğunda dünyanın en güçlü yapay zeka sistemi olacak olan “JUPITER” olacaktır. NVIDIA’ya göre, “NVIDIA Quantum-2 InfiniBand ağ platformuyla birbirine bağlı 24.000’e yakın NVIDIA GH200 Superchip içeren bir güçlendirici modül ile” sıvı soğutmalı bir mimari kullanıyor. NVIDIA, JUPITER’in iklim ve hava durumu tahmini de dahil olmak üzere bir dizi alanda bilimsel atılımlara yardımcı olacağını ve etkileşimli görselleştirme ile yüksek çözünürlüklü iklim ve hava durumu simülasyonları oluşturacağını söylüyor. Ayrıca ilaç keşfi, kuantum hesaplama ve endüstri mühendisliği için de kullanılacak. Bu alanların çoğu, geliştirmeyi kolaylaştıran ancak aynı zamanda süper bilgisayar gruplarını NVIDIA donanımına bağımlı hale getiren özel NVIDIA yazılım çözümlerini kullanıyor. Yeni teknolojiler, gelirlerinin çoğunu yapay zeka ve veri merkezi segmentlerinden elde eden NVIDIA için kilit öneme sahip olacak. Geçtiğimiz çeyrekte şirket, bir yıl öncesine göre yüzde 171 artışla yalnızca bu alanda 10,32 milyar dolarlık rekor bir gelir elde etti (13,51 milyar dolarlık toplam gelirin içinde). Şİrket, hiç şüphesiz yeni GPU ve süper çipin bu eğilimin devam etmesine yardımcı olacağını umuyor. Daha geçen hafta, NVIDIA eski H100 teknolojisini kullanarak kendi yapay zeka eğitim kıyaslama rekorunu kırdı, bu nedenle yeni teknolojisi zaten hakim olduğu bir sektörde rakiplerine karşı liderliğini genişletmesine yardımcı olacaktır.