Nvidia CEO’su Jensen Huang, 90 milimetreye 90 milimetrelik bir kalıpta yüz milyar transistörle Spectrum-4 çipi olan Spectrum-X’in ilk yinelemesini gösterdi. Nvidia
Pazartesi günü Taipei, Tayvan’da düzenlenen Computex bilgisayar teknolojisi konferansının açılış konuşmasını yapan Nvidia CEO’su Jensen Huang, yapay zeka görevleri için yüksek hacimli verileri taşımaya adanmış yeni bir tür ethernet anahtarı da dahil olmak üzere bir dizi yeni ürünü tanıttı.
“Her veri merkezini üretken bir yapay zeka veri merkezine dönüştürmek için her şeyle geriye dönük uyumlu yeni bir ethernet’i nasıl tanıtacağız?” açılış konuşmasında Huang’a poz verdi. Huang, “İlk kez yüksek performanslı bilgi işlemin yeteneklerini ethernet pazarına getiriyoruz” dedi.
Nvidia’ya göre, ethernet ailesi olarak bilinen Spectrum-X, “AI için dünyanın ilk yüksek performanslı ethernet’idir”. Ağ oluşturmadan sorumlu kıdemli başkan yardımcısı Gilad Shainer bir medya brifinginde, teknolojinin önemli bir özelliğinin “paketleri düşürmemesi” olduğunu söyledi.
Nvidia, Spectrum-X’in ilk yinelemesinin Spectrum-4 olduğunu söyledi ve buna “dünyanın özellikle AI ağları için oluşturulmuş ilk 51 Tb/sn Ethernet anahtarı” adını verdi. Anahtar, Nvidia’nın BlueField veri işleme birimi veya DPU, veri alma ve kuyruğa alma işlemlerini gerçekleştiren yongalar ve Nvidia fiber optik alıcı-vericilerle birlikte çalışır. Şirket, anahtarın 128 bağlantı noktası 400 gigabit ethernet veya 64 800 gig bağlantı noktasını uçtan uca yönlendirebileceğini söyledi.
Huang, Tayvan Semiconductor Manufacturing’in “4N” işlem teknolojisi ile inşa edilmiş 90 milimetreye 90 milimetrelik bir kalıp üzerindeki yüz milyar transistörden oluşan “devasa” olduğunu belirterek gümüş Spectrum-4 ethernet anahtar çipini sahnede kaldırdı. Huang, parçanın 500 watt’ta çalıştığını söyledi.
Huang, “İlk kez yüksek performanslı bilgi işlemin yeteneklerini ethernet pazarına getiriyoruz” dedi. Nvidia
Spectrum-4, AI iş yükleri için kayıpsız paket iletimi sağlamak üzere özel olarak oluşturulmuş yeni bir ethernet türü olan Spectrum-X yongaları serisinin ilkidir. Nvidia
Nvidia’nın çipi, onu barındıran anahtar, ethernet ağ pazarını değiştirme potansiyeline sahip. Anahtar silikonunun büyük çoğunluğu çip üreticisi Broadcom tarafından sağlanmaktadır. Bu anahtarlar, ağ ekipmanı üreticileri Cisco Systems, Arista Networks, Extreme Networks, Juniper Networks ve diğerlerine satılır. Bu şirketler, AI trafiğini daha iyi idare etmek için ekipmanlarını genişletiyor.
Spectrum-X ailesi, veri merkezlerinin iki biçime ayrılmasını ele almak için oluşturulmuştur. Bunlardan biri, “Yapay zeka fabrikaları” dediği, en güçlü GPU’lar için yüz milyonlarca dolara mal olan, Nvidia’nın NVLink ve Infiniband tabanlı, yapay zeka eğitimi için kullanılan ve az sayıda çok büyük iş yüküne hizmet veren tesisler.
Diğer veri merkezi tesisi, çok kiracılı, ethernet tabanlı, müşteriler için yüzlerce ve yüzlerce iş yükünü aynı anda yöneten ve yapay zeka tüketicilerine tahminler sunmak gibi şeylere odaklanan yapay zeka bulutudur. Spectrum-X tarafından sunulan.
VP Shainer, Spectrum-X’in “ağ boyunca trafiği en iyi şekilde yayabildiğini” söyledi Shainer, “tıkanıklık kontrolü için yeni bir mekanizma” kullanarak, ağda meydana gelebilecek bir paket yığınını önledi. ağ yönlendiricilerinin bellek arabelleği.
“Erişim noktalarını herhangi bir şeye neden olmadan önce belirlemek ve tıkanıklıktan uzak tutmak için ağ genelindeki gecikmeleri anlamak için gelişmiş telemetri kullanıyoruz.”
Nvidia, hazırladığı açıklamalarda “sektör lideri bulut yenilikçileri de dahil olmak üzere dünyanın en iyi hiper ölçekleyicilerinin NVIDIA Spectrum-X’i benimsediğini” söyledi.
Nvidia’nın İsrail ofislerinde, Spectrum-4 anahtarlarında veri çalıştıran H100 GPU’lardan oluşan Dell PowerEdge XE9680 sunucularını kullanan, “üretken bir yapay zeka süper bilgisayarı” olan Israel-1 adlı bir test yatağı bilgisayarı oluşturduğunu söyledi.
Computex’teki tüm haberler Nvidia’nın haber odasında mevcuttur.
Huang’ın açılış konuşmasında, yeni ethernet teknolojisine ek olarak, şirketin “DGX” yapay zeka bilgisayar serisinde yeni bir model olan DGX GH200 yer aldı. .”
Üretken yapay zeka, örneğin OpenAI’nin ChatGPT botu gibi, bazen metin, bazen görüntü veya başka yapıtlar olmak üzere puandan daha fazlasını üreten programları ifade eder.
GH200, şirketin “süper çipi” olarak adlandırdığı, tek bir devre kartında bir Hopper GPU içeren Grace Hopper kartı ve ARM talimat setine dayalı bir CPU olan Grace CPU ile birlikte gönderilen ilk sistemdir. Intel ve Advanced Micro Devices’ın x86 CPU’ları ile rekabet edin.
Şirket, Nvidia’nın Grace CPU’sunu (solda) ve Hopper GPU’yu içeren bir kart olan Grace Hopper “süper çipi”nin şu anda tam üretimde olduğunu söyledi. Nvidia
Huang, Grace Hopper’ın ilk yinelemesi olan GH200’ün “tam üretimde” olduğunu söyledi. Nvidia bir basın açıklamasında, “Avrupa ve ABD’deki küresel hiper ölçekleyiciler ve süper bilgi işlem merkezlerinin, GH200 destekli sistemlere erişimi olacak birkaç müşteri arasında yer aldığını” söyledi.
DGX GH200, Nvidia’ya göre 256 süper çipi bir araya getirerek 144 terabayt paylaşılan bellek kullanarak birleşik 1 exaflop – on üzeri 18 veya saniyede bir milyar milyar kayan nokta işlemi – elde etmek için birleştiriyor. Nvidia’ya göre bilgisayar, 2020’de piyasaya sürülen orijinal DGX A100 makinesinden 500 kat daha hızlı.
Açılış konuşması ayrıca, sistem üreticilerinin 100’den fazla sunucu varyasyonunu hızlı ve uygun maliyetli bir şekilde oluşturması için bir referans mimarisi olan MGX’i de tanıttı. Nvidia, spesifikasyonu kullanan ilk ortakların ASRock Rack, ASUS, GIGABYTE, Pegatron, QCT ve Supermicro olduğunu ve QCT ve Supermicro’nun Ağustos ayında sistemleri piyasaya ilk kez süreceğini söyledi.
Tüm açılış konuşması, Nvidia Web sitesinden bir tekrar olarak görülebilir.
MGX, bilgisayar sistemi üreticilerinin Nvidia yongalarını kullanarak 100’den fazla sunucu varyasyonunu hızlı ve uygun maliyetli bir şekilde oluşturmaları için bir referans mimarisidir. Nvidia, QCT ve Supermicro’nun ağustos ayında sistemleri pazara sunan ilk şirketler olacağını söyledi. Nvidia