HDTECH
Kategoriler

Lambda, NVIDIA Fotoniği ile Yapay Zeka Fabrikasının Dayanıklılığını ve Verimliliğini Artırıyor

Lambda, NVIDIA Fotoniği ile Yapay Zeka Fabrikasının Dayanıklılığını ve Verimliliğini Artırıyor

Bir yapay zeka modelini eğitmek için binlerce GPU’nun birlikte çalışması gerekir; bu da hızlı, verimli ve dayanıklı bir ağ gerektirir.

Lambda, bu bulmacanın ağ kısmını NVIDIA Photonics ortak paketli optik (CPO) anahtarlarıyla çözüyor. Bulut sağlayıcısı, bu anahtarları 10.000’den fazla GPU içeren NVIDIA GB300 NVL72 raflarını birbirine bağlamak için kullanıyor. Böylece büyük ölçekli bir yapay zeka fabrikasına daha düşük güç tüketimi, daha yüksek dayanıklılık ve daha uzun ortalama kesinti aralığı (MTBI) sağlıyor.

Lambda’nın bulut hizmetleri başkanı Dave Ward, “Ağ altyapısı, giderek büyüyen yapay zeka kümelerinin taleplerine ayak uydurmak zorunda,” dedi. “Bu ölçekteki bir kurulumda ortak paketli optiği kullanmak, yeni nesil yapay zekayı destekleyecek altyapıyı oluşturmak için önemli bir adım.”

Şirketin anahtarlarla yaptığı testlerde, veri aktarımı için gereken süre olan ağ gecikmesi raf ölçeğinde yaklaşık %4, pod ölçeğinde ise yaklaşık %10’a varan oranda azaldı. Raf, ölçeklenebilir birim ve pod konfigürasyonlarının tamamında ağ, geleneksel takılabilir optiklerle aynı veri aktarım kapasitesini koruyor.

Büyük Ölçekte Güç Verimliliği ve Dayanıklılık Sağlamak

Güç verimliliğini ve dayanıklılığı artırmak önemli, çünkü ağ yapay zeka fabrikasının verimliliğinin merkezinde yer alıyor.

Büyük bir eğitim görevinde tek bir kesilen bağlantı binlerce GPU’nun durmasına neden olabilir. Ajan tabanlı çıkarım süreçlerinde ise tek bir ağ kesintisi birçok ajanda zincirleme gecikmelere yol açabilir. Her kesinti zaman kaybına neden olurken, ağ için harcanan her watt, hesaplama için kullanılamayacak bir watt demektir.

NVIDIA Photonics hem güç verimliliğini hem de dayanıklılığı ele alıyor. Takılabilir transceiver’ların yerine anahtar paketinde ortak paketli optik motorlar kullanılarak geleneksel takılabilir optiklere kıyasla 5 kata kadar daha iyi güç verimliliği ve 15 kata kadar daha yüksek güvenilirlik sağlanıyor. Ayrıca 4 kat daha az lazer kullanılması, arızalanabilecek bileşen sayısını da azaltıyor.

Daha Soğuk Optikler ve Değiştirilebilir Işık Kaynakları Dayanıklılığı Artırıyor

Lambda’nın kurulumunda her biri 800Gb/s hızında çalışan 144 porta sahip NVIDIA Photonics anahtarları kullanılıyor. Sıvı soğutma, anahtar çipinden ve optik motorlardan ısıyı uzaklaştırıyor.

Şirket, geleneksel takılabilir optiklerdeki 51°C’ye kıyasla optiklerin ortalama sıcaklığının 36°C olduğunu ve testlerde daha kararlı sinyal bütünlüğü elde edildiğini belirtiyor.

NVIDIA Photonics ayrıca elektrikten optiğe dönüşümü anahtar çipine daha yakın bir konuma getiriyor. Her anahtar, optik motorlara ışık sağlayan 18 çıkarılabilir harici ışık kaynağına sahip. Optik motorlar, çipin yanındaki aynı paket üzerinde yer alıyor ve elektrik sinyallerini, kümenin farklı bölümleri arasında fiber üzerinden veri taşıyan ışığa dönüştürüyor.

Geleneksel takılabilir optiklerde bir lazer arızalandığında tüm modülün değiştirilmesi gerekirken, teknisyenler bu sistemde ışık kaynağı modüllerini sahadan değiştirebiliyor.

Ortak paketleme, elektriksel yolu inçlerden milimetrelere indirerek sinyal kaybını azaltıyor. Ayrıca yeniden zamanlayıcı çiplere olan ihtiyacı ortadan kaldırarak hem güç tüketimini hem de sinyal yolundaki bileşen sayısını düşürüyor.

NVIDIA Photonics’i keşfedin ve Lambda’nın kurulum duyurusunu okuyun.

Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics
Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics
İlginizi Çekebilir: 320 MHz Bant Genişliği ve Çoklu Bağlantı (MLO) Avantajları →
Kaynak: Blogs ↗

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir