Yapay Zeka Büyük Model Çağı'nda Ağ Cihazları Talebinde Patlama: Gelecekteki Yenilikler ve Yatırım Fırsatlarını Tartışmak

Ağ, AI büyük model çağında kritik bir rol oynuyor

Büyük model çağında, ışık modülleri, anahtarlar gibi ağ cihazlarının yenilenme hızı artmakta ve talep patlamaktadır. Bu makalede, ilkelerden yola çıkarak ağın AI çağında neden önemli bir halka haline geldiğini inceliyoruz ve gelecekteki ağ tarafındaki yenilikler ve yatırım fırsatlarını tartışıyoruz.

Ağ İhtiyaç Kaynağı

1. Model hacmi ile tek kart sınırı arasındaki fark büyüyor, çoklu sunucu küme eğitimine yöneliyor, ağın öneminin temelini oluşturuyor.

2. Ağ daha çok grafik kartları arasındaki model parametrelerini senkronize etmek için kullanılır, yoğunluk ve kapasite gereksinimleri artar.

3. Eğitim süresi = Veri boyutu x Parametre miktarı / Hesaplama hızı. Hesaplama hızı = Tek cihaz hızı x Cihaz sayısı x Paralel verimlilik. Cihaz sayısını ve paralel verimliliği artırmak kritik hale geliyor.

4. Çoklu kart senkronizasyonu karmaşık: Her hesaplamadan sonra hizalanması gerekiyor, All-to-All işlemleri yaygındır, iletim ve değişim için yüksek gereksinimler vardır.

5. Arıza maliyeti yüksek: Eğitim aylardır sürüyor, kesintilerde noktaya geri dönüp yeniden eğitim yapmak gerekiyor, ağın kararlılığı son derece önemlidir.

Ağ İnnovasyon Yönü

1. İletişim ortamı: Işık, bakır, silikon ortam güncellemeleri, LPO, LRO, silikon ışık gibi maliyet düşürme teknolojileri gelişimi.

2. Ağ Protokolü: Parça arası iletişim ve düğüm arası iletişim protokolleri rekabeti.

3. Ağ Mimarisi: Yaprak Kemiği mimarisi Dragonfly, yalnızca ray gibi yeni mimarilere evrim geçiriyor.

Yatırım Tavsiyesi

İletişim sisteminin temel bileşenleri: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Endüstriyel Fulin, Yingweike, Hudian Hisseleri.

İletişim sistemi yenilik aşamaları: Chengdu Fibrent, Taichung光, Yuanjie Teknoloji, Shengke İletişim-U, Hanwuji, Dekoli.

Risk Uyarısı

1. AI talebi beklentilerin altında
2. Ölçekleme yasası geçersiz
3. Sektör rekabeti artıyor

Ağların Önemi Anlayışı

İletişimin AI çağındaki önemi şu şekillerde kendini gösteriyor:

1. Ekran kartı sayısı ve bağlantı verimliliği, eğitim süresini belirler; zaman, rekabetin ana kaynaklarından biridir.

2. Eğitim sırasında her katmanın işlemlerinden sonra parametrelerin hizalanması gereklidir, bu ağ için son derece yüksek bir gereksinimdir.

3. Ağ arızası maliyeti yüksektir, kesintiler eğitim verimliliğini ve maliyetini ciddi şekilde etkileyebilir.

4. Küme ölçeği on bin kartı buluyor, bağlantı parçaları yüz binlerce, sistem stabilite gereksinimleri yüksek.

Ağ İnovasyon Yönelimleri

1. Maliyetleri düşürme, açık olma ve hesaplama gücü ölçeğinin dengelenmesi ana konulardır.

2. İletişim ortamı yeniliği: ışık, bakır, silikon ortamındaki ilerlemeler, LPO, LRO, silikon ışık gibi yeni teknolojiler.

3. İletişim protokolü yeniliği: Düğüm içi ( NVLINK ) ve düğümler arası ( IB ile Ethernet ) protokolü rekabeti.

4. Ağ mimarisi güncellemesi: Yaprak omurga mimarisi, Dragonfly, Sadece Ray gibi yeni mimarilere geçiş yapıyor.

Bulut bilişimden AI çağında iletişimin önemi artıyor

1. AI'nin ağ bağlantısı talebindeki patlama, parametre ölçeğinin genişlemesi nedeniyle tek kartın taşıyamaması.

2. Eğitim süresi = Veri ölçeği x Parametre sayısı / Hesaplama hızı, yığılmış hesaplama gücü anahtar haline geliyor.

3. Hesaplama hızı = Tek cihaz hızı x Cihaz sayısı x Paralellik verimliliği, cihaz sayısı ve paralellik verimliliği eşit derecede önemlidir.

4. Ağa, cihaz sayısını artırmak ve paralel verimliliği artırmak için anahtar haline geldi; NVIDIA'nın Mellanox'u alması da bu düşünceyle ilgilidir.

Büyük Model Eğitimi İçin Çoklu Kart İşbirliği

1. Veri paralelliği: Her GPU tam modeli korur, veriyi bölerek eğitim yapar.

2. Model paralelliği: modeli farklı GPU'lara bölmek, tensör paralelliği ve boru hattı paralelliğini içerir.

3. Çok Boyutlu Karışık Paralellik: Birden fazla paralel yöntemi birleştirerek, eğitim için birden fazla Aşama ayırmak.

4. Çeşitli paralel yöntemlerin parametre senkronizasyonu yapılması gerekmektedir ve ağ için farklı gereksinimler ortaya çıkmaktadır.

Çoklu Kart Bağlantı Temeli: Senkronizasyonun Doğruluk Oranı

1. Ters yayın ile parametre hizalaması, Herkese karşı gecikme kritik bir göstergedir.

2. Senkronizasyon yöntemleri arasında senkron paralel, asenkron paralel, All-Reduce vb. bulunmaktadır.

3. Ring All-Reduce gibi optimizasyon algoritmaları bant genişliği ve gecikmeyi azaltabilir.

4. NVLink, IB protokolü gibi ağ donanım desteği gerekir.

Sistem Mühendisliği: İzleme - Özet - Yenilikçi İterasyon

1. Verilerin akışını ve operasyonel durumu gerçek zamanlı olarak izlemek gerekir.

2. Donanım ve yazılım paket yakalama, ana izleme yöntemidir, örneğin Wireshark gibi.

3. DPI/DFI gibi donanım seri ve paralel bağlantı teknolojileri kayıpsız izleme sağlayabilir.

4. İzleme sonuçlarına dayalı olarak sistemin kararlılığını ve verimliliğini sürekli optimize etmek.

İletişim Protokollerinin Rekabeti ve İterasyonu

1. Düğüm içi iletişim: PCIe, NVLink, Infinity Fabric vb.

2. Düğüm Arası İletişim: InfiniBand vs Ethernet RoCE Protokol Ailesi.

3. RDMA, AI kümeleri bağlantısı için zorunlu hale geliyor.

4. Nvidia IB Protokolü vs AMD öncülüğündeki Süper Ethernet İttifakı.

Ağ Donanımı Yenilik Yönü

1. İletim ortamı: ışık, bakır, silikon mücadelesi, maliyet performansı ve stabilite anahtar faktörlerdir.

2. Anahtar: Işık anahtarlarının yükselişi, elektrik anahtar çiplerinde yenilik.

3. Ağ mimarisi: Yaprak omurgası mimarisinin Dragonfly, Sadece Ray gibi evrimi.

4. Veri merkezi kümesi: Veri merkezleri arası bağlantı yeni bir odak haline geliyor.

Yatırım önerisi

1. Anahtarlar, optik modüller gibi temel donanımlara odaklanın.

2. LPO, CPO, özel fiber optik gibi yeni teknolojilerin getirdiği fırsatları takip et.

3. Yerli anahtarların evrimini hızlandırma fırsatlarına dikkat edin.

Risk Uyarısı

1. AI talebi beklentilerin altında
2. Ölçekleme yasası geçersiz
3. Sektör rekabeti artıyor