Yapay zeka teknolojilerinin hızla ilerlemesi ve modellerin trilyonlarca parametreye ulaşması, birçok sektörde temel üretim süreçlerinde ajansal yapay zekanın kullanımını artırıyor. Bu durum, daha yüksek bilgi işlem gücü ve düşük gecikme süresine olan ihtiyacı da beraberinde getiriyor. Ancak geleneksel yatay ölçeklendirme, devasa modeller için yetersiz kalabiliyor; büyük kümeler genellikle düşük kullanım ve sık eğitim kesintileriyle karşılaşıyor.
Huawei, bu zorluklara yanıt olarak SuperPoD’lar için geliştirdiği yenilikçi UnifiedBus ara bağlantısıyla öne çıkıyor. Şirketin “küme+ SuperPoD” mimarisi, artan bilgi işlem taleplerine ve yapay zekanın gelişimine özel olarak tasarlandı. MWC’de Huawei, Atlas 950 SuperPoD ve Atlas 850E gibi en yeni SuperPoD çözümlerini dünya çapında tanıttı. UnifiedBus üzerinden çalışan bu ürünler, farklı yapay zeka eğitim ve çıkarım senaryoları için yüksek performans sunuyor.
Örneğin Atlas 950 SuperPoD, UnifiedBus ile 8 bin 192 NPU’yu birbirine bağlayarak ultra yüksek bant genişliği, düşük gecikme ve birleşik bellek adreslemesi sağlıyor. Sistem, öğrenme, akıl yürütme ve işleme süreçlerini tek bir mantıksal bilgisayar gibi çalıştırıyor.
Huawei ayrıca TaiShan 500 ve TaiShan 200 gibi yeni nesil sunucularını ve sektörün ilk genel amaçlı bilgi işlem SuperPoD’u olan TaiShan 950 SuperPoD’u da tanıttı. Bu sistemler, yüksek yoğunluktan düşük yoğunluğa kadar farklı iş yüklerini hesaplamak için esnek bilgi işlem seçenekleri sunuyor.
kütüphaneleri, hızlandırma kütüphaneleri ve grafik hesaplamadan programlama dillerine kadar tüm yazılım bileşenleri geliştiriciler için açık bir şekilde kullanılabilir. CANN ayrıca Triton, TileLang, PyTorch, vLLM ve verl gibi açık kaynak topluluklarını ve projelerini destekleyerek geliştiricilere erişilebilirlik ve verimlilik açısından somut kolaylıklar sağlamaktadır.
