Dell, AMD ile iş birliğini genişleterek artık son teknoloji sunucularında Team Red’in en üst düzey Instinct MI300X AI hızlandırıcılarını ve yeni nesil AI çözümlerini sunuyor.
Dell, AMD’nin Instinct MI300X AI GPU’larını Sunucularına Entegre Etmeye Karar Verdi, Team Red İçin Özelleştirilmiş Bir GenAI Çözümü Sergiledi
[ Basın Bülteni ]: Yapay zeka hızla gelişmeye devam ederken, açık kaynaklı teknolojilerin ve son teknoloji donanım hızlandırmasının birleşimi sektördeki inovasyonu yönlendiriyor. Dell Technologies ve AMD, genel bulut IaaS’den %75’e kadar daha uygun maliyetli ve kuruluştaki üretken yapay zeka uygulamalarını güçlendirmek için tasarlanmış şirket içi altyapı çözümleri sunarak ön saflarda yer alıyor.
Açık AI ekosistemlerinin ve çerçevelerinin dağıtımını destekleyen bir dizi güncellemeyi paylaşmaktan heyecan duyuyoruz. İlk olarak, Dell PowerEdge XE9680 artık AMD Instinct MI300X hızlandırıcılarıyla birlikte gönderiliyor ve müşterilerimiz için AI performans seçeneklerini geliştiriyor. İkinci olarak, AMD ile Generative AI için Dell Onaylı Tasarım’ı yayınladık ve açık çerçeve temelleriyle özel uygulama geliştirmeyi mümkün kıldık. Üçüncüsü, Eylül ayında kullanıma sunulacak yeni dağıtım hizmetlerimiz, bu yeniliklerin operasyonlarınıza sorunsuz bir şekilde entegre edilmesini sağlayacak.
Şimdi Gönderim – AMD Instinct MI300X Hızlandırıcılarıyla PowerEdge XE9680
AMD Instinct MI300X hızlandırıcılara sahip PowerEdge XE9680, üretken yapay zekadan yararlanan işletmeler için tasarlanmış yüksek performanslı yetenekler sunuyor ve sekiz adet MI300X hızlandırıcı, toplam 1,5 TB HBM3 bellek ve seyrek hassasiyetli performansa sahip 42 petaFLOPS tepe teorik FP8 içeriyor.
Bu güçlü yapılandırma, büyük dil modellerinin daha hızlı eğitilmesini ve çıkarımını sağlayarak kuruluşların AI odaklı içgörüler ve yenilikçi uygulamaları daha verimli bir şekilde sunmasına yardımcı olur. Tek bir düğüm yapılandırmasında yapılan son testler, lider bir toplam sahip olma maliyeti değeri gösterdi:
- Dell PowerEdge XE9680 Sunucusunda tek bir AMD Instinct MI300X hızlandırıcısına Llama 2 70B parametre modeli dağıtıldı.
- Dell PowerEdge XE9680 Sunucusunda bulunan sekiz adet mevcut AMD Instinct MI300X hızlandırıcının tamamı kullanılarak modelin sekiz adet eşzamanlı örneği dağıtıldı.
- Bir Dell PowerEdge XE9680 Sunucusu ve sekiz AMD Instinct MI300X hızlandırıcısı üzerinde Llama 2 70B parametre modelini FP16 hassasiyetinde ince ayarladım.
Dell OpenManage Enterprise aracılığıyla basitleştirilmiş dağıtım, APEX AIOps yazılımı aracılığıyla akıllı otomasyon ve entegre siber kurtarma ve Sıfır Güven yaklaşımıyla gelişmiş güvenlik özellikleri sunan XE9680, işletmelerin sağlam bir güvenlik duruşunu korurken GenAI çözümlerini hızla uygulayıp ölçeklendirmesini sağlar.
Bugün Mevcut – AMD ile Üretken Yapay Zeka için Dell Onaylı Tasarım
Mayıs ayında duyurulan ve bugün kullanıma sunulan AMD ile Dell Onaylı Tasarımlı Generative AI, kuruluşların güvenilir GenAI’yi dağıtmalarını kolaylaştıran Dell Generative AI Çözümlerinin bir sonraki adımıdır. Bu tasarım kılavuzu, kuruluşlara ve geliştiricilere LLM çıkarımını ve model özelleştirmesini uygulamak için kapsamlı talimatlar ve ayrıca ince ayar ve geri alma artırılmış üretim (RAG) gibi gelişmiş teknikler sunar. Açık standartlar üzerine kurulu ve tescilli AI yazılım paketlerine olan ihtiyacı azaltan geliştiriciler, Hugging Face ve Meta gibi ortaklardan açık kaynaklı LLM modelleriyle geliştirmeyi basitleştirebilir ve iş akışlarını özgürce özelleştirebilir.
Modern iş yüklerini hızlandırın . Verimli, çevik işletmeler ve sonuçlar sağlayan yenilik ve ölçek.
- AMD Instinct MI300X hızlandırıcıları tarafından desteklenen Dell Onaylı Tasarım, neredeyse doğrusal ölçekleme ve düşük gecikmeli dağıtılmış GenAI eğitimi ve çıkarımına olanak tanır.
- PowerScale F710, yapay zeka sürecinin tüm aşamalarını hızlandıran yayın performansında büyük kazanımlarla daha hızlı yayına geçiş içgörüleri sunar.
- 64 adet 400GbE portu sunan Dell PowerSwitch Z9664F-ON, modern yapay zeka kümeleri için düşük gecikme süresi ve yüksek verimli Ethernet yapıları sunuyor.
- Broadcom Thor2 AI için optimize edilmiş NIC, MI300X hızlandırıcılarını sektörün en düşük güç gereksinimleriyle birbirine bağlayarak 400G sunuyor.
Uygulama geliştirmeyi hızlandırın. Açık kaynaklı yazılım ve ekosistemler, geliştiricilerin ve veri bilimcilerinin özgürce yenilik yapmasına olanak tanır.
- AMD ROCm destekli çerçeveler, Dell Generative AI Solutions ekosistemini genişletiyor ve PyTorch, TensorFlow, ONNX-RT ve JAX gibi açık kaynaklı büyük dil modelleri ile AMD Instinct hızlandırıcıları için sürücülerin, geliştirme araç setlerinin ve API’lerin tam yığınını destekliyor.
- Dell Omnia, verimli iş yükü işleme için yapılandırmayı otomatikleştirerek yapay zeka kümelerinin oluşturulmasını ve yönetimini kolaylaştırır.
- Dell Technologies’in Kurumsal SONiC dağıtımı, açık kaynaklı SONiC platformunu Dell PowerSwitch ile birleştiren, gelişmiş özellikler ve kurumsal düzeyde destek sunan ölçeklenebilir bir ağ çözümü sunar.
Dell’in Generative AI için Onaylı Tasarımları, Dell müşterilerinin entegrasyon, performans ve boyutlandırma hususlarındaki tahminleri ortadan kaldırarak ihtiyaçlarına göre uyarlanmış GenAI platformları oluşturmasını kolaylaştırır.
