Intel, 5. Nesil EPYC Torino CPU’ları için AMD’nin Veri Merkezi Yapay Zeka performansı iddialarını takip ederek 5. Nesil Xeon’un doğru optimizasyonlarla daha hızlı olduğunu söyledi.
AMD, Zen 5 Çekirdekli 5. Nesil EPYC Torino CPU’larını Yapay Zeka Karşılaştırmalarında 5. Nesil Xeon Çiplerini Geçerek Gösterdi Ancak Intel, Doğru Optimizasyonlar Kullanıldığında 5. Nesil’in EPYC’ye Karşı Öncü Olduğunu Söyledi
AMD bize Intel kıyaslamalarıyla ilgili bir güncelleme sundu ve son notların Torino’yu Intel’in 5. Nesil Xeon çipleriyle karşılaştıran testlerinde hangi donanım ve yazılım yığınının kullanıldığına ilişkin ilgili verileri sağladığını paylaştı. Ayrıca “Intel Xeon” platformunun o dönemde en güncel ve kamuya açık yazılımı kullandığını, Intel’in ise 7 Haziran’da yayımlanan yazılım optimizasyon kütüphanesine dayalı rakamları yayınladığını belirtiyorlar. AMD’nin açıklamasının tamamı şöyle:
AMD, Computex 2024’te, en yeni Zen 5 çekirdek mimarisini kullanan Torino kod adlı 5. Nesil EPYC CPU ailesini resmen duyurdu. Şirket, Emerald Rapids kod adlı Intel 5. Nesil Xeon ailesine karşı, özellikle AI iş yükü iş yüklerinde bazı büyük rakamlar ortaya koydu, ancak Intel artık bu kıyaslamaların Xeon ailesi için uygun optimizasyonlar olmadan ve hatta 5. Nesil uygulananlarla gerçekleştirildiğini açıkladı. Xeon’lar, yapay zeka performansında 5. Nesil EPYC Torino’yu kolaylıkla geride bırakacak.
Intel tarafından özellikle vurgulanan kriter, INT4 çıkarım verimini temel alan ve 50 ms gecikmeyle yürütülen Llama2-7B Chatbot’tur. AMD, 128 çekirdekli 2S (çift soketli) konfigürasyondaki 5. Nesil EPYC CPU’larının her birinin 671 jeton/s’ye kadar performans sunduğunu, Intel’in 64 çekirdekli 5. Nesil Xeon Platinum 8592+ yongalarının ise her biri aynı çift sokette çalıştığını gösterdi yapılandırma yalnızca 125 jeton/sn çıktı sunuyordu. Bu, AMD EPYC Torino CPU’ları için 5,4 katlık devasa bir kazançtı.
Intel, kıyaslamaların 5. Nesil Xeon SKU’lar için doğru yazılım paketi olmadan gerçekleştirildiğini belirtirken AMD, dipnotlarında Intel yapılandırmasına ilişkin herhangi bir ayrıntıya yer vermedi.
Mavi ekip artık performans kıyaslamalarını aynı yapay zeka iş yüklerinde gerçekleştirdi ve sonuçların tamamen farklı olduğu görülüyor.
PyTorch için Intel Uzantısını (P99 Gecikme) kullanan 5. Nesil Emerald Rapids Xeon CPU’lar, AMD’nin gösterdiğinden 5,4 kat daha iyi performans sağlayabilir. 686 Token/sn çıkışı, AMD’nin 5. Nesil EPYC Zen 5 CPU’larının performansını aşıyor. Bu yalnızca Intel’in Llama2 için yaptığı yazılım optimizasyonları değil, aynı zamanda 5. Nesil Emerald Rapids ailesi içindeki güzel bir destek sağlayan eklenen yapay zeka donanım hızlandırıcıları sayesindedir.
Intel bununla yetinmiyor; şirket aynı zamanda diğer iki iş yükü olan Çeviri ve Özetleme’de AMD’nin Computex 2024 sunumunda kullandığı sonuçlara kıyasla 1,2 ila 2,3 kat performans artışı gördüğünü belirtiyor.
Üstelik daha da önemli olan nokta, bu kıyaslamaların ağırlıklı olarak belleğe bağlı olması ve yeni nesil EPYC Turin ailesinin 12 kanallı DDR5 arayüzüne sahip olmasıdır. Intel’in mevcut nesil Xeon “Emerald Rapids” CPU’ları 8 DDR5 bellek kanalıyla zirveye ulaşırken, yeni nesil Granite Rapids “Xeon 6700P/6900P” CPU’ları yalnızca aynı “En Fazla” 12 kanallı bellek arayüzüyle gelmekle kalmayacak, aynı zamanda 2025’in başlarında gelecek olan Xeon 6900E ailesi ile aynı 128 çekirdek sayısına ve 288’e kadar E-Çekirdeğe sahip olacak. Granite Rapids Xeon 6700P CPU’lar 2024’ün üçüncü çeyreğinde 86’ya kadar P-Çekirdeğiyle satışa sunulacak.
Görünüşe göre şu anda yapay zeka işine dahil olan tüm büyük firmalar yalnızca performans iddiaları konusunda değil, aynı zamanda başkalarının gösterdiği şeyler konusunda da çok ciddi. NVIDIA ve AMD, birkaç ay önce kırmızı takımın MI300X rakamlarını Hopper serisine karşı açıkladığında benzer bir savaşa girdiler ve bu noktadan sonra bir ileri bir geri gitti .
Benzer şekilde, AI PC tarafında AMD, Intel, Qualcomm ve NVIDIA şirketleri, AI TOP’ların kasabada konuşulduğu çok şiddetli bir mücadelenin içindeler. Teknoloji sektöründe yapay zekaya yönelik talebin artmasıyla birlikte, tüm bu teknoloji firmaları, ürünlerini kullanmaları için daha fazla müşteri çekmeye ve sürekli artan yetenekli donanım ihtiyacını karşılamak için mümkün olduğunca çok birim göndermeye çalışıyor.
