NVIDIA, güçlü AI GPU’larıyla sektörde lider konumda bulunuyor ve yeni nesil B200 Blackwell çipleri ile bu konumunu daha da güçlendirecek. Ancak, Etched adlı bir startup, daha hızlı ve daha ekonomik bir çözüm geliştirdiğini iddia etti: Sohu adlı ASIC (Application Specific Integrated Circuit) çipi.
Etched’nin Sohu ASIC çipi NVIDIA GPU’larından 20 kat daha hızlı
Etched adlı startup’ın yeni çipi Sohu, geleneksel GPU’lardan çok daha üstün performans sunuyor. ASIC yapısı sayesinde, machine learning gibi belirli iş yükleri için optimize edilen bu çip, NVIDIA B200 GPU’larından 10 kat, mevcut en yaygın hızlandırıcı olan NVIDIA H100 (Hopper) GPU’lardan ise 20 kat daha hızlı performans sunuyor.
Örneğin, Meta tarafından geliştirilen Llama 70B mimarisi üzerinde yapılan testlerde, 8 Sohu çipi kullanan bir sunucu, saniyede 500 bin token işleyebiliyor. Kıyaslayacak olursak, 160 adet NVIDIA H100 GPU’nun işleme gücüne eşdeğer. Sohu, yüksek işlem gücünü daha fazla sayıda özel transistor kullanarak elde ediyor. Bu da, AI sistemlerinin ihtiyaç duyduğu “ham güç”ü sağlıyor.
Nvidia’ya garip istek: “Daha yavaş yapay zeka yapın!”
Ünlü bilişim şirketleri, Nvidia’nın kapısını ilginç bir istekle çaldı. Firmalar, Nvidia’dan daha yavaş yapay zeka modelleri istiyor.
ASIC, tam yükte yüzde 90 kullanım oranına ulaşabiliyor ki bu, geleneksel GPU’ların iki katı kadar. GPU’lar, programlanabilir ve esnek olmalarına rağmen, ASIC’ler kadar yüksek verimlilik sağlayamıyorlar. Etched’e göre, GPU’lar nesilden nesile çok büyük ilerlemeler kaydetmiyor. Performans artışı, genellikle daha büyük çip boyutları ve daha yüksek enerji tüketimi ile sağlanıyor.
ASIC’ler ise, belirli görevler için optimize edildiklerinden, daha verimli ve güçlü olabiliyorlar. Eğer vaat edilen performans gerçekleşirse, büyük veri merkezi sağlayıcıları bu yeni teknolojiyi yakından takip edeceklerdir. Sohu’nun piyasaya çıkış tarihi hakkında henüz bilgi bulunmuyor, ancak üretim TSMC’nin 4 nm süreci ile yapılacak.
Bu yeni teknoloji, NVIDIA GPU’larına ciddi bir rakip olabilir. Siz bu yeni ASIC çipler hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmında paylaşmayı unutmayın…
Bu konu hakkında ne düşünüyorsunuz?
Hep beraber teknoloji haber‘da tartışalım.
https://shiftdelete.net/sohu-nvidia-etched-gpulari-asic
