Google, yeni yapay zeka hızlandırıcısını duyurdu: Büyük dil modelinde 2.8 kat hızlı

Yapay zeka pazarının hızlı gelişimiyle beraber şirketler daha güç hızlandırıcılar üretmeye devam ediyor. Microsoft'un Maia 100'ü ve Amazon'un Trainium2 hızlandırıcısı gibi ürünlerin ardından listeye Google da katılıyor.

Yeni AI modeli Gemini'yi duyuran şirket bununla beraber yeni Aı hızlandırıcısı Cloud TPU v5p'yi de tanıttı. Yeni TPU (Bulut Tensör İşleme Birimi), Google'ın en yetenekli ve en ucuz hızlandırıcısı olma özelliği taşıyor. Her bir TPU v5p podu 8.960 çip içeriyor. Çipler arasındaki bağlantı her çip için 4.800 Gbps gibi devasa bir hızda gerçekleştiriliyor.

Büyük dil modeli eğitiminde 2.8 kat hızlı

TPU v4 ile karşılaştırıldığında yeni v5p iki kat daha fazla FLOPS (saniyedeki kayar nokta işlemi) ve 3 kat daha fazla bellek bant genişliği sunuyor. Dahası büyük dil modeli eğitiminde (LLM) 2.8 kat daha yüksek hız sunuyor.

Google Cloud TPU v5p yapay zeka hızlandırıcısını önceki TPU v4 ile karşılaştırmak gerekirse:

• 2 kat fazla Flops  (459 TFLOPs Bf16 / 918 TOPs INT8)


• 3 kat fazla bellek kapasitesi (95 GB HBM)


• 2.8 kat hızlı büyük dil modeli eğitimi


• 1.9 kat hızlı gömülü model eğitimi


• 2.25 kat fazla bant genişliği (2765 GB/s vs 1228 GB/s)


• 2X çipler arası bağlantı hızı (4800 Gbps vs 2400 Gbps)

Ayrıca Bkz.Google Gemini tanıtıldı: Google'ın en büyük ve en yetenekli yapay zeka modeli

Google, iyi donanım ve yazılıma sahip olmanın değerinin farkına varmış olacak ki, modern yapay zeka iş yüklerini düzgün bir biçimde çalıştırmak için yeni bir AI hiper bilgisayar da geliştirdi. 

Yapay zeka alanında geride kalmak istemeyen Google, hem yazılım hem donanım tarafında önemli duyurularda bulunarak yarışta olduğunu gösterdi.