En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
Veri merkezleri, tüm görevler için tek bir GPU’ya dayanmak yerine CPU’ları, GPU’ları, NPU’ları, özel amaçlı hızlandırıcıları ve optik bağlantıyı bir araya getiren heterojen kümelere yöneliyor. Bu dönüşüm, donanımdan yararlanmayı iyileştirmek ve token maliyetini düşürmek için yazılımı, ağların yönetimini ve enerjiyi kritik faktörler hâline getiriyor.
Etched girişimi, Jane Street’in şirket tarafından gönderilen ilk eksiksiz yapay zekâ sistemini test edip kendi veri merkezinde çalıştırmak üzere satın almasının ardından 700 milyon dolar topladı ve 21 milyar dolar değerlemeye ulaştı. Finansman, şirketin yapay zekâ modellerinin çıkarımını hızlandırmayı ve maliyetini düşürmeyi amaçlayan tasarımlarına yönelik bahsi yansıtıyor.
Expedera’dan Sharad Choul, uç cihazların geleneksel görsel ağlardan LLM ve VLM modellerine geçişinin darboğazın niteliğini hesaplama gücünden bellek hareketine nasıl dönüştürdüğünü analiz ediyor. Paket tabanlı işlemenin harici veri aktarımını azaltmadaki ve modellerin otomobiller ile gömülü cihazlarda çalıştırılmasını iyileştirmedeki rolünü açıklıyor.