Yeni Nesil Yapay Zeka Bilgisayarları Belirteç Maliyetlerini Düşürmeyi Hedefliyor

Yeni nesil ajan tabanlı yapay zeka bilgisayarları, yapay zeka işlemlerini buluttaki pahalı büyük dil modellerine göndermek yerine yerel olarak gerçekleştirerek belirteç maliyetlerini düşürmeyi vaat ediyor.

HP, tamamen işletmelere yönelik olan ZBook Ultra G3a mobil iş istasyonunu duyurdu. Bu cihaz AMD Ryzen AI Max Pro işlemci kullanırken, Asus, Dell ve Lenovo gibi diğer üreticilerin piyasaya süreceği gelecek dizüstü bilgisayarlar Nvidia RTX Spark süper çiplerine sahip olacak. Nvidia, veri merkezlerinde hakim olan Blackwell grafik işlemcilerini RTX Spark ile kişisel bilgisayar pazarına taşıyor. Tüketici modelleri ilk dalgayı oluştururken, kurumsal modellerin daha sonra gelmesi planlanıyor.

İnternet bağlantısı olmadan çalışan bu bilgisayarlar, milyarlarca parametreli yapay zeka modelleri üzerinden ajanları ve sohbet botlarını çalıştırabiliyor, video üretebiliyor ve kod yazabiliyor. Nvidia'dan Gerardo Delgado, bu cihazların büyük modelleri hızlı çalıştırmak için yeterli bellek ve işlem gücüne sahip olduğunu belirtti. Bulut tabanlı modeller daha yetenekli olsa da, yerel donanım maliyet yükünü hafifletebilir. J. Gold Research analisti Jack Gold, önümüzdeki iki ila üç yıl içinde gelişmiş yapay zeka iş yüklerinin en az yüzde 20 ile 25 arasının tamamen bulut yerine yapay zeka bilgisayarlarında çalışacağını öngörüyor.

HP ve Perplexity arasındaki iş birliği sayesinde tasarımcılar, internet bağlantısı olmadan Autodesk Revit 3D modelleme programında yapay zeka kullanabiliyor. Perplexity'nin Taşınabilir Bilgisayar çözümü, en uygun olanı bulmak için yaklaşık 19 gelişmiş modeli kullanıyor. Model Bağlam Protokolü sunucuları, kullanıcı izniyle yapay zeka modellerini bilgisayardaki uygulamalara bağlıyor. Bu yapı, hassas verilerin şirket sınırları içinde kalmasını sağlıyor.

Ekim ayında satışa sunulması beklenen ZBook Ultra G3a, verilerin bileşenler arasında hızlı akması için işlemci, bellek ve grafik işlemciyi tek bir çipte topluyor. HP, yerel kullanım ile bulut maliyetlerini karşılaştıran bir yatırım getirisi hesaplayıcısı sunuyor. Cihazın fiyatı açıklanmasa da, 1.149 dolar ile 1.199 dolardan başlayan Microsoft Surface Laptop ve Surface Pro modellerinden önemli ölçüde daha pahalı olması bekleniyor.

Nvidia, çıkarım işlemlerini ağdaki boşta olan bilgisayarlara yönlendiren araçlar sunuyor. Delgado, ajanlar konusundaki bir sonraki büyük adımın, yeterli olduğunda yerel donanıma, daha büyük bir model gerektiğinde ise bulut donanımına yönlendirme yapan çıkarım yönlendiricileri olduğunu ifade etti. Şirketlerin, işlerin bilgisayarlarda, uç ortamda ve bulutta yürütüldüğü hibrit bir yapay zeka stratejisini benimseyeceği öngörülüyor.