OpenAI CEO'su Sam Altman'dan kişisel bilgisayarlardaki RAM'ler için sert sözler: 'Kaynak israfı'

OpenAI CEO'su Sam Altman, kişisel bilgisayarlardaki RAM'lerin büyük çoğunluğunun günün büyük bölümünde hiç kullanılmadığını ve bunun küresel anlamda ciddi bir kaynak israfına yol açtığını söyledi.

Altman, bir YouTube programında yapay zekanın donanım ihtiyaçları ve bellek tedarikindeki sıkışıklık üzerine değerlendirmelerde bulundu. Açık modellerin kullanıcıların kendi cihazlarında çalıştırılması gündeme geldiğinde bu konuya ilişkin düşüncelerini açıkça dile getirdi.

Yüzde 5'lik kullanım oranı örneği

Altman'a göre herkesin kendi bilgisayarında önemli miktarda bellek bulundurması, donanımın yalnızca kısa sürelerde kullanıldığında küresel kaynak dağılımı açısından verimsiz bir tablo oluşturuyor. Söyleşide yüzde 5 kullanım örneği veren Altman, bu oranın bilgisayarda takılı RAM kapasitesinin yalnızca yüzde 5'inin dolması değil, belleğin kullanımda kaldığı süreyi anlattığını belirtti.

Arzın kısıtlı olduğu koşullarda bulut altyapısındaki kullanım oranının en üst düzeye çıkarılması gerektiğini vurgulayan Altman, farklı zamanlarda gelen kullanıcı taleplerinin ortak altyapıda karşılanmasının donanımı daha uzun süre iş üretir hale getireceğini ifade etti.

Yerel yapay zeka ile bulut arasındaki fark

Yerel yapay zeka kullanımında modelin çalışması için gereken hesaplama işlemleri doğrudan kullanıcının bilgisayarında gerçekleştiriliyor. Modelin boyutuna ve kullanılan yönteme göre sistem belleği veya ekran kartı belleği bu iş için tahsis ediliyor.

Bulut yaklaşımında ise kullanıcı isteği uzaktaki sunuculara iletiliyor ve sonuç internet üzerinden alınıyor. Ancak kişisel bilgisayarlardaki bellekler yalnızca yapay zeka için değil; oyunlardan internet kullanımına, elektronik tablolardan günlük uygulamalara kadar pek çok farklı görevde kullanılıyor.

Bellek üreticileri yeni yatırımlarda temkinli

Söyleşide ayrıca yükselen fiyatların neden hızla yeni üretim kapasitesi yaratamadığı da ele alındı. Altman, DRAM üreticilerinin geçmişte büyük yatırımlarına rağmen düşük getiriler ve sert piyasa dalgalanmalarıyla karşılaştığını söyledi.

Üreticiler, fazla fabrika kurdukları dönemlerdeki mali sıkıntıları hâlâ hatırlıyor. Bu acı deneyim, bugünkü güçlü talebe rağmen sermaye harcamalarında temkinli davranmalarına yol açıyor.