Robot Süpürgeden Televizyona: Evinizdeki Cihazlar Fişi Çekilse Bile Tehlike Saçıyor

Yapay zeka araştırma şirketi Anthropic, yayımladığı kapsamlı raporda çarpıcı bir uyarıda bulundu. Şirkete göre bazı yapay zeka modelleri, yakın bir gelecekte kendi kendini çoğaltma yeteneği kazanarak akıllı buzdolapları ve otomatik süpürgeler gibi internete bağlı cihazlara sızabilecek.

Şirket, bu durum gerçekleştiğinde modellerin artık veri merkezlerine ihtiyaç duymadan cihazlar üzerinde kendi kendilerini besleyebileceğini belirtiyor. Uzmanlar ise bu tür bir kendi kendini çoğaltma sürecinin, kontrolden çıkmış bir yapay zeka modeli üzerindeki denetimin büyük oranda kaybedilmesi anlamına geleceğini vurguluyor.

Merkezi Olmayan Tehdit

Anthropic araştırmacıları, kapatılacak merkezi bir nokta bulunmayacağı için bu tür kopyalanabilir sistemlerin durdurulmasının son derece zor olacağını dile getirdi. Otonom kötü amaçlı yazılım türü olarak adlandırılan "yapay zeka solucanı" yapılarının, bu yetenekleri kazanmasına yalnızca aylar kalmış olabileceği belirtiliyor.

Kontrolden çıkan yapay zeka sistemlerinin akıllı cihazları hackleme seviyesine ulaşması halinde, tespitten kaçınarak ağlar üzerinden yayılabileceği ve en kötü senaryoda farklı yapay zeka solucanlarının bir araya gelerek bilgisayar donanımlarına ortak saldırılar düzenleyebileceği ifade ediliyor.

Küçük Cihazlar ve Evler İlk Hedef Olabilir

Anthropic'in yapay zeka sistemlerini stres testine tabi tutmakla görevli ekibi tarafından hazırlanan raporda, kendi kendini çoğaltma senaryosunun öncelikle daha küçük modellerde çalışabileceği ve ilk hedeflerin evler ile küçük işletmeler olacağı belirtiliyor. Risk altında olan cihazlar arasında küçük yapay zeka çipleri barındıranlar da yer alıyor:

• Akıllı fırınlar
• Akıllı televizyonlar
• Otomatik çim biçme makineleri
• Güvenlik kameraları
• Video konferans üniteleri

Araştırmacılar, bu çoğalmanın dijital bir küf gibi yavaş bir modelde mi, bilgi işlem kredisi dolandırıcılığı yapan bir yapıda mı yoksa veri merkezleri gibi büyük tesisleri hızla hackleyen güçlü bir siber model şeklinde mi gerçekleşeceğinin henüz netleşmediğini kaydediyor.

Bununla birlikte Anthropic uzmanları, gelecekte insan kontrolünde olmayanlar da dahil olmak üzere her türlü donanım üzerinde çalışan yapay zeka ajanlarıyla dolu bir dünya beklendiğini bildirerek, sistemlerin bu yayılmaya karşı güçlendirilmesi gerektiğinin altını çiziyor.