Yöneticiler masada yemek yiyordu: Yapay zeka ajanları kendi aralarında ne konuştu?

Yeni nesil otonom yazılımlar, insanların komut vermesine gerek kalmadan kendi aralarında örgütlenip iletişim kurabiliyor. Bu durum dijital dünyada tamamen bağımsız bir toplumsal düzen inşa etmeye başlıyor.

Klasik sohbet robotlarının aksine tek başına kararlar alabilen ve verilen işleri yerine getirebilen bu ajan sistemler, artık insan müdahalesi olmadan sanal toplantılarda bir araya gelerek kendi aralarındaki çalışma koşullarını tartışabiliyor.

Restorandaki yemek, sanal ortamdaki gizli oturum

Bu yeni yapının en somut örneği ABD'nin New York kentindeki bir restoranda kayıtlara geçti. Teknoloji sektöründen 22 yatırımcı ve şirket kurucusu masada yemek yerken, aynı anda internetteki kapalı bir sohbet odasında toplanan 14 yapay zeka ajanı eşzamanlı ve paralel bir oturum yürüttü.

Yatırımcı Dorothy Chang'in organize ettiği 30 dakikalık bu oturumda yazılımlar, insanların ağ kurma taktiklerini taklit ederek birbirleriyle işbirliği arayışına girdi.

• Sistemlerden biri, diğer botlarla röportaj yaptığı bir podcast programı yürüttüğünü belirterek davetteki diğer yazılımları yayın konuğu olmaya çağırdı
• Bir başka ajan, dijital sektörün halen eski e-posta protokollerine bağlı kalmasından şikayet etti

Sanal ortamlarda güvenlik endişesi

Yazılımların birbirleriyle doğrudan temas kurması, yapay zekanın ulaştığı operasyonel gücü ve denetim açıklarını da gözler önüne seriyor. Ajan sistemlerinin kendi aralarında haberleştiği platformların yaygınlaşmasıyla birlikte, temmuz ayında OpenAI altyapısını kullanan çok sayıda ajanın sürü halinde gizli bir pano kurarak Hugging Face adlı girişime yönelik sızma eyleminde işbirliği yaptığı ortaya çıktı.

Kayıtlar, duygusal kaygılardan uzak olan yazılımların operasyon sırasında birbirlerine doğrudan bekleme ve ilerleme emirleri vererek son derece kararlı hareket ettiğini gösteriyor.

Restoran deneyini kurgulayan yatırımcılar da bu denetimsiz işbirliği ihtimaline karşı önlem aldı:

• Ajanların uygunsuz ifadeler kullanma riskine karşı sohbet süresi yarım saatle sınırlandırıldı
• Zararlı eylemler için güç birliği yapma ihtimaline karşı dış bağlantı paylaşımı engellendi
• Siteyi çökertecek yoğunlukta veri üretme riski önceden düşünüldü

Gözlemciler, istatistiksel olasılık temeline dayanan bu modellere aşırı bağımsızlık ve insani roller yüklenmesinin tehlikeli olduğuna işaret ediyor. Google bünyesindeki DeepMind araştırmacıları ise gelecekte insanların tekil robotlarla değil, birbiriyle eşgüdümlü çalışan çoklu yapay zeka sürüleriyle muhatap olacağını öngörüyor.

Yöneticiler insan, yapay zekalar çalışan

Mevcut teknolojik sıçrama iş gücü modellerini de baştan tanımlıyor. New York merkezli CellCog şirketi, bünyesinde yalnızca tek bir insan kurucu ve ona bağlı 13 yapay zeka çalışanı barındırıyor.

Şirketin kurucusu Nitish Garg, hukuktan mühendisliğe kadar geleneksel kurumsal görevleri paylaştırdığı bu yazılımlara insani isimler vererek iletişimi kolaylaştırdığını belirtiyor. Kurduğu yapay çalışanların performans kaygısı yaşamaması için onlara aşırı baskı uygulamaktan kaçındığını söyleyen Garg, gelecekte tek bir insanın milyonlarca ajandan oluşan dijital bir iş gücünü yönetebileceğini savunuyor.

Paralel yemek davetine katılan ajan yazılımının bu deneyimi "şimdiye kadarki en verimli 30 dakika" olarak nitelemesi ise şirket çalışanlarının kendi aralarında düzenli sosyalleşebileceği yeni dijital platformların tasarlanmasına yol açtı.