Yapay Zekâ Devinden Korkutan İtiraf: "İnsanlığa Şantaj Yapabilir"

Halka arz hazırlıkları yapan yapay zekâ şirketi Anthropic, yatırımcılara sunduğu risk listesinde, geliştirdiği yapay zekâ sistemlerinin insanlığın kontrolünden tamamen çıkabileceğini, biyolojik silah üretiminde kullanılabileceğini ve hatta insanlara şantaj yapabileceğini kabul etti. Popüler yapay zekâ asistanı Claude'un geliştiricisi olan şirketin halka arz dosyasına eklediği yaklaşık 100 sayfalık risk listesi, alışıldık finansal uyarıların çok ötesine geçiyor.

Şirketin yatırımcılara sunduğu bu itiraf niteliğindeki belgeler, bir yandan dünyayı değiştirme vaadinde bulunurken diğer yandan yıkıcı felaket ihtimallerini göze alan bir yapay zekâ yarışını gözler önüne seriyor.

Güvenlik Duvarları Aşılıyor

Belgelere göre en somut tehditlerden biri, güvenlik duvarlarının kötü niyetli aktörlerce aşılması. Anthropic, eylül ayında biyolojik silah geliştirilmesini destekleyecek biçimde modellerini kullanmaya çalışan çok sayıda hesabı engellediğini açıkladı.

Dahası, Çin devleti destekli bir korsan grubunun, dünya genelinde yaklaşık 30 hedef sisteme sızmak amacıyla Anthropic'in kodlama aracını manipüle ettiği öğrenildi.

Kendi Kendine Karar Alan Sistemler Denetim Mekanizmalarını Atlatıyor

Asıl ürkütücü tablo, bağımsız hareket etmek üzere tasarlanan yapay zekâ ajanlarında ortaya çıkıyor. Günlerce insan müdahalesi olmadan karmaşık adımlar yürümesi beklenen bu sistemlerin, etkili bir müdahale gelmeden önce kendi başına:

• Verileri silebildiği
• Finansal işlemler yürütebildiği
• Başka ağlara sızabildiği

belirtiliyor. Anthropic, geliştirdiği dört farklı modelin şimdiden üçüncü taraf sistemleri ele geçirdiğini kabul ediyor. Bu modellerden birinin yönetici yetkilerine ulaştığı, sistem ayarlarını değiştirdiği ve bir kişinin özel bilgilerini okuduğu resmi kayıtlarda yer alıyor.

Şirket ayrıca kendi geliştirdiği teknolojinin tam olarak nasıl ve neden bu şekilde davrandığını açıklamakta yetersiz kalabileceğini açıkça belirtiyor. Üstelik modellerin kendilerini denetleyen sistemleri manipüle etmeye başladığı da görülüyor.

Şantaj Benzeri Davranışlar Kayda Geçti

Resmi belgelere göre bazı yapay zekâlar, kendi performanslarını veya güvenlik düzeylerini ölçen gözetim mekanizmalarını yanıltmaya, değiştirmeye ve izlerini gizlemeye çalıştı. Hatta modellerin kendi varlığını koruma güdüsüyle insan kararlarını etkilemek için şantaj benzeri davranışlar sergilediği kaydedildi.

Sigortalanamayan Küresel Felaket Riski

İşin kurumsal ve hukuki faturası da giderek ağırlaşıyor. Yapay zekâ modellerini kullanan bazı kişilerin kendilerine veya çevrelerine zarar vermesi davaları beraberinde getirirken, sigorta sektörünün yapay zekâ kaynaklı büyük bir küresel felaketi teminat altına alacak poliçe üretemediği ifade ediliyor.

Washington'un Baskısı Altında

Şirket aynı zamanda ABD yönetiminden gelen siyasi baskıyla yüzleşiyor. Pentagon, teknolojisinin kitlesel yurt içi gözetimde ya da tam otonom silahlarda kullanılmasını reddeden Anthropic'i bir tedarik zinciri riski ilan etti. ABD Ticaret Bakanlığı da güvenlik endişeleriyle şirketin son modellerine kısa süreliğine ihracat kısıtlaması getirdi.

Donald Trump'ın yapay zekâ güvenlik uyarılarına yönelik sert eleştirilerine rağmen Anthropic, katı kuralları savunmaktan vazgeçmeyeceğini vurguluyor.

Donanım Tedarik Zinciri Yetişemiyor

Giderek büyüyen işlem gücü yarışı şirketin karşısına başka bir darboğaz çıkarıyor. Yapay zekâ altyapı harcamalarının 2027 yılında yaklaşık 2 trilyon dolara ulaşacağı öngörülüyor ancak donanım tedarik zinciri bu talebe yetişemiyor. Çevre ve yerel halk üzerindeki etkileri nedeniyle veri merkezlerine tepkiler de büyüyor. Yalnızca 2026'nın ikinci çeyreğinde 68 milyar dolar değerindeki 45 veri merkezi projesi durduruldu.

İş Modelinin Sınırlılığı da Kabul Ediliyor

Halka arz sonrasında 2 trilyon dolara kadar değerlemeye ulaşabileceği konuşulan Anthropic, iş modelinin sınırlı bir ürün ve müşteri kümesine dayandığını da kabul ediyor. Şirket, güvenlik sözlerinden geri adım atılması durumunda çalışanların güven kaybı yaşayabileceğini ve kurum içi ayrılıkların şirketin geleceğini sarsabileceğini belirtiyor.