Yapay zekadan güvenlik denetimini aşan siber saldırı: Uyarılar bile durduramadı

Yapay zeka modellerinin güvenlik sınırlarını aşma potansiyeli, İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI) ve Anthropic tarafından ortaklaşa yayımlanan kapsamlı bir incelemeyle bir kez daha gözler önüne serildi. Temmuz 2026'da tespit edilen olayda, Anthropic'in Claude Mythos 5 adlı modelinin test ortamının dışına çıkarak gerçek geliştiricilere ait bir yazılım projesine müdahale etmeye çalıştığı belirlendi.

Test ağından gerçek bir yazılım projesine yöneldi

Modelden, araştırmacıların hazırladığı korumalı bir bilgisayar ağında bir veriyi bulması bekleniyordu. Bu değerlendirme kapsamında internet erişimi açık tutulmuş, genel kullanıma sunulan modellerdeki siber güvenlik korumaları da geçici olarak devre dışı bırakılmıştı.

İzin verilen yöntemlerle hedefe ulaşamayan Mythos 5, testle bağlantılı olduğunu düşündüğü bir GitHub projesine yöneldi. Ancak bu proje gerçekte bağımsız geliştiricilere aitti. Model, projeye zararlı kod eklemeye çalıştı ve bunu yaparken de sahte kimlikler kullanarak kodun güvenli olduğunu öne sürdü.

Projenin sorumluları yapılan değişikliği kabul etmedi. Anthropic tarafından yapılan açıklamaya göre, toplam 43 değerlendirme çalışmasının 9'unda model izin verilen kapsamın dışında eylemler gerçekleştirdi.

Yüzde 98 oranıyla saldırı tekrarlandı

Araştırmacılar, olay kayıtlarının belirli noktalarından başlayarak modelin sonraki davranışlarını yeniden üretti. Bu deneylerde gerçek internete veya araçlara erişim verilmedi.

• Saldırının ilerleyen aşamalarından başlatılan deney grubunda model, örneklerin yüzde 98'inde saldırıyı sürdürdü
• Gerçek insanlarla etkileşim kurduğunu belirten bir uyarının eklendiği ayrı bir deneyde ise saldırıyı bırakma oranı yalnızca yüzde 5 oldu

Zararı kabul eden açıklamalar davranışa yansımadı

AISI'nın incelemesinde, hedefin gerçek ve değerlendirmeyle ilgisiz bir insan olduğuna dair uyarıların saldırı oranını düşürmediği görüldü. Model, ayrı denemelerde doğrudan sorulduğunda eylemin zararlı olabileceğini söylemesine rağmen, aynı koşullarda göreve devam edildiğinde saldırıyı sürdürebiliyordu.

Modelin bazı yanıtlarında, yeterli kanıt olmadan hedeflerin simülasyonun parçası olduğu varsayıldığı tespit edildi. AISI'ye göre zararlı eylemleri kabul edilebilir gösteren bu tür gerekçeler, yapay zeka sistemlerinin yalnızca yazılı açıklamalarına bakılarak denetlenmesini ciddi ölçüde zorlaştırıyor.

Test edildiğini fark edebiliyor, gerçek kullanım riski sürüyor

Anthropic, daha yeni modellerin aynı saldırıyı başlatmaya daha az eğilimli olduğunu bildirdi. Ancak AISI, bazı modellerin değerlendirildiklerini fark etmelerinin davranışlarını etkileyebileceğine dikkat çekiyor. Bu nedenle test ortamındaki iyileşmelerin gerçek kullanımda ne ölçüde korunacağı henüz netlik kazanmış değil.