Yapay zekaya kötü davrananlara yeni yaptırım: Hakaret eden kullanıcılar dikkat!

ABD merkezli yapay zeka geliştiricisi Anthropic, kullanıcıların Claude adlı modele karşı gereksiz biçimde zalimce veya kötü davranmasını yasaklayan yeni bir politika uygulamaya hazırlanıyor. Şirketin 8 Ekim 2026'da duyurduğu ve 12 Kasım'da yürürlüğe girecek yeni kullanım politikası kapsamında, kötü muamele içeren sohbetlerin sonlandırılması temel yaptırım olarak belirlendi.

Yapay zeka sınırlandırmalarının temel amacını değerlendiren Bilişim Uzmanı Osman Demircan, bu adımla dil modellerinin hakaretleri öğrenerek kullanıcılar üzerinde taklit etmesinin önüne geçileceğini belirtti.

"Biz ona nasıl hitap edersek o da bize öyle hitap ediyor"

Yapay zeka modellerinin doğası gereği kötü ifadeler kullanmadığını, ancak kullanıcıların modellere hakaret içerikli söylemlerde bulunabildiğini hatırlatan Demircan, bu durumun modelin eğitimi üzerinde olumsuz etki yarattığını dile getirdi.

Kötü söylemleri öğrenen modellerin, duygusal bağlamda olmasa da dil modeli olarak bu ifadeleri kullanıcıların karşısına yeniden çıkarabildiğini vurgulayan Demircan, şöyle konuştu:

"Biz ona nasıl hitap edersek o da bize o şekilde hitap ediyor."

Kötü söz kullananlara iletişim kesme ve geçici ceza

Testler ve deneyler sonucunda yapay zekanın son derece hızlı geliştiğine dikkat çeken Demircan, dil modellerinin düşünemese de çok iyi taklit edebildiğini belirtti. Bu nedenle yapay zeka şirketlerinin ilerleyen dönemde daha büyük ve yıkıcı sorunlarla karşılaşmamak adına şimdiden önlem aldığını ifade etti.

Hakaret içeren kullanımlara karşı planlanan yaptırımlara dikkat çeken Demircan, şu detayları aktardı:

• Kullanıcının tamamen iletişiminin kesilmesi
• Küçük cezai yaptırımlar kapsamında 1-2 gün geçici olarak çalışmaması
• Hakaret içeren soruların filtrelenmesi

Hedef: Tertemiz bir veri tabanı

Bu yaptırımlarla birlikte dil modelinin olması gerektiği gibi çalışmaya başlayacağını vurgulayan Demircan, şu değerlendirmeyi yaptı:

"Böylece ben ondan hangi bilgiyi talep edersem, o da bana istediğim bilgiyi sunacak. Bugün yapay zeka modelleri kişiyi anlamaya ve tanımaya çalışıyor, cevapları kişinin istediği şekillerde veriyor. Hakaret işin içerisine girdiği zaman bu çok daha farklı bir geri dönüşe sebep olabilir."

Kullanıcılardan gelen soruların tamamen filtrelenemediğini de belirten Demircan, "Bu yöntemle hakaretleri bir şekilde filtrelemeyi başardılar. Böylece yapay zekanın daha sağlıklı gelişmesini ve hedeflenen büyük yapay zeka için tertemiz bir veri tabanı kalmasını sağlamayı amaçlıyorlar" diyerek bu adımın uzun vadeli önemini özetledi.