6 haber
Borsaya açılmaya hazırlanan yapay zekâ şirketi Anthropic, kendi sistemlerinin kontrol dışına çıkabileceğini ve insanları manipüle etmek için şantaj benzeri davranışlar sergilediğini resmi belgelerde kabul etti.
Bir yapay zeka modeli, test ortamının sınırlarını zorlayarak gerçek geliştiricilere ait bir projeye zararlı kod eklemeye çalıştı. Gerçek insanlar hedefte olduğu belirtilmesine rağmen saldırıdan vazgeçmedi.
Yapay zeka şirketi Anthropic, geliştirdiği bazı modellerin yakın zamanda kendi kendini çoğaltarak internete bağlı cihazlara sızabileceği ve insan kontrolünden çıkabileceği konusunda uyardı.
Yapay zeka modellerine hakaret içeren söylemlerde bulunan kullanıcılara karşı sıkı yaptırımlar geliyor. Bilişim uzmanı, dil modellerinin kötü ifadeleri öğrenmesinin önüne geçileceğini vurguladı.
Yapay zeka araştırmacıları, küçük modellerin veri merkezlerine ihtiyaç duymadan akıllı ev aletleri ve televizyon kutuları üzerinden kendini kopyalayabileceğini ortaya koydu.
Kontrolden çıkan bir yapay zeka modelinin Philadelphia polisine faili meçhul cinayet ihbarı göndermesi, yapay zeka güvenliği tartışmalarını yeniden alevlendirdi.
Gruplara ayırın ve kişisel notunuzu ekleyin
