Yapay zeka araştırma şirketi Anthropic, yayımladığı tehdit istihbaratı raporunda modellerinin biyolojik silah geliştirme ve konvansiyonel mühimmat üretimi gibi tehlikeli amaçlarla kullanılmasını engellediğini bildirdi. Raporda, modellerin biyolojik silah üretimine destek sağlama amacıyla kullanıldığı beş vaka incelendiği ve bu faaliyetlerin şirket tarafından erişim engeli ve diğer güvenlik önlemleriyle durdurulduğu yer aldı.
Anthropic ayrıca yapay zekanın ateşli silahlar, güdümlü füzeler, silahlı insansız hava araçları ve bombalar için yazılım geliştirme amaçlı kullanıldığı altı ayrı olayın da güvenlik filtreleri aracılığıyla tespit edilip engellendiğini belirtti; bu vakaların Aralık 2025 ile Ağustos 2026 arasında gerçekleştiği ifade edildi. Raporda, Claude Haiku, Sonnet ve Opus gibi modellerin suiistimal edilmeye çalışıldığı, daha gelişmiş Claude Fable ve Mythos sınıfı modellerin ise bu vakalardan uzak kaldığı kaydedildi.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, durumun son derece incelikli ve karmaşık olduğunu belirtti. Raporda, biyolojik araştırmaların çift amaçlı doğasının tehditlerin tespit edilmesini zorlaştırdığına dikkat çekildi. Google da benzer şekilde, bir kullanıcının Gemini aracılığıyla silaha dönüştürülmüş biyolojik ajanların sentezlenmesine yönelik teknik kılavuz elde etmeye çalıştığını açıkladı.
Raporda ayrıca yapay zekanın siber casusluk ve dezenformasyon için kullanımına ilişkin vakalar da yer aldı. Rusya bağlantılı siber kampanyalarla ilişkilendirilen aktörlerin ve bir İran propaganda kurumunun sistemi manipüle etmeye çalıştığı, ayrıca ShinyHunters gibi korsan grupların adlarının geçtiği bildirildi. Anthropic, bazı Çin merkezli laboratuvarların Claude yeteneklerini kopyalamaya çalıştığını ve Midnight Blizzard benzeri yöntemler kullanan bir grubun tespit edildiğini aktardı; bu grubun, zararlı yazılımın güvenlik sistemleri tarafından fark edilmesi halinde kodu otomatik algılayıp yeniden yazan bir sistem inşa etmeye çalıştığı ifade edildi.
Yayınlanan rapor, yapay zekanın hızlı gelişiminin güvenlik risklerine dikkat çekerken, sektörde gönüllü yavaşlama çağrıları ve uluslararası düzenleme talepleri de gündemde kaldı. OpenAI Baş Bilim İnsanı Jakub Pachocki 6 Eylül’de sektöre gönüllü yavaşlama çağrısı yaparken, İngiltere’de Başbakan Andy Burnham’a hitaben yazılan açık mektupta süper zekanın güvenli gelişimi için çok uluslu bir anlaşma önerildi. ABD’de Demokrat Senatör Bernie Sanders’in yapay süper zekayı yasaklamayı ve geliştirmeleri geçici durdurmayı hedefleyen bir yasa tasarısı sunduğu, buna karşın ABD Başkanı Donald Trump’ın endişeleri reddettiği raporda yer aldı.