Anthropic, Yapay Zeka Modellerini Biyolojik Silah Araştırmalarında Kullanma Girişimlerini Engellediğini Duyurdu

Şirketten yapılan açıklamada, yapay zeka modelleri geliştikçe, karmaşık siber saldırıların artık ileri düzey beceriler gerektirmediği ve tekil bireylerin bile bir yıl öncesine kadar mümkün olmayan tehditler oluşturabileceği belirtildi. Anthropic, en son modellerine silah üretimine yol açabilecek biyolojik araştırmaları kısıtlamak için daha güçlü güvenlik önlemleri eklediğini duyurdu.

Anthropic'in Mart 2025'ten bu yana yapay zeka kötüye kullanımıyla ilgili üçüncü raporunda yer alan "paylaştığımız vakalar tipik kötüye kullanım değil, tespit ettiğimiz en dikkat çekici ve yeni tehdit faaliyetlerine örnek teşkil ediyor" ifadesi kullanıldı. Raporda, Anthropic'in bulduğu kötü amaçlı kod ve yapay zeka komutlarından alıntılar yer alıyor ve hükümetler ile yapay zeka rakiplerini benzer istismarları tespit etmeye ve önlemeye çağırıyor.

Şirket, "Bu çalışmayı yayınlıyoruz çünkü hizmetlerimizin kötü niyetli kötüye kullanımını açıklamaya karşı bir sorumluluğumuz olduğuna inanıyoruz. Modeller giderek daha yetenekli hale geldikçe, yapay zeka geliştiricileri ve toplumun savunucuları onları daha güvenli hale getirmek için harekete geçmedikçe riskleri artacaktır" dedi.

Bu sonbaharda halka arz planlayan yapay zeka girişimi Anthropic'in uzun raporu, araştırmacılarından birinin Anthropic ve rakiplerinin yapay zeka geliştirme konusunda sorumlu davranmadığı endişeleriyle istifa ettiğini açıklamasından iki gün sonra yayınlandı. Araştırmacı, teknolojinin insan kontrolünden kaçma potansiyeline ilişkin sektör içi ve dışı endişeleri dile getirdi.

Aralık 2025 ile Ağustos 2026 tarihleri arasında Anthropic'teki araştırmacılar, casus yazılım satıcılarından ve "politik olarak motive olmuş bireylerden" propaganda yayan devlet destekli gruplara kadar çeşitli aktörler tarafından kötüye kullanım tespit etti.

Şirketin raporundaki bulgular arasında, isimsiz aktörlerin biyolojik silahlara yol açabilecek araştırmalar için modellerini kullanma girişimleri de yer alıyor. Bir örnekte, Anthropic sistemlerinin, bilimsel finansman için bir hibe başvurusunun hazırlanmasında Claude'dan yardım alma talebini engellediğini belirtti.

Rapor, başvuruda tartışılan çalışmanın, "bir organizmayı yeni veya geliştirilmiş bir biyolojik özellik oluşturmak üzere genetik olarak değiştiren işlev kazanımı araştırması (yani, işlev kazanımı araştırması) chikungunya virüsü üzerinde yapıldığını" içeriyor. Bu işlev kazanımı araştırması, virüsün bulaşıcılık ve bağışıklıktan kaçma özelliklerini hedefliyordu. Bu tür araştırmaların "kesinlikle daha iyi aşılar ve tedaviler geliştirmek için kullanılabileceğini" belirten Anthropic, "ancak patojeni daha tehlikeli hale getirmek için de kullanılabileceğini" ekledi.

Anthropic'in raporuna dahil ettiği vakaların hiçbiri, Claude Fable veya Mythos sınıfı gibi daha yeni ve daha güçlü modelleri kullanmıyordu; yalnızca bir yasa dışı damıtma vakası hariç, bu vakayı "bir modelin yeteneklerini çıkarmak ve yetkisiz olarak başka bir modele kopyalamak için endüstriyel ölçekte, gizli bir kampanya" olarak tanımladı.

Anthropic, 2025 yılından kalma Claude Opus 4 ve Claude Sonnet 4.5 gibi eski modellerinin, "ileri düzey bir kullanıcının tehlikeli biyolojik araştırmalar yürütmesine anlamlı bir şekilde yardımcı olabilecekleri eşiğin oldukça altında" olduğunu belirtti.

Rapor, "Bu nedenle, bu modellerdeki güvenlik önlemleri daha az sıkıydı, çoğunlukla acemilerin bilinen biyolojik silahları yeniden yaratmada yardımcı olabilecek içeriklere erişimini önlemeye yönelikti. Ancak, karmaşık bilimsel araştırma görevlerinin bir dizi görevinde yardımcı olabilen bugünün modelleri için, kanıt artık kesin değil ve aynı güvenceyi veremeyiz" dedi.

Bu nedenle Anthropic, Claude Fable 5 gibi daha yeni modellerinde "çift kullanımlı biyolojik araştırma sorgularının geniş bir yelpazesine erişimi kısıtlayan daha güçlü güvenlik önlemleri" uyguladığını belirtti.

Şirketler giderek daha güçlü yapay zeka modelleri sunarken, uzmanlar hükümetleri teknolojiyi düzenlemeye çağırdı, endüstrinin kendi kendini denetlemesine güvenmek yerine.

Cornell Üniversitesi'nde bilgisayar bilimi yardımcı doçenti John Thickstun, Anthropic ve OpenAI gibi şirketlerin, güvenli ve güvensiz davranışları belirlemeleri ve "herhangi bir demokratik veya müzakereci denetim olmaksızın toplumsal ölçekte değer yargıları" yapmaları beklendiğinde rahatsız edici bir konumda olduklarını söyledi.

Anthropic ayrıca, sıradan insanlara ait gibi görünen yüzlerce sosyal medya hesabı oluşturan ve bir hafta boyunca aynı siyasi görüşü güçlendiren materyaller yayınlayan gruplar da buldu. Şirket, Rusya, İran, Türkiye ve Basra Körfezi, Güney Asya, Afrika ve Avrupa genelinden kaynaklanan dokuz benzer vakayı özetledi.

Sosyal medya şirketleri, gönderiler dolaşımda olduktan sonra platformlarındaki etki operasyonlarını tespit edebilse de, "operasyon hala inşa edilirken bunu Claude'da görebiliriz."

Anthropic bu raporu, araştırmacılarından biri...