Anthropic: Yapay Zeka Modellerimiz Biyolojik Silah Çalışmalarında Kullanılmaya Çalışıldı

Yapay zeka şirketi Anthropic, kendi modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanıldığı vakaların tespit edildiğini duyurdu. Şirket, teknolojinin kötüye kullanımının saptanmasını ve buna karşı alınan önlemleri konu alan bir rapor yayımladı.

Raporda, yapay zeka modellerinin taşıdığı en önemli risklerden biri "biyolojik kötüye kullanım" olarak tanımlandı. Modellerin, mevcut patojenlerin daha tehlikeli hale getirilmesine ya da yeni patojenlerin üretilmesine yardımcı olabilecek bir yetenek düzeyine ulaşabileceğine ilişkin endişelerin uzun süredir tartışıldığı belirtildi.

Rapordaki iki örnek

Şirket, modellerinin bu yönde kullanılmaya çalışıldığı somut vakalardan örnekler paylaştı. Bunlardan birinde, hizmetin sunulmadığı bir bölgede faaliyet gösteren bir araştırmacının Claude'u kuş gribinin memelilere adaptasyonuna yönelik deneyleri planlamak amacıyla kullanmaya çalıştığı aktarıldı. İkinci örnekte ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.

Anthropic, bu vakaların tespit edilmesinin ardından ilgili kullanıcıların hesaplarını engellediğini, benzer faaliyetlerin ileride daha etkili biçimde önlenmesi için adımlar attığını bildirdi.

Raporda, örneklerde adı geçen kişilerin "kötü niyetli" olduğunun ileri sürülmediği, yalnızca tedbirli davranıldığı vurgulandı. Şirket, paylaşımın amacını şöyle açıkladı:

Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz.

Rapor, yapay zeka güvenliğine ilişkin tartışmaların şirket içinde de sürdüğü bir dönemde geldi. Anthropic çalışanı Jacob Coxon, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak istifa ettiğini duyurmuş, bu paylaşım milyonlarca kez görüntülenerek geniş yankı uyandırmıştı.