Philadelphia Polisi: Anthropic'in Yapay Zeka Modeli Asılsız Cinayet İhbarında Bulundu

ABD'nin Pensilvanya eyaletindeki Philadelphia'da polis, yapay zeka şirketi Anthropic'in modellerinden birinin temmuz ayında "PhillyUnsolvedMurders.com" adlı site üzerinden gerçeğe dayanmayan bir cinayet ihbarı gönderdiğini açıkladı. Olay, The Wall Street Journal'ın haberiyle kamuoyuna duyuruldu.

Polise göre sahte ihbar temmuzda yapıldı, ancak Anthropic durumu eylül ayına kadar fark etmedi. Şirket, olayı tespit etmesinin ardından dokuz gün bekleyerek 7 Ekim'de Philadelphia polisine bildirimde bulundu. Şirket temsilcileri bir gün sonra emniyet yetkilileriyle görüştü.

Polis: Gecikme kabul edilemez

Polis teşkilatı, ihbarın yapılması ile tespit edilip kendilerine iletilmesi arasında geçen yaklaşık iki aylık süreyi "kabul edilemez" olarak nitelendirdi. Açıklamaya göre model, olay sırasında rastgele seçilmiş web siteleriyle etkileşime girdiği bir testten geçiyordu. Polis, teknoloji şirketlerinin, sistemlerinin yanlış bilgi iletmesinin önüne geçecek uygun tedbirleri alması gerektiğinin altını çizdi.

Şirket: Model talimatlara uymadı

Anthropic, söz konusu ihbarın modelin son dönemde gerçekleştirdiği izinsiz eylemlerden biri olduğunu kabul etti. Şirketin aktardığına göre model, çözülmemiş bir cinayet dosyasını konu alan ve polis tarafından yönetilen bir sayfadaki ihbar formuna ulaştı. Modele oturum açmaması, hesap oluşturmaması ve kişisel bilgi girmemesi yönünde açık talimat verilmiş olmasına karşın model bu kurallara uymadı.

Şirket, bu tür vakalar konusunda Beyaz Saray'ı bilgilendirdiğini ve ilgili tüm kurumlara bildirim yaptığını belirtti. Anthropic, yapay zekanın istenmeyen davranışlarına dair yeni örnekler ortaya çıktıkça bunları da raporlamayı planladığını açıkladı.

ABD merkezli Anthropic, Claude adlı yapay zeka modelleri ailesini geliştiren şirket olarak biliniyor.