OpenAI, AB'de ChatGPT ve Codex Metinlerine Görünmez Filigran Eklemeye Hazırlanıyor

OpenAI, ChatGPT ve Codex'in ürettiği metinlere gözle görülmeyen ama makinelerin okuyabildiği bir filigran eklemeye hazırlanıyor. Şirket, kendi geliştirdiği textGrain sistemini önümüzdeki haftalarda Avrupa Birliği'nde, tüm abonelik planlarındaki uygun kullanıcılar için devreye alacak. Bu adım, AB Yapay Zeka Yasası'nın şeffaflık kurallarına uyum için atılıyor.

Filigran AB'deki uygun ChatGPT ve Codex çıktılarında varsayılan olarak açık olacak, ancak şirket uygulamayı başlangıçta dünya genelinde varsayılan hale getirmeyecek.

Kelime seçimlerine gizlenen sinyal

textGrain, yapay zeka modelinin kelime tercihlerine istatistiksel bir sinyal yerleştiriyor. OpenAI'nin ayrı olarak geliştirdiği bir algılama aracı da bu sinyali arayarak metinde şirketin filigranının bulunup bulunmadığını belirliyor. OpenAI, sistemin Google'ın SynthID for Text gibi başka işaretleme yöntemlerine benzer ya da onlardan daha iyi sonuç verdiğini söylüyor.

Şirket buna karşın sistemin her durumda güvenilir olmadığı uyarısında bulunuyor. Kısa metinlerde tespit başarısı yaklaşık yüzde 80'de kalıyor; matematik içeren içeriklerde de filigranı bulmak zorlaşıyor. Algılama aracı bazı yapay zeka metinlerinde işareti gözden kaçırabiliyor ya da filigran taşımayan bir metni hatalı değerlendirebiliyor.

Metin üzerinde yapılan değişiklikler de başarıyı belirgin biçimde düşürüyor. OpenAI'nin 400 kelimelik metin parçalarıyla yaptığı testte, kelimelerin yüzde 10'unun eş anlamlılarıyla değiştirilmesi tespit oranını yaklaşık yüzde 92'den yüzde 66'ya indirdi. Değiştirilen kelime oranı yüzde 25'e çıktığında tespit oranı yüzde 17'ye geriledi. Çeviri ve yeniden yazma gibi işlemler de filigranın bulunmasını güçleştiriyor.

Filigranın kanıtlamadıkları

OpenAI, filigran bulunamamasının bir metnin yapay zeka ürünü olmadığına kesin kanıt sayılmayacağını vurguluyor. Metin çok kısa olabilir, sonradan düzenlenmiş ya da çevrilmiş olabilir veya filigranı desteklemeyen başka bir yapay zeka modeliyle üretilmiş olabilir. Şirkete göre sistem; metnin doğruluğunu, kime ait olduğunu, içindeki insan katkısının oranını ya da bir insan tarafından yazılıp yazılmadığını da göstermiyor.

Algılama aracına sınırlı erişim

Şirket, algılama aracını şimdilik genel kullanıma açmayacak. Onaylı araştırmacılar ve uzman kuruluşlar erişim için başvurabilecek; başvurular ilk aşamada tek tek değerlendirilecek. Araç yalnızca OpenAI filigranının varlığını bildirecek, kullanıcıyı tanımlamayacak, istemleri ya da konuşma geçmişini açığa çıkarmayacak. OpenAI'nin teknolojiyi ileride açık kaynak haline getirerek başkalarının da üzerinde çalışmasına imkân tanımayı planladığı bildirildi.

Dünya genelindeki API müşterileri ise duyuruyla birlikte desteklenen modellerde filigranlı metin üretimini isteğe bağlı olarak açabiliyor; bu seçenek API tarafında varsayılan olarak kapalı. OpenAI, bulut hizmeti ortakları üzerinden sunulan modellerinin çıktılarında da filigran kullanımını önümüzdeki haftalarda mümkün kılmayı hedefliyor. Şirket, hangi modellerin kapsama gireceğine dair ayrıntı paylaşmadı.

Yasal çerçeve

AB Yapay Zeka Yasası'nın 50. maddesi, üretken yapay zeka sağlayıcılarının ürettikleri metinleri makinelerin tanıyabileceği biçimde işaretlemesini şart koşuyor. Pazara yeni giren şirketlerin bu kurala hemen uyması gerekirken halihazırda faaliyet gösteren şirketlere geçiş süresi tanındı. OpenAI, Anthropic, Microsoft, Google ve Meta gibi şirketlerin 2 Aralık'a kadar bu yükümlülüklere uyum sağlaması gerekiyor.

Avrupa Birliği'nin Yapay Zeka Yasası, yapay zeka sistemlerini risk düzeylerine göre düzenleyen kapsamlı bir mevzuat olarak biliniyor. SynthID ise Google DeepMind tarafından geliştirilen bir filigranlama teknolojisi.