Anthropic, Claude’un ürettiği metinlere görünmez filigran ekliyor

Sistem, modelin seçtiği kelimeler üzerinden işleyecek ve doğrudan metne entegre olacak. Amaç, yapay zeka üretimi metinlerin tespit edilebilir hale gelmesi.

Anthropic, yeni Claude modelleri tarafından üretilen metinlere görünmez filigranlar ekleneceğini duyurdu. Görsellerde kullanılan piksel tabanlı filigranların aksine metin tarafındaki bu yöntem, modelin kelime seçimleri üzerinden çalışıyor ve doğrudan metne gömülüyor.

Metin filigranı teknik olarak zorlu bir alan: bir görselin piksellerine iz bırakmak görece kolayken, bir metnin anlamını bozmadan istatistiksel bir imza taşıması gerekiyor. Ayrıca metin kopyalanıp yeniden yazıldığında bu imzanın ne kadar dayanıklı kalacağı tartışmalı bir konu.

Adımın zamanlaması dikkat çekici. AB’nin Yapay Zeka Yasası kapsamında 2 Ağustos’ta yürürlüğe giren şeffaflık kuralları, yapay zeka üretimi içeriklere makine tarafından okunabilir işaretler eklenmesini zorunlu kılıyor. Metin filigranı, bu yükümlülüğü karşılamaya yönelik teknik çözümlerden biri.

Benzer yaklaşımlar sektörde yaygınlaşıyor. Google’ın SynthID aracının 100 milyardan fazla görseli ve 60 bin yıllık ses içeriğini işaretlemek için kullanıldığı bildiriliyor. Müzik tarafında ise Suno, ürettiği şarkılara ses filigranı ekleyeceğini duyurmuştu.

Kaynaklar: Anthropic duyurusu, Google SynthID verileri; DonanımHaber, Techinside.