Anthropic, Claude tarafından oluşturulan metinlerde kullanılacak filigran sisteminin ayrıntılarını açıkladı. Okuyucuların doğrudan fark edemeyeceği sistemin, yapay zekânın kelime seçimlerinde oluşturduğu belirli örüntüler üzerinden çalışacağı ifade edildi. Şirket ayrıca küçük düzenlemelerin filigranı tamamen ortadan kaldırmasının beklenmediğini, metnin baştan sona yeniden yazılması durumunda ise işaretin kaybolabileceğini bildirdi.
Yapay zekâ tarafından oluşturulan içeriklerin nasıl ayırt edileceğine ilişkin tartışmalar sürerken Anthropic’in Claude için hazırladığı yeni filigran sistemi teknoloji dünyasında gündeme geldi. Şirket, yayımladığı açıklamayla sistemin faaliyet mantığından düzenlenmiş içeriklere ve kod çıktılarındaki uygulamaya kadar merak edilen ayrıntıları paylaştı.
Anthropic, Claude’un Filigran Sistemini Neden Kullanacak?
Anthropic’in filigran kararı, Avrupa Birliği Yapay Zekâ Yasası’nın Şeffaflık Kodu’na uyum faaliyetları kapsamında gündeme geldi. Düzenlemeler, yapay zekâ tarafından üretilen belirli içeriklerin teknik yöntemlerle tanımlanabilmesine yönelik sistemlerin kullanılmasını öngörüyor.
Şirketin duyurusunun ardından konu sosyal medya platformlarında da tartışılmaya başladı. TechCrunch’ın aktardığına göre Reddit’teki bazı kullanıcılar uygulamayı eleştirirken, bir kullanıcı “Bunu istememenizin tek nedeni insanlara yalan söylemek olur” yorumunda ele geçirildi. Business Insider ise X’te bazı kullanıcıların kararın ardından Claude aboneliklerini iptal edeceklerini belirten paylaşımlar yaptığını aktardı.
Claude’un Filigranı Okuyucular Tarafından Görülebilecek mi?
Anthropic’in açıklamasına göre filigran, metne görülebilir bir simge, kod veya ifade eklenmesi şeklinde faaliyetyacak. Bunun yerine Claude’un metin üretirken gerçekleştirdiği düşük riskli kelime tercihleri belirli bir istatistiksel örüntü oluşturacak.
Şirketin örneğinde modelin hava durumunu anlatırken İngilizcede benzer anlamlara sahip “overcast” ve “grey” gibi kelimeler arasından yaptığı seçimlerin bu sistemde kullanılabileceği ifade edildi.
Ortaya çıkan örüntünün normal bir okuyucu tarafından fark edilmesi beklenmiyor. Ancak filigranı kodlamak için kullanılan anahtara sahip sistemlerin metindeki örüntüyü analiz ederek işaretin bulunup bulunmadığını tespit edebilmesi hedefleniyor.
Filigran Claude’un Yazdığı Metnin Kalitesini Etkileyecek mi?
Anthropic, filigran uygulamasının Claude’un ürettiği metinlerin kalitesini değiştirmeyeceğini belirtiyor. Şirkete göre kullanıcı açısından filigranlı ve filigransız bir metin arasında gözle görülür bir kalite farkı bulunmayacak.
Bunun temelinde, sistemin metnin anlamını değiştirecek müdahaleler yerine modelin zaten tercih edebileceği benzer kelime ve ifade seçenekleri arasındaki seçimlerden yararlanması bulunuyor.
Anthropic SynthID-Text Teknolojisini Kullanacak
Filigran sisteminin arkasındaki önemli ayrıntılardan biri de kullanılacak teknoloji oldu. Anthropic, Google DeepMind tarafından 2024’te duyurulan SynthID-Text yaklaşımından yararlanacağını açıkladı.
Şirket ayrıca filigranın tespit edilebilmesi amacıyla bir API yayımlamayı planladığını bildirdi. Böylece uygun araçlara sahip tarafların belirli bir metinde filigran bulunup bulunmadığını teknik olarak kontrol edebilmesi amaçlanıyor.
Yapay Zekâ Dedektörü ile Filigran Arasındaki Fark Ne?
Anthropic, yeni sistemin ulaşaneksel yapay zekâ metin tespit araçlarından farklı olduğunu özellikle vurguladı.
Bazı yapay zekâ dedektörleri, metindeki belirli anlatım kalıpları, sözcük tercihleri ve cümle yapılarını analiz ederek içeriğin yapay zekâ tarafından oluşturulmuş olma ihtimalini tahmin ediyor.
Anthropic’in örnek gösterdiği kalıplardan biri “Bu X değil, Y” biçimindeki cümle yapıları oldu. Filigran teknolojisinde ise yalnızca bu tür dilsel alışkanlıklara bakılmayacak; metin oluşturulurken bilinçli şekilde kodlanmış istatistiksel örüntünün bulunup bulunmadığı araştırılacak.
Claude’un Filigranı Metin Düzenlenince Kaybolacak mı?
Sistemin en fazla merak edilen konularından biri, Claude’un oluşturduğu metnin daha sonra değiştirilmesi durumunda ne olacağı oldu.
Anthropic’e göre küçük çaplı düzenlemelerin filigranı tamamen ortadan kaldırması beklenmiyor. Metindeki bazı kelimelerin değiştirilmesi veya sınırlı editoryal müdahaleler yapılması halinde filigranın tespit edilebilme ihtimali devam edebilir.
Buna karşılık şirket, metnin her kelimesinin değiştirilmesini içeren kapsamlı bir yeniden yazımın filigranı ortadan kaldırabileceğini belirtti. Anthropic, bu kadar kapsamlı biçimde yeniden oluşturulmuş bir içeriğin hâlâ ilk yapay zekâ çıktısıyla aynı metin olarak değerlendirilip değerlendirilemeyeceğinin ise ayrı bir tartışma konusu olduğuna dikkat çekti.
İnsan Tarafından Yazılan Metni Claude Düzenlerse Ne Olacak?
Claude yalnızca bir insan tarafından hazırlanmış metni düzelttiğinde durum farklılaşabilecek. Anthropic’e göre filigranın tespit edilip edilemeyeceği, metnin uzunluğu ve Claude’un içeriğe yaptığı müdahalenin kapsamına bağlı olacak.
Claude yalnızca birkaç yazım hatasını düzeltir veya küçük ifadeleri değiştirirse metnin büyük bölümü insan tarafından yazılmış olarak kalacak. Böyle bir senaryoda filigranın oluşturulabileceği yeterli miktarda yapay zekâ üretimi içerik bulunmayabilir.
Claude metni kapsamlı biçimde yeniden oluşturursa sistemin filigran bırakabileceği alanın da artması bekleniyor.
Claude Tarafından Yazılan Kodlara da Filigran Eklenecek mi?
Kod üretimi, sistemin uygulanmasının daha güç olduğu alanlardan biri olarak gösteriliyor. Doğal dilde aynı anlamı ifade etmek için çok sayıda kelime ve cümle alternatifi bulunurken, çalışan bir bilgisayar kodunda modelin tercih özgürlüğü daha sınırlı.
Claude’un kod üretirken öncelikle işlevsel ve doğru sonuç vermesi gerektiğinden, filigran oluşturabilecek eş değer seçeneklerin doğal dile kıyasla daha az olduğu belirtiliyor. Bu nedenle kod çıktılarındaki filigran uygulamasının metinlere göre daha sınırlı olması bekleniyor.
Claude Filigranı Yapay Zekâ İçeriklerinde Yeni Bir Dönem Başlatabilir
Anthropic’in açıkladığı sistem, yapay zekâ tarafından oluşturulan içeriklerin kaynağının belirlenmesine yönelik faaliyetlarda dikkat çeken yeni adımlardan biri oldu. Sistem doğrudan okuyucuya görünür bir işaret sunmak yerine, metnin üretim aşamasındaki kelime tercihleri içerisine tespit edilebilir bir örüntü yerleştirmeyi hedefliyor.
Uygulamanın gerçek dünyadaki başarısı ise filigranın farklı uzunluktaki metinlerde ne ölçüde tespit edilebildiği, düzenlemelere karşı ne kadar dayanıklı olduğu ve yaygın kullanımda nasıl sonuç verdiğiyle daha net ortaya çıkacak.
