OpenAI, ChatGPT’nin ürettiği metinlere neden filigran eklemeyeceğini uzun süre kamuoyu önünde anlattı. Şimdi ise yine de ekliyor. Şirketi kararından döndüren teknoloji olmadı. Son tarihi ve para cezası bulunan bir yasa oldu.

Şirket, ChatGPT ve Codex’in Avrupa Birliği’ndeki kullanıcılara ürettiği metinlerin, önümüzdeki haftalarda tüm planlarda kademeli olarak devreye alınacak görünmez bir istatistiksel imza taşıyacağını söylüyor. Dünyanın geri kalanında ise aynı işaret yalnızca geliştirici API’sinde bir ayar olarak bulunuyor ve varsayılan olarak kapalı geliyor. OpenAI’nin çizdiği sınır, kendisine ceza kesme yetkisi olan yargı alanının sınırını izliyor.

ChatGPT filigranı nasıl çalışıyor?

textGrain adı verilen yöntem, çıktının üzerine görünür bir şey damgalamıyor. Bir cümleye sonraki birkaç kelimeden herhangi biri aşağı yukarı aynı ölçüde uyduğunda, gizli bir anahtar bu kelimelerden birinin seçilmesini teşvik ediyor. Tek bir yönlendirme bir anlam taşımaz. Ancak bir metin boyunca yüzlerce kez tekrarlandığında, anahtarı elinde bulunduran bir algılayıcının sınayabileceği bir örüntü ortaya çıkıyor. Sinyal doğrudan kelimelerin içinde bulunduğu için kopyalayıp yapıştırınca da kaybolmuyor. OpenAI, teknik raporu University of Pennsylvania ve Yale’den araştırmacılarla birlikte hazırladı. Rapora göre kalite üzerinde kayda değer bir maliyet yok: Artificial Analysis Intelligence Index’te filigranlı çıktı 49,76 puan alırken işaretsiz çıktı 49,57 puanda kaldı.

OpenAI’nin zaten elinde olan araç

Bunların hiçbiri OpenAI için yeni değil. Wall Street Journal, 2024 yazında şirketin elinde, kurum içi belgelerde yüzde 99,9 etkili olarak değerlendirilen çalışan bir metin filigranı bulunduğunu, ancak bunu kullanıma sunmadığını yazmıştı. OpenAI, “bilinçli bir yaklaşım” benimsediğini söylemişti. Öne sürdüğü gerekçeler hem teknik hem de toplumsaldı: Yöntem, başka bir modelle çeviri ya da yeniden ifade etme yoluyla “kötü niyetli kişiler tarafından kolayca aşılabilirdi”; ayrıca İngilizceyi ana dili olarak konuşmayanların yazı yazarken yapay zekâdan yardım almasını damgalayabilirdi. TechCrunch, bu haftaki duyuruyu aktarırken o döneme ait üçüncü bir gerekçeyi de hatırlatıyor: Kullanıcıların filigran kullanmayan rakiplere yönelmesi endişesi.

Yeni uygulama, geçmişte dile getirilen bu kaygılar arasından OpenAI’nin gerçekte hangilerini çözüme kavuşturduğunu gösteriyor. Şirketin kendi verilerine göre filigranı aşma sorunu hâlâ ortada. Ticari kaygı ise tek bir pazara hapsedilmiş durumda.

OpenAI’nin rakamları, eleştirmenlerin değil

Koşullar elverişliyken ve yanlış pozitif oranı yüzde 1 olduğunda algılayıcı, 200 token uzunluğundaki filigranlı metinlerin yaklaşık yüzde 80’ini, 400 token uzunluğundakilerin ise yaklaşık yüzde 95’ini yakalıyor. Kelimelerin yüzde 10’unu eş anlamlılarıyla değiştirince tespit oranı yüzde 92’den yüzde 66’ya düşüyor. Dörtte birini değiştirmekse oranı yüzde 17’ye indiriyor. Kısa yanıtları, matematik metinlerini ve çevirileri yakalamak çok zor. OpenAI de ideal koşullardaki yüksek performansın “günlük kullanımda güvenilir tespiti garanti etmediği” uyarısında bulunuyor ve filigranın bulunmamasının metni bir insanın yazladığını kanıtlamadığını belirtiyor. Şirket ayrıca işaretin kullanıcıyı tanımlamadığını söylüyor.

Bu da textGrain’i, metni düşünmeden kopyalayıp yapıştıranlara karşı işe yarar; düzenleme yapmak için bir dakikasını ayırmaya istekli kişilere karşıysa zayıf bir sinyal hâline getiriyor. Pek çok dilde okunan ve yazılan bir birlik söz konusu olduğunda, çevirilerdeki bu açık önemsiz bir dipnot değil.

Neden AB, neden şimdi?

Yasal dayanak, şeffaflık kuralları 2 Ağustos’ta yürürlüğe giren Yapay Zekâ Yasası’nın 50. maddesi. Madde, üretken sistem sağlayıcılarının sentetik metin, ses, görsel ve videoları makinelerce okunabilir biçimde işaretlemesini ve bir tespit mekanizması sunmasını şart koşuyor. ChatGPT’nin de aralarında bulunduğu, bu tarihten önce piyasaya sürülmüş sistemlerin uyum sağlamak için 2 Aralık’a kadar süresi var. Hukuk firması Cooley’nin analizine göre ihlaller, 15 milyon avroya ya da küresel yıllık cironun yüzde 3’üne (hangisi daha yüksekse) varan para cezalarına yol açabilir.

İki ayrıntı, uygulamanın bir ilkeden çok yasal yükümlülüğü ne kadar yakından izlediğini gösteriyor. İlki, algılayıcı. Yasa bir tespit mekanizması istiyor; OpenAI de böyle bir araç geliştirdi, ancak bunu yalnızca başvuru yapması gereken onaylı araştırmacılarla ve uzman kuruluşlarla paylaştı. The Decoder’ın aktardığına göre şirket, sonuçların “sorumlu biçimde yorumlanabileceğine inandığında” erişimi genişleteceğini söylüyor, ancak herhangi bir takvim vermiyor. Lizbon ya da Varşova’daki bir öğretmen veya editör, şüpheli bulduğu bir metni bugün kontrol edemiyor.

İkinci ayrıntı ise coğrafi kapsam. Ağustos ayında Claude’un metinlerine filigran eklemeye başlayan Anthropic, kullanıcıların modellerine nasıl eriştiğine bakmaksızın bu işareti küresel ölçekte uyguluyor ve bu nedenle bazı kullanıcılardan tepki aldı. OpenAI ise tersini seçti: Düzenleyici kurumun para cezası kesebildiği yerlerde varsayılan olarak açık, başka yerlerde geliştiricilerin tercihine bağlı ve ilk aşamada dünya genelinde varsayılan değil. Kullanıcıların filigransız rakiplere kayması yönündeki eski endişe ortadan kalkmış olsaydı, haritayı bu şekilde çizmek için pek neden kalmazdı.

Sırada ne var?

OpenAI, textGrain’i açık kaynak olarak yayımlayacağını ve Google’ın SynthID’si gibi yaklaşımlara denk ya da onlardan daha iyi sonuç verdiğini söylüyor. Kod yayımlandığında her iki iddia da sınanabilir hâle gelecek. Brüksel’in önündeki soru daha dar kapsamlı: Hafif bir düzenlemeyle silinebilen ve neredeyse hiç kimsenin çalıştıramadığı bir algılayıcıyla okunabilen bir işaret, diğer sistemlerin yapay zekâ metinlerini tanıyabilmesini amaçlayan bir kuralı karşılıyor mu?

2 Aralık’tan sonra, OpenAI’nin imzasını taşıyan sözcükleri varsayılan olarak üretecek tek ChatGPT kullanıcıları, düzenleyici kurumu şirkete ceza kesebilenler olacak.

Etiketler: OpenAI, chatgpt, Codex, AB Yapay Zekâ Yasası, filigranlar