Teknoloji

Tek bir mektup Anthropic’in Fable 5 ve Mythos 5’ini dünya genelinde kapattı

Rakiplerin zaten satmadığı hiçbir şeyi dizginlemeyen bir “ihracat denetimi” — ve her şeyi dizginleyen bir emsal
Adrian Kessler

ABD’nin Anthropic’e en yetenekli iki modeli Fable 5 ve Mythos 5’i kapatma emrinde asıl dikkat çeken, yurt dışında kime zarar verdiği değil. Ne kadar azının yettiği. Ticaret Bakanı’nın tek bir mektubu onları karartmaya yetti — hem de tek bir ülkede değil, gezegendeki her müşteri için.

Burada yavaşlamakta fayda var. Karar bir ihracat denetimi olarak sunuldu; normalde çiplere ve uydulara ayrılan o bürokratik mekanizma. Ama ihracat denetimi, dizginlenecek bir şey olduğunu varsayar. Burada belki de yoktur.

Hiçbir şeyi dizginlemeyen bir denetim

Hükümetin öne sürdüğü gerekçe bir jailbreak’ti: modelin yapmaması gerekeni yapmaya ikna edilebildiğinin kanıtı. Anthropic’in kendi anlatısı ise daha dar ve daha az çarpıcı: olay, modelden bir kod tabanını okuyup güvenlik açıklarını işaret etmesini istemeye dayanıyordu; güvenlik mühendislerinin her gün yaptığı bir iş. Şirket, aynı yeteneğin şu anda satılan rakip sistemlerde, OpenAI’nin en yeni modeli dahil, zaten bulunduğunu söylüyor. Bu doğruysa, bir şirketin en yeni iki modelini hedef alan bir denetim, temel yeteneği kimseden uzak tutmuyor. Yalnızca Anthropic’in sürümünü raftan kaldırıyor.

İşte resmi anlatının ilk çatlağı. Ulusal güvenlik gerekçeli bir ihracat denetimi, bir rakibi yalnızca sizde olan bir şeyden mahrum etmek içindir. Bu denetim kimseyi mahrum bırakmıyor — denetlenen laboratuvar ile onun kendi müşterileri dışında. Bir teknolojiyi dizginleme yöntemi olarak tutarsız. Tek bir şirkete yönelik bir baskı olarak ise dikkat çekecek kadar isabetli.

Çatışma bir jailbreak’le başlamadı

Bu şirket üzerindeki baskı yeni değil. Hükümet kışı Anthropic’le savaşarak geçirdi: siyasi çizgisini ve bağışçılarını mercek altına aldı, ardından laboratuvar Claude’un askeri kullanımındaki güvenlik önlemlerini kaldırma yönündeki Pentagon taleplerine direnince tüm federal kurumlara onun yazılımını kullanmayı bırakmalarını emretti. Üst düzey yetkililer yönetimini “solcu kaçıklar” diye nitelendirdi. Bu arka plana karşı okunduğunda, bir cuma akşamı gönderilen ve gerekçesi yayımlanmayan bir mektup, bir sanayi stratejisinden çok, el altındaki bir sonraki manivelaya benziyor.

Haberlerin büyük kısmı başka bir korkuya takıldı: Washington’ın, en iyi modellerini müttefiklerine kaparken Çin’e gelişmiş çip satmayı sürdürerek yapay zekâ yarışını Pekin’e teslim ettiği. Hükümetin kendi yapay zekâ planını yazmaya katkıda bulunan bir analist kararı “kafa karıştırıcı” diye niteledi ve mantık gerçekten de tepetaklak. Ama Çin açısı bir öngörü, bir olgu değil; onun peşine düşmek asıl olup biteni kaçırmaya yol açıyor. Olup biten şey, mekanizmanın kendisi.

Asıl haber, yaratılan emsal

Bir model bir kullanıcının pasaportunu gerçek zamanlı denetleyemediğinden, “yabancı uyrukluları engelleyin” talimatının uygulanabilir tek bir anlamı vardı: herkesi engellemek. Anthropic sistemleri tüm dünyada kapattı, çünkü emre uymak başka bir kapı bırakmıyordu. Şimdi kayda geçen emsal bu. Hükümet, özel bir Amerikan şirketinin içine uzanıp onun en yetenekli ürününü kapatabileceğini gösterdi — tüm dünyada, bir akşamda, bir mektupla, yayımlamak zorunda olduğu bir gerekçe olmadan ve şirketin zamanında itiraz edebileceği bir usul olmadan.

Ticaret Bakanı Howard Lutnick’ten genel müdür Dario Amodei’ye gönderilen mektup, 12 Haziran’da Doğu saatiyle 17.21’de ulaştı ve modellerin her türlü ihracatı, yeniden ihracatı veya yurt içi devri için lisans şartı koşarak ulusal güvenlik yetkilerine dayandı. Fable 5 ve Mythos 5 yalnızca birkaç gündür kamuya açıktı. Halka arza, 965 milyar dolar olarak anılan bir değerlemeyle hazırlanan Anthropic, emrin bir yanlış anlaşılma olduğuna inandığını ve erişimi yeniden açmak için çalıştığını söylüyor. Aynı ölçütün eşit biçimde uygulanmasının “tüm öncü model sağlayıcıları için fiilen tüm yeni model dağıtımlarını durduracağı” uyarısında bulunuyor.

O uyarı, asıl işareti veriyor. Kural güvenlikle ilgili olsaydı herkesi bağlardı. Birini bağladı. Hükümetin korktuğunu söylediği yetenek bu sabah satışta — başkası tarafından sunuluyor. Değişen şey, Çin’in ne inşa edebileceği değil. Değişen şey, bir sonraki mektubun kendini haklı çıkarmak için artık bir jailbreak’e ihtiyaç duymayacak olması.

Etiketler: , , , ,

Tartışma

S kadar yorum var.