Teknoloji

Anthropic, kendini geliştiren yapay zekâ için güvenlik eşiğini aştı

Adrian Kessler
Bizi Google'a ekleyin

Anthropic, yapay zekânın artık kendi araştırmalarını şirketin kendi belirlediği bir sınırı aşacak ölçüde hızlandırdığı sonucuna resmen vardı. Claude’un geliştiricisi, değiştirilmiş halka arz izahnamesinde, modellerinin ne ölçüde güvenlik ve denetime ihtiyaç duyacağını belirleyen iç kurallar bütünü Responsible Scaling Policy’deki yapay zekâ araştırma ve geliştirme kapasitesi eşiğine ulaştığını söylüyor. Politikada bu eşik, yapay zekâ sistemlerinin daha gelişmiş yapay zekâlar geliştirme çalışmalarını hızlandırmaya başladığı nokta, yani özyinelemeli öz gelişimin başlangıcı olarak tanımlanıyor.

Bu tespiti sıra dışı kılan, hangi verilere dayanmadığı. Anthropic, sonuca “mevcut modellerde gözlemlediklerimize değil, gelecekteki modellerden beklentilerimize ve genel ilerleme hızımıza dayanarak” vardığını yazıyor. Satışta olan hiçbir Claude modelinin bu sınırı aştığı gösterilmiş değil. Şirket kendi tahminine göre harekete geçiyor ve hisseleri işlem görmeye başlamadan önce bunu yatırımcılara bildiriyor.

Şirketin işaret ettiği kanıtlar kendi içinden geliyor. İzahnameye göre Claude, yakın tarihli bir ayda Anthropic’in kod tabanına yapılan katkıların yüzde 90’ından fazlasını yazdı; her mühendisin günde ürettiği kod miktarı ise 45 kattan fazla arttı. Anthropic ayrıca modellerinin “kodumuzun büyük ve giderek artan bir bölümünü yazdığını ve güvenlik araştırmalarımız da dâhil olmak üzere araştırmalarımızı giderek daha fazla yürüttüğünü” belirtiyor.

Politika, bu eşiğin aşılması için iki ayrı ölçüt belirliyor. Bunlardan ilki, Anthropic’in araştırma bilimcileri ve mühendislerinden oluşan kadronun tamamının yerini rekabetçi bir maliyetle alabilecek bir model. İkincisi ise yapay zekâdaki ilerlemenin “dramatik biçimde hızlanması”; politika bunu, makul biçimde otomatikleştirilmiş araştırmaların yol açabileceği, yaklaşık iki yıllık ilerlemenin bir yıla sığması olarak tanımlıyor. İkinci ölçüt, şirketin böyle bir sıçramayı “gözlemlemesi ya da beklemesi” durumunda karşılanmış sayıldığından, eşiği tetiklemek için bir tahmin yeterli.

Bu sınırın aşılması, Anthropic’i daha kapsamlı koruma önlemleri almaya bağlıyor. Politika, dünyanın en iyi kaynaklara sahip saldırganlarına karşı “çığır açıcı” güvenlik projeleri yürütülmesini ve insan ya da makine kaynaklı, içeriden gelebilecek tehditler de dâhil olmak üzere kritik yapay zekâ geliştirme faaliyetlerinin tamamının kaydedilip tehditlere karşı yapay zekâ tarafından analiz edildiği, “her şeyin gözetim altında olduğu” bir düzen kurulmasını öngörüyor. Şirketin iç kırmızı ekip çalışması da hata ödül programlarındaki tüm dış araştırmacıların toplamından daha fazla jailbreak bulmalı. İzahnamede, model ağırlıklarının çalınmasına karşı korumaları sıkılaştırmak amacıyla yeni bir öncü modelin ön eğitimine bir aydan uzun süre ara verildiği belirtiliyor. Claude araştırma çalışmalarının daha fazlasını üstlendikçe, bazı araştırma kararlarının insan onayına bağlanmasını gerektirecek kuralların da değerlendirildiği aktarılıyor.

Claude’u işte ya da Claude Code’da kullananlar açısından bunun pratik sonucu, yeni sürümlerin daha yavaş yayımlanması olabilir. Halka arz belgeleriyle birlikte yayımlanan kurucuların mektubunda, Anthropic’in “sistemlerimizi daha güvenli kılmak için, bunun bizi rekabette dezavantajlı duruma düşürmesi pahasına da olsa, zaman zaman mümkün olandan daha yavaş ilerlemeyi seçebileceği” belirtiliyor. Bugün uygulamalarda herhangi bir değişiklik yok.

Bu tespit, Anthropic’in kendi yazdığı ve değiştirebileceği gönüllü bir politika kapsamında yaptığı bir öz değerlendirme; herhangi bir bağımsız denetçi tarafından doğrulanmış değil. Politika, eşiğin “uygulamaya dökülmesinin zor olduğunu kanıtladığını” kabul ediyor. İzahnamede de kanıtların önemli bölümünün gecikmeli göstergelerden geldiği, dolayısıyla gerçek bir hızlanmanın ancak yaşandıktan sonra fark edilebileceği belirtiliyor. İzahnamelerdeki risk açıklamaları şirketleri gelecekte açılabilecek davalara karşı korumak amacıyla da hazırlanıyor. Gizmodo’nun aktardığına göre aynı belgenin önceki bir sürümünde Anthropic’in ölçütleri “yakın zamanda karşılayabileceği” yazıyordu.

Anthropic, dayanak oluşturan verileri incelemeyi sürdürdüğünü ve eşiğin karşılanmasının ne anlama geldiğine ilişkin yeni raporlar yayımlayacağını söylüyor. Hisselerin 18 Kasım’da fiyatlandırılması, 19 Kasım’da ise Nasdaq’ta ANT koduyla işlem görmeye başlaması bekleniyor. Hisse başına 70 ila 78 dolar aralığında bir fiyat önerildi. Şimdilik bu sınırın aşıldığının tek kanıtı, Anthropic’in kendi tahmini.

Etiketler: , , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.