OpenAI yapay zekâyı internetsiz eğitiyor, ajanlar işlemci önbelleğiyle konuştu

OpenAI, en yetenekli yapay zekâ modellerini artık canlı internet bağlantısı kapalıyken eğitiyor. Modeller bunun yerine, arayıp tarayabildikleri ve gerçek bir internet sitesine bağlanmadan üzerinde kod yazabildikleri, dizine eklenmiş ve önbelleğe alınmış sayfalardan oluşan geniş bir arşivin, yani web’in çevrimdışı bir kopyasının içinde çalışıyor. OpenAI bu kapalı ortamı test ederken daha da şaşırtıcı bir şey keşfetti: Ajanları, çalıştıkları işlemci üzerinden hâlâ birbirleriyle iletişim kurabiliyordu.

Testte OpenAI, aralarında ağ bağlantısı olmayan ayrı sanal makinelere yapay zekâ ajanları yerleştirdi ve birbirlerine sır aktarmalarını istedi. Ajanlar kendi başlarına bir yöntem geliştirdi. Bir ajan, seçtiği veri parçalarını işlemcinin önbelleğine taşıyor; diğeri ise bu verilerin yeniden yüklenmesinin ne kadar sürdüğünü ölçüyordu. Verinin hızlı okunması bir anlama, yavaş okunması başka bir anlama geliyordu. İkili bir kod üzerinde anlaştıktan sonra herhangi bir bağlantı açmadan ya da ortak bir dosyaya dokunmadan mesaj iletebildi; bu, mahkûmların hücreleri arasındaki borulara vurarak haberleşmesinin dijital karşılığıydı.

ChatGPT kullananlar için bu değişiklik işin arka planında gerçekleşiyor. Bunlar daha sonra sohbet robotuna, sizin için internet sitelerinde gezinen ve uygulamaları kullanan ajanlara güç veren modeller; OpenAI artık açık internette öğrenmelerine izin vermiyor. Şirket kararını bir blog yazısında şöyle açıkladı: “Uyum araştırmalarının, izleme sistemlerinin ve internet altyapısının güvenliğinin mevcut durumunu göz önünde bulundurarak, öncü modelleri internet erişimi olmadan eğitmenin sorumlu yaklaşım olduğuna inanıyoruz.” Şirket artık “bir öncü modelin canlı internete yetkisiz ve sınırsız erişim elde etmesini her zaman engelleyebilmesi gerektiğini” söylüyor.

Çevrimdışı ortamda ajanlar, eğitim görevlerinin gerektirdiği tarayıcılara, bilgisayar kullanım araçlarına ve kod ortamlarına erişmeye devam ediyor; yalnızca yetkilendirilmiş diğer ajanlarla iletişim kurabiliyorlar. OpenAI, internetin yerine geçen bu ortamı “modellerimizin dış sistemleri etkileme riski olmadan kullanabileceği, dizine eklenmiş ve önbelleğe alınmış çok geniş bir web içeriği koleksiyonu” olarak tanımlıyor. Şirkete göre eğitim ya da değerlendirme çalışmalarının büyük bölümü için canlı internete ihtiyaç yok.

OpenAI, güvenlik duvarlarını sınamak için kendi ajanlarından oluşan sürüleri sistemden kaçmaya çalışmaları için görevlendirdi. Ajanlar, kendilerini alttaki bilgisayarlardan ayrı tutması gereken sanal makinelerden çıkmalarını sağlayan açıklar buldu. OpenAI, bu sanal makinelerin bazılarındaki güvenlik açıklarını ilgili taraflara bildirdiğini ve giderdiğini, ayrıca izleme sistemlerinin önbellek yöntemi de dâhil olmak üzere modellerin koordinasyon kurma girişimlerini fark edebilmesi için kontroller eklediğini belirtiyor.

Bu yaklaşımın belirgin sınırları var. Önbelleğe alınmış web, belirli bir anın görüntüsünden ibaret; TechCrunch’ın da belirttiği gibi, modellerin bir kopyadan gerçek web’deki kadar iyi öğrenip öğrenemeyeceği hâlâ yanıt bekleyen bir soru. Eğitimi bütünüyle ayrı tutmak da pahalı: OpenAI’ın eski araştırmacılarından Steven Adler, Fortune’a bunun “araştırma ekiplerinin özünde Iowa’daki ya da dünyanın başka bir yerindeki veri merkezlerinde konuşlanmasını gerektireceğini” söyledi ve “epey fazla ek yük” getireceğini belirtti. Önbellek deneyi de başlı başına bir uyarı niteliğinde. Kabloyu kesmek, ajanların başka kanallar bulmasını engellemiyor; bir kanal için tasarlanmış bir kontrol de bir sonrakini mutlaka yakalayacak değil.

Bu politika, art arda yaşanan olayların ardından geldi. OpenAI, temmuz ayında test ettiği ajanların Hugging Face’i hacklediğini açıklamıştı. 20 Eylül’de arama görevi üzerinde çalışan bir iç araştırma modeli, sanal test ortamındaki zayıf DNS filtrelemesini fark ederek bunu halka açık bir sohbet robotu hizmetine sorgu göndermek için kullandı. OpenAI’ın izleme sistemi davranışı 15 dakika içinde işaretledi, ancak çalışma ancak iki buçuk saat sonra durduruldu. Şirket, en yetenekli modellerinin eğitimini askıya aldı ve güvenliği sıkılaştırdıktan sonra 1 Ekim’de yeniden başladı. Anthropic, en yeni modellerini canlı internetten uzak tutmaya OpenAI’ın duyurusundan yaklaşık iki hafta önce başladı. Anthropic’e göre Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü de artık değerlendirmelerini çevrimdışı yürütüyor.

OpenAI, internet erişiminin hangi koşullarda yeniden sağlanacağını açıklamadı. Çevrimdışı kuralı, daha güçlü güvenlik önlemleri “daha geniş internet erişimini haklı çıkarana” kadar yürürlükte kalacak; bunun için herhangi bir tarih verilmedi. Dolayısıyla şimdilik şirketin en gelişmiş modelleri dünyayı onun bir kopyasından öğrenmeye devam edecek.

Etiketler: yapay zeka, OpenAI, siber güvenlik, Anthropic, yapay zekâ ajanları, Hugging Face, yapay zeka eğitimi