OpenAI CEO’su Sam Altman yapay zekâ için üç son çizdi, ikisi 2023’ten kalma

OpenAI Üst Yöneticisi Sam Altman, süper zekâ yarışının nasıl sonuçlanabileceğine dair çalışanlarına bir yol haritası sundu. Burada dikkat çeken en önemli nokta ise önerilerin ne kadar azının yeni olması. Çalışanlarına anlattığı üç olası senaryodan ikisi, şirketinin yıllar önce yazılı olarak ortaya koyduğu fikirlere oldukça yakın. Ancak bu fikirlerden hiçbiri hayata geçirilmedi. Manşetlere taşınan üçüncü senaryoyu ise yalnızca reddetmek için gündeme getirdi.

İsimleri bir kenara bırakırsak her seçenek aynı soruya yanıt arıyor: Öncü modellerin çalıştığı bilgi işlem gücünü kim kontrol edecek? Altman’ın basına yansıyan sözleri, bu sorunun neden sürekli ileri bir tarihe ertelendiğini de açıklıyor.

Sam Altman, OpenAI çalışanlarına yapay zekânın sonunu nasıl anlattı?

Şirket içindeki sunumu ilk olarak, konuyu bilen kişilere dayandırarak The Information haberleştirdi; ardından The Decoder, Forbes ve Latin Times da konuyu ele aldı. Haber, anonim kaynakların aktardıklarına dayanıyor. İlk seçenek, öncü yapay zekâ laboratuvarlarında güvenlik standartlarını uygulayacak, Uluslararası Atom Enerjisi Ajansı’nı örnek alan uluslararası bir kuruluş: sistemleri denetlemek, bağımsız incelemeler istemek, bilgi işlem gücü ve enerji kullanımını izlemek. The Information’a konuşan iki kişi, Altman’ın bu öneriye destek veriyor gibi göründüğünü söyledi.

Altman’ın “Demis planı” adını verdiği ikinci seçenek, yaklaşık on yıl önce yapay zekâ için CERN benzeri bir kurum fikrini ortaya atan Google DeepMind’ın kurucu ortağı Demis Hassabis’ten esinleniyor. Altman’ın tasavvurunda önde gelen laboratuvarlar tek bir kuruluşta birleşiyor ya da onun çatısı altında çalışıyor; bu kuruluş da iş birliği yapan ülkelere modeller sağlıyor.

Üçüncü seçenek, adını yapay zekâ güvenliği teorisyeni Eliezer Yudkowsky’den alan “Eliezer planı”. Bir geliştirici, kendi kendini geliştiren yapay zekâya ilk ulaşır ve ardından gelen ekonomik gücü kullanarak tüm rakiplerini bilgi işlem gücünden mahrum bırakır; çok konuşulan ifadeyle, “herkesin GPU’larını eritir”. Altman’ın, “Açıkçası bunun korkunç olduğunu düşünüyorum,” dediği ve öneriyi “eksiksiz olması için” listeye eklediğini belirttiği aktarılıyor.

OpenAI bu seçeneklerin çoğunu 2023’te zaten yazmıştı

Denetim kurumu, listedeki en eski öneri. Altman, OpenAI Başkanı Greg Brockman ve dönemin baş bilim insanı Ilya Sutskever’in imzasını taşıyan bir yazıda şirket, dünyanın “sonunda süper zekâ çalışmaları için IAEA benzeri bir şeye ihtiyaç duyacağını” savunmuştu. Bu kurumun “sistemleri denetleyebilmesi, incelemeler talep edebilmesi” ve belirli bir yetenek ya da bilgi işlem gücü eşiğinin üzerindeki kullanımları kısıtlayabilmesi gerektiğini belirtmişti.

Aynı yazıda iki seçenek daha taslağa dökülmüştü. Şirkete göre büyük hükümetler, “mevcut çalışmaların birçoğunun parçası olacağı bir proje oluşturabilir”; bu, Altman’ın şimdi Hassabis’e atfettiği birleşme fikrine oldukça yakın. Ya da sektör, “öncü yapay zekâ yeteneklerinin gelişme hızının yılda belirli bir oranla sınırlandırılması” konusunda “hep birlikte anlaşabilirdi”.

Bu son öneri, bir hız sınırı demek. The Decoder’a göre Altman, şirket içinde yapay zekâ geliştirme hızına sınır koymaya yönelik uygulanabilir önerilerin çok az olmasından yakındı. Oysa şirketi bu önerilerden birini yayımlamıştı. Ancak bunu uygulayacak yetkiye sahip bir yapı ortaya koymadı.

Denetim kurumu neden kâğıt üzerinde kalıyor? OpenAI, yavaşlayamayacağını söylüyor

Nedeni aynı toplantıda dile getirildi. Altman’ın çalışanlarına, ilk iki planın kapsamlı bir koordinasyon gerektirdiğini ve hem OpenAI hem de Anthropic halka arz hazırlığındayken şirketin şu anda geride kalmayı göze alamayacağını söylediği aktarılıyor. Crypto Briefing, yatırımcıların bakış açısını açıkça ortaya koydu: Borsada işlem görmeye hazırlanan şirketler rekabet avantajlarını güçlendirir; bunu bir konsorsiyuma devretmez.

Yapay zekâ için bir IAEA kurulması, Washington ve Pekin’in en hassas laboratuvarlarına denetçilerin girmesini kabul etmesini de gerektiriyor. Forbes’un belirttiği üzere, şimdilik iki ülkenin tehlikeli yapay zekâ olayları konusunda birbirini bilgilendirmesine yönelik bir ABD önerisi bile anlaşmaya değil, yalnızca taslağa dönüşmüş durumda.

Laboratuvarların kurmaya çalıştığı yapı IAEA değil, FINRA

Şu anda gerçekten yürütülen yönetişim projesi, Altman’ın üç seçeneğinden hiçbirine uymuyor. OpenAI, Google ve Anthropic; ABD’deki aracı kurumları denetleyen özel kuruluş FINRA’yı örnek alan, Frontier AI Standartları Kurumu adlı bir özdenetim grubu üzerinde çalışıyor. Latin Times’ın aktardığı çerçeve; piyasaya sürülmeden önce testleri, olay raporlamasını ve denetçilerin akreditasyonunu kapsıyor, ancak bağlayıcı yaptırım gücü bulunmuyor. Üç laboratuvar, yeni modelleri kimin test etmesi gerektiği konusunda hâlâ anlaşamış değil. Meta’dan Mark Zuckerberg ve Nvidia’dan Jensen Huang, bu tür kuralların çoğunlukla mevcut büyük şirketleri koruduğunu savunuyor. ABD’de açılan bir antitröst davasında ise laboratuvarlar arasındaki güvenlik iş birliğinin bir kartel oluşturduğu öne sürülüyor.

Kullanılan adlara da yeniden bakmakta fayda var. Yudkowsky’nin ilk ortaya attığı “tüm GPU’ları yakmak” ifadesi, pervasız bir yarışı durdurmak için uyumlu bir sistemin ne kadar büyük bir eyleme girişmesi gerekeceğine dair bir düşünce deneyiydi; Yudkowsky bunun gerçekten yapılmasını istemediğini de yazmıştı. Altman’ın “Eliezer planı” ise bu acil durdurma mekanizmasını tekelci bir zafere dönüştürüyor. The Decoder’ın habere ilişkin aktardığına göre, kaynaklardan biri bu sözlerin, Yudkowsky’nin Anthropic’le bağlantıları nedeniyle bir rakibe yönelik iğneleme olarak yorumlandığını söyledi.

The Information’a göre OpenAI, hangi yolu izleyeceğine bir yıl içinde karar vermeyi planlıyor. Sektörün standartlar kuruluşu ise 2026’nın sonlarında ya da 2027’nin başlarında faaliyete geçmeyi hedefliyor.

OpenAI kararını verene kadar, listesinde yer almayan tek yolda ilerlemeyi sürdürüyor: yarışın kendisinde.

Etiketler: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky