Sam Altman, kendi bilgisayarları için bellek satın alanların yanında olduğunu herkesin bilmesini istiyor. OpenAI CEO’su, dünyanın kıt DRAM kaynaklarının ev bilgisayarlarında tutulmasına ilişkin sözlerinin bağlamından koparıldığını ve sektörü uzun süredir daha fazla bellek üretmeye çağırdığını söylüyor. Söyleşinin tamamı, kısmen haklı olduğunu gösteriyor. Bağlam, ne demek istediğini değiştiriyor. Ancak kıtlık sürdüğü müddetçe, savının çipleri nereye yönlendirdiğini değiştirmiyor.

Günlerdir kendisiyle dalga geçilmesinin ardından X’te kendini savundu; bunu yaparken şakalara da katıldı. Bir kullanıcı, hesabının adını “Ram Altman” olarak değiştirmesini istedi. Altman “ok yeah” diye yanıt verdi ve görünen adını değiştirdi. Ardından kendini şöyle açıkladı: “i actually do want the world to have tons of memory and people to put as much as they want in their computers, and it is f***ing annoying that this was taken out of context.” Şunu da ekledi: “I have been arguing for the world to ramp up memory production for a long time.”

Altman, Cheeky Pint’ta aslında ne söyledi?

Söz konusu ifade, Stripe’ın kurucu ortağı John Collison’ın sunduğu ve tam dökümler yayımlayan Cheeky Pint podcast’inden. İlgili bölüm şöyle: “But from a global allocation perspective, actually, it’s quite terrible to have everybody have a bunch of the world’s limited supply of DRAM sitting in their own computer. And, being used […] 5% of the time. You want maximum utilization in the cloud if you’re trying to deal with this very supply constrained environment.”

Haberlerin çoğu alıntıya bu noktadan başladı. Oysa öncesinde söylenenler de önemli. Collison, bellek fiyatları bu kadar yüksekken neden yeni üreticilerin pazara girmediğini sormuştu. Altman, “invisible hand is failing right now” diye yanıt verdi. On yıllar boyunca, bir DRAM üreticisinin “invest $20 billion of CapEx to make $19 billion” dediğini ve iniş çıkışları göğüslediğini anlattı. Şimdiyse her biri, kendi tahminine göre, bir yılda “like $100 billion of free cash flow” elde edebilecekken, “they all remember their history. How many times they almost went bankrupt by making too many fabs.” Ancak bundan sonra, yerel çıkarım yapmak isteyenlere, yani açık kaynaklı yapay zekâ modellerini veri merkezlerinin yükünü azaltacağı düşüncesiyle kendi makinelerinde çalıştıranlara geçti. “Quite terrible” dediği sözler, bu varsayıma karşı çıkıyordu.

Aynı söyleşinin ilerleyen bölümünde enerji ve çip maliyetlerinin “should go down” olduğunu, “if it doesn’t go down, I’ll be very sad” dediğini ve “supply’s got to go way up” ifadesini kullandığını duyuyoruz. Dar anlamda bakıldığında savunması geçerli: Oyun bilgisayarlarından ya da video kurgusundan değil, evde yapay zekâ çıkarımı yapmaktan söz ediyordu ve aynı bölümde üretimin artırılmasını da istedi.

Bağlamın yardımı burada bitiyor

Arzın yetersiz olduğu bir pazarda, kaynakların nasıl dağıtılacağı üzerine tartışmak, çipleri kimin alacağı üzerine tartışmaktır. “Maximum utilization in the cloud” ifadesi, çipleri veri merkezlerine yönlendiriyor; OpenAI de bu pazardaki en büyük alıcılardan biri. Samsung ve SK Hynix, OpenAI’nin Stargate altyapı projesine bellek tedarik etmek üzere niyet mektupları imzaladı. The Register’ın aktardığına göre bu taahhüt, ayda yaklaşık 900 bin DRAM wafer’ının üretime sokulmasını öngörüyor. Mektuplar bağlayıcı değil, ancak OpenAI’nin pazarın ne kadarını satın almayı planladığını gösteriyor. Notebookcheck, bu savın OpenAI’nin iş modeline de uyduğuna dikkat çekti: veri merkezlerinde çalışan ve abonelikle satılan kapalı modeller.

Bolluk fikrinin bölümdeki en açık ifadesi bile Altman’a ait değil. “Anyone who wants a computer, for whatever reason, can have one” denebilecek bir “compute glut” ifadesi, Collison’ın Altman’ın görüşünü özetlerken kullandığı sözler. Altman buna doğrudan yanıt vermedi. Veri merkezleri üzerinden konuştu; bir gigawatt kapasitenin beş yıllık maliyetini yaklaşık 70 milyar dolar olarak hesapladığını, bunun 20 milyara düşmesini istediğini söyledi.

Yüzde 5 rakamının kaynağı yok

Tartışmayı başlatan rakamın arkasında herhangi bir ölçüm yok. PC Games Hardware, bu rakamın bir makinenin ne kadar belleğe ihtiyaç duyduğunu değil, belleğin ne kadar süre meşgul olduğunu anlattığına dikkat çekti: işletim sistemi verileri önbelleğe alıyor, programlarsa belleği aralıklı olarak daha fazla kullanıyor. Gece boyunca boşta duran bir gigabaytın bile, oyun ya da yerel bir model yüklendiğinde hazır bulunması gerekiyor. İnsanlar ayrıca, kullanım oranının yansıtamayacağı nedenlerle kendi donanımlarında yapay zekâ çalıştırıyor: gizlilik, bir sağlayıcının sessizce değiştiremeyeceği bir model üzerinde denetim sahibi olmak ve abonelik yerine tek seferlik ödeme yapmak gibi.

Elon Musk da X’te tartışmaya “The people deserve to have their RAM too!” sözleriyle katıldı. PC Games Hardware’in belirttiği gibi, Musk’ın kendi yapay zekâ girişimi Memphis’teki Colossus veri merkezini işletiyor.

Kıtlık, mağazalardaki fiyatlara şimdiden yansıdı. Raspberry Pi, 2 Kasım’da 16 GB’lık Raspberry Pi 5’in fiyatını 80 dolar artırarak 385 dolara çıkardı ve gerekçe olarak “a lack of alternative supply for 16GB DRAM” gösterdi. X’teki yazışmayı geniş kitlelere ulaştıran haberi yayımlayan PC Gamer, teknoloji meraklılarının ve oyuncuların OpenAI ve yapay zekâ sektörünün geri kalanı yüzünden “priced out of new hardware” kaldığını yazdı. Cheeky Pint bölümü 29 Ekim’de yayımlandı; Altman’ın X’teki yanıtları ise kasımın ilk günlerinde geldi.

Altman’ın tüm bunlara çözüm önerisi daha fazla fabrika kurmak. Kendi anlattığına göre, bu fabrikaları inşa etmesi gereken şirketler, birileri onlara bu kez patlamanın farklı olduğunu söylediğinde son seferde iflasın eşiğine geldiklerini hatırlıyor. Fikirlerini değiştirene kadar bellek, Altman’ın tarif ettiği şekilde dağıtılmaya devam ediyor: en yüksek fiyatı veren ve belleği en yoğun kullanan alıcıya. O alıcıysa bir masaüstü bilgisayar değil, bir veri merkezi.

Etiketler: OpenAI, Dram, Sam Altman, bellek çipleri, John Collison