Teknoloji

Zuckerberg, Meta’nın en küçük yapay zekâ modeli Muse Ember’ı tanıttı: token başına fiyatı Haiku ile aynı

Mark Zuckerberg, Meta'nin yeni küçük modelinin rakiplerine göre dolar başına daha fazla zeka sunduğunu söylüyor. Bu iddia fiyat listesinde değil, faturada geçerli ve tasarruf, yazdığı token sayısından kaynaklanıyor.
Adrian Kessler
Bizi Google'a ekleyin

Mark Zuckerberg, Meta’nın en yeni yapay zekâ modelini X’te tek cümleyle tanıttı: “Bugün Muse Ember’ı piyasaya sürüyoruz — kendi sınıfındaki diğer modellerden dolar başına daha yüksek zekâ sunan en küçük modelimiz.” Lansman haberlerinin çoğu bunu fiyat indirimi olarak yorumladı; Meta’nın, yapay zekâ ajanları geliştiren yazılımcılara Anthropic ve OpenAI’ın sattığı küçük ve ucuz modellerin fiyatını kırdığı düşünüldü.

Ancak en azından fiyat listesine bakıldığında ortada bir indirim yok. Muse Ember, giren ve çıkan her token için adı geçen iki rakibiyle tam olarak aynı ücreti alıyor. Meta’nın vadettiği tasarruf gerçek, ama başka bir yerde yatıyor: modelin yanıt vermeden önce ürettiği metin miktarında. Bu, indirim iddiasından daha ilgi çekici; üstelik alıcının fatura gelmeden önce doğrulaması da daha zor.

Meta neyi piyasaya sürdü?

Muse Ember, Meta’nın Muse ailesindeki Spark, Glimmer ve Wonder’ın ardından gelen dördüncü ve en küçük model. Meta Superintelligence Labs, modeli bir ajanın tekrarlayan adımları için geliştirdi. Zuckerberg’in sözleriyle Ember; “kodlama alt görevleri, yönlendirme, bilgi çıkarma ve uzun belgeleri ayrıştırma” işlerinde kullanılacak. Meta’nın iş bölümüne ilişkin açıklaması son derece net: “Muse Wonder planlar, Muse Ember ise iş yükünü üstlenir.” Meta Superintelligence Labs’i yöneten Alexandr Wang, Ember’ın Muse Wonder Full kullanılarak eğitilen ve piyasaya sürülen ilk model olduğunu söyledi. Muse Wonder Full, Meta’nın en büyük modeli.

Meta’ya göre Ember metin, görsel, ses ve video okuyabiliyor; bir milyon tokenlık bağlam penceresine sahip ve tek bir yanıtta 512.000 tokene kadar çıktı üretebiliyor. Model kapalı kaynaklı. İndirilebilir ağırlıkları bulunmuyor; Meta’nın barındırdığı Model API üzerinden ve Meta’nın kodlama ajanı Muse Code içinde çalışıyor. Google Cloud ve Oracle Cloud da erişim seçenekleri arasında yer alıyor.

“Dolar başına” avantaj nereden geliyor?

Meta, Ember için milyon girdi tokenı başına 0,10 dolar, milyon çıktı tokenı başına 0,50 dolar ücret belirlemiş. MarkTechPost ve Fello AI’ın da belirttiği üzere Anthropic’in Claude Haiku 5.5’i ile OpenAI’ın GPT-6 Luna’sı da aynı temel fiyatları uyguluyor. Liste fiyatındaki tek avantaj, modelin daha önce gördüğü ve yeniden kullanabildiği önbelleğe alınmış girdilerde: Ember bu kullanım için milyon token başına 0,004 dolar alırken iki rakibin ücreti 0,01 dolar.

Fark, görev başına maliyette ortaya çıkıyor. Bağımsız kıyaslama paketi Artificial Analysis Intelligence Index’te Ember, en yüksek ayarında çalışan Haiku 5.5 ile aynı puanı, 36’yı alıyor; ancak görev başına maliyeti yaklaşık 0,14 dolar. Haiku’da bu tutar 0,41 dolar. Fello AI’ın Artificial Analysis verilerine ilişkin değerlendirmesi, farkın nedenini açıklıyor: endeksin tamamında Ember yaklaşık 115 milyon çıktı tokenı üretirken Haiku yaklaşık 298 milyon token üretiyor; çıktı başına ücret ise aynı. Token başına fiyat aynı, kullanılan token sayısı çok daha az. GPT-6 Luna’nın görev başına maliyeti Ember’a yakın: 0,15 dolar. Ancak puanı 28.

Bu mekanizma önemli, çünkü token sayıları hiçbir fiyat kartında yazmıyor. Liste fiyatlarını karşılaştıran bir yazılımcı, fiyatları aynı üç model görür. Fark ancak ajan çalışmaya başladıktan sonra ortaya çıkar ve göreve, kullanılan altyapıya ve akıl yürütme ayarına göre değişir. Meta’nın karşılaştırmasında akıl yürütme çabası en yüksek düzeyde tutulmuş; geliştirici belgelerinde bu ayar Ember’ın varsayılanı olarak da gösteriliyor.

Üç katına çıkan fiyat

Meta’nın geliştirici sayfasında, lansman duyurularında yer verilmeyen ikinci bir fiyat kademesi bulunuyor. Girdi tokenı 200.000’i aştığında Ember’ın ücreti milyon token başına 0,30 dolar giriş ve 1,50 dolar çıkış için oluyor; yani duyurulan fiyatın üç katına çıkıyor. Meta’nın belgeleri, uzun konuşma geçmişi içeren bir isteğin bu sınırı aşabileceği konusunda uyarıyor. MarkTechPost’un lansman haberinde Meta’nın Ember için uzun bağlam kullanımına yönelik ayrı bir fiyat kademesi belirtmediği yazılmıştı; ancak Meta’nın kendi fiyat tablosu aksini söylüyor.

Bu fiyat kademesi, Zuckerberg’in özellikle öne çıkardığı kullanım alanıyla doğrudan örtüşüyor. “Uzun belgeleri ayrıştırma” özelliği ve bir milyon tokenlık bağlam penceresi, geliştiricileri tüm kod tabanlarını ve belge koleksiyonlarını modele vermeye teşvik ediyor; bunlar da eşiği aşma ihtimali en yüksek istekler. Yine de MarkTechPost’a göre Haiku 5.5, 100.000 istem tokenının üzerinde girdi için 0,50 dolar, çıktı içinse 2,50 dolar aldığı için Ember bu düzeyde de ondan daha ucuz. Ancak “ucuz” vaadi, “alternatifinden daha ucuz” anlamına dönüşüyor; bu ikisi aynı şey değil.

Kıyaslama sonuçları ne söylüyor, testleri kim yaptı?

Meta, Haiku 5.5 ve GPT-6 Luna ile karşılaştırma yaptığı on testin sonuçlarını yayımladı. Ember’ın en güçlü sonucu, Artificial Analysis’in Zapier’deki 657 iş akışını test ettiği AutomationBench’te geldi: Ember görevlerin %37,8’ini tamamlarken Haiku %13,9’da, Luna ise %20,2’de kaldı. Modelin belirgin biçimde geride kaldığı tek test, gerçek kod değişikliklerini bir bakım sorumlusunun kabul edip etmeyeceğine göre değerlendiren FrontierCode 2.0 oldu. Bu testte Haiku 34,9, Ember ise 27,2 puan aldı.

Fello AI, her bir sonucu kimin elde ettiğini de inceledi. Beş testin verisi Artificial Analysis’ten, dördü Meta’nın kendi denemelerinden geliyor. Terminal-Bench sonuçlarında ise farklı yöntemler bir arada kullanılmış: Ember için Artificial Analysis’in yaptığı test, rakipler içinse şirketlerin kendi açıkladığı rakamlar esas alınmış. Fello ayrıca Artificial Analysis’in model sayfasında Ember’ın girdi türlerinin yalnızca metin ve görsel olarak listelendiğine dikkat çekiyor; dolayısıyla ses ve video desteği şimdilik Meta’nın açıklamasına dayanıyor.

Muse Ember kimler için?

Meta’nın lansman paylaşımında Ember’ın maliyetinin “herkes için, her üründe çalıştırılabilecek kadar düşük” olduğu söyleniyor. Ancak şimdilik Meta’nın hiçbir tüketici ürününde kullanılmıyor: Fello AI, modelin Meta AI uygulamasında, WhatsApp’ta ve Muse ajanında bulunmadığını bildiriyor. Ember, başka şirketlerin ajanlarında kullanılmak üzere tasarlanmış bir bileşen; Meta’nın seçtiği iş ortaklarının açıklamaları da bunu gösteriyor. Cline’ın kurucusu Saoud Rizwan, modeli “ajan altyapılarında alt ajan olarak çalıştırıp maliyetleri düşüren ekipler” için önerdi. Cloudflare’ın teknoloji direktörü Dane Knecht ise Ember’ın “kıyasladığımız benzer modele göre yüksek gecikme diliminde %30’a kadar daha hızlı çalıştığını” söyledi.

Ember’ın arkasındaki bahis bu. Meta bu modelle sohbet penceresinin hâkimi olmaya çalışmıyor. Daha büyük bir model düşünme işini üstlenirken Ember’ın başka bir şirketin ajanında saatte bin kez çağrılmasını hedefliyor. Böyle bir kullanımda faturayı belirleyen, hiçbir sağlayıcının yayımlamadığı bir sayı: modelin işi tamamlamak için kaç tokene ihtiyaç duyduğu.

Etiketler: , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.