Teknoloji

Kimi K3, GPT-5.6 Sol’u ajansal yapay zekada geçti — açık kaynak 27 Temmuz’da

Adrian Kessler

Uzun vadeli kodlama ve bilgi işleme alanında en kritik benchmark’ta OpenAI‘nin amiral gemisini geride bırakan model, bugünden itibaren API üzerinden kullanılabiliyor. Gelen haber OpenAI, Google veya Anthropic‘ten değil. Kimi K3, Pekin merkezli girişim Moonshot AI’nın en yeni çıkışı; Kimi sohbet robotuyla tanınan şirketin şimdiye kadar yayımladığı en büyük açık ağırlıklı dil modeli: Toplam 2,8 trilyon parametreye sahip seyrek bir mimariyle çalışan model, her istekte bu parametrelerin yalnızca bir kısmını aktif hale getirerek maliyetleri düşük tutuyor.

Artificial Analysis’in gerçek bilgi işleme simülasyonu için tasarladığı AA-Briefcase adlı ajanlık değerlendirmesinde Kimi K3 1.527 puan alarak yalnızca 1.587 puanlık Claude Fable 5 Max’in ardından ikinci sıraya yerleşti ve 1.495 puanlık GPT-5.6 Sol Max’ı geride bıraktı. Daha geniş GDPval-AA benchmark’ında ise model 1.687 puanla üçüncü sırada; Fable 5 Max (1.815) ve GPT-5.6 Sol Max (1.747,8) önde. Ajanlık benchmark’ında birinci ve ikinci arasındaki fark, ikinci ile beşinci arasındaki farktan daha dar.

Fiyat farkı ise benchmark sıralamalarından daha çarpıcı. Kimi K3, milyon giriş token’ı başına 3 dolar, milyon çıkış token’ı başına ise 15 dolar ücretlendiriyor. Claude Opus 4.8 ise milyon giriş için 5 dolar, milyon çıkış için 25 dolar talep ediyor. Yüksek hacimli ajanlık iş akışları yürüten ekipler için Moonshot, kodlama yüklerinde önbellek isabet oranının %90’ın üzerinde olduğunu ve efektif giriş maliyetini milyon token başına 0,30 dolara düşürdüğünü belirtiyor — bu rakam, sınır yapay zekayı ölçekte kullanmanın ekonomisini değiştiriyor.

Modelin temelinde iki mimari yenilik yatıyor. Kimi Delta Attention, standart dikkat mekanizmalarına kıyasla milyon token’lık bağlamlarda 6,3 kat daha hızlı kod çözme sağlayan hibrit bir doğrusal dikkat mekanizması. Attention Residuals ise standart artık bağlantıların yerine geçebilen ve model büyüdükçe tutarlı performans artışı sunan bir eklenti olarak tanımlanıyor. 1 milyon token’lık bağlam penceresi — yaklaşık on tam uzunlukta romanı aynı anda tutmaya yetecek kapasite — yalnızca teorik bir özellik değil, şu anda canlı ve işlevsel.

Burada ‘bugünden itibaren kullanılabilir’ ile ‘açık kaynak’ arasında önemli bir ayrım var. Kimi K3 şu anda API ve Kimi uygulaması üzerinden erişilebilir durumda, yani istekler Moonshot’ın sunucuları üzerinden geçiyor. Modelin gerçek ağırlıkları — herkesin kendi altyapısında çalıştırmasını sağlayacak eğitilmiş parametreler — henüz kamuya açık değil. Moonshot, bunları 27 Temmuz’da Değiştirilmiş MIT lisansı altında yayımlamayı planlıyor; bu lisans, önceki K2 modeli için de kullanılmıştı. Çoğu geliştirici için ihtiyaç duyulan şey API; veri egemenliği veya uyumluluk gereksinimleri olan kuruluşlar içinse ağırlıkların yayımlandığı tarih esas alınmalı.

Yerel çok modlu destek, aynı API çağrısı içinde metin, görüntü ve video girdisini kapsıyor. Modelin 2,8 trilyon toplam parametre sayısı, seyrek MoE parametrelerinin tamamını ifade ediyor; ileri geçiş başına aktif parametre sayısı oldukça daha düşük, Moonshot’ın çıkarım maliyetlerini düşük tutmasının yolu da bu. Modelin tamamını yerel olarak çalıştırmak, tüketici sınıfı bir iş istasyonunun çok ötesinde donanım gerektiriyor. Açık ağırlıkların sağlayacağı şey ise, verileri Çin merkezli bir API üzerinden yönlendirmeden kurumsal ölçekli altyapıda dağıtım imkânı.

27 Temmuz’daki ağırlıkların yayımlanması, benchmark avantajının ne kadarının gerçek dağıtımda korunacağını belirleyecek. Moonshot, K2’yi karşılaştırılabilir açık koşullar altında yayımladığında geliştirici benimsemesi şirketin beklediğinden daha hızlı gerçekleşmişti — bunun kısmi nedeni, sınıra yakın performans ile MIT tarzı lisanslamanın birleşiminin, her ikisine de ihtiyaç duyan ekipler için yasal engelleri ortadan kaldırmasıydı. K3, aynı stratejiye yapılan daha büyük bir bahis.

Etiketler: , , , , ,

Tartışma

S kadar yorum var.