Teknoloji

Mistral Large 4 ücretsiz ama evde 22.299 dolarlık bir Mac istiyor

Adrian Kessler
Bizi Google'a ekleyin

Mistral, Le Chonk adını taktığı Mistral Large 4’ün tüm model ağırlıklarını yayımladı. Böylece isteyen herkes modeli indirip değiştirebilir ve kendi donanımında çalıştırabilir. Fransız yapay zekâ laboratuvarı, modelin artık kod yazma ve bir yazılım açığını yeniden oluşturup ardından yamamak gibi savunma amaçlı güvenlik çalışmaları konusunda en güçlü açık model olduğunu söylüyor. Ancak modeli evinde çalıştırmayı umanların karşısındaki engel, modelin boyutu.

Le Chonk yaklaşık bir trilyon parametreye sahip; ürettiği her kelime için bunların 49 milyarı etkin hâle geliyor. Hugging Face’e göre, llama.cpp ekibi ve Unsloth tarafından hazırlanan 2 bitlik sürümler de dâhil olmak üzere en fazla sıkıştırılmış sürümleri bile 512 GB birleşik belleğe sahip tek bir Apple Silicon Ultra makine gerektiriyor. Apple’ın bu kadar bellekle sattığı tek Mac, M5 Ultra çipli Mac Studio. 9to5Mac’in haberine göre bu yapılandırmanın ABD’deki fiyatı 22.299 dolar. Modeli çalıştırmanın diğer tüm yolları, birlikte çalışan birkaç üst düzey ekran kartı gerektiriyor.

Mistral’ın model için öne sürdüğü temel iddia, kod yazma becerisi. Şirket, komut satırında çalışan yapay zekâ ajanlarını sınayan Terminal-Bench 4.0 testinde yüzde 41 puan aldığını ve açık modeller arasındaki en iyi sonuca ulaştığını söylüyor. Ayrıca Artificial Analysis’in kodlama ajanı endeksinde GLM-5.3 ile aynı puanı alırken görev başına yüzde 47 daha az token kullandığını, dolayısıyla çalıştırma maliyetinin daha düşük olduğunu belirtiyor. Surge’ün kör, yan yana değerlendirmelerinde puanlayıcılar modelin kodunu GLM-5.3, Kimi K3 ve DeepSeek V4.1 Flash’ın koduna tercih etti; yalnızca Anthropic’in Claude Opus 5.5’ini daha üst sıraya koydu.

Güvenlik iddiası, savunma amaçlı kullanımlara yönelik. Hugging Face, modelin açık kaynaklı yazılımlardaki gerçek bir güvenlik açığını yeniden oluşturup ardından düzeltmesini isteyen Artificial Analysis görevinde yüzde 82 puan aldığını aktarıyor. Mistral’ın bildirdiğine göre, kapalı ve öncü modellerin birçoğu denemeyi reddettiği için bu görevde sıfıra yakın puan alıyor. Bir banka ya da kamu kurumu modeli kendi sunucularında çalıştırabilir, kendi kodlarını ve çökme günlüklerini modele verebilir ve sağlayıcı kullanım koşullarını değiştirse bile modeli kullanmayı sürdürebilir. Wired’ın haberine göre Mistral’ın bilimden sorumlu başkan yardımcısı Pierre Stock gazetecilere şöyle dedi: “Yapay zekâ elektrik gibi olacak. Komşunuzun elektriğinizi bir günden diğerine kesebileceği bir dünyada yaşamak istemezsiniz.”

Bu rakamların çoğu, Mistral’ın seçtiği kıyaslamalarda Mistral tarafından elde edildi; dış testler ise henüz neredeyse başlamadı. Hugging Face, Artificial Analysis’in genel zekâ endeksinde modeli açık modeller arasında birinci değil, beşinci sıraya koyuyor. Güvenlik iddiasının iki yönü de var. Mistral, ön izleme sırasında canlı trafiği izlerken “gerçek saldırılar gerçekleştirme kapasitesinde artış potansiyeli” gördüğünü yazdı ve güvenlik önlemlerini sıkılaştırdığını belirtti. Ancak herkes, saldırganlar da dâhil olmak üzere, herkese açık model ağırlıklarını indirip yeniden ayarlayabilir. Sophos’ta tehdit istihbaratı kıdemli direktörü olan Rafe Pilling, Wired’a “Bu açıkça çift kullanımlı bir teknoloji,” dedi.

Doğru Mac’e sahip olsanız bile modeli evde kullanmak bazı ödünleri beraberinde getiriyor. Hugging Face, 2 bitlik sürümü eski bir M3 Ultra Mac Studio’da çalıştırdı ve saniyede yaklaşık 15 token elde etti; sohbet için yeterli olsa da uzun kodlama işleri için yavaş. Çok uzun belgelerle dört Nvidia RTX 6000 Pro kart üzerinde çalıştırıldığında ise çıktı hızı saniyede yaklaşık 3 tokene düştü. Modeli 2 bite sığdırmak, Mistral’ın kıyaslamalarda kullandığı tam sürüme kıyasla doğruluğu da azaltıyor.

Model ağırlıkları, Mistral Ecosystem Open-Weight License kapsamında dünyanın her yerinden indirilebilecek şekilde Hugging Face’te yayımlandı. Değiştirilmiş bir MIT lisansı olan bu lisans, tek bir istisna dışında ücretsiz kullanıma, ince ayara ve ticari ürünlere izin veriyor: modeli barındırılan bir hizmet olarak satan şirketlerin Mistral’dan ayrı bir ticari lisans alması gerekiyor. Diğer herkes modeli Mistral’ın API’si üzerinden de kullanabilir; fiyat, milyon girdi tokenı başına 0,70 dolar ve milyon çıktı tokenı başına 2,10 dolar. Model ayrıca OpenRouter ve Microsoft Foundry üzerinden de kullanılabiliyor. Mistral ekim ayının başlarında bir ön izleme yayımladı, nihai model ağırlıklarını ise 29 Ekim’de paylaştı. Apple, 512 GB belleğe sahip Mac Studio siparişlerinin kasım sonu ile aralık başı arasında gönderileceğini söylüyor.

Stock, Wired’a “Model ağırlıklarını açık kaynak olarak yayımladığınızda internete her yere yayılıyorlar. Erişimi kesmek imkânsız,” dedi. 22.299 dolarlık bir bilgisayarı olmayanlar için erişimin önündeki engel, belleğin fiyatı.

Etiketler: , , , , ,

Bizi Google'a ekleyin

Tartışma

0 yorum var.