Teknoloji

Apple Mac mini M6 ile 899 Dolara Yerel Yapay Zeka Sunuyor

Susan Hill

Kendi yapay zeka modelinizi çalıştırmak, bir zamanlar çoğu insanın hiç karşılaşmadığı donanımlara sahip olmak anlamına geliyordu: sunucu rafları, dizüstü bilgisayarlardan daha pahalı GPU kartları, uzaktan işlem gücü abonelikleri. M6 Mac mini ise kalın bir kitap boyutlarındaki küçük gri bir kutu olarak, aynı işi bir masaüstünden, sadece 899 dolara yapıyor.

Bu fiyat önemli çünkü yerel yapay zekayı — verileri uzak bir sunucuya göndermeden çalışan çıkarımı — birçok profesyonelin halihazırda bütçesine dahil ettiği ekipman aralığına sokuyor. Apple‘ın kıyaslamaları, M6’nın LM Studio’da ölçülen LLM istem işleme hızında, yerini aldığı M4 modeline göre 4,8 kat daha hızlı olduğunu gösteriyor. Pratikte bu şu anlama geliyor: Daha önce özel donanım gerektiren büyük bir dil modeli, bu cihazda tamamen çevrimdışı olarak çalışıyor.

Makinenin içindeki M6 çipi, çift 16 çekirdekli Neural Engine — aynı anda çalışan iki sinirsel hızlandırıcı — taşıyor ve Apple’a göre bu, sinirsel hesaplamayı önceki nesle göre iki kat daha hızlı hale getiriyor. Bu motor, 170 GB/s birleşik bellek bant genişliğine sahip 12 çekirdekli bir CPU ve 12 çekirdekli bir GPU ile eşleştiriyor. Standart konfigürasyon 16 GB birleşik bellek ile geliyor ve 32 GB’a kadar yapılandırılabiliyor.

Cihaz üzerinde işlediği iş yükleri arasında görüntü üretimi için difüzyon modelleri, gerçek zamanlı fotoğraf stili aktarımı, çok adımlı yapay zeka ajanları ve tam LLM çıkarımı yer alıyor — tümü yerel, tümü abonelik olmadan. macOS 27’deki Apple Intelligence, bunların çoğunu işletim sistemi aracılığıyla kullanıma sunarken, LM Studio gibi araçlar kullanıcıların çalıştırmak istedikleri herhangi bir açık modeli yüklemelerine olanak tanıyor.

Ne kadar şeyin değiştiğine dair bir bağlam vermek gerekirse: Apple’ın rakamları, M6’yı beş yıl önce satılan bir makine olan M1 Mac mini’nin LLM işleme hızının 13,5 katına koyuyor. M1, pratik anlamda çoğu yerel yapay zeka iş yükünü çalıştıramıyordu. M6 ise çalıştırabiliyor.

Daha yüksek bellek tavanı veya çok çekirdekli performans ihtiyacı duyan kullanıcılar için M5 Pro çipli bir Mac mini de 1.699 dolardan sunuluyor. Ön siparişler açık; her iki model de 22 Eylül’de sevk edilecek.

Ancak işin bir de pürüzü var. 899 dolarlık bir makine hâlâ bir monitör, klavye ve fare gerektiriyor, bu da başlangıç maliyetini yükseltiyor. Ayrıca yerel yapay zeka çıkarımı, bulut yapay zekasından daha basit değil; model bulma, güncellemeleri yönetme ve bulutun normalde soyutladığı altyapıyı ele almayı gerektiriyor. Bunun şu an için en anlamlı olduğu kişiler, verilerinin binadan çıkmasını istemeyen gizlilik hassasiyeti olan profesyoneller, token başına ücretlendirme olmadan hızlı çıkarım isteyen geliştiriciler ve kalıcı bir yerel uç noktaya ihtiyaç duyan araştırmacılar.

Bu grup, bir sunucudan ziyade bir araç gibi fiyatlandırılmış donanımı bekliyordu. Apple, M6 ile nihayet onlar için üretiyor.

Etiketler: , , , , ,

Tartışma

S kadar yorum var.