Apple TinyGPU’yu onayladı ve Mac Mini yerel yapay zekaya kapı araladı

Apple, programcı ve güvenlik araştırmacısı George Hotz’un kurduğu Tiny Corp tarafından geliştirilen TinyGPU sürücüsünü resmi olarak imzalayıp sertifikalandırdı. Apple Silicon’a geçişin ardından ilk kez, Mac kullanıcıları harici bir Nvidia veya AMD ekran kartını bir Mac’e bağlayarak yapay zeka hesaplamalarında kullanabiliyor — sistemin güvenlik mekanizmalarını devre dışı bırakmadan.

Apple’ın 2020’de kendi çiplerine geçmesinin ardından Apple Silicon tabanlı makinelerde harici ekran kartı kullanmak pratikte imkânsız hale gelmişti. Önceki girişimler, macOS’un merkezi güvenlik katmanı olan System Integrity Protection’ı (SIP) devre dışı bırakmayı gerektiriyordu; Apple ise bu yöntemi hiçbir zaman resmi olarak desteklemedi. TinyGPU, Apple’ın DriverKit mekanizması aracılığıyla macOS’un standart güvenlik çerçevesi içinde çalışarak bu sorunu çözüyor. Sürücü, herhangi bir sistem değişikliğine gerek kalmadan sistem ayarlarından etkinleştiriliyor.

Tiny Corp’un belgelediği test sonuçları somut bir tablo ortaya koyuyor. Thunderbolt üzerinden AMD Radeon RX 7900 XTX’e bağlı bir Mac Mini, Qwen 2.5 27B modelini saniyede 18,5 token hızında çalıştırıyor. Harici bir RTX 4090 ile topluluk benchmark’ları, Q4 kuantizasyonundaki Llama modelleri için saniyede 45 ile 50 token arasında değerler kaydediyor — bu performans düzeyine ulaşmak yakın zamana kadar çok daha yüksek maliyetli özel donanım gerektiriyordu.

Bunlar da ilginizi çekebilirSuncatcher Gambiti: Google’ın Yapay Zeka Geleceğini Kazanma Planının Perde Arkası

Sürücünün yapabilecekleri ve yapamayacakları

TinyGPU yalnızca yapay zeka hesaplamaları için tasarlandı. Monitör çıkışını hızlandırmıyor, oyun performansını artırmıyor ve video düzenleme ya da grafik işleri için Apple Silicon’ın entegre GPU’sunun yerini almıyor. RDNA3 nesli ve sonrası AMD kartlar görece basit bir kurulum süreciyle çalışıyor; Ampere nesli ve sonrası Nvidia kartlar ise Docker Desktop kurulumunu gerektiriyor; bu da geliştirme ortamlarına aşinalık olmaksızın uygulanmasını zorlaştırıyor. Thunderbolt 4’ün bant genişliği de fiziksel bir tavan oluşturuyor: aynı ekran kartı, harici kablo bağlantısıyla kıyaslandığında yerel PCIe yuvasında belirgin biçimde daha yüksek performans sunuyor.

Mac Pro sessizce kaldırıldı, Mac Mini güçlendirildi

Tespit edildiğine göre Apple, aynı ay içinde Mac Pro’yu hiçbir resmi duyuru yapmadan ve bir halef sunmadan web sitesinden kaldırarak sessiz sedasız satıştan çekti. Mac Pro, Apple’ın tek modüler masaüstü bilgisayarıydı; profesyonel kullanıcıların kendi donanım bileşenleriyle hesaplama gücünü artırabildiği tek üründü. TinyGPU’nun onaylanması, Apple’ın bu kararın yarattığı soruya zımni bir yanıt vermesi olarak değerlendirilebilir: Mac üzerinde yoğun yapay zeka hesaplaması yapması gerekenlere artık Apple’ın kendi tasarladığı bir kule yerine, harici donanım bağlanan bir Mac Mini sunuluyor.

Tom’s Hardware ve TechRadar’ın haberlerine göre bu, Apple tarafından DriverKit aracılığıyla resmi olarak onaylanan Apple Silicon için ilk üçüncü taraf harici GPU compute sürücüsü niteliğini taşıyor — geleneksel olarak kapalı bir ekosistemde kayda değer bir emsal.

Ollama veya llama.cpp gibi araçlarla Mac Mini’yi halihazırda yerel yapay zeka çıkarım sunucusu olarak kullananlar için değişiklik anında hissediliyor: unified memory kapasitesini aşan modeller artık harici GPU’nun VRAM’inde eksiksiz barındırılabiliyor; bu durum hem parçalanmayı ortadan kaldırıyor hem de işlem hızını önemli ölçüde artırıyor.

Asgari gereksinimler macOS 12.1 veya üstü, bir Thunderbolt 3, Thunderbolt 4 ya da USB4 bağlantı noktası ve yeterli güç kaynağına sahip bir eGPU kasasında uyumlu bir ekran kartı olarak belirlendi. TinyGPU, Tiny Corp’un resmi belgeleri ve GitHub deposu aracılığıyla kullanıma sunuldu.

Buna benzer içerikler

Silikona Elveda: Çin, Nvidia’ya Meydan Okuyan ve Isı Duvarını Yıkan ‘LightGen’ İşlemcisini Duyurdu

SuperX, Süper Bilgisayar Sınıfı Performans Sunmak İçin NVIDIA Blackwell GPU’dan Güç Alan XN9160-B200 AI Sunucusunu Tanıttı

Fransa, 2,5 milyon devlet bilgisayarını Windows’tan Linux’a geçirme emri verdi

Algoritmik Ruh Çağırma Seansı: Yas, Dataizm ve Sonluluğun Ölümü

Shor algoritmasının RSA-2048’i kırmak için gereken kubit sayısı bir yıldan kısa sürede on kat azaldı

Hexstrike-AI: Otonom Sıfır Gün Açığı Sömürüsünün Şafağı