AI inferans

AMD, belirli AI model ağırlıklarını çalışma zamanında bellekten yüklemek yerine doğrudan silikon üzerine kalıcı olarak yazan çipler üreten Toronto merkezli startup Taalas'ı satın almak için anlaşma yaptı. HC1 çipi, Llama 3.1 8B modelini saniyede 16.960 token hızında çalıştırıyor…