Moe

Özet: Bir uygulama 48 GB NVIDIA GPU belleği gerektirirken, kullanıcı 16 GB Radeon kartında bir çözüm geliştirdi. Bu çözüm, 35B MoE modelini 3B aktif token ile çalıştırmayı başarıyor. Bu haber, büyük dil modellerinin …