Drivers
Drivers GPU pour l'inférence : Vulkan, ROCm, CUDA, Metal
Comparatif des stacks GPU pour l'inférence LLM : CUDA, ROCm, Vulkan, Metal, et pourquoi Strix Halo passe par Vulkan.
#llamacpp
Pratique
Guide pratique : faire tourner un LLM local en production
Commandes concrètes llama.cpp, vLLM et Ollama, flags clés et configurations réelles pour servir Qwen3.6 sur GPU discret ou mémoire unifiée.
Logiciels
Logiciels d'inférence LLM : llama.cpp, vLLM, SGLang
Comparatif des moteurs d'inférence LLM en 2026 et le choix concret de SoberCloud : llama.cpp Vulkan, vLLM et LiteLLM.