SoberCloud — DécouvertesLe carnet technique de SoberCloud : inférence LLM open source souveraine, modèles denses vs MoE, llama.cpp, vLLM, MTP, quantification et KV cache.https://sobercloud.fr/fr-frSun, 14 Jun 2026 00:00:00 GMTLe paysage des modèles ouverts à la mi-2026https://sobercloud.fr/decouvertes/paysage-modeles-ouverts-2026/https://sobercloud.fr/decouvertes/paysage-modeles-ouverts-2026/Qwen3.6, Gemma 4, GLM-5, Kimi K2.6, DeepSeek V4 : panorama des modèles open-weight mi-2026 et pourquoi la sparsité (MoE) s'est imposée partout.Sun, 14 Jun 2026 00:00:00 GMTAntoine MichéallmmodelesmoeqwendeepseekPénurie de mémoire 2026 : quand la sobriété devient un avantagehttps://sobercloud.fr/decouvertes/penurie-memoire-2026/https://sobercloud.fr/decouvertes/penurie-memoire-2026/Prix de la DRAM et des SSD doublés en 2026 : pourquoi les techniques d'inférence sobres (MoE, MLA, quantification) transforment la contrainte mémoire en atout.Sun, 14 Jun 2026 00:00:00 GMTAntoine MichéainferencesobrietematerielsouverainetemoeLe lexique de l'inférence LLM, expliqué simplementhttps://sobercloud.fr/decouvertes/lexique-inference/https://sobercloud.fr/decouvertes/lexique-inference/Tous les mots de l'inférence d'IA — token, quantification, KV cache, MoE, MTP, VRAM… — définis en langage clair, avec un lien vers l'article pour creuser.Fri, 05 Jun 2026 00:00:00 GMTAntoine MichéareferenceinferencellmAide-mémoire LLM : formats, quantification et commandeshttps://sobercloud.fr/decouvertes/aide-memoire/https://sobercloud.fr/decouvertes/aide-memoire/La référence rapide pour l'inférence locale : formats, K-quants GGUF, calcul mémoire, paramètres de génération et flags llama.cpp, vLLM et Ollama.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéareferenceggufquantificationparametresBenchmarks LLM : lire les scores sans se faire piégerhttps://sobercloud.fr/decouvertes/benchmarks-llm/https://sobercloud.fr/decouvertes/benchmarks-llm/Code, raisonnement, contamination, saturation : panorama des benchmarks LLM et pourquoi nous gardons BenchLocal, notre évaluation qualité interne.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéabenchmarksllmperformancereferenceLe cache KV (Key-Value) expliquéhttps://sobercloud.fr/decouvertes/cache-kv/https://sobercloud.fr/decouvertes/cache-kv/Comment le cache KV accélère l'inférence, comment calculer sa taille, et comment le compresser : GQA, MLA, quantification q8_0/fp8, SWA, PagedAttention.Mon, 01 Jun 2026 00:00:00 GMTAntoine Michéakv-cacheinferencellmperformanceChoisir son matériel pour l'inférence LLM localehttps://sobercloud.fr/decouvertes/choix-du-materiel/https://sobercloud.fr/decouvertes/choix-du-materiel/VRAM, bande passante, mémoire unifiée : pourquoi le decode est limité par la mémoire et comment arbitrer entre GPU discret et iGPU à mémoire partagée.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéahardwaregpuinferenceperformanceComprendre les LLM open sourcehttps://sobercloud.fr/decouvertes/comprendre-les-llm-open-source/https://sobercloud.fr/decouvertes/comprendre-les-llm-open-source/Architecture Transformer, tokens, attention, quantification : les fondamentaux des LLM open source, avec un lexique complet des termes IA.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéallminferencereferenceDécodage accéléré : spéculatif, MTP, EAGLE et draft modelshttps://sobercloud.fr/decouvertes/decodage-accelere/https://sobercloud.fr/decouvertes/decodage-accelere/Speculative decoding, Multi-Token Prediction, EAGLE-3, Medusa : comment générer plusieurs tokens par passe sans dégrader la qualité du LLM.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéadecodagemtpinferenceperformanceDrivers GPU pour l'inférence : Vulkan, ROCm, CUDA, Metalhttps://sobercloud.fr/decouvertes/drivers-gpu/https://sobercloud.fr/decouvertes/drivers-gpu/Comparatif des stacks GPU pour l'inférence LLM : CUDA, ROCm, Vulkan, Metal, et pourquoi Strix Halo passe par Vulkan.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéadriversgpuhardwarellamacppFine-tuning complet : LoRA, QLoRA, Spectrum et alignementhttps://sobercloud.fr/decouvertes/fine-tuning-complet/https://sobercloud.fr/decouvertes/fine-tuning-complet/Guide pratique du fine-tuning de LLM en 2026 : quand fine-tuner, LoRA vs QLoRA, Spectrum, préparation de datasets et alignement DPO/ORPO.Mon, 01 Jun 2026 00:00:00 GMTAntoine Michéafine-tuningloraunslothllmFlash Attention : de FA1 à FA4https://sobercloud.fr/decouvertes/flash-attention/https://sobercloud.fr/decouvertes/flash-attention/Flash Attention optimise l'attention en minimisant les transferts HBM/SRAM : tiling, recomputation, et l'évolution FA1 à FA4 (Ampere → Blackwell).Mon, 01 Jun 2026 00:00:00 GMTAntoine Michéaflash-attentioninferenceperformancegpuFormats de modèles : GGUF, SafeTensors, MLXhttps://sobercloud.fr/decouvertes/formats-de-modeles/https://sobercloud.fr/decouvertes/formats-de-modeles/Comprendre les formats de stockage des LLM open source — GGUF, SafeTensors, MLX — et les distinguer des méthodes de quantification.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéaformatsggufquantificationllmGuide pratique : faire tourner un LLM local en productionhttps://sobercloud.fr/decouvertes/guide-pratique/https://sobercloud.fr/decouvertes/guide-pratique/Commandes concrètes llama.cpp, vLLM et Ollama, flags clés et configurations réelles pour servir Qwen3.6 sur GPU discret ou mémoire unifiée.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéallamacppvllminferenceggufHarness IA et agents de code en 2026 : le harness compte plus que le modèlehttps://sobercloud.fr/decouvertes/harness-agents-code/https://sobercloud.fr/decouvertes/harness-agents-code/Coding tools vs agents autonomes, tool calling, boucles agentiques, mémoire projet et benchmarks 2026 : pourquoi le harness fait la différence.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéaagentsllmperformancereferenceLogiciels d'inférence LLM : llama.cpp, vLLM, SGLanghttps://sobercloud.fr/decouvertes/logiciels-inference/https://sobercloud.fr/decouvertes/logiciels-inference/Comparatif des moteurs d'inférence LLM en 2026 et le choix concret de SoberCloud : llama.cpp Vulkan, vLLM et LiteLLM.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéainferencevllmllamacppperformanceParamètres de génération des LLMhttps://sobercloud.fr/decouvertes/parametres-de-generation/https://sobercloud.fr/decouvertes/parametres-de-generation/Temperature, top-p, top-k, pénalités : comment ces paramètres contrôlent la créativité et la cohérence des réponses d'un LLM.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéaparametresdecodageinferencellmQuantification avancée des LLMhttps://sobercloud.fr/decouvertes/quantification-avancee/https://sobercloud.fr/decouvertes/quantification-avancee/GGUF K-quants, nomenclature Q4_K_M et UD-Q5_K_XL, GPTQ, AWQ, EXL2/EXL3, REAP : panorama des méthodes de quantification et de leurs compromis.Mon, 01 Jun 2026 00:00:00 GMTAntoine MichéaquantificationggufllminferenceUnsloth en profondeur : fine-tuning rapide et GGUF dynamiqueshttps://sobercloud.fr/decouvertes/unsloth-en-profondeur/https://sobercloud.fr/decouvertes/unsloth-en-profondeur/Comment Unsloth accélère le fine-tuning LoRA et produit des GGUF Dynamic supérieurs, avec un exemple sur Qwen3.6-27B.Mon, 01 Jun 2026 00:00:00 GMTAntoine Michéaunslothfine-tuningloraquantificationDense ou MoE ? Pourquoi Qwen3.6-35B-A3B bat le 27B dense sur Strix Halohttps://sobercloud.fr/decouvertes/dense-vs-moe-strix-halo/https://sobercloud.fr/decouvertes/dense-vs-moe-strix-halo/Retour d'expérience SoberCloud : à fichier équivalent, un Mixture-of-Experts 35B-A3B sert plus vite qu'un modèle dense 27B sur un iGPU à mémoire unifiée.Mon, 25 May 2026 00:00:00 GMTAntoine Michéainferencellmqwenmoestrix-halo