Le blog Workstation
GPU
Articles étiquetés GPU.
Turbocompresseur LLMs
Workstation sur turbocompresseur LLMs : pagination PagedAttention pour le cache KV, service vLLM, Self-Debugging pour les agents, taux de jetons PowerInfer et réductions de mémoire EG-MLA – avec des compromis de production.
Balinder WaliaLire 
Explication des grands modèles de langage : comment fonctionnent les LLM et comment exécuter les vôtres sur Kubernetes
Que sont les grands modèles linguistiques et comment fonctionnent-ils ? Un explicatif clair et non technique pour les gestionnaires et les ingénieurs (jetons, intégrations, transformateurs, formation et inférence) ainsi que le YAML Kubernetes de production pour déployer votre propre LLM avec Ollama et vLLM.
Balinder WaliaLire