· Jonathan Cattelain · IA
Un LLM local de 262 144 tokens sur une carte de 12 Go : mes mesures sur treize modèles
Le tutoriel Ollama pas à pas, les réglages qui fonctionnent et les chiffres de treize modèles (Gemma, Mistral, Qwen, GLM) sur une RTX 3080 Ti : vitesse, VRAM, RAM et contexte maximal.