https://lucianodlf.is-a.dev/tags/colab/Recent content in Colab on lucianodlf -vHugoes© [Luciano Delfino](https://github.com/lucianodlf) · hecho con ❤️ + [Hugo](https://gohugo.io/) y [Risotto](https://github.com/joeroe/risotto)Tue, 21 Jul 2026 00:00:00 +0000https://lucianodlf.is-a.dev/posts/benchmarking-ia-ollama---cpu-vs-gpu/Tue, 21 Jul 2026 00:00:00 +0000https://lucianodlf.is-a.dev/posts/benchmarking-ia-ollama---cpu-vs-gpu/<h2 id="vista-previa">Vista previa</h2> <h5 id="informe-completo">Informe completo</h5> <p>El informe completo, con todas las tablas y el detalle de metodología, está disponible en <a href="https://gitlab.com/lucianodlf/inn-ia-benchmark-pub/-/blob/fcbeadbf9197a9abcfa0be3f214a4559d8192a8b/docs/informe-benchmarking-ia-ollama-v1.md"><code>informe-benchmarking-ia-ollama-v1.md</code></a>.</p> <h5 id="hardware-de-los-dos-entornos">Hardware de los dos entornos</h5> <table> <thead> <tr> <th>Componente</th> <th>PC Local</th> <th>PC Colab</th> </tr> </thead> <tbody> <tr> <td>Hostname</td> <td>local-cpu-host</td> <td>ed355698b496</td> </tr> <tr> <td>Sistema Operativo</td> <td>Linux 6.16.3-76061603-generic</td> <td>Linux 6.6.105+</td> </tr> <tr> <td>Procesador (CPU)</td> <td>Intel(R) Core(TM) i7-14700</td> <td>Intel(R) Xeon(R) CPU @ 2.00GHz</td> </tr> <tr> <td>CPU - Cores / Threads</td> <td><strong>20 físicos</strong> / 28 totales</td> <td>1 físico / 2 totales</td> </tr> <tr> <td>CPU - Frecuencia Máx.</td> <td>5400.0000 MHz</td> <td>—</td> </tr> <tr> <td>Memoria RAM - Total</td> <td>31 Gi</td> <td>12 Gi</td> </tr> <tr> <td>Memoria RAM - Velocidad</td> <td>1305MHz</td> <td>—</td> </tr> <tr> <td>GPU - Tipo/Modelo</td> <td>Intel / Intel Corporation Device a780 (rev 04)</td> <td>NVIDIA / Tesla T4</td> </tr> <tr> <td>GPU - VRAM</td> <td>—</td> <td>15360 MiB</td> </tr> <tr> <td>GPU - Driver/CUDA</td> <td>—</td> <td>Driver: 550.54.15 / CUDA: 12.4</td> </tr> <tr> <td>Aceleración Ollama</td> <td>Experimental (<code>OLLAMA_INTEL_GPU=1</code>). <em>(Advertencia: &ldquo;No se detectó GPU - Se usará CPU&rdquo;)</em></td> <td>CUDA (incluido en Ollama). Uso automático de GPU.</td> </tr> <tr> <td>Almacenamiento (Disco raíz)</td> <td>/dev/nvme0n1p3 (Tipo: HDD)</td> <td>overlay (Uso: 89%)</td> </tr> <tr> <td>Versión de Ollama</td> <td>0.12.7</td> <td>0.12.10</td> </tr> <tr> <td>Variables de Ollama relevantes</td> <td><code>OLLAMA_NUM_PARALLEL=2</code>, <code>OLLAMA_MAX_LOADED_MODELS=2</code>, <code>OLLAMA_KV_CACHE_TYPE=q8_0</code>, <code>OLLAMA_FLASH_ATTENTION=true</code>, <code>OLLAMA_KEEP_ALIVE=0</code></td> <td><code>OLLAMA_KEEP_ALIVE: 0</code></td> </tr> </tbody> </table> <hr> <div class="callout callout--important"> <div class="callout__title"> <i class="fa-solid fa-star" aria-hidden="true"></i> Importante </div> <div class="callout__body"><p>Este benchmark se corrió en noviembre de 2025. Desde entonces el panorama de modelos de visión cambió bastante rápido, tanto para correr local como para usar vía API cloud. Para OCR y extracción de documentos estructurados hoy hay opciones más eficaces que las evaluadas acá: modelos locales más nuevos y mejor optimizados para VLM (versiones más recientes de Qwen-VL, entre otros), y servicios cloud especializados en extracción de documentos como <strong>Mistral OCR</strong> o <strong>Mistral Document AI</strong>, pensados específicamente para este tipo de tarea y con mejor relación precisión/velocidad que armar el pipeline con modelos generalistas vía Ollama. Los números y conclusiones de este post siguen siendo válidos como métodología y como fotografía de ese momento, pero si el objetivo es resolver el caso de uso hoy, vale la pena evaluar primero esas alternativas más recientes antes de replicar este setup tal cual.</p>