Unsloth: IA local con una aplicación, sin terminal

Unsloth es una aplicación de escritorio para descargar modelos de IA y hablar con ellos en tu propio equipo, con ventanas y sin terminal. Está en fase beta.

Pasos y nombres de menú, de la documentación oficial de Unsloth, comprobada el 2 de octubre de 2026. Los menús están en inglés.

Descargar

Baja el instalador de unsloth.ai/download, en su versión para Windows.

Instalar

1. Abre el instalador, el archivo .exe.
2. Sigue los pasos que te pide.
3. Abre la aplicación y espera a que termine de instalarse.

Elegir un modelo

1. Abre Select model o Model hub.
2. Elige un modelo y su cuantización.
3. Descárgalo.

La cuantización es cuánto se ha comprimido el modelo: cuanto más pequeña, menos memoria necesita y algo peor responde. Cómo elegirla según tu gráfica, en la guía de Qwen.

Hablar con el modelo

Cuando acabe la descarga, escribe tu mensaje y pulsa Intro. No hay nada más que configurar.

Qué más hace

• Funciona sin gráfica dedicada, solo con el procesador.
• Puedes adjuntar imágenes, audio, PDF, código y documentos para hablar sobre ellos.
• Encuentra solo los modelos que ya tuvieras descargados.
• Según su documentación, no envía datos de uso y puede funcionar sin conexión.
• También entrena modelos con tus propios datos. Eso queda para otra guía.

En Linux

Hay instalador .deb y AppImage, pero no está en los repositorios oficiales de CachyOS ni de Arch. En CachyOS usa Ollama, que sí lo está.

Novedades

Aquí vamos apuntando lo que trae cada versión de Unsloth, con su fecha. Sigue en fase beta.

Unsloth 0.1.908 y 0.1.909 — 15 y 19 de octubre de 2026

• Modelos nuevos para ejecutar en tu equipo: NVIDIA Nemotron 3.5 Bolt (cabe en 24 GB de memoria) y Nemotron 3.5 Super VL (120.000 millones de parámetros, 12.000 millones activos), Meta Muse Spark Open (816.000 millones, para equipos con 256 GB), DeepSeek-V4.1-Flash-1017 (552.000 millones; unos 125 GB a 1 bit, con parte de la tabla en el SSDUn disco sin piezas móviles, mucho más rápido que un disco duro.) y la imagen FLUX.3 Klein (cabe en 24 GB y edita con hasta 10 imágenes de referencia).
• Mejor caché de prompts para agentes de programación: Claude Code, Codex y similares, con modelos GGUF locales, reprocesan mucho menos de cada petición.
• Imágenes y vídeos en el chat: un modelo de chat local usa el modelo de imagen o de vídeo que tengas cargado a su lado. Las imágenes también se pueden generar a través de servidores como sd-server, Ollama o Lemonade.
• Conectar agentes con una orden: unsloth mcp add conecta Claude Code, Codex o Cursor con Unsloth.
• Entrenamiento: puedes entrenar y chatear con modelos de lenguaje de difusión (LLaDA, Dream, SDAR), entrenar con varias gráficas (FSDP2, en alfa) y una vista previa de los tokens antes de empezar a entrenar.

Si algo falla

• Responde más despacio que otras veces: la búsqueda en la web y la ejecución de código llevan su tiempo. Desactívalas si no las necesitas.
• No ve los modelos que ya tenías: indícale la carpeta donde están.
• El modelo no cabe o va muy lento: elige una cuantización más pequeña.