Cómo ejecutar Qwen 3.8 27B en PCs AMD Ryzen AI Max y GPUs Radeon con rendimiento Día 0

AMD ha anunciado soporte directo desde el Día 0 para Qwen 3.8 27B, permitiendo a desarrolladores y entusiastas ejecutar este modelo denso de inteligencia artificial directamente en hardware local sin depender de la nube. Gracias a arquitecturas optimizadas como los procesadores AMD Ryzen™ AI Max+ y la tarjeta gráfica AMD Radeon™ AI PRO R9700, la ejecución local de modelos avanzados para programación, investigación y flujos de trabajo extensos es ahora una realidad inmediata.

Rendimiento en hardware local

El modelo Qwen 3.8 27B exige un consumo considerable de memoria y cómputo. Para funcionar de forma fluida, requiere un entorno con al menos 24 GB de memoria gráfica variable (VGM) o VRAM dedicada. En pruebas preliminares sobre Windows utilizando llama.cpp y el backend de Vulkan, el hardware de AMD ha registrado las siguientes velocidades promedio de generación:

• AMD Ryzen™ AI Max+ 395: Hasta 24.5 tokens por segundo (con MTP=4).
• AMD Radeon™ AI PRO R9700 (32 GB): Hasta 51.8 tokens por segundo (con MTP=2).

Ejecución sencilla mediante LM Studio

Para quienes buscan probar el modelo sin escribir código de infraestructura, LM Studio ofrece una interfaz gráfica directa para descubrir, descargar y ejecutar Qwen 3.8 27B.

• Ajustes clave de rendimiento: Para optimizar la velocidad en LM Studio, se debe activar el parámetro MTP con 4 tokens borrador en sistemas Ryzen™ AI Max+ y 2 tokens borrador en GPUs Radeon™ AI PRO R9700. Además, es importante desmarcar la opción “Try mmap” en los ajustes avanzados de carga del modelo.

Integración en aplicaciones con AMD Lemonade

Más allá de la experimentación, los desarrolladores pueden integrar este modelo en sus propias aplicaciones a través de Lemonade, la plataforma local de AMD. Lemonade actúa como una capa de inferencia ligera que gestiona la distribución de carga entre CPU, GPU y NPU, facilitando la comunicación con Qwen 3.8 27B mediante APIs estándar sin necesidad de mantener un stack de software específico por hardware.