Lemonade Server2026.45.3

Lemonade Server ejecuta inferencia de IA en su propio hardware, proporcionando servicios locales de chat, codificación, lenguaje y generación de imágenes en lugar de enviar esas cargas de trabajo a un servicio remoto. El servidor también soporta cargas de trabajo multimodales incluyendo modelos de lenguaje grande, lenguaje a texto, texto a voz, generación de audio, generación de imágenes y generación 3D.

Incluye más de 77 modelos incorporados en formatos GGUF, FLM y ONNX, gestionados con los comandos lemonade-server pull y lemonade-server list. La detección de hardware selecciona entre los backends CUDA, ROCm, Vulkan, NPU y CPU, con los backends necesarios descargados bajo demanda. Los modelos locales se pueden combinar con descarga en la nube a proveedores compatibles con OpenAI, mientras que el soporte de cliente y servidor MCP conecta los flujos de trabajo modelo a las herramientas Modelo Context Protocol. A Prometheus metrics endpoint soporta monitoreo, y el servicio de antecedentes se reinicia después de fracasos.

La aceleración de AMD es compatible con las GPU RDNA2, RDNA3 y RDNA4, las tarjetas RX 6000/7000/9000, las APU Strix Point y Strix Halo, y el hardware Instinct MI100, MI200, MI300X y MI350X mediante ROCm; las NPU AMD XDNA2 Ryzen AI gestionan la inferencia de modelos de lenguaje y voz. NVIDIA Turing and newer GPUs use CUDA, las GPUs de vendedores cruzados pueden utilizar Vulkan, incluyendo Intel y Qualcomm Adreno en ARM64, y los sistemas sin aceleración de GPU pueden regresar a la CPU.