Lemonade Server2026.45.3

Lemonade Serverは、リモートサービスにそれらのワークロードを送信する代わりに、自身のハードウェア上でAI推論を実行し、ローカルチャット、コーディング、音声、画像生成のサービスを提供します。サーバーは、大規模言語モデル、音声認識、音声合成、音声生成、画像生成、3D生成などのマルチモーダルワークロードにも対応しています。

GGUF、FLM、ONNX形式の77以上の組み込みモデルが含まれており、lemonade-server pull と lemonade-server list コマンドで管理されています。 ハードウェアの検出は、CUDA、ROCm、Vulkan、NPU、CPUのバックエンドの中から選択され、要求に応じてダウンロードしたバックエンドが要求されます。 ローカルモデルは、MCP クライアントとサーバー サポートがモデルワークフローをモデルコンテキストプロトコルツールに接続しながら、クラウド オフロードと OpenAI 互換プロバイダーと組み合わせることができます。 Prometheus メトリックのエンドポイントは監視をサポートし、バックグラウンドサービスは故障後に再起動します。

AMDの加速はRDNA2、RDNA3およびRDNA4 GPU、RX 6000/7000/9000のカード、StrixのポイントおよびStrix Halo APUおよびInstinct MI100、MI200、MI300XおよびROCmによるMI350Xハードウェアをカバーします; AMD XDNA2 Ryzen AI NPUsは言語モデルおよびスピーチのinferenceを扱います。 NVIDIA のターニングと新しい GPU は、CUDA を使用して、クロスベンダー GPU は、Intel および Qualcomm Adreno を含む Vulkan を ARM64 で使用でき、GPU アクセラレーションなしでは CPU に戻すことができます。