LM Studio0.4.28-2

Führen Sie große Sprachmodelle mit offenem Gewicht auf Ihrem eigenen Computer mit LM Studio aus und führen Sie Eingabeaufforderungen und Gespräche auf dem lokalen Computer auf. Unter Linux führt diese Freeware Developer Tools Desktop-Anwendung Modelle offline aus, ohne auf Cloud-Verarbeitung angewiesen zu sein, und ist auch für Windows und macOS verfügbar.

Benutzer können Hugging Face durchsuchen und GGUF- oder MLX-Modelle direkt erhalten und dann mit ihnen über eine integrierte Chat-Schnittstelle interagieren, die auf ChatGPT modelliert ist. Es unterstützt Modellfamilien wie Llama, Qwen, Mistral, Gemma, Phi und DeepSeek, während Modelle, Eingabeaufforderungen, Presets und Konfigurationen in einem Arbeitsbereich organisiert werden.

Document chat wendet eine retrieval-erweiterte generation auf lokale dateien an und ermöglicht private offline-gespräche über ihre inhalte. Ein OpenAI-kompatibler API-Server zeigt lokale Modelle über REST-Endpunkte und das enthaltene CLI, Python SDK, TypeScript SDK und REST-Tooling unterstützt die Anwendungsentwicklung. Der Headless-Modus führt den Dienst ohne grafische Benutzeroberfläche aus und eignet sich somit für Server und kontinuierliche Integrationsumgebungen.

Die MCP-Integration verbindet MCP-Server und externe KI-Workflows mit den lokalen Modellen. GPU-Entlade- und Speichersteuerungen ermöglichen es Benutzern, die Ausführung für Computer mit begrenzter Hardware anzupassen, während das lokale Netzwerk ein Modell für andere Geräte im selben Netzwerk bereitstellt. Die aktuelle Version ist Version 0.4.28-2.