LM Studio

LM Studio ist eine Desktop-App zum Ausführen großer Sprachmodelle (LLMs) lokal auf Ihrem eigenen Computer. Funktionen - Führen Sie lokale LLMs offline aus - Führen Sie offene Modelle vollständig auf Ihrem eigenen Gerät ohne Cloud-Abhängigkeit aus. - Plattformübergreifende Unterstützung - Verfügbar unter Windows, macOS und Linux. Model Discovery & Download - Durchsuchen und herunterladen von GGUF / MLX-Modellen direkt von Hugging Face. - Eingebautes Chat-Interface - Interagieren Sie mit lokalen Modellen über eine saubere ChatGPT-ähnliche Benutzeroberfläche. - OpenAI-Compatible API Server - Servieren Sie lokale Modelle über REST-Endpunkte im OpenAI-Stil für die App-Integration. - Document Chat (RAG) - Chat mit lokalen Dokumenten privat und offline. Modellverwaltung - Organisieren Sie Modelle, Eingabeaufforderungen, Presets und Konfigurationen an einem Ort. - Developer Tooling - Enthält CLI, Python SDK, TypeScript SDK und REST - Headless Mode - Ausführen von LM Studio ohne GUI für Server oder CI-Umgebungen. MCP-Integration: Verbinden Sie MCP-Server und externe KI-Workflows. - Privacy-First Design - Prompts und Gespräche bleiben auf der lokalen Maschine. - Hardware-Aware-Optimierung - GPU-Entladung und Speichersteuerung für eine bessere Leistung auf begrenzter Hardware. Multi-Model-Support - Unterstützt Llama, Qwen, Mistral, Gemma, Phi, DeepSeek und mehr. Lokales Netzwerk bedienen – Lokale Modelle auf Geräten im selben Netzwerk aussetzen.