LM Studio0.4.28-2

Запустите большие языковые модели с открытым весом на своем компьютере с помощью LM Studio, сохраняя подсказки и разговоры на локальной машине. На Linux это бесплатное приложение Developer Tools для настольных компьютеров выполняет модели в автономном режиме, не полагаясь на облачную обработку, и оно также доступно для Windows и macOS.

Пользователи могут просматривать Hugging Face и получать модели GGUF или MLX напрямую, а затем взаимодействовать с ними через встроенный интерфейс чата, смоделированный на ChatGPT. Он поддерживает семейства моделей, включая Llama, Qwen, Mistral, Gemma, Phi и DeepSeek, организуя модели, подсказки, предустановки и конфигурации в одном рабочем пространстве.

Document Chat применяет генерацию, дополненную извлечением, к локальным файлам, позволяя частным оффлайн-общениям об их содержании. Совместимый с OpenAI API-сервер раскрывает локальные модели через конечные точки REST, а также включает в себя CLI, Python SDK, TypeScript SDK и REST инструментальную поддержку разработки приложений. Безголовый режим запускает сервис без графического интерфейса, что делает его пригодным для серверов и сред непрерывной интеграции.

Интеграция MCP соединяет серверы MCP и внешние рабочие процессы ИИ с локальными моделями. Выгрузка графического процессора и элементы управления памятью позволяют пользователям настраивать выполнение для компьютеров с ограниченным аппаратным обеспечением, в то время как обслуживание локальной сети делает модель доступной для других устройств в той же сети. Текущий релиз — версия 0.4.28-2.