EXO1.0.71

EXO подключил Apple Silicon Mac в локальный кластер, чтобы вы могли запускать модели ИИ на нескольких устройствах, которыми вы владеете. Он распределяет модель по подключенным машинам, позволяя более крупным моделям использовать свои объединенные ресурсы при автоматической оптимизации параметров времени выполнения. Локальный вывод сохраняет запросы на вашем собственном оборудовании, будь то один компьютер или кластер в вашей локальной сети.

Подключайте устройства через Thunderbolt или USB-C, затем просматривайте кластер и управляйте его моделями с одной приборной панели. EXO запускает открытые модели через упряжку, которую вы уже предпочитаете, и предоставляет знакомые интеграционные форматы, включая OpenAI Chat Completions, OpenAI Responses, Claude Messages и Ollama. Разработчики могут использовать его для тестирования или развертывания локального ИИ, сохраняя при этом контроль над машинами и инфраструктурой, обрабатывающей их модели.

Программное обеспечение подходит отдельным разработчикам, командам, изучающим частный локальный ИИ, и всем, кто собирает настройки для нескольких устройств для моделей, которые превышают практические возможности одной машины. Его код с открытым исходным кодом может быть проверен, улучшен или расширен, и система предназначена для того, чтобы подключенные устройства работали как одна локальная среда ИИ. Версия 1.0.71 работает на macOS 15 Sequoia или более поздней версии и требует аппаратного обеспечения Apple Silicon (arm64). EXO является бесплатным в категории Инструменты для разработчиков.