EXO1.0.71

EXO verbindet Apple Silicon Macs in einem lokalen Cluster, so dass Sie AI-Modelle auf mehreren Geräten ausführen können, die Sie besitzen. Es verteilt ein Modell auf die angeschlossenen Maschinen, so dass größere Modelle ihre kombinierten Ressourcen nutzen und gleichzeitig die Laufzeitparameter automatisch optimieren können. Lokale Inferenz speichert Anfragen auf Ihrer eigenen Hardware, unabhängig davon, ob dies einen Computer oder einen Cluster in Ihrem lokalen Netzwerk bedeutet.

Verbinden Sie Geräte über Thunderbolt oder USB-C, dann sehen Sie sich den Cluster an und verwalten Sie seine Modelle von einem einzigen Dashboard aus. EXO führt offene Modelle über das von Ihnen bereits bevorzugte Kabel aus und zeigt bekannte Integrationsformate wie OpenAI Chat Completions, OpenAI Responses, Claude Messages und Ollama. Entwickler können damit lokale KI testen oder einsetzen, während sie die Kontrolle über die Maschinen und die Infrastruktur behalten, die mit ihren Modellen umgehen.

Die Software eignet sich für einzelne Entwickler, Teams, die private lokale KI erkunden, und alle, die ein Multi-Geräte-Setup für Modelle zusammenstellen, die die praktische Kapazität einer Maschine überschreiten. Sein Open-Source-Code kann inspiziert, verbessert oder erweitert werden, und das System ist so konzipiert, dass vernetzte Geräte als eine lokale KI-Umgebung funktionieren. Version 1.0.71 läuft auf macOS 15 Sequoia oder höher und erfordert Apple Silicon (arm64) Hardware. EXO ist Freeware in der Kategorie Developer Tools.