EXO1.0.71

EXOはApple Silicon Macをローカルクラスターに接続し、所有する複数のデバイスでAIモデルを実行できるようにします。接続されたマシン間でモデルを分散し、ランタイムパラメータを自動的に最適化しながら、より大規模なモデルがそれらのリソースを組み合わせて利用できるようにします。ローカル推論では、1台のコンピューターであれローカルネットワーク上のクラスターであれ、リクエストを自分のハードウェア上に保持します。

Thunderbolt または USB-C 経由でデバイスを接続し、クラスターを表示し、単一のダッシュボードからモデルを管理します。 EXOは、OpenAIチャットの完了、OpenAIレスポンス、Claude Message、Ollamaなど、既に好ましい統合フォーマットを好むハーネスを介してオープンモデルを実行しています。 開発者は、そのモデルを処理する機械とインフラストラクチャの制御を保持しながら、ローカルAIをテストまたはデプロイすることを可能にします。

ソフトウェアは、個々の開発者、プライベートローカルAIを探索するチーム、および複数のデバイスセットアップを1台のマシンの実用的な能力を超えるモデルに組み立てるチームに適しています。 オープンソースのコードは、検査、改善、拡張、およびシステムが接続されたデバイスをローカルのAI環境として動作させるように設計されています。 バージョン1.0.71は、macOS 15 Sequoia以降で動作し、Apple Silicon(arm64)ハードウェアが必要です。 EXOは、開発者ツールカテゴリにフリーウェアです。