EXO1.0.71

EXO collega Apple Silicon Mac in un cluster locale in modo da poter eseguire i modelli AI su più dispositivi che possiedi. Distribuisce un modello tra le macchine connesse, consentendo ai modelli più grandi di utilizzare le risorse combinate ottimizzando automaticamente i parametri di runtime. L'inferenza locale mantiene richieste sul proprio hardware, sia che si tratti di un computer o di un cluster sulla rete locale.

Collegare i dispositivi su Thunderbolt o USB-C, quindi visualizzare il cluster e gestire i suoi modelli da un'unica dashboard. EXO esegue modelli aperti attraverso l'imbracatura che si preferisce e espone formati di integrazione familiari, tra cui OpenAI Chat Completions, OpenAI Responses, Claude Messages e Ollama. Gli sviluppatori possono utilizzarlo per testare o implementare l'IA locale mantenendo il controllo delle macchine e delle infrastrutture che gestiscono i loro modelli.

Il software si adatta a singoli sviluppatori, team che esplorano l'IA locale privata, e chiunque assembla un setup multi-dispositivo per modelli che superano la capacità pratica di una macchina. Il suo codice open source può essere ispezionato, migliorato o esteso, e il sistema è progettato per far funzionare i dispositivi connessi come un ambiente AI locale. La versione 1.0.71 funziona su macOS 15 Sequoia o versioni successive e richiede hardware Apple Silicon (arm64). EXO è freeware nella categoria Strumenti di sviluppo.