Gemma 3

Esegui l'inferenza di Gemma 3 localmente su Linux tramite uno snap che fornisce un ambiente ottimizzato per il modello. Ubuntu lo pubblica come un pacchetto di IA generativa che trasforma l'hardware disponibile della macchina host in un servizio di inferenza locale. Lo snap rileva la CPU, la GPU o la NPU del sistema e sceglie automaticamente le ottimizzazioni corrispondenti per il runtime e i pesi del modello.

Gli utenti interagiscono con Gemma 3 attraverso la sua interfaccia di riga di comando, incluso il comando gemma3 --help per la guida all'uso. Le applicazioni possono anche connettersi attraverso una API locale standardizzata, dando agli sviluppatori un modo coerente per aggiungere funzionalità AI senza accordarsi separatamente per ogni tipo di hardware. Gli usi tipici includono la fornitura di funzionalità di modello locale a IDE, chatbots e software di media-editing.

L'host deve eseguire Linux con snapd e i driver hardware necessari devono essere installati prima dell'inizio dell'inferenza. Il pacchetto supporta architetture amd64 e arm64, rendendolo adatto per desktop compatibili, workstation, server e altri sistemi Linux. Gemma 3 è freeware, mentre l'uso del modello è regolato dai Termini di utilizzo di Gemma; le licenze per il software in bundle sono disponibili all'interno dello snap a /snap/gemma3/current/usr/share/doc. La versione attuale è 2.0.0-beta.14+a169df7.