Gemma 3

Exécutez l'inférence Gemma 3 localement sur Linux grâce à un snap qui fournit un environnement optimisé pour le modèle. Ubuntu le publie sous forme de package generative-AI qui transforme le matériel disponible de la machine hôte en un service d'inférence local. Le snap détecte le système CPU, GPU ou NPU et choisit automatiquement des optimisations de l'exécution et du poids du modèle.

Les utilisateurs interagissent avec Gemma 3 via son interface en ligne de commande, y compris la commande gema3 --help pour les conseils d'utilisation. Les applications peuvent également se connecter via une API locale standardisée, donnant aux développeurs une façon cohérente d'ajouter des fonctionnalités d'IA sans réglage séparé pour chaque type de matériel. Les utilisations typiques comprennent la fourniture de capacités de modèles locaux aux IDE, aux chatbots et aux logiciels d'édition multimédia.

L'hôte doit exécuter Linux avec snapd, et les pilotes matériels nécessaires doivent être installés avant que l'inférence commence. Le paquet prend en charge les architectures amd64 et arm64, ce qui le rend adapté pour les ordinateurs de bureau, les postes de travail, les serveurs et autres systèmes Linux compatibles. Gemma 3 est un logiciel gratuit, tandis que l'utilisation du modèle est régie par les Conditions d'utilisation de Gemma ; les licences des logiciels groupés sont disponibles dans le snap à l'adresse /snap/gemma3/current/usr/share/doc. La version actuelle est 2.0.0-beta.14+a169df7.