Gemma 3

Ejecute la inferencia Gemma 3 localmente en Linux a través de un snap que proporciona un entorno optimizado para el modelo. Ubuntu lo publica como un paquete generativo-AI que convierte el hardware disponible de la máquina anfitriona en un servicio local de inferencia. El snap detecta la CPU, GPU o NPU del sistema y opta por optimizar automáticamente el tiempo de ejecución y el peso del modelo.

Los usuarios interactúan con Gemma 3 a través de su interfaz de línea de comandos, incluyendo el comando 'gemma3 --help` para la guía de uso. Las aplicaciones también pueden conectarse a través de una API local estandarizada, dando a los desarrolladores una manera consistente de añadir características de IA sin ajustar por separado para cada tipo de hardware. Los usos típicos incluyen proporcionar capacidades de modelo local a IDEs, chatbots y software de edición de medios.

El host debe ejecutar Linux con snapd, y los controladores de hardware necesarios deben instalarse antes de que comience la inferencia. El paquete admite arquitecturas amd64 y arm64, lo que lo hace adecuado para escritorio compatible, estación de trabajo, servidor y otros sistemas Linux. Gemma 3 es software gratuito, mientras que el uso del modelo se rige por los Términos de Uso de Gemma; las licencias para el software incluido están disponibles dentro del paquete snap en /snap/gemma3/current/usr/share/doc. La versión actual es 2.0.0-beta.14+a169df7.