Gemma 3

Запустите инференс Gemma 3 локально на Linux через snap-пакет, который предоставляет среду, оптимизированную для этой модели. Ubuntu публикует его как пакет генеративного искусственного интеллекта, который превращает доступное оборудование хост-машины в локальную службу вывода. Snap обнаруживает процессор, графический процессор или NPU системы и автоматически выбирает соответствующие оптимизации среды выполнения и весов модели.

Пользователи взаимодействуют с Gemma 3 через интерфейс командной строки, включая команду «gemma3-help» для руководства по использованию. Приложения также могут подключаться через стандартизированный локальный API, предоставляя разработчикам последовательный способ добавления функций ИИ без отдельной настройки для каждого типа оборудования. Типичное использование включает в себя предоставление возможностей локальной модели IDE, чат-ботам и программному обеспечению для редактирования медиа.

Хост должен запускать Linux со щелчком, а необходимые аппаратные драйверы должны быть установлены до начала вывода. Пакет поддерживает архитектуры amd64 и arm64, что делает его подходящим для совместимых настольных компьютеров, рабочих станций, серверов и других систем Linux. Gemma 3 является бесплатным, в то время как использование модели регулируется Условиями использования Gemma; лицензии на программное обеспечение в комплекте доступны внутри snap по адресу /snap/gemma3/current/usr/share/doc. Текущая версия 2.0.0-beta.14+a169df7.