Gemma 3

Gemma 3 çıkarımını yerel olarak Linux üzerinde, model için optimize edilmiş bir ortam sağlayan bir snap üzerinden çalıştırın. Ubuntu, ana makinenin mevcut donanımını yerel bir çıkarım hizmetine dönüştüren bir üretken yapay zekâ paketi olarak yayınlar. Snap, sistemin CPU, GPU veya NPU'sunu algılar ve uygun çalışma zamanı ile model ağırlığı optimizasyonlarını otomatik olarak seçer.

Kullanıcılar, kullanım kılavuzu için gemma3 --help komutu da dahil olmak üzere komut satırı arayüzü aracılığıyla Gemma 3 ile etkileşime girer. Uygulamalar ayrıca standart bir yerel API aracılığıyla bağlanabilir ve geliştiricilere her bir donanım türü için ayrı ayrı ayarlama yapmadan AI özellikleri eklemenin tutarlı bir yolunu sunar. Tipik kullanımlar, IDE'lere, chatbot'lara ve medya düzenleme yazılımına yerel model yetenekleri sağlamayı içerir.

Ev sahibi Linux'u snaped ile çalıştırmalı ve çıkarım başlamadan önce gerekli donanım sürücüleri kurulmalıdır. Paket, amd64 ve arm64 mimarilerini destekler ve uyumlu masaüstü, iş istasyonu, sunucu ve diğer Linux sistemleri için uygun hale getirir. Gemma 3 ücretsizdir, modelin kullanımı Gemma'nın Kullanım Şartlarına tabidir; paketlenmiş yazılımlar için lisanslar snap içinde /snap/gemma3/current/usr/share/doc adresinde mevcuttur. Mevcut sürüm 2.0.0-beta.14+a169df7'dir.