LocalSubs0.7.0

LocalSubs, akış videolarındaki İngilizce altyazıları Geleneksel Çince'ye gerçek zamanlı olarak çevirir ve altyazı metnini harici bir hizmete göndermek yerine işlemi bilgisayarınızda tutar. Tayvan için optimize edilmiş Geleneksel Çince altyazıları eklerken orijinal İngilizce diyaloğu korur, izleyicilerin aksi takdirde kaçırabilecekleri İngilizce içeriği takip etmelerine yardımcı olur. Çeviri, bu görev için tasarlanmış ince ayarlı 0.6B yerel bir model kullanır.

Chrome uzantısı HBO Max için tasarlanmıştır ve Chrome, Chromium ve Microsoft Edge ile çalışır. Onun Manifest V3 arka plan servis işçi yolları ya WebLLM aracılığıyla altyazı çevirisi, yeni kurulumlar için varsayılan arka uç veya isteğe bağlı yerel arka uç. WebLLM, modeli WebGPU aracılığıyla uzatmada çalıştırır, yalnızca GPU'dur ve shader-f16 desteğine sahip tarayıcı tarafından sunulan bir WebGPU adaptörü gerektirir; desteklenmeyen donanım bunun yerine yerli yardımcıyı kullanabilir.

Yerel arka uç, Chrome Native Messaging aracılığıyla LocalSubs_helper'a bağlanır ve bir CPU veya NVIDIA CUDA'da lama.cpp'yi çalıştırır ve CUDA en düşük gecikme süresini sağlar. Yeni kurulumlar WebLLM'yi yardımcı olmadan kullanırken, mevcut yalnızca yerel kurulumlar bu arka ucu korur; Arka uçları değiştirmek, etkin olmayan motoru boşaltır veya tarayıcıyı yeniden başlatmadan yerel bağlantıyı sıfırlar. Önbelleğe alınan WebLLM eserleri IndexedDB kullanır ve içerik betiği önbelleğe alınmış bir modeli önceden ısıtabilir, ancak önbelleğe alınmamış bir modelin hazırlanmasını uzantı ayarları sayfasına bırakır.

Aiden1020'nin açık kaynaklı Sistem Araçları yazılımı, sürüm 0.7.0, Windows 10 veya sonraki sürümleri, Windows Server 2016 veya sonraki sürümleri ve x64 sistemlerini desteklerken, eklenti ayrıca Apple Silicon veya Intel'deki macOS'u da destekliyor. Mevcut sürüm tarayıcı tabanlı WebLLM çıkarımını ekler ve IndexedDB'ye nesne önbelleği değiştirir; üretim modeli 256 tonluk bir bağlam penceresi, 16 tonluk bir çıkış sınırı ve yaklaşık 272 MB q4f16_1 ağırlık kullanır.