LocalSubs0.7.0

LocalSubs traduz legendas em inglês de streaming de vídeo em chinês tradicional em tempo real, mantendo o processamento em seu computador em vez de enviar texto de legenda para um serviço externo. Ele preserva o diálogo original em inglês ao adicionar legendas chinesas tradicionais otimizadas por Taiwan, ajudando os telespectadores a seguir o conteúdo em inglês que eles poderiam perder. A tradução usa um modelo local 0.6B bem ajustado projetado para esta tarefa.

A extensão Chrome é destinada para HBO Max e funciona com Chrome, Chromium e Microsoft Edge. Seu service worker de segundo plano do Manifest V3 encaminha a tradução de legendas por meio do WebLLM, o backend padrão para novas instalações, ou do backend nativo opcional. WebLLM executa o modelo na extensão através de WebGPU, é apenas GPU, e requer um navegador-exposto adaptador WebGPU com suporte shader-f16; hardware não suportado pode usar o ajudante nativo em vez disso.

A infra-estrutura nativa conecta-se ao localsubs helper através do Chrome Native Messaging e executa lhama.cpp em uma CPU ou NVIDIA CUDA, com CUDA fornecendo a menor latência. Novas instalações usam o WebLLM sem o helper, enquanto as configurações nativas existentes retêm essa infra-estrutura; as backends de comutação descarregam o motor inativo ou reiniciam a conexão nativa sem reiniciar o navegador. Os artefatos WebLLM em cache usam o IndexedDB, e o script de conteúdo pode pré-aquecer um modelo em cache, mas deixa a preparação de um modelo desencapado para a página de configurações de extensão.

O software open-source System Tools do Aiden1020, versão 0.7.0, suporta Windows 10 ou posterior, Windows Server 2016 ou posterior, e sistemas x64, enquanto a extensão também suporta macOS na Apple Silicon ou Intel. A versão atual adiciona inferência WebLLM baseada em navegador e muda o cache de artefato para IndexedDB; seu modelo de produção usa uma janela de contexto de 256 token, um limite de saída de 16 token, e aproximadamente 272 MB de pesos q4f16 1.