LocalSubs0.7.0

LocalSubs übersetzt englische Untertitel aus dem Streaming von Videos in traditionelles Chinesisch in Echtzeit und behält die Verarbeitung auf Ihrem Computer, anstatt Untertiteltext an einen externen Dienst zu senden. Es bewahrt den ursprünglichen englischen Dialog und fügt Taiwan-optimierte traditionelle chinesische Untertitel hinzu, die den Zuschauern helfen, englischen Inhalten zu folgen, die sie sonst verpassen könnten. Die Übersetzung verwendet ein fein abgestimmtes lokales 0,6B-Modell, das für diese Aufgabe entwickelt wurde.

Die Chrome-Erweiterung ist für HBO Max gedacht und funktioniert mit Chrome, Chromium und Microsoft Edge. Der Manifest V3-Hintergrunddienst Worker leitet die Untertitelübersetzung entweder über WebLLM, das Standard-Backend für neue Installationen oder das optionale native Backend. WebLLM führt das Modell in der Erweiterung über WebGPU aus, ist nur GPU und erfordert einen Browser-exponierten WebGPU-Adapter mit Shader-f16-Unterstützung; nicht unterstützte Hardware kann stattdessen den nativen Helfer verwenden.

Das native Backend verbindet sich mit localsubs helper über Chrome Native Messaging und führt llama.cpp auf einer CPU oder NVIDIA CUDA aus, wobei CUDA die niedrigste Latenz bietet. Neue Installationen verwenden WebLLM ohne den Helfer, während bestehende native-only-Setups dieses Backend beibehalten; das Umschalten von Backends entlädt die inaktive Engine oder setzt die native Verbindung zurück, ohne den Browser neu zu starten. Cached WebLLM-Artefakte verwenden IndexedDB, und das Inhaltsskript kann ein zwischengespeichertes Modell vorwärmen, lässt jedoch die Vorbereitung eines nicht zwischengespeicherten Modells auf der Erweiterungseinstellungsseite.

Die Open-Source-Systemtools-Software von Aiden1020, Version 0.7.0, unterstützt Windows 10 oder höher, Windows Server 2016 oder höher und x64-Systeme, während die Erweiterung auch MacOS auf Apple Silicon oder Intel unterstützt. Die aktuelle Version fügt browserbasierte WebLLM-Inferenz hinzu und ändert das Artefakt-Caching zu IndexedDB; Das Produktionsmodell verwendet ein Kontextfenster von 256 Token, ein Ausgabelimit von 16 Token und etwa 272 MB von q4f16 1 Gewichten.