KeySync

KeySync是一個針對高分辨率視頻的無洩漏唇同步框架。它解決了傳統唇同步技術中的時間一致性問題，同時通過巧妙的遮罩策略處理表情洩漏和麵部遮擋。 KeySync的優越性體現在其在唇重建和跨同步方面的先進成果，適用於自動配音等實際應用場景。

需求人群：

"適合研究人員和開發者，特別是在自動化視頻製作、遊戲開發、影視後期製作等領域。 KeySync的無洩漏唇同步技術可提高視頻質量和用戶體驗，適合追求高品質內容創作者。"

使用場景示例：

在自動配音項目中使用KeySync為動畫角色同步唇形。

在視頻遊戲中應用KeySync提升角色對話的真實感。

利用KeySync改善影視後期製作中的音視頻同步質量。

產品特色：

實現高質量的唇同步，提升視覺效果。

處理視頻中的面部遮擋，增強實際應用效果。

減少表情洩漏，使用LipLeak 度量進行評估。

支持多種音頻輸入格式，包括Wav 和Hubert。

提供交互式在線演示，方便用戶體驗。

提供本地運行的推理腳本，適合長視頻處理。

允許用戶訓練自定義模型，適應不同需求。

包括評估工具LipScore，便於質量檢驗。

使用教程：

創建Conda 環境並激活：conda create -n KeySync python=3.11，conda activate KeySync 。

安裝必要的依賴：python -m pip install -r requirements.txt --no-deps。

下載預訓練模型：git lfs install，git clone https://huggingface.co/toninio19/KeySync pretrained_models。

準備數據，將視頻文件放置於data/videos/，音頻文件放置於data/audios/。

運行推理腳本進行唇同步處理：bash scripts/infer_raw_data.sh --filelist 'data/videos' --file_list_audio 'data/audios' --output_folder 'my_animations'。