Sync 2.0 Pro Lip-sync
레퍼런스→영상잘하는 것
- 촬영된 영상 위에서 가장 정확한 립싱크 — 스튜디오 수준
- 따로 학습하지 않고 영상 자체에서 말하는 사람의 스타일을 잡아내요 — 입력을 보고 움직이는 그 사람의 상을 스스로 만들어요
- 4K까지 다루고, 얼굴은 예전 방식이 아니라 디퓨전 업스케일로 정리해요 — 수염과 입이 깔끔하게 나와요
- 화면에서 얼굴이 커도 견뎌요 — 약 350픽셀까지 품질이 떨어지지 않아요
- 실사 촬영에도, 그림에도, 생성된 영상에도 잘 맞아요
약한 것
- 입력 영상에서 실제로 말하고 있어야 해요: 화면 속 사람이 가만히 있으면 입술이 아예 안 움직일 수 있어요
- 옆모습이 심하거나 얼굴이 일부 가려지면 결과가 약해요
- 느려요 — 가벼운 버전보다 두 배쯤 느려요
- 비싸요
쓰지 말아야 할 것
- 사람이 말없이 가만히 보고만 있는 장면은 넣지 마세요
- 심한 옆모습이나 손, 마이크, 머리카락에 가린 얼굴은 넣지 마세요
- 사진만 있을 때는 쓰지 마세요 — 그건 다른 모델의 몫이에요
대표적인 작업
- 영상 속 인물이 다른 대사를 말하게 하기
- 얼굴은 그대로 두고 말하는 사람의 언어 바꾸기
- 다시 찍지 않고 대사 고치기
- 실사 드라마나 광고 장면 더빙