Что такое MMAudio?
MMAudio — мультимодальная генеративная модель, которая синтезирует синхронизированное аудио из видео и опционального текста. Совместное обучение на данных video-audio и text-audio учит семантическому выравниванию; модуль синхронизации выстраивает аудио-латенты по кадрам видео. Результат — новый саундтрек, а не демукс исходного файла.