Программа от американской компании послужит начальной точкой в освоении музыкальных инструментов с нуля. Она следит за действиями артистов, так и проецирует аватар.
Нейросеть от Facebook предсказывает передвижения музыкантов по аудиотреку. Механизм слушает музыкальную композицию и в то же время проецирует играющего треки аватара. В роли данных для обучения программисты применили видеоролики, где профессионалы играют на инструментах без аккомпанемента. На каждом кадре нейросеть определила нахождения конечностей артистов и строила модель, позже сравнив данные с частотным коэффициентом, используемым для характеристики аудиосигналов.
Аватар смог подражать музыкантам, но и даже так его движения смотрелись очень естественно. В дальнейшем технологию могут применять для обучения желающих освоить музыкальное искусство.
*