网站搭建设计合同,wordpress 题库,上海培训机构排名,企业管理系统项目简介怎么写好HKU, ByteDance#xff5c;⭐️
港大和字节联合提出长视频生成模型Loong#xff0c;该模型可以生成外观一致、运动动态大、场景过渡自然的分钟级长视频。选择以统一的顺序对文本标记和视频标记进行建模#xff0c;并使用渐进式短到长训练方案和损失重新加权来克服长视频训练…HKU, ByteDance⭐️
港大和字节联合提出长视频生成模型Loong该模型可以生成外观一致、运动动态大、场景过渡自然的分钟级长视频。选择以统一的顺序对文本标记和视频标记进行建模并使用渐进式短到长训练方案和损失重新加权来克服长视频训练的挑战。
此外Loong还会特别关注视频前几帧以确保它们的质量不会被后面的帧所掩盖。最后在生成视频时Loong会不断调整和优化以确保生成的视频既有趣又流畅。 相关链接
论文地址http://arxiv.org/abs/2410.02757v1
项目主页https://epiphqny.github.io/Loong-video/
论文阅读 摘要
生成几分钟内内容丰富的长视频是人们所期望的但同时也是一项挑战。自回归大型语言模型 (LLM) 在自然语言处理领域生成连贯且较长的标记序列方面取得了巨大成功而自回归 LLM 在视频生成方面的探索仅限于生成几秒钟的短视频。
本文深入分析了阻碍基于自回归 LLM 的视频生成器生成长视频的挑战。基于观察和分析提出了 Loong这是一种新的基于自回归 LLM 的视频生成器可以生成几分钟长的视频。具体来说将文本标记和视频标记建模为自回归 LLM 的统一序列并从头开始训练模型。提出了渐进式的从短到长的训练并采用损失重新加权方案来缓解长视频训练的损失不平衡问题。
文章还进一步研究了推理策略包括视频标记重新编码和采样策略以减少推理过程中的错误积累。提出的 Loong 可以在 10 秒视频上进行训练并可以扩展以根据文本提示生成分钟级长的视频结果证明了这一点。
方法 给定输入的文本标记该模型会自回归地预测视频标记。所有文本和视频信息都被公式化为单向离散标记序列其中模型根据前一个标记预测下一个标记。视频标记器用于将视频帧转换为离散视频标记。我们遵循渐进式训练流程来训练长视频。 Loong 的推理过程。 给定输入文本模型首先预测前 10 秒的视频标记以 v1-v9 表示。然后此剪辑的最后 n 帧中的标记被解码为视频帧并由视频标记器重新编码。这些重新编码的标记v7-v9与文本标记一起作为预测下一个剪辑的视频标记v10-v13的条件。标记预测、部分解码和重新编码的这种迭代过程可以将视频延长到训练时长之外同时减轻质量下降。重复此过程直到生成的视频达到所需长度。
实验
生成高分辨率视频 Prompt: Clown fish swimming through the coral reef Prompt: A panda eating bamboo on a rock Prompt: A koala bear playing piano in the forest
重建视频使用离散视频标记器。 左:原始视频右:重构视频
生成的低分辨率短视频(128x128) 结论
文章提出了基于自回归LLM的视频生成模型 Loong该模型可以生成外观一致、运动动态大、场景过渡自然的分钟级长视频。选择以统一的顺序对文本标记和视频标记进行建模并使用渐进式短到长训练方案和损失重新加权来克服长视频训练的挑战。实验证明了该方法在生成分钟级长视频方面的有效性。
