降低AI量产视频成本的华科阿里等联合推出TF-T2V技术
近两年来，随着大规模图文数据集如LAION-5B的开放，图片生成领域涌现出了一系列效果惊人的方法，如StableDiffusion、DALL-E2、ControlNet和Composer。这些方法的出现使得图片生成领域取得了巨大的突破和进展。图片生成领域可谓在过去短短两年内取得了飞速发展。然而，视频生成仍然面临着巨大的挑战。首先，与图片生成相比，视频生成需要处理更高维度的数据，并且需要考虑到额外的时间维度，这带来了时序建模的问题。为了驱动时序动态的学习，我们需要更多的视频-文本对数据。然而，对视频进行准确
近两年来，随着大规模图文数据集如LAION-5B的开放，图片生成领域涌现出了一系列效果惊人的方法，如Stable Diffusion、DALL-E 2、ControlNet和Composer。这些方法的出现使得图片生成领域取得了巨大的突破和进展。图片生成领域可谓在过去短短两年内取得了飞速发展。
然而，视频生成仍然面临着巨大的挑战。首先，与图片生成相比，视频生成需要处理更高维度的数据，并且需要考虑到额外的时间维度，这带来了时序建模的问题。为了驱动时序动态的学习，我们需要更多的视频-文本对数据。然而，对视频进行准确的时序标注非常昂贵，这限制了视频-文本数据集的规模。目前，现有的WebVid10M视频数据集仅包含10.7M个视频-文本对，与LAION-5B图片数据集相比，数据规模相差甚远。这严重制约了视频生成模型规模化扩展的可能性。
为解决上述问题，华中科技大学、阿里巴巴集团、浙江大学和蚂蚁集团联合研究团队于近期发布了 TF-T2V 视频方案：
论文地址：https://arxiv.org/abs/2312.15770
项目主页：https://tf-t2v.github.io/
即将公开源代码：https://github.com/ali-vilab/i2vgen-xl (VGen 项目)。
该方案另辟蹊径，提出了基于大规模无文本标注视频数据进行视频生成，能够学习丰富的运动动态。
先来看看 TF-T2V 的视频生成效果：
文生视频任务
提示词：生成在冰雪覆盖的土地上有一只冰霜般的大生物的视频。
提示词：生成一只卡通蜜蜂的动画视频。
提示词：生成包含一辆未来幻想摩托车的视频。
提示词：生成一个小男孩快乐微笑的视频。
提示词：生成一个老人感觉头疼的视频。
组合式视频生成任务
给定文本与深度图或者文本与素描草图，TF-T2V 能够进行可控的视频生成：
也可以进行高分辨率视频合成：
半监督设定
在半监督设定下的 TF-T2V 方法还可以生成符合运动文本描述的视频，如 「人从右往左跑」。
方法简介
TF-T2V 的核心思想是将模型分为运动分支和表观分支，运动分支用于建模运动动态，表观分支用于学习视觉表观信息。这两个分支进行联合训练，最终可以实现通过文本驱动视频生成。
为了提升生成视频的时序一致性，作者团队还提出了一种时序一致性损失，显式地学习视频帧之间的连续性。
值得一提的是，TF-T2V 是一种通用的框架，不仅适用于文生视频任务，还能应用于组合式视频生成任务，如 sketch-to-video、video inpainting、first frame-to-video 等。
具体细节和更多实验结果可以参考原论文或者项目主页。
此外，作者团队还把 TF-T2V 作为教师模型，利用一致性蒸馏技术得到了 VideoLCM 模型：
论文地址：https://arxiv.org/abs/2312.09109
项目主页：https://tf-t2v.github.io/
即将公开源代码：https://github.com/ali-vilab/i2vgen-xl (VGen 项目)。
不同于之前视频生成方法需要大约 50 步 DDIM 去噪步骤，基于 TF-T2V 的 VideoLCM 方法可以只需要进行大约 4 步推理去噪就生成高保真的视频，极大地提升了视频生成的效率。
一起来看看 VideoLCM 进行 4 步去噪推理的结果：
具体细节和更多实验结果可以参考 VideoLCM 原论文或者项目主页。
总而言之，TF-T2V 方案为视频生成领域带来了新思路，克服了数据集规模和标注难题带来的挑战。利用大规模的无文本标注视频数据，TF-T2V 能够生成高质量的视频，并应用于多种视频生成任务。这一创新将推动视频生成技术的发展，为各行各业带来更广阔的应用场景和商业机会。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
AirBuddy 3 是面向 macOS 的蓝牙外设增强工具，可集中查看 AirPods、Beats 与苹果设备电量，提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。
AirServer macOS版可把 Mac 转换为无线投屏接收端，通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面，并支持多设备同时连接、高清镜像及会话录制，适合家庭娱乐、课堂教学、会议演示和应用展示。
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，
AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端，适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端，并可同时接收和智能排列多个镜像会话。