AI视频生成

京亦智能AI视频生成神器是一款利用人工智能技术，将静态的老照片转化为动态视频的产品。它结合了深度学习和图像处理技术，使得用户能够轻松地将珍贵的老照片复活，创造出具有纪念意义的视频内容。该产品的主要优点包括操作简便、效果逼真、个性化定制等。它不仅能够满足个人用户对于家庭影像资料的整理和创新需求，也能为商业用户提供一种新颖的营销和宣传方式。目前，该产品提供免费试用，具体价格和定位信息需进一步了解。

TANGO是一个基于层次化音频-运动嵌入和扩散插值的共语手势视频重现技术。它利用先进的人工智能算法，将语音信号转换成相应的手势动作，实现视频中人物手势的自然重现。这项技术在视频制作、虚拟现实、增强现实等领域具有广泛的应用前景，能够提升视频内容的互动性和真实感。TANGO由东京大学和CyberAgent AI Lab联合开发，代表了当前人工智能在手势识别和动作生成领域的前沿水平。

Coverr AI Workflows是一个专注于AI视频生成的平台，提供多种AI工具和工作流程，帮助用户通过简单的步骤生成高质量的视频内容。该平台汇集了AI视频专家的智慧，通过社区分享的workflows，用户可以学习如何使用不同的AI工具来创作视频。Coverr AI Workflows的背景是基于人工智能技术在视频制作领域的应用日益广泛，它通过提供易于理解和操作的工作流程，降低了视频创作的技术门槛，使得非专业人士也能创作出专业级别的视频内容。Coverr AI Workflows目前提供免费的视频和音乐资源，定位于满足创意工作者和小型企业的视频制作需求。

AI视频生成神器是一款利用人工智能技术，将图片或文字转换成视频内容的在线工具。它通过深度学习算法，能够理解图片和文字的含义，自动生成具有吸引力的视频内容。这种技术的应用，极大地降低了视频制作的成本和门槛，使得普通用户也能轻松制作出专业级别的视频。产品背景信息显示，随着社交媒体和视频平台的兴起，用户对视频内容的需求日益增长，而传统的视频制作方式成本高、耗时长，难以满足快速变化的市场需求。AI视频生成神器的出现，正好填补了这一市场空白，为用户提供了一种快速、低成本的视频制作解决方案。目前，该产品提供免费试用，具体价格需要在网站上查询。

Eddie AI是一个创新的视频编辑平台，它利用人工智能技术帮助用户快速、轻松地编辑视频。这个平台的主要优点是它的用户友好性和高效率，它允许用户像与另一个编辑交谈一样与AI对话，提出他们想要的视频剪辑类型。Eddie AI的背景信息显示，它旨在通过使用自定义的AI编辑/故事模型来扩展视频编辑的规模，这表明它在视频制作领域具有潜在的革命性影响。

Pyramid Flow 是一种高效的视频生成建模技术，它基于流匹配方法，通过自回归视频生成模型来实现。该技术主要优点是训练效率高，能够在开源数据集上以较低的GPU小时数进行训练，生成高质量的视频内容。Pyramid Flow 的背景信息包括由北京大学、快手科技和北京邮电大学共同研发，并且已经在多个平台上发布了相关的论文、代码和模型。

AI Hug Video Generator是一个在线平台，使用先进的机器学习技术将静态照片转换成动态、逼真的拥抱视频。用户可以根据自己的珍贵照片创建个性化、充满情感的视频。该技术通过分析真实人类互动来创建真实感的数字拥抱，包括微妙的手势和情感。平台提供了用户友好的界面，无论是技术爱好者还是视频制作新手，都能轻松制作AI拥抱视频。此外，生成的视频是高清的，适合在任何平台上分享，确保在每个屏幕上都能呈现出色的效果。

LLaVA-Video是一个专注于视频指令调优的大型多模态模型（LMMs），通过创建高质量的合成数据集LLaVA-Video-178K来解决从网络获取大量高质量原始数据的难题。该数据集包括详细的视频描述、开放式问答和多项选择问答等任务，旨在提高视频语言模型的理解和推理能力。LLaVA-Video模型在多个视频基准测试中表现出色，证明了其数据集的有效性。

JoggAI是一个利用人工智能技术，帮助用户将产品链接或视觉素材快速转换成吸引人的视频广告的平台。它提供了丰富的模板、多样的AI虚拟形象，以及快速响应的服务，以创造引人入胜的内容，促进网站流量和销售。JoggAI的主要优点包括快速的视频内容创建、AI脚本撰写、批量模式制作、视频剪辑理解、文本到语音转换等。这些功能使得JoggAI非常适合需要高效制作视频内容的电子商务、市场营销、销售和商业所有者以及代理和自由职业者。

Hailuo AI Video Generator 是一款利用人工智能技术，根据文本提示自动生成视频内容的工具。它通过深度学习算法，将用户的文字描述转化为视觉图像，极大地简化了视频制作流程，提高了创作效率。该产品适用于需要快速生成视频内容的个人和企业，特别是在广告、社交媒体内容制作和电影预览等领域。

光映AI是一个利用人工智能技术帮助用户快速创建热门视频的平台。它通过AI技术简化了视频编辑过程，使得用户无需视频编辑技能也能制作出高质量的视频内容。该平台特别适合需要快速制作视频内容的个人和企业，如社交媒体运营者、视频博主等。

Meta Movie Gen 是一个先进的媒体基础AI模型，它允许用户通过简单的文本输入来生成定制的视频和声音，编辑现有视频或将个人图像转换成独特的视频。这项技术代表了AI在内容创造方面的最新突破，为内容创作者提供了前所未有的创作自由度和效率。

JoyHallo是一个数字人模型，专为普通话视频生成而设计。它通过收集来自京东健康国际有限公司员工的29小时普通话视频，创建了jdh-Hallo数据集。该数据集覆盖了不同年龄和说话风格，包括对话和专业医疗话题。JoyHallo模型采用中国wav2vec2模型进行音频特征嵌入，并提出了一种半解耦结构来捕捉唇部、表情和姿态特征之间的相互关系，提高了信息利用效率，并加快了推理速度14.3%。此外，JoyHallo在生成英语视频方面也表现出色，展现了卓越的跨语言生成能力。

MIMO是一个通用的视频合成模型，能够模仿任何人在复杂动作中与物体互动。它能够根据用户提供的简单输入（如参考图像、姿势序列、场景视频或图像）合成具有可控属性（如角色、动作和场景）的角色视频。MIMO通过将2D视频编码为紧凑的空间代码，并将其分解为三个空间组成部分（主要人物、底层场景和浮动遮挡）来实现这一点。这种方法允许用户灵活控制，空间运动表达以及3D感知合成，适用于交互式真实世界场景。

LVCD 是一种基于参考的线稿视频上色技术，采用大规模预训练的视频扩散模型，生成色彩化动画视频。该技术通过Sketch-guided ControlNet和Reference Attention，实现了对快速和大幅度运动的动画视频进行色彩化处理，同时保证了时间上的连贯性。LVCD的主要优点包括生成色彩化动画视频的时间连贯性、处理大运动的能力以及高质量的输出结果。

ComfyUI-LumaAI-API是一个为ComfyUI设计的插件，它允许用户直接在ComfyUI中使用Luma AI API。Luma AI API基于Dream Machine视频生成模型，由Luma开发。该插件通过提供多种节点，如文本到视频、图像到视频、视频预览等，极大地丰富了视频生成的可能性，为视频创作者和开发者提供了便捷的工具。

Runway API是一个强大的视频模型平台，提供先进的生成视频模型，允许用户在安全、可靠的环境中嵌入Gen-3 Alpha Turbo到他们的产品中。它支持广泛的应用场景，包括创意广告、音乐视频、电影制作等，是全球顶尖创意人士的首选。

Dream Machine API是一个创意智能平台，它提供了一系列先进的视频生成模型，通过直观的API和开源SDKs，用户可以构建和扩展创意AI产品。该平台拥有文本到视频、图像到视频、关键帧控制、扩展、循环和相机控制等功能，旨在通过创意智能与人类合作，帮助他们创造更好的内容。Dream Machine API的推出，旨在推动视觉探索和创造的丰富性，让更多的想法得以尝试，构建更好的叙事，并让那些以前无法做到的人讲述多样化的故事。

AI-Faceless-Video-Generator是一个利用人工智能技术，根据话题生成视频脚本、语音和会说话头像的项目。它结合了sadtalker进行面部动画，gTTS生成AI语音和OpenAI语言模型生成脚本，提供了一个端到端的解决方案，用于生成个性化视频。该项目的主要优点包括脚本生成、AI语音生成、面部动画创建以及易于使用的界面。

通义万相AI创意作画是一款利用人工智能技术，将用户的文字描述或图像转化为视频内容的产品。它通过先进的AI算法，能够理解用户的创意意图，自动生成具有艺术感的视频。该产品不仅能够提升内容创作的效率，还能激发用户的创造力，适用于广告、教育、娱乐等多个领域。

Follow-Your-Canvas 是一种基于扩散模型的视频外延技术，它能够生成高分辨率的视频内容。该技术通过分布式处理和空间窗口合并，解决了GPU内存限制问题，同时保持了视频的空间和时间一致性。它在大规模视频外延方面表现出色，能够将视频分辨率显著提升，如从512 X 512扩展到1152 X 2048，同时生成高质量和视觉上令人愉悦的结果。

Runway Staff Picks 是一个展示使用 Runway Gen-3 Alpha 技术创作的精选短片和实验作品的平台。这些作品涵盖了从艺术到科技的多个领域，展示了 Runway 在视频创作和实验艺术方面的前沿技术。Runway 与 Tribeca Festival 2024 合作，通过与 Media.Monks 的合作，进一步扩展了创意的边界。

Loopy是一个端到端的音频驱动视频扩散模型，专门设计了跨剪辑和内部剪辑的时间模块以及音频到潜在表示模块，使模型能够利用数据中的长期运动信息来学习自然运动模式，并提高音频与肖像运动的相关性。这种方法消除了现有方法中手动指定的空间运动模板的需求，实现了在各种场景下更逼真、高质量的结果。

CyberHost是一个端到端音频驱动的人体动画框架，通过区域码本注意力机制，实现了手部完整性、身份一致性和自然运动的生成。该模型利用双U-Net架构作为基础结构，并通过运动帧策略进行时间延续，为音频驱动的人体动画建立了基线。CyberHost通过一系列以人为先导的训练策略，包括身体运动图、手部清晰度评分、姿势对齐的参考特征和局部增强监督，提高了合成结果的质量。CyberHost是首个能够在人体范围内实现零样本视频生成的音频驱动人体扩散模型。

CogVideo是由清华大学团队开发的文本到视频生成模型，它通过深度学习技术将文本描述转换为视频内容。该技术在视频内容创作、教育、娱乐等领域具有广泛的应用前景。CogVideo模型通过大规模预训练，能够生成与文本描述相匹配的视频，为视频制作提供了一种全新的自动化方式。

MoneyPrinterPlus是一个开源的AI短视频生成工具，它利用AI大模型技术，可以一键批量生成各类短视频，支持一键混剪短视频，并且能够自动将视频发布到抖音、快手、小红书、视频号等平台。该工具旨在帮助用户轻松掌握短视频流量，实现内容的快速传播和变现。

Creatify 2.0是一款AI视频广告制作器，具有文本到视频的转换功能和AI编辑功能，旨在创建病毒式广告创意，提升市场营销效率。它支持9种以上的风格，包括卡通、现实、3D等，帮助用户快速生成引人入胜的视频广告，并且能够针对特定受众进行定制化推广。

CogVideoX是一个开源的视频生成模型，由清华大学团队开发，支持从文本描述生成视频。它提供了多种视频生成模型，包括入门级和大型模型，以满足不同质量和成本需求。模型支持多种精度，包括FP16和BF16，推荐使用与模型训练时相同的精度进行推理。CogVideoX-5B模型特别适用于需要生成高质量视频内容的场景，如电影制作、游戏开发和广告创意。

Video-CCAM 是腾讯QQ多媒体研究团队开发的一系列灵活的视频多语言模型（Video-MLLM），致力于提升视频-语言理解能力，特别适用于短视频和长视频的分析。它通过因果交叉注意力掩码（Causal Cross-Attention Masks）来实现这一目标。Video-CCAM 在多个基准测试中表现优异，特别是在 MVBench、VideoVista 和 MLVU 上。模型的源代码已经重写，以简化部署过程。

auto-video-generateor自动视频生成器是一个创新的AI模型，能够根据用户输入的主题文字，自动生成解说视频。它利用大语言模型生成故事或解说文本，再通过语音合成技术生成解说语音，结合文生图技术生成与文本内容相匹配的图片，最终将这些元素融合生成解说视频。产品背景基于百度智能云的千帆大模型平台，采用ERNIE系列模型，结合开源的语音合成和文生图技术，实现自动化视频生成流程。

Video-Foley是一个创新的视频到声音生成系统，它通过使用均方根(RMS)作为时间事件条件，结合语义音色提示（音频或文本），实现高控制性和同步性的视频声音合成。该系统采用无需标注的自监督学习框架，包括Video2RMS和RMS2Sound两个阶段，结合了RMS离散化和RMS-ControlNet等新颖概念，与预训练的文本到音频模型相结合。Video-Foley在声音时间、强度、音色和细节的音视频对齐和控制性方面达到了最先进的性能。

NarratoAI是一个利用AI大模型，一键解说并剪辑视频的工具。它提供了剧本编写、自动视频剪辑、配音和字幕生成的一站式解决方案，由LLM驱动，以提高内容创作的效率。

PixVerse 是一款创新的 AI 视频创作平台，旨在帮助用户轻松创建高质量的视频内容。通过先进的生成式 AI 技术，PixVerse 能够将文本、图像和角色转换为生动的视频，极大地提升了创作的效率与灵活性。无论是专业的内容创作者还是普通用户，PixVerse 都提供了强大的工具来实现他们的创意。此平台的易用性和强大的功能使其在市场中独树一帜，适合各类视频制作需求。

Tavus Conversational Video Interface (CVI) 是一个创新的视频对话平台，它通过数字孪生技术提供面对面的互动体验。该平台具备低延迟（少于一秒）的即时响应能力，结合先进的语音识别、视觉处理和对话意识，为用户提供丰富、自然的对话体验。平台易于部署和扩展，支持自定义LLM或TTS，适用于多种行业和场景。

ReSyncer是一个创新的框架，致力于通过先进的风格注入Transformer技术，实现音频与视频的高效同步。它不仅能够生成高保真的唇形同步视频，还支持快速个性化微调、视频驱动的唇形同步、说话风格的转换，甚至面部交换等特性。这些功能对于创建虚拟主持人和表演者至关重要，能够显著提升视频内容的自然度和真实感。

EmoTalk3D是一个专注于3D虚拟人头合成的研究项目，它通过收集多视角视频、情感注释和每帧3D几何数据来解决传统3D人头合成中存在的视角一致性和情感表达不足的问题。该项目提出了一种新颖的方法，通过训练EmoTalk3D数据集，实现了情感可控的3D人头合成，具有增强的唇部同步和渲染质量。EmoTalk3D模型能够生成具有广泛视角和高渲染质量的3D动画，同时捕捉到动态面部细节，如皱纹和微妙表情。

ComfyUI-CogVideoXWrapper 是一个基于Python的视频处理模型，它通过使用T5模型进行视频内容的生成和转换。该模型支持从图像到视频的转换工作流程，并在实验阶段展现出有趣的效果。它主要针对需要进行视频内容创作和编辑的专业用户，尤其是在视频生成和转换方面有特殊需求的用户。

CogVideoX-2B是一个开源的视频生成模型，由清华大学团队开发。它支持使用英语提示语言生成视频，具有36GB的推理GPU内存需求，并且可以生成6秒长、每秒8帧、分辨率为720*480的视频。该模型使用正弦位置嵌入，目前不支持量化推理和多卡推理。它基于Hugging Face的diffusers库进行部署，能够根据文本提示生成视频，具有高度的创造性和应用潜力。

CogVideoX是一个开源的视频生成模型，与商业模型同源，支持通过文本描述生成视频内容。它代表了文本到视频生成技术的最新进展，具有生成高质量视频的能力，能够广泛应用于娱乐、教育、商业宣传等领域。

Tora是一种基于扩散变换器（DiT）的视频生成模型，它通过集成文本、视觉和轨迹条件，实现了对视频内容动态的精确控制。Tora的设计充分利用了DiT的可扩展性，允许在不同的持续时间、纵横比和分辨率下生成高质量的视频内容。该模型在运动保真度和物理世界运动模拟方面表现出色，为视频内容创作提供了新的可能性。

Clapper.app是一个开源的AI故事可视化工具，能够将剧本解读并渲染成故事板、视频、声音和音乐。目前，该工具仍处于早期开发阶段，并不适用于普通用户，因为一些功能尚未完成，也没有教程等。

清影 AI 视频生成服务是一个创新的人工智能平台，旨在通过智能算法生成高质量的视频内容。该服务适合各种行业用户，能够快速便捷地生成富有创意的视觉内容。无论是商业广告、教育课程还是娱乐视频，清影 AI 都能提供优质的解决方案。该产品依托于先进的 GLM 大模型，确保生成内容的准确性与丰富性，同时满足用户个性化需求。提供免费试用，鼓励用户探索 AI 视频创作的无限可能。

Open-Sora Plan v1.2是一个开源的视频生成模型，专注于文本到视频的转换任务。它采用3D全注意力架构，优化了视频的视觉表示，并提高了推理效率。该模型在视频生成领域具有创新性，能够更好地捕捉联合空间-时间特征，为视频内容的自动生成提供了新的技术路径。

MaskVAT是一种视频到音频(V2A)生成模型，它利用视频的视觉特征来生成与场景匹配的逼真声音。该模型特别强调声音的起始点与视觉动作的同步性，以避免不自然的同步问题。MaskVAT结合了全频带高质量通用音频编解码器和序列到序列的遮蔽生成模型，能够在保证高音频质量、语义匹配和时间同步性的同时，达到与非编解码器生成音频模型相媲美的竞争力。

Stable Video 4D (SV4D) 是基于 Stable Video Diffusion (SVD) 和 Stable Video 3D (SV3D) 的生成模型，它接受单一视角的视频并生成该对象的多个新视角视频（4D 图像矩阵）。该模型训练生成 40 帧（5 个视频帧 x 8 个摄像机视角）在 576x576 分辨率下，给定 5 个相同大小的参考帧。通过运行 SV3D 生成轨道视频，然后使用轨道视频作为 SV4D 的参考视图，并输入视频作为参考帧，进行 4D 采样。该模型还通过使用生成的第一帧作为锚点，然后密集采样（插值）剩余帧来生成更长的新视角视频。

Stable Video 4D是Stability AI最新推出的AI模型，它能够将单个对象视频转换成八个不同角度/视图的多个新颖视图视频。这项技术代表了从基于图像的视频生成到完整的3D动态视频合成的能力飞跃。它在游戏开发、视频编辑和虚拟现实等领域具有潜在的应用前景，并且正在不断优化中。

PixVerse V2是一个革命性的更新，它赋予每个用户轻松创建令人惊叹的视频内容的能力。使用V2，您可以轻松制作视觉冲击力强的电影，甚至可以加入现实世界中不存在的元素。主要优点包括模型升级、画质提升、剪辑间的一致性等。

HeyGen Interactive Avatar是一个在线AI视频生成器，专注于创建和优化虚拟形象视频，支持实时互动。它允许用户创建一个为连续流媒体优化的虚拟形象，同时提醒用户保持头部和手部的最小动作。HeyGen的背景信息包括与Baron David和Ryan Hoover等知名人士的合作，产品目前处于Beta测试阶段，提供免费试用。

Flow Studio 是一个基于人工智能技术的视频生成平台，专注于为用户提供高质量、个性化的视频内容。该平台利用先进的AI算法，能够在短时间内生成3分钟的视频，效果优于Luma、Pika和Sora等同类产品。用户可以通过选择不同的模板、角色和场景，快速创建出具有吸引力的视频内容。Flow Studio 的主要优点包括生成速度快、效果逼真、操作简便等。

RunwayML是一款领先的下一代创意套件，提供了丰富的工具，让用户能够将任何想法转化为现实。该应用通过其独特的文本到视频生成技术，让用户仅通过文本描述即可在手机上生成视频。其主要优点包括： 1. 文本到视频生成：用户只需输入文本描述，即可生成视频。 2. 实时更新：定期推出新功能和更新，确保用户始终能够使用最新的AI视频和图片工具。 3. 无缝资产转移：用户可以在手机和电脑之间无缝转移资产。 4. 多种订阅选项：提供标准、专业和每月1000次生成信用的订阅选项。

TCAN是一种基于扩散模型的新型人像动画框架，它能够保持时间一致性并很好地泛化到未见过的领域。该框架通过特有的模块，如外观-姿态自适应层(APPA层)、时间控制网络和姿态驱动的温度图，来确保生成的视频既保持源图像的外观，又遵循驱动视频的姿态，同时保持背景的一致性。

MiraData是一个大规模的视频数据集，专注于长视频片段，平均时长72秒，提供结构化字幕，平均字幕长度318字，丰富了视频内容的描述。通过使用GPT-4V等技术，MiraData在视频理解和字幕生成方面展现出高准确性和语义连贯性。

vta-ldm是一个专注于视频到音频生成的深度学习模型，能够根据视频内容生成语义和时间上与视频输入对齐的音频内容。它代表了视频生成领域的一个新突破，特别是在文本到视频生成技术取得显著进展之后。该模型由腾讯AI实验室的Manjie Xu等人开发，具有生成与视频内容高度一致的音频的能力，对于视频制作、音频后期处理等领域具有重要的应用价值。

HeyGen Labs提供一种在线AI视频生成器Expressive Photo Avatar，用户可以通过上传照片和音频文件来创建具有表情和口型的头像视频。这项技术利用AI算法模拟真实人物的面部表情和口型，使得视频内容更加生动和吸引人。产品背景是为用户提供一种简单快捷的方式来制作个性化视频内容，适用于多种场景，如社交媒体、广告、教育等。

Jockey是一个基于Twelve Labs API和LangGraph构建的对话式视频代理。它将现有的大型语言模型(Large Language Models, LLMs)的能力与Twelve Labs的API结合使用，通过LangGraph进行任务分配，将复杂视频工作流程的负载分配给适当的基础模型。LLMs用于逻辑规划执行步骤并与用户交互，而与视频相关的任务则传递给由视频基础模型(Video Foundation Models, VFMs)支持的Twelve Labs API，以原生方式处理视频，无需像预先生成的字幕这样的中介表示。

LivePortrait是一个基于隐式关键点框架的人像动画生成模型，它通过使用单一源图像作为外观参考，并从驱动视频、音频、文本或生成中获取动作（如面部表情和头部姿势），来合成逼真的视频。该模型不仅在计算效率和可控性之间取得了有效平衡，而且通过扩展训练数据、采用混合图像-视频训练策略、升级网络架构以及设计更好的运动转换和优化目标，显著提高了生成质量和泛化能力。

MimicMotion是由腾讯公司和上海交通大学联合研发的高质量人体动作视频生成模型。该模型通过信心感知的姿态引导，实现了对视频生成过程的可控性，提高了视频的时序平滑性，并减少了图像失真。它采用了先进的图像到视频的扩散模型，结合了时空U-Net和PoseNet，能够根据姿势序列条件生成任意长度的高质量视频。MimicMotion在多个方面显著优于先前的方法，包括手部生成质量、对参考姿势的准确遵循等。

PAB 是一种用于实时视频生成的技术，通过 Pyramid Attention Broadcast 实现视频生成过程的加速，提供了高效的视频生成解决方案。该技术的主要优点包括实时性、高效性和质量保障。PAB 适用于需要实时视频生成能力的应用场景，为视频生成领域带来了重大突破。

MOFA-Video是一种能够将单张图片通过各种控制信号动画化的方法。它采用了稀疏到密集(S2D)运动生成和基于流的运动适应技术，可以有效地使用轨迹、关键点序列及其组合等不同类型的控制信号来动画化单张图片。在训练阶段，通过稀疏运动采样生成稀疏控制信号，然后训练不同的MOFA-Adapters来通过预训练的SVD生成视频。在推理阶段，不同的MOFA-Adapters可以组合起来共同控制冻结的SVD。

Kling AI是由快手科技开发的文本到视频生成模型，能够根据文本提示生成高度逼真的视频。它具有高效的视频生成能力，长达2分钟的30帧每秒视频，以及3D时空联合注意机制和物理世界模拟等先进技术，使其在AI视频生成领域具有显著的竞争优势。

ShareGPT4Video系列旨在通过密集且精确的字幕来促进大型视频-语言模型(LVLMs)的视频理解以及文本到视频模型(T2VMs)的视频生成。该系列包括：1) ShareGPT4Video，40K GPT4V注释的密集视频字幕，通过精心设计的数据过滤和注释策略开发而成。2) ShareCaptioner-Video，一个高效且功能强大的任意视频字幕模型，由其注释的4.8M高质量美学视频。3) ShareGPT4Video-8B，一个简单但卓越的LVLM，其在三个先进的视频基准测试中达到了最佳性能。

DeepFuze是与ComfyUI无缝集成的先进深度学习工具，用于革新面部转换、lipsyncing、视频生成、声音克隆和lipsync翻译。利用先进的算法，DeepFuze使用户能够以无与伦比的真实性结合音频和视频，确保完美的面部动作同步。这一创新解决方案非常适合内容创作者、动画师、开发者以及任何希望以先进的AI驱动功能提升其视频编辑项目的人士。

TikTok Symphony是一个由生成性AI驱动的全新创意解决方案套件，旨在简化营销人员和创作者在TikTok上的内容创作旅程。通过将人类想象力与AI驱动的效率相结合，TikTok Symphony使各种规模的企业、创作者和代理机构能够提升内容创作水平，提高生产力，并发现有价值的洞察。

VideoLLaMA2-7B是由DAMO-NLP-SG团队开发的多模态大型语言模型，专注于视频内容的理解和生成。该模型在视觉问答和视频字幕生成方面具有显著的性能，能够处理复杂的视频内容，并生成准确、自然的语言描述。它在空间-时间建模和音频理解方面进行了优化，为视频内容的智能分析和处理提供了强大的支持。

VideoLLaMA2-7B-Base 是由 DAMO-NLP-SG 开发的大型视频语言模型，专注于视频内容的理解与生成。该模型在视觉问答和视频字幕生成方面展现出卓越的性能，通过先进的空间时间建模和音频理解能力，为用户提供了一种新的视频内容分析工具。它基于 Transformer 架构，能够处理多模态数据，结合文本和视觉信息，生成准确且富有洞察力的输出。

VideoLLaMA2-7B-16F-Base是由DAMO-NLP-SG团队开发的大型视频语言模型，专注于视频问答（Visual Question Answering）和视频字幕生成。该模型结合了先进的空间-时间建模和音频理解能力，为多模态视频内容分析提供了强大的支持。它在视觉问答和视频字幕生成任务上展现出卓越的性能，能够处理复杂的视频内容并生成准确的描述和答案。

视频到音频(V2A)技术是DeepMind公司的一项创新，它结合了视频像素与自然语言文本提示，生成与屏幕上动作同步的丰富音景。这项技术可以与视频生成模型如Veo相结合，为视频生成戏剧性配乐、逼真的音效或与视频角色和基调相匹配的对话。它还能为传统素材生成音轨，包括档案材料、无声电影等，开拓了更广泛的创作机会。

UniAnimate是一个用于人物图像动画的统一视频扩散模型框架。它通过将参考图像、姿势指导和噪声视频映射到一个共同的特征空间，以减少优化难度并确保时间上的连贯性。UniAnimate能够处理长序列，支持随机噪声输入和首帧条件输入，显著提高了生成长期视频的能力。此外，它还探索了基于状态空间模型的替代时间建模架构，以替代原始的计算密集型时间Transformer。UniAnimate在定量和定性评估中都取得了优于现有最先进技术的合成结果，并且能够通过迭代使用首帧条件策略生成高度一致的一分钟视频。

LVBench是一个专门设计用于长视频理解的基准测试，旨在推动多模态大型语言模型在理解数小时长视频方面的能力，这对于长期决策制定、深入电影评论和讨论、现场体育解说等实际应用至关重要。

VideoTetris是一个新颖的框架，它实现了文本到视频的生成，特别适用于处理包含多个对象或对象数量动态变化的复杂视频生成场景。该框架通过空间时间组合扩散技术，精确地遵循复杂的文本语义，并通过操作和组合去噪网络的空间和时间注意力图来实现。此外，它还引入了一种新的参考帧注意力机制，以提高自回归视频生成的一致性。VideoTetris在组合文本到视频生成方面取得了令人印象深刻的定性和定量结果。

TC-Bench是一个专门用于评估视频生成模型的时间组合性的工具。它通过精心设计的文本提示、相应的真实视频以及强大的评估指标来衡量视频生成模型在不同时间点上新概念的出现及其关系转换的能力。TC-Bench不仅适用于文本条件模型，也适用于图像条件模型，能够进行生成性帧插值。该工具的开发旨在推动视频生成技术的发展，提高生成视频的质量和一致性。

VideoLLaMA 2 是一个针对视频理解任务优化的大规模语言模型，它通过先进的空间-时间建模和音频理解能力，提升了对视频内容的解析和理解。该模型在多选视频问答和视频字幕生成等任务上展现了卓越的性能。

MotionClone是一个训练无关的框架，允许从参考视频进行运动克隆，以控制文本到视频的生成。它利用时间注意力机制在视频反转中表示参考视频中的运动，并引入了主时间注意力引导来减轻注意力权重中噪声或非常微妙运动的影响。此外，为了协助生成模型合成合理的空间关系并增强其提示跟随能力，提出了一种利用参考视频中的前景粗略位置和原始分类器自由引导特征的位置感知语义引导机制。

Dream Machine API是一个Python脚本，使用Dream Machine API来生成视频，并异步检查视频生成状态，输出最新生成的视频链接。它需要Python 3.7+环境和requests、aiohttp库支持。用户需要登录LumaAI的Dream Machine网站获取access_token以使用该脚本。

WorldDreamer是一个创新的视频生成模型，它通过预测遮蔽的视觉令牌来理解并模拟世界动态。它在图像到视频合成、文本到视频生成、视频修复、视频风格化以及动作到视频生成等多个方面表现出色。该模型借鉴了大型语言模型的成功经验，将世界建模视为一个无监督的视觉序列建模挑战，通过将视觉输入映射到离散的令牌并预测被遮蔽的令牌来实现。

Follow-Your-Pose是一个文本到视频生成的模型，它利用姿势信息和文本描述来生成可编辑、可控制姿势的角色视频。这项技术在数字人物创作领域具有重要应用价值，解决了缺乏综合数据集和视频生成先验模型的限制。通过两阶段训练方案，结合预训练的文本到图像模型，实现了姿势可控的视频生成。

SF-V是一种基于扩散的视频生成模型，通过对抗训练优化预训练模型，实现了单步生成高质量视频的能力。这种模型在保持视频数据的时间和空间依赖性的同时，显著降低了去噪过程的计算成本，为实时视频合成和编辑铺平了道路。

Detail是一款专为iPad设计的APP，适用于TikTok爱好者、播客创作者和Instagram影响者。它集成了强大的视频编辑器、便捷的提词器、智能字幕和尖端的摄像技术，通过AI驱动的编辑功能和即时视频预设，使创建惊人视频变得快速而简单。

快影是快手官方推出的视频剪辑应用，提供全面的视频编辑功能，包括剪辑、音频、字幕、特效等，旨在帮助用户轻松创作出有趣且专业的视频内容。它具备AI动漫视频功能，能够将视频转化为动漫风格，提供多种风格选择，如动漫风、国潮风、日漫风等。此外，快影还拥有AI创作工具，如AI绘画、AI文生图、AI文案库，以辅助用户进行创作。快影还提供创作中心，帮助用户查看数据、寻找灵感，以及提供强大的素材库，包括贴纸、热梗等，以提升用户的网感。

可灵大模型是一款具备强大视频生成能力的自研大模型，采用先进的技术实现长达 2 分钟视频生成、模拟物理世界特性、概念组合能力等，可生成电影级画面。

CamCo是一个创新的图像到视频生成框架，它能够生成具有3D一致性的高质量视频。该框架通过Plücker坐标引入相机信息，并提出了一种符合几何一致性的双线约束注意力模块。此外，CamCo在通过运动结构算法估计相机姿态的真实世界视频上进行了微调，以更好地合成物体运动。

EasyAnimate 是一个基于 transformer 架构的流水线，可以用于生成 AI 照片和视频，训练基线模型和 Lora 模型以用于 Diffusion Transformer。支持直接从预训练的 EasyAnimate 模型进行预测，生成不同分辨率、约 6 秒（24fps）的视频。用户还可以训练自己的基线模型和 Lora 模型以执行特定风格转换。

AnimateAnyone是一个基于深度学习的视频生成模型，它能够将静态图片或视频转换为动画。该模型由Novita AI非官方实现，灵感来源于MooreThreads/Moore-AnimateAnyone的实现，并在训练过程和数据集上进行了调整。

MusePose是由腾讯音乐娱乐的Lyra Lab开发的一款图像到视频的生成框架，旨在通过姿势控制信号生成虚拟人物的视频。它是Muse开源系列的最后一个构建块，与MuseV和MuseTalk一起，旨在推动社区向生成具有全身运动和交互能力的虚拟人物的愿景迈进。MusePose基于扩散模型和姿势引导，能够生成参考图像中人物的舞蹈视频，并且结果质量超越了当前几乎所有同一主题的开源模型。

StreamV2V是一个扩散模型，它通过用户提示实现了实时的视频到视频（V2V）翻译。与传统的批处理方法不同，StreamV2V采用流式处理方式，能够处理无限帧的视频。它的核心是维护一个特征库，该库存储了过去帧的信息。对于新进来的帧，StreamV2V通过扩展自注意力和直接特征融合技术，将相似的过去特征直接融合到输出中。特征库通过合并存储的和新的特征不断更新，保持紧凑且信息丰富。StreamV2V以其适应性和效率脱颖而出，无需微调即可与图像扩散模型无缝集成。

V-Express是一个由腾讯AI实验室开发的头像视频生成模型，它通过一系列渐进式丢弃操作平衡不同的控制信号，使得生成的视频能够同时考虑姿态、输入图像和音频。该模型特别针对音频信号较弱的情况进行了优化，解决了在控制信号强度不同的情况下生成头像视频的挑战。

Open-Sora-Plan是一个由北京大学元组团队开发的文本到视频生成模型。它在2024年4月首次推出v1.0.0版本，以其简单高效的设计和显著的性能在文本到视频生成领域获得了广泛认可。v1.1.0版本在视频生成质量和持续时间上进行了显著改进，包括更优的压缩视觉表示、更高的生成质量和更长的视频生成能力。该模型采用了优化的CausalVideoVAE架构，具有更强的性能和更高的推理效率。此外，它还保持了v1.0.0版本的极简设计和数据效率，并且与Sora基础模型的性能相似，表明其版本演进与Sora展示的扩展法则一致。

KREA Video 是一款在线视频生成和增强工具，它利用先进的人工智能技术，为用户提供实时视频生成和编辑功能。它允许用户上传图片或文本提示，生成具有动画效果的视频，并且可以调整视频的时长和关键帧。KREA Video 的主要优点是操作简便，用户界面友好，能够快速生成高质量的视频内容，适用于内容创作者、广告制作者和视频编辑专业人士。

FIFO-Diffusion是一种基于预训练扩散模型的新颖推理技术，用于文本条件视频生成。它能够无需训练生成无限长的视频，通过迭代执行对角去噪，同时处理队列中一系列连续帧的逐渐增加的噪声水平；该方法在头部出队一个完全去噪的帧，同时在尾部入队一个新的随机噪声帧。此外，引入了潜在分割来减少训练推理差距，并通过前瞻去噪来利用前向引用的好处。

Veo是Google最新推出的视频生成模型，能够生成高质量的1080p分辨率视频，支持多种电影和视觉风格。它通过先进的自然语言和视觉语义理解，能够精确捕捉用户创意愿景，生成与提示语调一致且细节丰富的视频内容。Veo模型提供前所未有的创意控制水平，理解电影术语如“延时摄影”或“航拍景观”，创造出连贯一致的画面，使人物、动物和物体在镜头中逼真地移动。

AniTalker是一个创新的框架，它能够从单一的肖像生成逼真的对话面部动画。它通过两个自监督学习策略增强了动作表现力，同时通过度量学习开发了一个身份编码器，有效减少了对标记数据的需求。AniTalker不仅能够创建详细且逼真的面部动作，还强调了其在现实世界应用中制作动态头像的潜力。

AI视频生成器让每个人都能通过文本创作出令人惊叹的视频。功能包括：创意转视频、博客转视频、PPT转视频、推文转视频、头像视频、产品转视频等。适用于内容创作、商业营销、教育培训、电子商务等领域。

Video Mamba Suite 是一个用于视频理解的新型状态空间模型套件，旨在探索和评估Mamba在视频建模中的潜力。该套件包含14个模型/模块，覆盖12个视频理解任务，展示了在视频和视频-语言任务中的高效性能和优越性。

Mira（Mini-Sora）是一个实验性的项目，旨在探索高质量、长时视频生成领域，特别是在模仿Sora风格的视频生成方面。它在现有文本到视频（T2V）生成框架的基础上，通过以下几个关键方面实现突破：扩展序列长度、增强动态特性以及保持3D一致性。目前，Mira项目处于实验阶段，与Sora等更高级的视频生成技术相比，仍有提升空间。

ID-Animator是一种零样本人类视频生成方法，能够在不需要进一步训练的情况下，根据单个参考面部图像进行个性化视频生成。该技术继承了现有的基于扩散的视频生成框架，并加入了面部适配器以编码与身份相关的嵌入。通过这种方法，ID-Animator能够在视频生成过程中保持人物身份的细节，同时提高训练效率。

VideoGigaGAN是一款基于大规模图像上采样器GigaGAN的视频超分辨率(VSR)模型。它能够生成具有高频细节和时间一致性的视频。该模型通过添加时间注意力层和特征传播模块，显著提高了视频的时间一致性，并使用反锯齿块减少锯齿效应。VideoGigaGAN在公共数据集上与最先进的VSR模型进行了比较，并展示了8倍超分辨率的视频结果。

Ctrl-Adapter是一个专门为视频生成设计的Controlnet，提供图像和视频的精细控制功能，优化视频时间对齐，适配多种基础模型，具备视频编辑能力，显著提升视频生成效率和质量。

MA-LMM是一种基于大语言模型的大规模多模态模型,主要针对长期视频理解进行设计。它采用在线处理视频的方式,并使用记忆库存储过去的视频信息,从而可以在不超过语言模型上下文长度限制或GPU内存限制的情况下,参考历史视频内容进行长期分析。MA-LMM可以无缝集成到当前的多模态语言模型中,并在长视频理解、视频问答和视频字幕等任务上取得了领先的性能。

text2video是一个可以将文本自动转换为视频的工具。它采用了stable-diffusion和edge-tts等技术,可以将文本分段生成图片和语音,并通过ffmpeg将其合成为带有字幕和配音的视频。该工具的初衷是实现小说的可视化阅读功能,能够帮助用户更加生动形象地阅读文字内容。该工具支持免费使用,可以根据个人需求进行定制化。

Imagen提供先进的生成式媒体能力。Gemini模型非常适用于高级推理和通用用例，而任务特定的生成AI模型可以帮助企业提供专业能力。今天预览的文本到动态图片功能使Imagen在企业工作负载中更加强大。这允许营销和创意团队根据文本提示生成动态图片，如GIF等。初始时，动态图片将以每秒24帧（fps）的速度交付，分辨率为360x640像素，持续时间为4秒，计划进行持续增强。考虑到该模型专为企业应用设计，它擅长主题，如自然、食物图像和动物。它可以生成一系列的摄像机角度和动作，同时支持整个序列的一致性。Imagen的动态图片生成功能配备了安全过滤器和数字水印，以维护创作者和用户之间的信任承诺。此外，我们还通过高级照片编辑功能更新了Imagen 2.0的图像生成能力，包括修补和扩展。现在在Vertex AI上通用的这些功能，使用户可以轻松地删除图像中不需要的元素、添加新元素，并扩展图像边界，以创造更广阔的视野。此外，我们基于Google DeepMind的SynthID技术的数字水印功能现已通用，使客户能够生成隐形水印并验证Imagen系列模型生成的图像和动态图像。