🖼️ 图像

DriveVLM

DriveVLM是一个自动驾驶系统,它利用视觉语言模型(VLMs)来增强场景理解和规划能力。该系统通过独特的推理模块组合,包括场景描述、场景分析和分层规划,以提高对复杂和长尾场景的理解。此外,为了解决VLMs在空间推理和计算需求上的局限性,提出了DriveVLM-Dual,这是一个混合系统,结合了DriveVLM的优势和传统自动驾驶流程。在nuScenes数据集和SUP-AD数据集上的实验表明,DriveVLM和DriveVLM-Dual在处理复杂和不可预测的驾驶条件方面非常有效。最终,DriveVLM-Dual在生产车辆上进行了部署,验证了其在现实世界自动驾驶环境中的有效性。

#视觉语言模型
#自动驾驶
#场景理解
#分层规划
定价: 免费
DriveVLM

产品详情

自动驾驶与视觉语言模型的融合

主要功能

1
接受图像序列作为输入,通过基于推理的思考链(CoT)机制输出分层规划预测。
2
可选地结合传统的3D感知和轨迹规划模块,实现空间推理能力和实时轨迹规划。
3
数据挖掘和注释流程,构建场景理解数据集。
4
使用注释者团队进行场景注释,包括场景描述、场景分析和规划。
5
在nuScenes数据集和SUP-AD数据集上进行实验,验证系统的有效性。
6
DriveVLM-Dual在生产车辆上部署,验证其在现实世界自动驾驶环境中的有效性。

使用教程

1
1. 准备图像序列作为输入数据。
2
2. 将图像序列输入DriveVLM模型。
3
3. 利用DriveVLM的推理机制进行场景描述、分析和规划。
4
4. 根据需要,可选地结合3D感知和轨迹规划模块。
5
5. 从DriveVLM模型获取分层规划预测结果。
6
6. 在实际自动驾驶环境中部署DriveVLM-Dual,验证其效果。

使用示例

在城市环境中,DriveVLM能够识别并处理复杂的道路条件和微妙的人类行为。

DriveVLM-Dual在生产车辆上的部署,展示了其在真实世界自动驾驶环境中的实用性。

在nuScenes数据集上的实验,证明了DriveVLM在处理复杂和不可预测的驾驶条件方面的有效性。

快速访问

访问官网 →

所属分类

🖼️ 图像
› AI模型
› AI自动驾驶

相关推荐

发现更多类似的优质AI工具

FLUX.1 Krea [dev]

FLUX.1 Krea [dev]

FLUX.1 Krea [dev] 是一个拥有 120 亿参数的修正流转换器,专为从文本描述生成高质量图像而设计。该模型经过指导蒸馏训练,使其更高效,且开放权重推动科学研究和艺术创作。产品强调其美学摄影能力和强大的提示遵循能力,是对封闭源替代品的有力竞争。使用该模型的用户能够进行个人、科学和商业用途,推动创新的工作流程。

图像生成 深度学习
🖼️ 图像
MuAPI

MuAPI

WAN 2.1 LoRA T2V是一款能够根据文本提示生成视频的工具,通过LoRA模块的定制训练,用户可以定制化生成视频,适用于品牌叙事、粉丝内容和风格化动画。产品背景丰富,提供高度定制化的视频生成体验。

视频生成 品牌叙事
🖼️ 图像
Fotol AI

Fotol AI

Fotol AI是一个提供AGI技术和服务的网站,致力于为用户提供强大的人工智能解决方案。其主要优点包括先进的技术支持、丰富的功能模块和广泛的应用领域。Fotol AI的定位为成为用户探索AGI的首选平台,并为用户提供灵活多样的AI解决方案。

多模态 实时处理
🖼️ 图像
OmniGen2

OmniGen2

OmniGen2 是一个高效的多模态生成模型,结合了视觉语言模型和扩散模型,能够实现视觉理解、图像生成及编辑等功能。其开源特性为研究人员和开发者提供了强大的基础,助力个性化和可控生成 AI 的探索。

人工智能 图像生成
🖼️ 图像
Bagel

Bagel

BAGEL是一款可扩展的统一多模态模型,它正在革新AI与复杂系统的交互方式。该模型具有对话推理、图像生成、编辑、风格转移、导航、构图、思考等功能,通过深度学习视频和网络数据进行预训练,为生成高保真度、逼真图像提供了基础。

人工智能 图像生成
🖼️ 图像
FastVLM

FastVLM

FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。它通过创新的 FastViTHD 混合视觉编码器,减少了高分辨率图像的编码时间和输出的 token 数量,使得模型在速度和精度上表现出色。FastVLM 的主要定位是为开发者提供强大的视觉语言处理能力,适用于各种应用场景,尤其在需要快速响应的移动设备上表现优异。

自然语言处理 图像处理
🖼️ 图像
F Lite

F Lite

F Lite 是由 Freepik 和 Fal 开发的一个大型扩散模型,具有 100 亿个参数,专门训练于版权安全和适合工作环境 (SFW) 的内容。该模型基于 Freepik 的内部数据集,包含约 8000 万张合法合规的图像,标志着公开可用的模型在这一规模上首次专注于合法和安全的内容。它的技术报告提供了详细的模型信息,并且使用了 CreativeML Open RAIL-M 许可证进行分发。该模型的设计旨在推动人工智能的开放性和可用性。

图像生成 开源
🖼️ 图像
Flex.2-preview

Flex.2-preview

Flex.2 是当前最灵活的文本到图像扩散模型,具备内置的重绘和通用控制功能。它是一个开源项目,由社区支持,旨在推动人工智能的民主化。Flex.2 具备 8 亿参数,支持 512 个令牌长度输入,并符合 OSI 的 Apache 2.0 许可证。此模型可以在许多创意项目中提供强大的支持。用户可以通过反馈不断改善模型,推动技术进步。

人工智能 图像生成
🖼️ 图像
InternVL3

InternVL3

InternVL3是由OpenGVLab开源发布的多模态大型语言模型(MLLM),具备卓越的多模态感知和推理能力。该模型系列包含从1B到78B共7个尺寸,能够同时处理文字、图片、视频等多种信息,展现出卓越的整体性能。InternVL3在工业图像分析、3D视觉感知等领域表现出色,其整体文本性能甚至优于Qwen2.5系列。该模型的开源为多模态应用开发提供了强大的支持,有助于推动多模态技术在更多领域的应用。

AI 图像处理
🖼️ 图像
VisualCloze

VisualCloze

VisualCloze 是一个通过视觉上下文学习的通用图像生成框架,旨在解决传统任务特定模型在多样化需求下的低效率问题。该框架不仅支持多种内部任务,还能泛化到未见过的任务,通过可视化示例帮助模型理解任务。这种方法利用了先进的图像填充模型的强生成先验,为图像生成提供了强有力的支持。

图像生成 深度学习
🖼️ 图像
Step-R1-V-Mini

Step-R1-V-Mini

Step-R1-V-Mini是阶跃星辰推出的全新多模态推理模型,支持图文输入和文字输出,具备良好的指令遵循和通用能力。该模型在多模态协同场景下的推理表现上进行了技术优化,采用了多模态联合强化学习和充分利用多模态合成数据的训练方法,有效提升了模型在图像空间的复杂链路处理能力。Step-R1-V-Mini在多个公开榜单中表现亮眼,特别是在MathVision视觉推理榜单上位列国内第一,展现了其在视觉推理、数学逻辑和代码等方面的优异表现。该模型已正式上线阶跃AI网页端,并在阶跃星辰开放平台提供API接口,供开发者和研究人员体验和使用。

🖼️ 图像
HiDream-I1

HiDream-I1

HiDream-I1 是一款新型的开源图像生成基础模型,拥有 170 亿个参数,能够在几秒内生成高质量图像。该模型适用于研究和开发,并在多个评测中表现优异,具有高效性和灵活性,适合用于各种创意设计和生成任务。

图像生成 AI 技术
🖼️ 图像
EasyControl

EasyControl

EasyControl 是一个为 Diffusion Transformer(扩散变换器)提供高效灵活控制的框架,旨在解决当前 DiT 生态系统中存在的效率瓶颈和模型适应性不足等问题。其主要优点包括:支持多种条件组合、提高生成灵活性和推理效率。该产品是基于最新研究成果开发的,适合在图像生成、风格转换等领域使用。

图像生成 深度学习
🖼️ 图像
RF-DETR

RF-DETR

RF-DETR 是一个基于变压器的实时目标检测模型,旨在为边缘设备提供高精度和实时性能。它在 Microsoft COCO 基准测试中超过了 60 AP,具有竞争力的性能和快速的推理速度,适合各种实际应用场景。RF-DETR 旨在解决现实世界中的物体检测问题,适用于需要高效且准确检测的行业,如安防、自动驾驶和智能监控等。

机器学习 深度学习
🖼️ 图像
Stable Virtual Camera

Stable Virtual Camera

Stable Virtual Camera是Stability AI开发的一个1.3B参数的通用扩散模型,属于Transformer图像转视频模型。其重要性在于为新型视图合成(NVS)提供了技术支持,能够根据输入视图和目标相机生成3D一致的新场景视图。主要优点是可自由指定目标相机轨迹,能生成大视角变化且时间上平滑的样本,无需额外神经辐射场(NeRF)蒸馏即可保持高一致性,还能生成长达半分钟的高质量无缝循环视频。该模型仅可免费用于研究和非商业用途,定位是为研究人员和非商业创作者提供创新的图像转视频解决方案。

图像转视频 Transformer模型
🖼️ 图像
Flat Color - Style

Flat Color - Style

Flat Color - Style是一款专为生成扁平色彩风格图像和视频设计的LoRA模型。它基于Wan Video模型训练,具有独特的无线条、低深度效果,适合用于动漫、插画和视频生成。该模型的主要优点是能够减少色彩渗出,增强黑色表现力,同时提供高质量的视觉效果。它适用于需要简洁、扁平化设计的场景,如动漫角色设计、插画创作和视频制作。该模型是免费提供给用户使用的,旨在帮助创作者快速实现具有现代感和简洁风格的视觉作品。

图像生成 设计
🖼️ 图像