Evaluating Compositional Generalisation in VLMs and Diffusion Models
University of Bristol(布里斯托大学);University of Amsterdam(阿姆斯特丹大学)
本文在 ZSL 与 GZSL 设置下评估 Diffusion Classifier、CLIP 和 ViLT 的属性与关系绑定能力,发现生成式扩散分类器概念绑定较强,但所有模型在关系推理上仍存在明显短板。
2025-08-28 cs.AI cs.CV
Preserving Multi-Modal Capabilities of Pre-trained VLMs for Improving Vision-Linguistic Compositionality
KAIST(韩国科学技术院);Sejong University(世宗大学);Hanyang University(汉阳大学)
针对传统微调提升VLM组合推理会损害多模态能力的问题,提出融合局部硬负样本损失与选择性校准正则化的FSC-CLIP,在保持多模态能力的同时实现了与SOTA相当的组合性。
2024-10-07 cs.AI cs.CL cs.CV
MedObvious: Exposing the Medical Moravec's Paradox in VLMs via Clinical Triage
Mohamed bin Zayed University of Artificial Intelligence, UAE(马尔代夫布扎伊德人工智能大学,阿联酋);National Institute of Technology, Silchar(西尔CHAR国家理工学院);Birmingham City University, UK(伯明翰城市大学,英国)
研究提出MedObvious基准测试,通过临床分诊任务验证视觉语言模型的输入验证能力,发现现有模型在处理不一致或无效输入时仍存在可靠性问题。
2026-03-24 cs.AI cs.CL cs.CV
Long Story Short: Disentangling Compositionality and Long-Caption Understanding in Contrastive VLMs
Department of Computer Science, University of Copenhagen(哥本哈根大学计算机科学系);MBZUAI(马克斯·普朗克人工智能研究所)
本文研究对比视觉语言模型中组合推理与长描述理解之间的关系,通过实验发现两者存在双向但敏感的关联,高质量数据和合理架构设计有助于提升模型泛化能力。
2026-05-12 cs.CV
MMCOMPOSITION: Revisiting the Compositionality of Pre-trained Vision-Language Models
University of Rochester(罗切斯特大学);Apple(苹果公司);Microsoft(微软公司)
本文提出人工标注基准 MMCOMPOSITION,全面评估视觉-语言模型在对象交互、计数等深层推理上的组合性,实验揭示 GPT-4o 等模型在细粒度组合感知与推理上的局限性。
2024-10-13 cs.CV
Exposing Vulnerabilities in Visible-Infrared VLMs: A Unified Geometric Adversarial Framework with Cross-Task Transferability
本文针对可见-红外视觉语言模型在多模态任务中的对抗鲁棒性不足问题,提出了一种基于分形几何的对抗框架CFGPatch,通过引入曲边分形元素和Fraser螺旋渲染机制,有效攻击VLMs并展示出跨任务迁移能力。
2026-05-21 cs.CV
COCO-Tree: Compositional Hierarchical Concept Trees for Enhanced Reasoning in Vision Language Models
University of Virginia(弗吉尼亚大学)
本文提出COCO-Tree方法,通过从LLMs学习神经符号概念树来增强VLMs的组合推理能力,在四个基准上使七种开源VLMs的组合泛化提升5-10%,并提供可解释的推理过程。
2025-10-13 cs.CV
FINECAPTION: Compositional Image Captioning Focusing on Wherever You Want at Any Granularity
University of Rochester(罗切斯特大学);Adobe Research(奥多比研究院)
针对VLMs在细粒度区域组合信息感知上的不足,本文提出FINECAPTION模型,可识别任意掩码并处理高分辨率图像,实现多粒度组合式图像描述,并构建了COMPOSITIONCAP数据集,实验证明其优于现有最先进方法。
2024-11-23 cs.CV
VisualDAN: Exposing Vulnerabilities in VLMs with Visual-Driven DAN Commands
Beijing Academy of Artificial Intelligence(北京人工智能研究院)
本文提出 VisualDAN,一种嵌入 DAN 风格指令的对抗性图像,通过在有害语料前添加肯定性前缀训练并转换至文本域,成功绕过 MiniGPT-4 等 VLMs 的安全防护,揭示了基于图像的攻击漏洞并强调亟需鲁棒防御。
2025-10-09 cs.AI cs.CR
Uncertainty-guided Compositional Alignment with Part-to-Whole Semantic Representativeness in Hyperbolic Vision-Language Models
Dept. of Electrical and Computer Engineering(电子与计算机工程系);INMC & IPAI(INMC与IPAI);Seoul National University(首尔国立大学)
本文提出UNCHA方法,通过超几何不确定性建模部分-整体语义代表性,提升超几何VLM对多物体场景的组合结构理解能力,实现零样本分类等任务的最先进性能。
2026-07-14 cs.AI cs.CV
Unveiling the Compositional Ability Gap in Vision-Language Reasoning Model
The Chinese University of Hong Kong(香港中文大学);Tencent Hunyuan Research(腾讯文言研究院)
本研究通过组合探测任务揭示视觉-语言推理模型在跨模态组合泛化上的能力差距,发现强化学习优于监督微调,且先描述后思考与视觉接地可显著提升组合性。
2025-05-26 cs.AI
How Do VLMs Fail? Vision-Operation Misalignment in Compositional VQA
Singapore Institute of Technology(新加坡科技学院);NVIDIA(英伟达)
研究组合式视觉问答中视觉语言模型失败的机制,引入以操作为中心的框架分解失败模式,揭示四种失败模式及传播路径,表明不同失败类型需不同纠正策略,为提升模型可靠性提供基础。
2026-08-20 cs.CV
When Lighting Deceives: Exposing Vision-Language Models' Illumination Vulnerability Through Illumination Transformation Attack
Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院)
该研究提出首个系统评估视觉-语言模型光照鲁棒性的ITA框架,通过参数化点光源分解与物理光照重建实现细粒度可控的对抗光照攻击,实验证明其能显著降低先进VLM性能并保持自然度,暴露了VLM的光照脆弱性。
2025-03-21 cs.CV
Not Only Text: Exploring Compositionality of Visual Representations in Vision-Language Models
Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会);University of Trento(特伦托大学);University of Twente(特文特大学)
本文针对视觉-语言模型视觉嵌入空间的组合性不明问题,提出测地可分解嵌入框架,证明预训练VLM视觉表征存在组合结构,在组合分类和群体鲁棒性任务上表现更优,提升了模型可解释性。
2025-03-21 cs.CV cs.LG
Leveraging Textual Compositional Reasoning for Robust Change Captioning
CORTEX通过整合文本线索和组合推理,提升图像变化描述的鲁棒性与准确性。
2025-11-28 cs.AI cs.CV
Prompting Large Pre-trained Vision-Language Models For Compositional Concept Learning
Michigan State University(密歇根州立大学);University of Michigan(密歇根大学)
本文在基于学习框架的基础上,研究了大型预训练视觉语言模型(VLM)的zero-shot组合学习能力,并提出了一个解决组合零样本学习(CCLL)问题的模型(\textit{PromptCompVL})。\textit{PromptCompVL}有两种设计选择:首先,它使用软提示而不是硬提示来注入可学习的参数,以重新编程VLM进行组合学习。其次,为了解决组合挑战,它使用软嵌入层来学习不同组合中的原始概念。通过结合软嵌入和软提示,\textit{PromptCompVL}在MIT-States数据集上实现了最先进的性能。此外,我们提出的模型实现了一致的改善相比,其他CLIP为基础的方法,这表明所提出的激励策略的有效性,为CNOML。
2022-11-09 cs.CV
World to Code: Multi-modal Data Generation via Self-Instructed Compositional Captioning and Filtering
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);ByteDance Inc(字节跳动公司)
本文提出World to Code(W2C)多模态数据构建流程,利用VLM自指示提取跨模态信息并以Python代码形式组织输出,通过一致性过滤提升数据质量,在多个视觉问答与定位基准上验证了有效性。
2024-09-30 cs.AI cs.CV
Contrasting Intra-Modal and Ranking Cross-Modal Hard Negatives to Enhance Visio-Linguistic Compositional Understanding
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);CIFAR(加拿大高级研究所)
提出一种通过对比模态内与排序模态间困难负样本的简单有效方法,改进标准图文对比学习框架以提升VLMs的组合推理能力,无需额外参数即在五个基准上取得显著提升。
2024-04-25 cs.CV
MultihopSpatial: Multi-hop Compositional Spatial Reasoning Benchmark for Vision-Language Model
Electronics and Telecommunications Research Institute, South Korea(韩国电信研究院);Korea Advanced Institute of Science and Technology, South Korea(韩国科学技术院);Sungkyunkwan University, South Korea(成均馆大学);DeepAuto, South Korea(DeepAuto)
本文提出MultihopSpatial基准,针对多跳组合空间推理问题,引入Acc@50IoU指标,并通过大规模训练集提升视觉语言模型的空间推理能力。
2026-09-07 cs.AI cs.CV
Hidden Clones: Exposing and Fixing Family Bias in Vision-Language Model Ensembles
Astera Institute(Astera研究院)
本文研究了视觉-语言模型集成中同家族模型的关联误差问题,提出三种家族感知方法,通过层级家族投票、QualRCCV和学得候选评分,提升了集成性能并验证了方法的泛化能力。
2026-03-17 cs.AI cs.CV
Beyond Bag-of-Words: Diagnosing Compositional Binding Failures in Vision-Language Models
Politecnico di Milano(米兰理工学院);The University of Tokyo(东京大学)
Auto-Comp通过自动化生成可扩展基准,揭示了对比视觉-语言模型在组合推理中的普遍缺陷及视觉-语言上下文的权衡问题。
2026-09-28 cs.AI cs.CV
Exploring the Spectrum of Visio-Linguistic Compositionality and Recognition
KAIST(韩国科学技术院);LG AI Research(LG AI研究院)
本文通过 12 个组合性基准及 23 个识别相关基准评估 274 个 CLIP 检查点,揭示 VLM 组合理解与识别准确率之间的模式和权衡,并开放评估框架。
2024-06-13 cs.AI cs.CV cs.LG
Exposing Hallucinations To Suppress Them: VLMs Representation Editing With Generative Anchors
University of Science and Technology of China(中国科学技术大学);Nanjing University(南京大学)
本文提出一种无需训练的自监督方法,通过文本到图像模型放大幻觉信号形成负锚点,并以原始图像为正锚点编辑解码器表示,从而在保持描述丰富度的同时显著抑制多模态大语言模型在物体、属性和关系层面的幻觉。
2025-09-26 cs.CV
When and why vision-language models behave like bags-of-words, and what to do about it?
Stanford University(斯坦福大学)
尽管大型视觉和语言模型(VLM)在许多下游应用中取得了成功,但目前还不清楚它们对成分信息的编码效果如何。在这里,我们创建了归因、关系和顺序(ARO)基准,以系统地评估VLM理解不同类型的关系、属性和顺序的能力。ARO包括Visual Genome Attribution,用于测试对象属性的理解; Visual Genome Relation,用于测试关系理解;以及COCO & Flickr 30 k-Order,用于测试顺序敏感性。ARO比以前的组合性基准大几个数量级,有超过50,000个测试用例。我们展示了最先进的VLM的关系理解能力很差,在将对象链接到其属性时可能会出错,并且表现出严重缺乏顺序敏感性。VLM主要在图像和标题中具有丰富组成结构的大型数据集上进行训练和评估。然而,在这些数据集上的训练还不足以解决缺乏成分理解的问题,对这些数据集的评估也未能揭示这一缺陷。为了理解为什么这些限制会出现,而在标准测试中却没有表现出来,我们放大到评估和培训程序。我们证明,它是可能的,在现有的数据集上进行检索,而不使用的组成和顺序信息。鉴于对比预训练优化了具有类似快捷方式的数据集上的检索,我们假设这可以解释为什么模型不需要学习表示成分信息。这一发现提出了一个自然的解决方案:成分感知的硬负面挖掘。我们发现,一个简单的实施修改对比学习显着提高了性能的任务,需要理解的顺序和组合。
2023-03-23 cs.AI cs.CL cs.CV
Explain Before You Answer: A Survey on Compositional Visual Reasoning
Monash University(墨尔本大学);Stanford University(斯坦福大学);University of Washington(华盛顿大学);Griffith University(格里菲斯大学);Princeton University(普林斯顿大学);Allen Institute for Artificial Intelligence(人工智能研究院)
综述2023年至2025年组合视觉推理文献,形式化核心定义,追溯范式转变,编目基准指标,提炼见解、识别挑战并概述方向,为该领域提供统一分类、历史路线图和批判性展望。
2026-07-09 cs.AI cs.CV
Linear Spaces of Meanings: Compositional Structures in Vision-Language Models
AWS AI Labs(AWS人工智能实验室)
本文从几何和概率视角研究视觉-语言模型嵌入中的组合结构,将表示近似为少量“理想词语”向量的组合,并在CLIP上验证其可用于分类、去偏和检索等任务。
2024-01-11 cs.AI cs.CL cs.CV
Enhancing Multimodal Compositional Reasoning of Visual Language Models with Generative Negative Mining
Technical University of Munich(慕尼黑工业大学);LMU Munich(慕尼黑大学);Siemens AG(西门子股份公司);Munich Center for Machine Learning(慕尼黑机器学习中心)
针对视觉语言模型多模态组合推理能力弱的问题,提出双向生成式难负样本挖掘框架,生成图像和文本双模态难负样本,显著提升模型相关任务性能。
2023-11-07 cs.CV
ComAlign: Compositional Alignment in Vision-Language Models
Sharif University of Technology(谢里夫理工大学)
针对视觉-语言模型粗粒度训练丢失组合结构、缺乏组合理解的问题,提出细粒度组合对齐方法ComAlign,通过轻量网络对齐跨模态结构的节点与边,在检索和组合基准上实现显著提升。
2024-09-12 cs.CV cs.MM
A Visual Leap in CLIP Compositionality Reasoning through Generation of Counterfactual Sets
WeChat AI, Tencent Inc, China(腾讯公司)
本文提出基于块的扩散方法自动生成反事实图文数据集,并设计区分集合间与集合内样本的损失函数,以少量训练数据显著提升视觉-语言模型的组合性推理性能,在多个基准上取得最优结果。
2025-07-07 cs.CV
Beyond Atomic Layouts: Compositional Design Understanding with Vision-Language Models
Northeastern University(东北大学);Adobe Research(奥多比研究院)
本文针对组合式布局理解任务,提出后训练范式MASON,利用约2万布局的CoDeLayout数据集,使Qwen2.5-VL 7B准确率达91.66%,优于基线及全数据微调。
2026-08-28 cs.CV
GIPCOL: Graph-Injected Soft Prompting for Compositional Zero-Shot Learning
Michigan State University(密歇根州立大学);University of Michigan(密歇根大学)
提出GIPCOL方法,通过图注入软提示捕获组合结构,提升视觉-语言模型的组合零样本学习能力,在三个基准上取得最优AUC结果。
2023-11-09 cs.CV
SignReasoner: Compositional Reasoning for Complex Traffic Sign Understanding via Functional Structure Units
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
本文提出SignReasoner,通过功能结构单元实现复杂交通标志的组合推理,提升自动驾驶安全。核心方法是功能结构单元,通过分解标志为基本功能块,增强模型对未知配置的泛化能力。
2026-04-12 cs.CV
Gate-and-Merge: Zero-shot Compositional Personalization of Vision Language Models
National University of Singapore(新加坡国立大学)
本文提出Gate-and-Merge框架,实现视觉语言模型的零样本组合个性化,通过轻量LoRA适配器和门控机制,在无需共现训练的情况下提升多概念联合识别性能。
2026-05-09 cs.AI cs.CV
DRPT: Disentangled and Recurrent Prompt Tuning for Compositional Zero-Shot Learning
Hong Kong Polytechnic University(香港理工大学);Shanghai AI Laboratory(上海人工智能实验室)
针对组合式零样本学习中视觉语言模型提示调优易因耦合陷入局部最优的问题,提出DRPT解耦循环提示调优框架,通过渐进式独立优化状态和物体令牌等策略,在多个基准上实现准确率与效率的提升。
2023-05-02 cs.AI cs.CV
Revisiting Compositionality in Dual-Encoder Vision-Language Models: The Role of Inference
HiTZ Center – Ixa, University of the Basque Country (UPV/EHU)(希茨中心–Ixa,巴斯克国家大学(UPV/EHU))
本文探讨了双编码视觉-语言模型中组合性问题的根源,提出通过改进推断协议提升组合性能,引入轻量级变压器学习局部对齐,优于全微调和端到端训练方法。
2026-04-16 cs.CL cs.CV cs.LG
Moving Beyond Diversity: Visual Token Pruning as Subspace Reconstruction for Efficient VLMs
Inha University(延世大学)
提出SPARE方法,将令牌剪枝重构为子空间重建问题,通过迭代选择投影残差大的令牌进行剪枝,并引入反相关性机制保留上下文信息,在LLaVA上剪枝94%令牌仍保持95%性能。
2026-07-27 cs.CV
Compositional SVG Generation via VLM-Driven Hierarchical Semantic Parsing
Korea University(高丽大学);KAIST AI(韩国科学技术院人工智能学院)
提出VLM驱动的智能体框架,通过层次化语义解析递归分解视觉场景,生成结构完整、可编辑的SVG,并引入语义基准和指标,超越现有平面生成方法的分组质量与可编辑性。
2026-09-15 cs.AI cs.CV
Diagnosing the Sources of Compositional Failure in Vision-Language Models: A Controlled Analysis
The Ohio State University(俄亥俄州立大学);Netflix Research(Netflix 研究院)
本文提出COMPASS框架,通过分解组合描述,量化视觉-语言模型中组合失败的各因素,发现技能退化主要受自身负载影响,跨负载多为正向,表明组合退化不能仅归因于联合推理。
2026-09-28 cs.CV
Can VLMs be used on videos for action recognition? LLMs are Visual Reasoning Coordinators
IIIT Hyderabad(印度信息技术研究所海得拉巴分校);Mathematics of Generative Modeling(生成式建模数学研究所)
本研究探索利用大语言模型协调多个视觉语言模型,在仅依赖少量关键帧和弱时序信息的情况下进行监控视频动作识别,实验验证了可行性,并建议增强时序信号和帧数以提升性能。
2024-07-20 cs.CV
Inference-Time Structural Reasoning for Compositional Vision-Language Understanding
本文提出统一评估和增强框架,评估四种架构各异的VLMs在Winoground基准上的表现,通过结构化关系先验提升模型能力,发现SG增强对已有能力强的模型有益。
2026-03-28 cs.CL cs.CV
Incorporating Structured Representations into Pretrained Vision & Language Models Using Scene Graphs
Tel-Aviv University(特拉维夫大学);IBM Research, MIT-IBM Watson AI Lab(IBM研究院,MIT-IBM沃森人工智能实验室);UC Berkeley(加州大学伯克利分校)
研究提出通过场景图(SGs)将结构化信息整合到预训练视觉与语言模型(VLMs)的视觉和文本表示中,以增强组合场景理解,同时保持零样本能力。
2023-10-24 cs.CV
Compositional Context Fine-Tuning Vision-Language Model for Complex Assembly Action Understanding from Videos
New York University Abu Dhabi(纽约大学阿布扎比分校);The University of Auckland(奥克兰大学)
针对装配动作理解难题,提出组合上下文微调方法及层划分交替训练方法,将动作分解为语义元素并微调视觉语言模型,创建相关数据集,实验证明该方法优于基线且能提供可解释预测,助力人机协作装配。
2026-07-14 cs.CV
Compositional Caching for Training-free Open-vocabulary Attribute Detection
University of Trento(特伦托大学);Cisco Research(思科研究院);Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会)
提出组合缓存(ComCa),一种免训练的开放词汇属性检测方法,利用网络数据库和大型语言模型构建辅助缓存并聚合软属性标签,显著优于零样本和缓存基线,可与训练方法竞争。
2025-03-24 cs.CV
Compositional Semantics for Open Vocabulary Spatio-semantic Representations
Graduate School of Informatics, Nagoya University(名古屋大学信息学研究科);Ludolab;TIER IV
提出潜在组合语义嵌入z*作为可查询时空语义记忆的知识表示,证明其存在性、最优性及可发现性,并引入充分相似性推理方法提升重叠语义推理性能。
2026-05-22 cs.CV cs.LG
Decomposed Soft Prompt Guided Fusion Enhancing for Compositional Zero-Shot Learning
Northwestern Polytechnical University(西北工业大学);The Hong Kong Polytechnic University(香港理工大学)
组合零次学习(Compositional Zero-Shot Learning,CNOL)的目的是在训练过程中识别由已知状态和对象形成的新概念。现有的方法要么学习组合的状态-对象表示,挑战看不见的组合物的推广,或设计两个分类器来识别状态和对象分别从图像特征,忽略它们之间的内在关系。为了共同消除上述问题,构建一个更强大的CNOML系统,我们提出了一个新的框架,称为分解融合软提示(DFSP)1,涉及视觉语言模型(VLM)看不见的成分识别。具体地说,DFSP构造了一个矢量组合的可学习的软提示与状态和对象,以建立他们的联合表示。此外,在语言分支和图像分支之间设计了跨模态分解融合模块,将状态和对象分解为语言特征而不是图像特征。值得注意的是,与分解的特征相融合,图像特征可以更有表现力地分别学习与状态和对象的关系,以改善对空间中看不见的成分的响应,从而缩小可见和不可见集合之间的域间隙。三个具有挑战性的基准测试的实验结果表明,我们的方法显着优于其他国家的最先进的方法的大利润率。
2022-11-19 cs.AI cs.CV
Visual Adaptive Prompting for Compositional Zero-Shot Learning
University of West Florida(乌斯托尔大学);Florida Institute for Human and Machine Cognition (IHMC)(佛罗里达人类与机器认知研究所)
针对CZSL中静态文本提示难以适配视觉情境的问题,提出VAPS,通过可学习视觉提示库、相似度检索与提示适配器动态选择属性和物体提示,在封闭及开放世界基准上达到SOTA。
2025-07-24 cs.CV cs.LG
Cross-Modal Masked Compositional Concept Modeling for Enhancing Visio-Linguistic Compositionality
MoE Key Laboratory of Brain-inspired Intelligent Perception and Cognition, University of Science and Technology of China(中国科学技术大学,教育部脑启发智能感知与认知重点实验室);Independent Researcher(独立研究员)
提出MACCO框架,通过掩码一个模态的组合概念并从另一模态完整上下文重建,增强视觉-语言模型的组合理解能力,在五个基准上显著提升。
2026-06-12 cs.AI cs.CL cs.CV
Adding simple structure at inference improves Vision-Language Compositionality
HiTZ Center – Ixa, University of the Basque Country (UPV/EHU)(希茨中心–Ixa,巴斯克大学(UPV/EHU))
针对双编码器视觉-语言模型组合性不足的问题,提出在推理阶段通过分割图像、匹配文本片段与图像块并聚合相似度的方法,无需训练即可稳定提升模型图文检索的组合性表现,尤其在属性-对象绑定任务中效果显著。
2025-06-11 cs.CL cs.CV cs.LG
Weave Forcing: Compositional Memory Routing for Interactive Long Video Generation
University of Electronic Science and Technology of China (UESTC)(电子科技大学);Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学)
提出编织强制框架,通过语义槽路由和掩码记忆编织实现组合记忆重用,提升交互式长视频生成的跨镜头一致性。
2026-10-05 cs.AI cs.CV
A Cognitive Paradigm Approach to Probe the Perception-Reasoning Interface in VLMs
Applied Artificial Intelligence Group, Tallinn University of Technology, Estonia(塔林技术大学应用人工智能组);Kimova AI, Tallinn, Estonia(Kimova AI)
本文提出三种认知范式(DVRL、DRL、CA)评估视觉语言模型的感知-推理接口,其中CA通过任务无关文本描述实现感知与推理解耦,并在多个基准上取得SOTA性能。
2025-05-06 cs.AI cs.CV
Challenging Vision-Language Models with Physically Deployable Multimodal Semantic Lighting Attacks
本文提出MSLA攻击框架,通过可控对抗性照明攻击视觉-语言模型的多模态语义理解,揭示其在现实世界中的安全风险。
2026-04-14 cs.CV
ReXSonoVQA: A Video QA Benchmark for Procedure-Centric Ultrasound Understanding
Harvard Medical School(哈佛医学院)
ReXSonoVQA是一个包含514个视频片段和514个问题的视频问答基准,旨在评估动作-目标推理、artifact解决与优化及过程上下文与规划能力,测试VLMs在动态过程理解中的表现。
2026-04-17 cs.AI cs.CV
Learning to Compose Soft Prompts for Compositional Zero-Shot Learning
Brown University(布朗大学)
本文提出参数高效的组合式软提示 CSP,将属性与对象表示为可学习标记并在测试时重新组合,显著提升 CLIP 的组合式零样本分类与高阶泛化性能。
2023-04-24 cs.CL cs.CV cs.LG
TRAVL: A Recipe for Making Video-Language Models Better Judges of Physics Implausibility
Visual Geometry Group, University of Oxford(视觉几何组,牛津大学)
本文提出TRAVL微调配方和ImplausiBench基准,通过轨迹感知注意力模块和平衡数据集训练视频语言模型,以提升其物理不合理性检测能力,并实现更严格的物理推理评估。
2025-10-08 cs.AI cs.CV