Sparse Coverage: Semantic Center Representations for Patent Prior-Art Retrieval
Questel(奎斯特尔公司);Inria(法国国家信息与自动化研究所);Université Paris-Saclay(巴黎萨克雷大学)
针对专利现有技术检索的长文档特性,提出无监督语义检索框架Sparse Coverage,采用面向覆盖的k中心目标生成稀疏表示,在CLEF-IP 2013实验中其文档级召回率优于或媲美稠密专利编码器,可作为专利检索的有效第一阶段方法。
2026-08-19 cs.AI cs.IR
HeteRAG: A Heterogeneous Retrieval-augmented Generation Framework with Decoupled Knowledge Representations
Tsinghua University(清华大学);Xinjiang University(新疆大学);Beijing University of Posts and Telecommunications(北京邮电大学);JD Health International Inc.(京东健康国际公司)
针对现有RAG方法检索与生成知识块表示相同导致性能欠佳的问题,提出HeteRAG异构框架,解耦知识块的检索与生成表示,结合自适应提示调优,显著提升LLMs的有效性与效率。
2025-04-12 cs.AI cs.IR
The Expanding Approvals Rule: Improving Proportional Representation and Monotonicity
Data61, CSIRO(澳大利亚联邦科学与工业研究组织数据61中心);UNSW(新南威尔士大学)
比例代表制(PR)经常在投票设置中作为一个主要的必要条件进行讨论。在过去的一个世纪左右,它是常见的,无论是在实践中和学术文献跳转到单一可转移投票(STV)作为实现PR的解决方案。全球一些最突出的选举改革运动正在推动通过STV。设计一个既满足与STV相同的PR性质又具有更好的单调性的投票规则一直是一个重要的开放问题。在本文中,我们首先提出了一个分类的比例代表公理一般弱顺序偏好,其中一些推广和加强以前介绍的概念。然后,我们提出了一个规则,称为扩展批准规则(EXPERIMENTAL),满足性能强于中央PR公理满足STV,可以处理在一个方便的和计算效率高的方式无差异,也满足更好的候选单调性属性。有鉴于此,我们提出的规则似乎是在投票环境中实现比例代表制的一个令人信服的解决方案。
2018-06-04 cs.AI cs.GT
Reverse Sequential Proportional Approval Voting Rule: Proportionality and Approximation Guarantees
University of Warsaw(华沙大学)
本文分析反向顺序比例批准投票规则(RevSeqPAV)在委员会选举中的比例代表性与PAV分数近似保证,指出一般情形下存在强否定结果,但在特定设置中能提供公平与优化保证。
2026-09-29 cs.AI cs.GT
Proportional Rankings
University of Oxford(牛津大学)
在本文中,我们将比例代表制原则推广到排名中。我们考虑需要根据批准偏好对替代方案进行排名的设置。在这种情况下,比例代表制要求有凝聚力的选民群体在排名的每个初始部分都有比例代表。在不同长度的初始片段可能相关的情况下,比例排名是可取的,例如,招聘决定(如果不清楚有多少职位需要填补),在流动民主平台上展示竞争提案(如果不清楚参与者正在考虑多少提案),或推荐系统(如果排名必须适应不同的用户类型)。我们研究了几种排名方法提供的比例代表性,并证明了理论保证。此外,我们实验评估这些方法,并提出初步证据,以确定哪些方法是最适合产生比例排名。
2016-12-05 cs.AI cs.GT cs.MA
Proportional Representation in Vote Streams
Tata Institute of Fundamental Research(塔塔基础研究所);Weizmann Institute of Science(魏茨曼科学研究学院)
我们认为选举的选民来一次,在一个流的方式,并设计空间有效的算法,确定一个近似的获胜委员会与常见的多赢家比例代表制投票规则,具体来说,我们认为基于批准和Borda的变种Chamberlin-ourant规则和门罗规则。我们补充我们的算法与下限。有些令人惊讶的是,我们的研究结果意味着,使用空间,不依赖于选民的数量,它是可能有效地确定一个近似的代表委员会的固定大小的投票流与大量的选民。
2017-02-28 cs.AI cs.CC cs.DS
Circuit Diagram Retrieval Based on Hierarchical Circuit Graph Representation
针对模拟电路图检索难题,本文提出用 GAM-YOLO 与连通域滤波识别元件和拓扑,并基于图相似性进行分层检索,验证了其跨类型检索效果。
2025-02-05 cs.AI cs.AR
CheXtriev: Anatomy-Centered Representation for Case-Based Retrieval of Chest Radiographs
该研究提出CheXtriev框架,采用图变换器提取胸部X光片特定解剖区域特征,其检索准确率与排名质量优于现有最优方法,尤其适用于少见病变。
2026-08-31 cs.AI cs.CV cs.LG
ReFusion: Improving Natural Language Understanding with Computation-Efficient Retrieval Representation Fusion
City University of Hong Kong(香港城市大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);MILA, McGill University(麦吉尔大学MILA研究所);National Taiwan University(国立台湾大学)
ReFusion提出一种计算高效的检索表示融合方法,通过双层优化直接融合检索表示到模型隐藏状态,在非知识密集型任务中实现优越且稳健的性能。
2024-05-27 cs.AI cs.CL
Ada-Retrieval: An Adaptive Multi-Round Retrieval Paradigm for Sequential Recommendations
Renmin University of China(中国人民大学);Microsoft Research Asia(微软亚洲研究院)
针对现有单轮检索范式难以捕捉用户动态偏好、易局限于物品空间单区域的问题,提出模型无关的自适应多轮检索范式Ada-Retrieval,通过双适配器迭代优化表征,在三个公开数据集上均稳定提升多种序列推荐骨干模型的性能。
2024-01-31 cs.AI cs.IR
Multimodal Representation Alignment for Cross-modal Information Retrieval
University of Luxembourg(卢森堡大学)
本文研究多模态表示对齐对跨模态检索的影响,通过对比不同度量标准和嵌入空间,发现余弦相似度在对齐任务中表现最佳,同时 Wasserstein 距离提供了分布差异的补充视角。
2026-06-28 cs.AI cs.IR
AutoIndex: Learning Representation Programs for Retrieval
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Databricks Mosaic Research(Databricks Mosaic研究)
AutoIndex框架通过搜索对文档进行多种操作的程序来优化文档表示,在CRUMB基准上评估,相比BM25基线显著提升召回率,证明文档表示应作为优化目标,而非固定预处理选择。
2026-07-22 cs.AI cs.CL cs.IR
Whitening Sentence Representations for Better Semantics and Faster Retrieval
Shenzhen Zhuiyi Technology Co., Ltd.(深圳市追一科技有限公司);Tencent Research(腾讯研究院)
预训练模型如BERT在许多自然语言处理任务中取得了巨大的成功。然而,如何通过这些预训练模型获得更好的句子表示仍然值得探索。以往的研究表明,各向异性问题是基于BERT的句子表示的一个关键瓶颈,它阻碍了模型充分利用底层语义特征。因此,一些增强句子分布均匀性的尝试,如基于流的模型,被应用到句子表示中,并取得了一定的改进。在本文中,我们发现传统机器学习中的白化操作可以类似地增强句子表示的各向同性,并获得有竞争力的结果。此外,白化技术还能够降低句子表示的维数。实验结果表明,该方法不仅能获得良好的性能,而且能显著降低存储开销,加快模型检索速度。
2021-03-29 cs.AI cs.CL cs.LG
Semantic Entity Retrieval Toolkit
University of Amsterdam(阿姆斯特丹大学)
词和实体的低维语义表示的无监督学习最近受到关注。在本文中,我们描述了语义实体检索工具包(SERT),提供了我们以前发布的实体表示模型的实现。该工具包为不同的表示学习算法、细粒度解析配置提供了统一的接口,并且可以透明地与GPU一起使用。此外,用户可以很容易地修改现有的模型或在框架中实现自己的模型。在模型训练之后,SERT可以用于根据文本查询对实体进行排名,并提取学习到的实体/单词表示用于下游算法,例如聚类或推荐。
2017-07-17 cs.AI cs.CL cs.IR
Strengthening Proportionality in Temporal Voting
University of Oxford, UK(牛津大学);Northwestern University, USA(西北大学)
本文通过引入EJR+和FJR等更强公理,加强时序投票中的比例代表性,建立丰富的比例概念层次,并证明EJR+和FJR在所有时序选举中均可满足。
2025-05-28 cs.AI cs.GT
Document-as-Image Representations Fall Short for Scientific Retrieval
Department of Computer Science(计算机科学系)
本文提出ArXivDoc新基准,通过LaTeX源代码构建,对比文本、图像和多模态检索方法,发现基于图像的文档表示效果差,文本表示更有效,多模态方法表现最佳。
2026-10-15 cs.AI cs.CL cs.IR
Database-Augmented Query Representation for Information Retrieval
KAIST(韩国科学技术院)
本文提出数据库增强查询表示框架DAQu,利用关系数据库多表元数据增强短查询,并通过基于图的集合编码策略处理无顺序的大量特征,在多种检索场景中显著提升检索性能。
2025-09-18 cs.AI cs.CL cs.IR
Graph Pattern Loss based Diversified Attention Network for Cross-Modal Retrieval
University of Science and Technology of China(中国科学技术大学);Hangzhou Dianzi University(杭州电子科技大学)
跨模态检索旨在通过组合诸如图像、视频、文本和音频的多媒体数据来实现灵活的检索体验。无监督方法的核心之一是挖掘不同对象表示之间的相关性,以获得满意的检索性能,而不需要昂贵的标签。在本文中,我们提出了一个基于图模式丢失的多样化注意力网络(GPLDAN)的无监督跨模态检索,深入分析表示之间的相关性。首先,我们提出了一个多样化的注意力特征投影仪,通过考虑不同的表示之间的相互作用,以产生多个表示的一个实例。然后,我们设计了一个新的图模式损失来探索不同表示之间的相关性,在这个图中,不同表示之间的所有可能的距离被考虑。此外,加入模态分类器,在融合前显式地声明特征的对应模态,引导网络增强辨别能力。我们在四个公共数据集上测试GPLDAN。实验结果表明,GPLDAN与现有的跨模态检索方法相比,具有较好的性能和竞争力。
2021-06-25 cs.AI cs.CV
How does the degree of novelty impacts semi-supervised representation learning for novel class retrieval?
Inria(法国国家信息与自动化研究所);Institut National de l’Audiovisuel(法国国家视听研究院)
使用深度网络的监督表示学习倾向于过拟合训练类,并且推广到新类是一个具有挑战性的问题。通常在相同训练类的保持图像上评估学习的嵌入。然而,在实际应用中,数据来自新的来源,可能会出现新的类。我们假设,将未标记的图像的新类的训练集在半监督的方式将是有益的有效检索的新类图像相比,香草监督表示。为了全面地验证这一假设,我们提出了一种原始的评估方法,该方法通过随机或语义地划分数据集类别来改变新类的新颖程度,即通过最小化基础类和新类之间的共享语义。这个评估过程允许训练表示盲目的任何新的类标签,并评估冻结表示的基础或新的类的检索。我们发现,香草监督表示不符合检索的新类,甚至更是如此,当语义差距更高。半监督算法允许部分弥合这一性能差距,但仍有很大的改进空间。
2022-08-17 cs.AI cs.CV
Unified Vision-Language Representation Modeling for E-Commerce Same-Style Products Retrieval
Alibaba Group(阿里巴巴集团)
同类商品检索是电子商业平台中的一个重要环节,其目的是识别出可能具有不同文字描述或图片的同类商品。可用于不同供应商的同类产品检索或同一供应商的重复产品检测。常用的方法以图像为检测对象,但只考虑了图像的视觉特征,忽略了文本描述中包含的属性信息,对于机械、五金工具、电子元器件等图像不太重要的行业,即使增加文本匹配模块,效果也很差。本文提出了一种面向电子商业同类商品检索的统一视觉语言建模方法,该方法旨在用文本描述和视觉内容来表示同一商品。它包含一个抽样技术,收集积极的对用户点击日志与类别和相关性的约束,和一个新的对比损失单位模型的图像,文本,图像+文本表示到一个联合嵌入空间。它能够进行跨模态的产品到产品检索,以及风格转换和用户交互式搜索。离线测试表明它具有更好的检索性能,在线测试表明它可以吸引更多的点击和转换。此外,该模型已经在世界上最大的B2B电子商业平台alibaba.com上在线部署,用于类似产品检索。
2023-02-20 cs.AI cs.IR cs.MM
Mixed-modality Representation Learning and Pre-training for Joint Table-and-Text Retrieval in OpenQA
Microsoft STC Asia(微软亚洲软件工程技术中心);Microsoft Research Asia(微软亚洲研究院);Beihang University(北京航空航天大学);Sun Yat-sen University(中山大学)
开放领域问答(OpenQA)提供了更全面的信息,从表格和文本资源中检索证据是必不可少的。然而,训练一个有效的密集表文本检索是困难的,由于挑战的表文本的差异和数据稀疏性问题。为了解决上述挑战,我们引入了一个优化的OpenQA表格文本检索器(OTTeR),以联合检索表格和文本证据。首先,我们提出了两种增强混合模态表示学习的机制:模态增强表征和混合模态负采样策略。其次,为了缓解数据稀疏性问题,提高整体检索能力,我们进行了以检索为中心的混合模态综合预训练。实验结果表明,OTTeR大大提高了性能的表和文本检索的OTT-QA数据集。全面分析审查了所有拟议机制的有效性。此外,配备了OTTeR,我们的OpenQA系统在下游QA任务上取得了最先进的结果,在精确匹配方面比之前的最佳系统绝对提高了10.1%。所有的代码和数据都可以在https://github.com/Jun-jie-Huang/OTTeR上找到。
2022-10-11 cs.AI cs.CL cs.IR
Targeted Retrieval, Compact Representations: How CoT Reasoning Improves Long-Context Counting
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本研究通过“大海捞针”计数任务,揭示思维链推理通过定向检索和紧凑内部表示提升长上下文计数准确性,并支持状态追踪解释。
2026-10-01 cs.AI cs.CL cs.LG
A characterization of proportionally representative committees
UNSW Sydney(悉尼新南威尔士大学);Data61 CSIRO(澳大利亚联邦科学与工业研究组织Data61研究所)
比例代表制的一个众所周知的公理是固体联盟的比例性(PSC)。我们的特点委员会满足PSC的最小需求规则,概括了迈克尔·达米特开创的方法的可能结果。
2021-07-13 cs.AI cs.GT cs.MA
Contrastive Cross-Modal Knowledge Sharing Pre-training for Vision-Language Representation Learning and Retrieval
Fudan University(复旦大学)
近年来,跨模态预训练任务因其在检索、字幕、问答等下游研究中的广泛应用而成为研究热点,但现有方法采用单流预训练模型探索统一的视觉-语言表示来进行跨模态检索,容易出现计算爆炸问题。此外,虽然传统的双流结构是相当有效的,他们仍然缺乏至关重要的跨模态相互作用,导致低性能。基于这些挑战,我们提出了一种对比跨模态知识共享预训练(COOKIE)来掌握联合文本-图像表示。在结构上,COOKIE采用传统的双流结构,因为可以接受的时间消耗。为了克服上述双流结构的固有缺陷,我们精心设计了两个有效的模块。具体地说,第一个模块是一个权重共享的Transformer,它建立在视觉和文本编码器的基础上,旨在在语义上对齐文本和图像。这种设计使视觉和文本路径集中在相同的语义上。另一个是三个专门设计的对比学习,旨在不同模型之间共享知识。共享的跨模态知识极大地发展了单模态表征的研究,促进了单模态检索任务的开展。在多模态匹配研究(包括跨模态检索、文本匹配和图像检索)上的大量实验结果表明,该预训练模型在计算效率和统计指标上均具有较好的性能。
2022-07-08 cs.AI cs.CV
Multi-Attribute Proportional Representation
Université Paris-Dauphine(巴黎多芬大学);University of Warsaw(华沙大学)
我们考虑以下问题,其中给定数量的项目必须从预定义的集合中选择。每个项目由属性向量描述,并且对于每个属性,存在所选集合应该具有的期望分布。我们寻找一个集合,它尽可能符合所有属性的期望分布。应用程序的示例包括选择代表委员会的成员,其中候选人按性别,年龄和职业等属性描述,并且我们寻找每个属性都提供一定代表性的委员会,即,一个单一的委员会,其中包含一定数量的年轻人和老年人,一定数量的男性和女性,一定数量的人与不同的职业,等等。有了一个单一的属性,这个问题就归结为政党名单比例代表制的分配问题(在这种情况下,单一属性的值将是候选人的政治派别)。我们研究了相关的子集选择规则的属性,以及它们的计算复杂性。
2021-03-25 cs.AI cs.DS cs.GT
Structured Knowledge Representation for Image Retrieval
Politecnico di Bari(巴里理工大学)
我们提出了一个结构化的方法来检索图像的内容的问题,并提出了一个描述逻辑,已被设计用于包含复杂对象的图像的语义索引和检索。与其他方法一样,我们从图像分析提取的低级特征开始,以检测和表征图像中的区域。然而,与基于特征的方法相比,我们提供了一种语法来描述分割区域作为基本对象和复杂对象作为基本对象的组合物。然后,我们介绍了一个同伴的扩展语义定义推理服务,如检索,分类和包容。这些服务可以用于精确和近似匹配,使用相似性度量。使用我们的逻辑方法作为一个正式的规范,我们实现了一个完整的客户端-服务器的图像检索系统,它允许用户提出查询草图和查询的例子。一组实验已经进行了一个测试平台上的图像,以评估系统的检索能力相比,专家用户的排名。结果采用一个完善的质量措施借用文本信息检索。
2011-06-30 cs.AI
Multi-Group Proportional Representation for Text-to-Image Models
Seoul National University(首尔大学);Harvard University(哈佛大学)
本文提出多群体比例表示(MPR)框架,用于测量文本到图像模型中交叉群体的代表性,并开发优化算法,在保持生成质量的同时引导模型实现更平衡的人口群体生成。
2025-05-29 cs.AI cs.CV
Representing the Insincere: Strategically Robust Proportional Representation
UNSW(新南威尔士大学);Data61
比例代表制(PR)是世界上许多民主国家的基本原则,它们采用基于PR的投票规则来选举代表。然而,这些投票规则的规范性属性往往只在真诚投票的背景下被理解。在本文中,我们认为公关存在的战略选民。我们构造了一个投票规则,使得对于每个偏好配置文件,存在至少一个代价高昂的投票均衡,满足PR关于选民的私人和未透露的偏好-这样的投票规则被认为是战略上强大的。相比之下,一个常用的投票规则是不具有战略鲁棒性。此外,我们证明了一个限制“如何在战略上强大的”PR为基础的投票规则可以,我们表明,没有PR为基础的投票规则,确保每个均衡满足PR。总的来说,我们的研究结果突出了实现PR的可能性和限制在战略选民的存在和机制,如选举前的民意调查,协调选民的行为对均衡,满足PR的积极作用。
2018-01-29 cs.AI cs.GT
A Triplet-loss Dilated Residual Network for High-Resolution Representation Learning in Image Retrieval
Ferdowsi University of Mashhad(马什哈德菲尔多西大学);McMaster University(麦克马斯特大学)
基于内容的图像检索是基于视觉内容(如颜色、形状或空间关系以及纹理)从大量图像库中检索图像子集的过程。在某些应用中,例如定位,图像检索被用作初始步骤。在这种情况下,顶部检索图像的准确性显著影响整个系统的准确性。本文介绍了一个简单而有效的图像检索系统,具有较少的可训练参数,它提供了可接受的准确率在顶部检索的图像。所提出的方法受益于一个膨胀的残余卷积神经网络与三重损失。实验评估表明,该模型可以提取更丰富的信息(即,高分辨率表示),从而提高图像检索的准确性,而不增加模型的深度或复杂性。为了增强提取的表示的鲁棒性,当前研究从每个特征图中获取候选感兴趣区域,并对这些区域应用广义均值池化。由于基于三元组的网络中三元组的选择影响模型训练,我们采用了三元组在线挖掘方法。我们在两个具有挑战性的图像检索数据集上测试了所提出的方法在各种配置下的性能,即Revisited Paris6k(RPar)和UKBench。实验结果表明,在RPar中等和硬模式下的准确率分别为94.54和80.23(平均精度为10级),在UKBench数据集中的准确率分别为3.86(召回率为4级)。
2023-03-15 cs.AI cs.CV
HyperGraphRAG: Retrieval-Augmented Generation via Hypergraph-Structured Knowledge Representation
Beijing University of Posts and Telecommunications(北京邮电大学);Nanyang Technological University(南洋理工大学);Beijing Institute of Computer Technology and Application(北京计算机技术与应用研究所);National University of Singapore(新加坡国立大学);China Mobile Research Institute(中国移动研究院);Beijing Anzhen Hospital, Capital Medical University(首都医科大学北京安贞医院)
针对现有基于图的RAG方法受二元关系限制、难以表示现实n元知识的问题,提出基于超图的HyperGraphRAG方法,通过超边表示n元关系,经多领域实验验证其在准确率、检索效率和生成质量上更优。
2025-10-21 cs.AI
Composed Vision-Language Retrieval for Skin Cancer Case Search via Joint Alignment of Global and Local Representations
本文提出一种基于Transformer的框架,通过联合对齐全局和局部表示,提升皮肤癌病例检索的准确性和效率,实验表明在Derm7pt数据集上优于现有方法。
2026-04-20 cs.AI cs.CV
Contrastive timbre representations for musical instrument and synthesizer retrieval
本文提出一种对比学习框架,通过生成虚拟乐器的正负样本对,使用单一模型实现从单乐器到多乐器混合音频的高效乐器检索,并在多乐器检索任务上取得95.7%的top-5准确率。
2025-09-16 cs.AI cs.SD
Unsupervised Text Representation Learning via Instruction-Tuning for Zero-Shot Dense Retrieval
The Pennsylvania State University(宾夕法尼亚州立大学);Amazon AGI(亚马逊AGI)
本研究提出一种基于指令微调预训练LLM的无监督文本表示学习方法,通过生成合成查询并加权平均嵌入来增强语料库表示,在低资源零样本检索任务上显著优于多个竞争性稠密检索器。
2024-09-24 cs.AI
BTR: Binary Token Representations for Efficient Retrieval Augmented Language Models
Paul G. Allen School of Computer Science & Engineering(保罗·G·艾伦计算机科学与工程学院);University of Washington(华盛顿大学)
本文提出二值令牌表示(BTR),用1位向量预计算段落令牌,结合校准与压缩技术,在保持95%以上任务性能的同时将检索增强语言模型推理加速4倍、存储减少100倍以上。
2024-05-03 cs.AI cs.CL
CommerceMM: Large-Scale Commerce MultiModal Representation Learning with Omni Retrieval
Facebook AI(脸书人工智能研究院)
我们引入CommerceMM --一种多模式模型,能够对与给定内容相关的商业主题提供多样化和精细的理解(图像,文本,图像+文本),并具有推广到广泛任务的能力,包括多模态分类,图像文本检索,查询到产品检索,图像到产品检索,我们遵循预训练+微调训练制度,并在图像-文本对上提出5个有效的预训练任务。为了通过文本到多模态,图像到多模态和多模态到多模态映射来拥抱更常见和多样化的商业数据,我们提出了另外9个新的跨模态和跨对检索任务,称为Omni-Retrieval预训练。预训练是以有效的方式进行的,对于组合的14个任务只有两个前向/后向更新。大量的实验和分析表明,每个任务的有效性。当结合所有预训练任务时,我们的模型在微调后在7个与业务相关的下游任务上实现了最先进的性能。此外,我们提出了一种新的方法,模态随机化动态调整我们的模型在不同的效率约束。
2022-02-15 cs.AI cs.CL cs.CV