DebCSE: Rethinking Unsupervised Contrastive Sentence Embedding Learning in the Debiasing Perspective
Sina Weibo(新浪微博);China Literature Limited(阅文集团)
本文提出DebCSE框架,通过逆倾向加权采样方法消除对比句嵌入学习中的多种偏差,在STS基准上以80.33%的Spearman相关系数显著优于现有最先进模型。
2023-09-14 cs.AI cs.CL
OSCaR: Orthogonal Subspace Correction and Rectification of Biases in Word Embeddings
UCLA(加州大学洛杉矶分校);University of Utah(犹他大学)
众所周知,语言表征带有刻板偏见,因此,导致下游任务中有偏见的预测。虽然现有的方法在通过线性投影减轻偏差方面是有效的,但是这样的方法过于激进:它们不仅去除偏差,而且从词嵌入中擦除有价值的信息。我们开发了新的措施来评估特定的信息保留,证明偏见消除和信息保留之间的权衡。为了解决这一挑战,我们提出了OSCaR(正交子空间校正和整流),一种偏差缓解方法,专注于解开概念之间的偏见的关联,而不是删除概念批发。我们对性别偏见的实验表明,OSCaR是一种平衡良好的方法,可以确保语义信息保留在嵌入中,偏见也被有效地减轻。
2021-09-10 cs.AI cs.CL cs.LG
Robustness and Reliability of Gender Bias Assessment in Word Embeddings: The Role of Base Pairs
Department of Computer Science(计算机科学系);University of Sheffield(谢菲尔德大学)
它已被证明,词嵌入可以表现出性别偏见,并提出了各种方法来量化这一点。然而,这些方法在多大程度上捕捉了从数据中继承的社会陈规定型观念,这一点一直存在争议。偏见是一个复杂的概念,有多种方法来定义它。以前的工作是利用性别词对来衡量偏见和提取偏见的类比。我们表明,依赖这些性别对有很强的局限性:基于它们的偏见措施是不健全的,不能识别常见类型的现实世界的偏见,而类比利用它们是不合适的偏见指标。特别是,众所周知的类比“男人是计算机程序员,女人是家庭主妇”是由于词汇相似性,而不是社会偏见。这对测量嵌入偏差的工作和消除嵌入偏差的相关工作具有重要影响。
2020-10-27 cs.AI cs.CL cs.LG
Detecting Emergent Intersectional Biases: Contextualized Word Embeddings Contain a Distribution of Human-like Biases
George Washington University(乔治华盛顿大学)
以语言的统计特征反映了人类的隐性偏见为出发点,可以测量英语静态词嵌入中的偏见。最先进的神经语言模型根据单词出现的上下文生成动态词嵌入。当前的方法测量出现在句子模板定义的特定上下文中的预定义的社会和交叉偏见。免除模板,我们介绍了语境化嵌入关联测试(CEAT),它可以总结神经语言模型的整体偏差的大小,通过纳入随机效应模型。社会和交叉偏见的实验表明,CEAT发现所有测试的偏见的证据,并提供了全面的信息,在不同的情况下,相同的偏见的影响幅度的方差。我们研究的所有英语语料库训练的模型都包含有偏见的表征。此外,我们开发了两种方法,交叉偏见检测(IBD)和新兴交叉偏见检测(EIBD),自动识别交叉偏见和新兴交叉偏见从静态词嵌入除了测量它们在上下文词嵌入。我们提出了第一个算法偏见检测结果,交叉组成员如何强烈相关的独特的紧急偏见,不重叠的偏见,他们的组成少数民族的身份。IBD和EIBD在检测非裔美国女性和墨西哥裔美国女性的交叉和突发偏见时具有很高的准确性。我们的研究结果表明,在种族和性别的交叉点与多个少数群体的成员,如非洲裔美国女性和墨西哥裔美国女性的偏见,在所有的神经语言模型的幅度最高。
2021-05-19 cs.AI cs.CL cs.CY
Biased Embeddings from Wild Data: Measuring, Understanding and Removing
University of Bristol(布里斯托大学)
许多现代人工智能(AI)系统利用数据嵌入,特别是在自然语言处理(NLP)领域。这些嵌入是从“野生”收集的数据中学习的,并且被发现包含不必要的偏见。在本文中,我们对测量,理解和消除这个问题作出了三个贡献。我们提出了一个严格的方法来衡量这些偏见,基于使用的单词列表创建的社会心理学应用程序;我们观察如何在职业中的性别偏见反映了实际的性别偏见在现实世界中相同的职业;最后,我们证明了一个简单的投影可以显着减少嵌入偏见的影响。所有这些都是正在进行的努力的一部分,以了解如何将信任构建到人工智能系统中。
2018-06-16 cs.AI cs.CL stat.ML
What is in a name? Mitigating Name Bias in Text Embeddings via Anonymization
Pocket FM
本文首次揭示文本嵌入中因人名、地名等名称导致的偏见,并提出推理时文本匿名化方法,在保留核心语义的同时去除名称引用,在两个NLP任务上显著提升性能。
2025-02-05 cs.AI cs.CL cs.LG
Unsupervised Detection of Contextualized Embedding Bias with Application to Ideology
University of Oxford(牛津大学);LMU Munich(慕尼黑大学)
我们提出了一种完全无监督的方法来检测上下文嵌入中的偏差。该方法利用社交网络潜在编码的隐含信息,并结合正交正则化、结构化稀疏学习和图神经网络来找到捕获该信息的嵌入子空间。作为一个具体的例子,我们专注于意识形态偏见的现象:我们引入了意识形态子空间的概念,展示了如何通过将我们的方法应用于在线论坛来发现它,并提出了探测它的技术。我们的实验表明,意识形态子空间编码抽象的评价语义,并反映了唐纳德·特朗普总统任期内政治左右光谱的变化。
2022-12-14 cs.AI cs.CL cs.SI
Quantifying Positional Biases in Text Embedding Models
University of California, Berkeley(加州大学伯克利分校)
本研究量化了文本嵌入模型中位置偏差的影响,发现模型倾向于优先处理输入开头部分,且位置越远离开头,句子重要性越低。
2025-12-31 cs.AI cs.CL cs.IR
"Thy algorithm shalt not bear false witness": An Evaluation of Multiclass Debiasing Methods on Word Embeddings
Maastricht University(马斯特里赫特大学)
随着人工智能应用的广泛发展和应用,对这些算法的公平性的研究已经增加。具体而言,在自然语言处理领域,已经表明社会偏见在词嵌入中持续存在,因此在使用时有放大这些偏见的危险。作为社会偏见的一个例子,宗教偏见被证明是坚持在词嵌入和需要其删除强调。本文研究了最先进的多类去偏置技术:硬去偏置,软WEAT去偏置和概念去偏置。它通过词嵌入关联测试(WEAT)、平均余弦相似度(MAC)和相对负情感偏差(RNSB)量化消除偏差来评估他们在消除宗教偏见时的表现。通过研究三种广泛使用的词嵌入,即:Word2Vec,GloVe,和ConceptNet的宗教偏见去除,它表明,首选的方法是ConceptorDebiasing。具体而言,该技术设法将三个词嵌入集合的测量的宗教偏见平均分别降低了82.42%、96.78%和54.76%。
2020-11-04 cs.AI cs.CL cs.LG
Social Biases in Automatic Evaluation Metrics for NLG
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);The MOE Key Laboratory of Computational Linguistics, Peking University(北京大学计算语言学教育部重点实验室)
许多研究表明,自然语言处理中的词嵌入、语言模型和特定下游任务的模型容易产生社会偏见,尤其是性别偏见。最近这些技术已逐渐应用于文本生成的自动评估指标。本文提出了一种基于词嵌入关联测试(WEAT)和句子嵌入关联测试(SEAT)的评价方法来量化评价指标中的社会偏见,并发现社会偏见也广泛存在于一些基于模型的自动评价指标中。此外,我们构建了性别交换的元评估数据集,以探讨性别偏见在图像标题和文本摘要任务中的潜在影响。研究结果表明,在性别中立的情况下,基于模型的评价指标可能偏向于男性假设,并且在性别交换后,评价指标与人类判断的相关性会发生显著变化。
2022-10-17 cs.AI cs.CL
Measuring Gender Bias in Word Embeddings of Gendered Languages Requires Disentangling Grammatical Gender Signals
George Washington University(乔治华盛顿大学);University of Washington(华盛顿大学)
当衡量一种语言的词嵌入所捕获的语义性别信息时,语言的语法性别是否会产生干扰?一些在性别语言嵌入中的异常性别偏见测量表明了这种可能性。我们证明,词嵌入学习语法性别的语言,这可能会扭曲社会性别偏见的测量名词和它的语法性别之间的关联。因此,词嵌入后处理方法被引入到量化,解开,和评估语法性别信号。该评估是在印欧语系的日耳曼语、罗曼语和斯拉夫语分支的五种性别语言上进行的。我们的方法降低了语法性别信号的强度,这是衡量的效果大小(科恩的d),由一个显着的平均值d = 1.3为法语,德语和意大利语,和d = 0.56为波兰语和西班牙语。一旦语法性别被解开,超过90%的10,000无生命名词和他们的语法性别之间的关联减弱,跨语言的偏见结果从词嵌入协会测试(WEAT)变得更加符合国家级的内隐偏见测量。结果进一步表明,从词嵌入中解开语法性别信号可能会导致语义机器学习任务的改进。
2022-06-03 cs.AI cs.CL cs.CY
The Scandinavian Embedding Benchmarks: Comprehensive Assessment of Multilingual and Monolingual Text Embedding
Aarhus University(奥胡斯大学)
针对多语言文本嵌入评估基准缺乏的问题,提出涵盖24个任务和4个类别的SEB框架,评估超26个模型并开源集成至MTEB,揭示了公开与商业方案间的性能差异。
2024-06-04 cs.AI cs.CL
GlobalWalk: Learning Global-aware Node Embeddings via Biased Sampling
Shanghai Jiao Tong University(上海交通大学)
流行的节点嵌入方法,如DeepWalk,遵循在图上执行随机遍历的范式,然后要求每个节点接近与它一起出现的节点。虽然在各种任务中被证明是成功的,但这种范式将具有拓扑结构的图简化为一组连续的句子,从而省略了全局信息。为了产生全局感知的节点嵌入,我们提出了GlobalWalk,这是一种偏向于语义相似的节点的随机游走策略。经验证据表明,GlobalWalk通常可以提高全球对生成的嵌入的认识。
2022-05-30 cs.AI cs.LG
Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings
Boston University(波士顿大学);Microsoft Research New England(微软研究院新英格兰分院)
机器学习的盲目应用有放大数据中存在的偏差的风险。词嵌入是一种将文本数据表示为向量的流行框架,已用于许多机器学习和自然语言处理任务。我们发现,即使是在谷歌新闻文章上训练的词嵌入也会表现出令人不安的女性/男性性别刻板印象。这引起了人们的担忧,因为正如我们所描述的,它们的广泛使用往往会放大这些偏见。从几何学上讲,性别偏见首先被证明是由词嵌入中的方向捕获的。第二,性别中性词被证明是线性可分离的性别定义词的词嵌入。使用这些属性,我们提供了一种方法来修改嵌入,以消除性别刻板印象,如接待员和女性之间的关联,同时保持所需的关联,如女王和女性之间的话。我们定义的指标来量化嵌入中的直接和间接性别偏见,并开发算法来“消除”嵌入。使用人群工作者评估以及标准基准,我们经验证明,我们的算法显着减少性别偏见的嵌入,同时保留其有用的属性,如聚类相关的概念和解决类比任务的能力。由此产生的嵌入可以在不放大性别偏见的应用中使用。
2016-07-21 cs.AI cs.CL cs.LG
Regional Negative Bias in Word Embeddings Predicts Racial Animus--but only via Name Frequency
Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学)
词嵌入联想测试是在大文本语料库中测量对少数民族等社会群体的语言偏见的一种重要方法。它通过比较组的原型词的语义相关性(例如,对那些组唯一的名称)和属性字(例如,“令人愉快的”和“不愉快的”词)。我们表明,在大都市统计区层面,从地理标记的社交媒体数据中估计的反黑人WEAT与种族敌意的几个指标密切相关-即使在控制社会人口协变量时。然而,我们还表明,这些相关性的每一个解释的第三个变量:在底层语料库中的黑人的名字相对于白人的名字的频率。这是因为词嵌入倾向于在估计的语义空间中将肯定(否定)词和频繁(罕见)词分组在一起。由于社交媒体上黑人名字的频率与美国黑人在人口中的流行程度密切相关,这导致了在少数美国黑人居住的地方虚假的反黑人WEAT估计。这表明,使用WEAT来衡量偏见的研究应该考虑词频,并证明了使用黑盒模型(如词嵌入)来研究人类认知和行为的潜在后果。
2022-01-20 cs.AI cs.CL cs.LG
Unbiased Graph Embedding with Biased Graph Observations
University of Virginia(弗吉尼亚大学)
图嵌入技术在现实世界的机器学习任务中是关键的,这些任务对图结构数据进行操作,例如社会推荐和蛋白质结构建模。嵌入主要在节点级别上执行,用于学习每个节点的表示。由于图的形成不可避免地受到某些敏感节点属性的影响,节点嵌入可能继承这样的敏感信息并在下游任务中引入不期望的偏差。大多数现有的作品强加ad-hoc约束的节点嵌入,以限制其分布的无偏性/公平性,但妥协的效用所得到的嵌入。在本文中,我们提出了一个原则性的无偏图嵌入的新方法,从一个底层的无偏图学习节点嵌入,这是不受敏感节点属性。受这种新视角的启发,我们提出了两种互补的方法来发现这样的底层图,其目标是引入对嵌入效用的最小影响。我们的理论依据和广泛的实验比较对国家的最先进的解决方案证明了我们提出的方法的有效性。
2022-04-23 cs.AI cs.LG
Correcting Mean Bias in Text Embeddings: A Refined Renormalization with Training-Free Improvements on MMTEB
发现句子嵌入存在一致均值偏差,提出无训练修正方法R2(投影去除均值方向),在MMTEB上38个模型中获得一致分类提升,并分析其与PCA白化的差异。
2026-06-05 cs.AI cs.CL cs.LG
Assessing the quality and coherence of word embeddings after SCM-based intersectional bias mitigation
Informatics Institute, University of Amsterdam(阿姆斯特丹大学信息学院);Department of Computer Science and Technology, SUNY Empire State University(SUNY帝国州大学计算机科学与技术系)
本文研究了基于SCM的交集偏见缓解方法在静态词嵌入中的有效性,通过复合表示和三种去偏策略评估了词嵌入的质量和连贯性,为平衡稳定性与类比性能提供了指导。
2026-01-07 cs.AI
Interpretable Text Embeddings and Text Similarity Explanation: A Survey
University of Zurich(苏黎世大学);University of Stuttgart(斯图加特大学)
该综述针对文本嵌入可解释性及相似性解释的研究缺口,系统梳理了固有可解释文本嵌入与文本相似性解释的相关方法、思路、权衡与评估方式,并总结经验、指出未来研究方向。
2025-10-02 cs.AI cs.CL cs.IR
Digital Skin, Digital Bias: Uncovering Tone-Based Biases in LLMs and Emoji Embeddings
University of North Texas(北德克萨斯大学);International Center for Artificial Intelligence Research and Ethics(国际人工智能研究与伦理中心);Southern Methodist University(南卫理公会大学);The University of Arizona(亚利桑那大学);The University of Alabama(阿拉巴马大学)
本文研究了LLM和表情符号嵌入模型中基于肤色的偏见,发现表情符号模型在肤色表示上存在严重缺陷,揭示了潜在的偏见问题,呼吁开发者和平台进行审计和缓解。
2026-04-08 cs.AI cs.CL cs.HC
Discovering and Interpreting Biased Concepts in Online Communities
语言带有隐含的人类偏见,既反映了人们所携带的刻板印象,又使之永久化。最近,基于ML的NLP方法,如词嵌入,已被证明可以以惊人的准确性学习这种语言偏见。这种词嵌入的能力已经被成功地利用作为量化和研究人类偏见的工具。然而,以前的研究只考虑了一组预定义的偏见概念来证明(例如,性别是否或多或少与特定的工作有关),或者只是发现有偏见的词语,而不帮助理解它们在概念层面的含义。因此,这些方法可能无法找到事先没有定义的偏见概念,或者他们发现的偏见难以解释和研究。这可能使现有的方法不适合发现和解释在线社区中的偏见,因为这些社区可能携带与主流文化不同的偏见。本文改进,扩展,并评估我们以前的数据驱动的方法,自动发现和帮助解释有偏见的概念编码在词嵌入。我们应用这种方法来研究在线社区中使用的语言中存在的偏见概念,并通过实验证明了我们的方法的有效性和稳定性
2022-01-24 cs.AI cs.CL cs.CY
STEB: Style Text Embedding Benchmark
Johns Hopkins University(约翰霍普金斯大学);Utrecht University(乌得勒支大学)
提出STEB基准,包含7种语言96个数据集,用于标准化风格嵌入评估,发现语义嵌入在风格任务中表现不佳,且无通用最优风格嵌入。
2026-07-01 cs.AI cs.CL cs.LG
Assessing Social and Intersectional Biases in Contextualized Word Representations
Yale University(耶鲁大学)
机器学习中的社会偏见已经引起了人们的极大关注,工作范围从在众多应用程序中展示偏见,为不同的上下文策划公平的定义,到开发算法来减轻偏见。在自然语言处理中,性别偏见已经被证明存在于上下文无关的词嵌入中。最近,上下文单词表示在几个下游NLP任务中的表现优于词嵌入。这些单词表示取决于它们在句子中的上下文,也可以用于编码整个句子。在本文中,我们分析了在何种程度上的最先进的模型上下文单词表示,如BERT和GPT-2,编码偏见与性别,种族和交叉身份。为此,我们建议在上下文单词水平上评估偏见。这种新颖的方法捕捉上下文无关的词嵌入中的偏差缺失的上下文效应,但避免了混淆效应,低估了偏见在句子编码水平。我们证明了在语料库水平上的偏见的证据,发现不同的证据嵌入关联测试中的偏见,特别是显示,种族偏见是强烈编码的上下文单词模型,并观察到交叉少数民族的偏见影响加剧超越其组成少数民族的身份。此外,在上下文单词水平上评估偏见效应可以捕获在句子水平上无法捕获的偏见,这证实了我们新方法的必要性。
2019-11-04 cs.AI cs.CL cs.CY
Gender Bias in Word Embeddings: A Comprehensive Analysis of Frequency, Syntax, and Semantics
University of Washington(华盛顿大学);Information School(信息学院);Birla Institute of Technology and Science(比尔拉科学技术学院);Harvard University(哈佛大学)
语言语料库中的统计数据将众所周知的社会偏见编码到词嵌入中。在这里,我们专注于性别,以全面分析在互联网语料库上训练的广泛使用的静态英语词嵌入中基于群体的偏见(GloVe 2014,fastText 2017)。使用单类别词嵌入关联测试,我们证明了性别偏见的普遍存在,也显示出差异:(1)与男性和女性相关的词的频率;(b)性别相关词的词性标签;(c)性别相关词的语义类别;(d)性别相关词的效价,唤醒和优势。首先,在词频方面:我们发现,在词汇表中最常见的1,000个单词中,77%与男性的联系比女性更多,这为英语世界的日常语言中男性默认提供了直接证据。第二,转向词性:与男性相关的词最多的通常是动词(例如,fight,overpower),而与女性相关的最多的词通常是形容词和副词(例如,情感上的,情感上的)。嵌入中的性别偏见也渗透到词性中。第三,对于语义类别:自下而上,对与每个性别相关的前1,000个词进行聚类分析。与男性相关的概念包括大型科技、工程、宗教、体育和暴力的角色和领域;相比之下,与女性相关的概念则不太关注角色,包括女性特有的诽谤和性内容,以及外观和厨房术语。第四,从一个约20,000字的词汇,使用人类的评级的字的效价,唤醒,和优势,我们发现,男性相关的词更高的唤醒和优势,而女性相关的词更高的效价。
2022-06-07 cs.AI cs.CL cs.CY
Writing Style Matters: An Examination of Bias and Fairness in Information Retrieval Systems
Amadeus(Amadeus公司)
该研究发现信息检索系统中的文本嵌入模型对不同写作风格存在偏见,包括文档、查询及RAG回答风格层面的偏好差异,指出其威胁检索公平性,为公平鲁棒的模型开发提供参考。
2024-12-12 cs.AI cs.IR
Learning Multilingual Word Embeddings Using Image-Text Data
Stanford University(斯坦福大学);Google AI(谷歌人工智能)
最近,人们对学习多语言词嵌入产生了浓厚的兴趣,在多语言中语义相似的词具有相似的嵌入。最先进的方法依赖于昂贵的标记数据,这对于低资源语言是不可用的,或者涉及单语嵌入的事后统一。在本文中,我们研究了从弱监督图像-文本数据中学习的多语言嵌入的有效性。特别是,我们提出了使用图像-文本数据学习多语言嵌入的方法,通过执行图像和文本的表示之间的相似性。我们的实验表明,即使不使用任何昂贵的标记数据,在图像-文本数据上训练的基于词袋的嵌入模型在跨语言语义相似性任务上的性能也可以与最先进的技术相媲美。
2019-05-29 cs.AI cs.CL cs.CV
Ovis-Embedding: Pushing the Frontiers of Universal Omni-Modal Embeddings
Alibaba Token Hub, Alibaba Group(阿里巴巴集团阿里巴巴Token Hub)
Ovis-Embedding通过共享多模态骨干网络原生集成文本、图像、视频和音频,采用低秩初始化、同源采样和焦点损失等优化,在多个基准上达到最先进性能,推动任意到任意检索的通用嵌入模型发展。
2026-09-23 cs.AI
RichSpace: Enriching Text-to-Video Prompt Space via Text Embedding Interpolation
Zhejiang University(浙江大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of New South Wales(新南威尔士大学);The University of Hong Kong(香港大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Tsinghua University(清华大学);Simons Institute for the Theory of Computing, University of California, Berkeley(加州大学伯克利分校西蒙斯理论计算研究所)
针对文本到视频生成模型在复杂特征视频上的局限,提出通过嵌入空间插值选择最优文本嵌入的新方法,并利用垂足嵌入和余弦相似度识别最优插值,有效提升了生成性能。
2025-02-02 cs.AI cs.CL cs.CV
Advancing Cultural Inclusivity: Optimizing Embedding Spaces for Balanced Music Recommendations
Mila Quebec AI Institute(米拉魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学)
本研究针对音乐推荐系统中的流行度偏差,通过可解释的原型矩阵分解方法,提出过滤不相关原型和正则化技术优化嵌入空间,以增强文化公平性并保持推荐性能。
2024-05-27 cs.AI cs.IR cs.LG
LLM-Assisted Content Conditional Debiasing for Fair Text Embedding
The University of British Columbia(不列颠哥伦比亚大学);Google Cloud(谷歌云)
该研究针对文本嵌入的偏见问题,提出内容条件等距公平性与对应去偏损失,并用LLM指令增强数据,在保持嵌入效用的同时提升公平性,还构建了新的公平评估基准。
2024-06-24 cs.AI cs.CL cs.CY
When Text and Images Don't Mix: Bias-Correcting Language-Image Similarity Scores for Anomaly Detection
National University of Singapore(新加坡国立大学)
本文针对CLIP模型在异常检测中文本与图像嵌入分布不一致导致的“相似度偏置”问题,提出无需复杂训练的BLISS方法,利用外部文本集校正偏置,在数据受限时仍显著优于基线。
2024-07-24 cs.AI cs.CV
Uncovering the Text Embedding in Text-to-Image Diffusion Models
University of Science and Technology of China(中国科学技术大学);Alibaba Group(阿里巴巴集团)
本文深入分析文本到图像扩散模型中的文本嵌入空间,揭示词嵌入重要性、上下文相关性及通过SVD发现的语义潜力,为免学习图像编辑和语义发现提供指导。
2024-04-01 cs.AI cs.CV
Mitigating Bias with Words: Inducing Demographic Ambiguity in Face Recognition Templates by Text Encoding
Fraunhofer IGD(弗劳恩霍夫研究所(IGD));TU Darmstadt(德累斯顿技术大学)
通过引入文本编码,UTIE在人脸识别模板中诱导人口统计学模糊性,以减少偏见并提升验证性能。
2025-12-05 cs.AI cs.CV
Diffusion Adaptive Text Embedding for Text-to-Image Diffusion Models
KAIST(韩国科学技术院);NAVER Cloud(NAVER云)
针对文本生成图像扩散模型中文本嵌入固定、适配性不足的问题,提出扩散自适应文本嵌入DATE,无需额外训练即可在采样步动态更新文本嵌入,提升文图对齐效果且保留生成能力。
2025-10-28 cs.AI cs.LG
CUBIC: Concept Embeddings for Unsupervised Bias Identification using VLMs
Dept. of Computer Science and Artificial Intelligence, DaSCI Institute, University of Granada(计算机科学与人工智能系,DaSCI研究所,格拉纳达大学);Dept. of Engineering ”Enzo Ferrari”, University of Modena and Reggio Emilia(工程系,摩德纳和雷吉奥艾米利亚大学);Dept. of Mathematics ’Tullio Levi-Civita’, University of Padova(数学系,帕多瓦大学)
针对深度视觉模型偏差识别缺标注、现有方法依赖预定义偏差或失效样本的问题,提出基于VLM的无监督方法CUBIC,通过隐空间偏移分析自动发现影响模型预测的可解释偏差概念。
2025-05-16 cs.AI cs.CV
Causal Disentanglement for Regulating Social Influence Bias in Social Recommendation
School of Electrical and Data Engineering, University of Technology Sydney(悉尼科技大学电气与数据工程学院);School of Artificial Intelligence, Chongqing University of Arts and Sciences(重庆文理学院人工智能学院)
针对社交推荐中社交影响偏差盲目消除会损害推荐效果的问题,提出基于因果解耦的框架CDRSB,通过解耦嵌入和动态权重调节偏差,在四个真实数据集上优于现有最优方法。
2024-03-06 cs.AI cs.SI
DragText: Rethinking Text Embedding in Point-based Image Editing
Yonsei University(延世大学)
针对基于点的扩散图像编辑中文本嵌入与逐步变化的图像嵌入失配问题,提出 DragText,在拖拽过程中联合优化并正则化文本嵌入,可即插即用增强现有方法。
2024-12-04 cs.AI cs.CV
Blind to Position, Biased in Language: Probing Mid-Layer Representational Bias in Vision-Language Encoders for Zero-Shot Language-Grounded Spatial Understanding
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);Samsung Electronics(三星电子)
研究探讨了视觉语言编码器中间层中位置和语言相关信息的偏见,通过层间分析发现常规最终层多模态嵌入优先考虑全局语义对齐,导致视觉嵌入对位置线索敏感性低,多语言文本嵌入在共享空间中形成语言依赖的几何偏移,提出构建空间地图的方法提升零样本图像分割性能。
2026-03-19 cs.AI cs.CV