Neuron-Level Differentiation of Memorization and Generalization in Large Language Models
National Taiwan University(国立台湾大学);Google Research(谷歌研究)
本研究在神经元层面区分大语言模型的记忆与泛化,识别出各自对应的神经元子集,并通过推理时干预实现行为控制,揭示了模型的模块化结构。
2025-07-09 cs.CL
Acoustic-based Gender Differentiation in Speech-aware Language Models
Chung-Ang University(中央大学)
本研究提出新数据集分析语音感知语言模型的性别区分现象,发现其存在矛盾模式,并证实该偏见主要源于Whisper语音编码器,凸显了语音技术中性别信息利用的挑战。
2025-09-25 cs.CL
The Rosetta Paradox: Domain-Specific Performance Inversions in Large Language Models
Vedas College, Tribhuvan University(特里布万大学维达斯学院)
本文提出并形式化了“Rosetta悖论”,即LLM在专业领域表现优异但在日常常识任务上表现不佳的现象,引入DSI和PIM指标进行量化分析,发现该悖论是深度神经网络的内在涌现属性而非数据分布伪影。
2024-12-09 cs.AI cs.CL
LAGO: Few-shot Crosslingual Embedding Inversion Attacks via Language Similarity-Aware Graph Optimization
Department of Electronic Systems(电子系统系);Department of Computer Science(计算机科学系);Aalborg University(奥尔堡大学)
提出LAGO,一种基于语言相似性感知图优化的少样本跨语言嵌入反转攻击方法,通过图约束分布式优化和Frobenius正则化,在极少量样本下显著提升攻击可迁移性(Rouge-L提升10-20%),强调语言相似性在隐私保护中的关键作用。
2025-05-21 cs.AI cs.CL cs.CR
Text Embedding Inversion Security for Multilingual Language Models
Aalborg University(奥尔堡大学)
本文首次研究多语言LLM的嵌入逆向攻击,发现多语言模型更易受攻击且英语防御可能失效,并提出一种对单语言和多语言模型均有效的掩码防御方法。
2024-06-05 cs.AI cs.CL cs.CR
ShapeGlot: Learning Language for Shape Differentiation
Stanford University(斯坦福大学)
在这项工作中,我们将探讨如何细粒度的常见对象的形状之间的差异表达在语言中,基于图像和对象的3D模型。我们首先建立了一个大规模的,仔细控制的人类话语数据集,每个都是指一个3D CAD模型的2D渲染,以便将其与一组形状相似的替代品区分开来。使用这个数据集,我们开发了神经语言理解(听力)和生产(口语)模型,这些模型在其基础(通过点云的纯3D形式与渲染的2D图像),捕获的语用推理程度(例如,说话者是否对听者进行推理)以及神经架构(例如,有或没有注意)方面有所不同。我们发现模型在合成和人类合作伙伴以及话语和物体方面表现良好。我们还发现,这些模型可以进行zero-shot迁移学习到新的对象类(例如,从椅子上的训练迁移到灯上的测试),以及从家具目录中绘制的真实世界图像。病变的研究表明,神经的听众在很大程度上依赖于部分相关的话,并正确地将这些话与视觉部分的对象(没有任何明确的网络训练对象的部分),转移到新的类是最成功的,当已知的部分字。这项工作说明了一个实用的方法来语言接地,并提供了一个案例研究对象的形状和语言结构之间的关系,当涉及到对象的分化。
2019-05-08 cs.CL cs.CV
Layer-Order Inversion: Rethinking Latent Multi-Hop Reasoning in Large Language Models
State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室);University of Science and Technology of China(中国科学技术大学);The Hong Kong University of Science and Technology(香港科技大学)
本文提出"层序倒置"现象,通过概率性回忆与提取框架解释大语言模型中多跳推理的机制,揭示了层序倒置与总跳步数的关系,并提供了多跳失败的诊断方法。
2026-08-27 cs.AI cs.CL
Embedding Inversion via Conditional Masked Diffusion Language Models
Jina AI by Elastic(Jina AI)
本文提出通过条件掩码扩散语言模型实现嵌入反向,无需访问目标编码器,通过并行去噪技术高效恢复标记。
2026-02-18 cs.CL
Against All Odds: Overcoming Typology, Script, and Language Confusion in Multilingual Embedding Inversion Attacks
Aalborg University(奥尔堡大学)
本研究针对多语言LLM的嵌入反演攻击,跨20种语言、8个语系和12种文字进行实验,发现阿拉伯文字、西里尔文字及印度-雅利安语系语言尤为脆弱,并揭示语言混淆瓶颈的可预测模式。
2024-12-16 cs.CL cs.CR
Inversion-Free Image Editing with Natural Language
University of Michigan(密歇根大学);University of California, Berkeley(加州大学伯克利分校)
本文提出InfEdit,通过DDCM的虚拟反演和统一注意力控制框架,免去显式扩散反演,实现快速、一致且忠实的自然语言图像编辑。
2023-12-07 cs.AI cs.CL cs.CV
Better Language Model Inversion by Compactly Representing Next-Token Distributions
University of Southern California(美国南加州大学);Cornell University(康奈尔大学)
本文提出了一种通过紧凑表示下一项令牌分布来改进语言模型反向工程的方法,显著提升了隐藏提示的恢复率,并展示了其在复杂任务中的良好表现。
2025-12-11 cs.CL
Recovering Input Text from Hidden States: Study of Gradient-Based Inversion of Decoder-Only Language Models
AGH University of Krakow, Faculty of Physics and Applied Computer Science(AGH克拉科夫大学物理与应用计算机科学学院)
研究解码器专用语言模型最后层隐藏状态的反演问题,提出连续嵌入空间优化方法,通过离散损失评估恢复正确性,发现高频功能词是主要失败原因,内容词几乎完美恢复。
2026-07-02 cs.AI cs.CL
Document Classification by Inversion of Distributed Language Representations
University of Chicago Booth School of Business(芝加哥大学布斯商学院)
最近在分布式语言模型的结构和度量方面取得了许多进展:这些模型从单词映射到富含单词选择和组成信息的向量空间。这个向量空间是分布式语言表示。本文的目的是指出,任何分布式表示都可以通过贝叶斯规则的反演转换为分类器。该方法是简单和模块化的,因为它将与任何语言表示一起工作,其训练可以被公式化为优化概率模型。在我们对来自Yelp评论的200万个句子的应用中,我们还发现它的性能与复杂的专用算法一样好,甚至更好。
2015-07-24 cs.CL cs.IR stat.AP
Visually Guided Decoding: Gradient-Free Hard Prompt Inversion with Language Models
Seoul National University(首尔国立大学);Sungkyunkwan University(庆熙大学)
本文提出视觉引导解码(VGD),利用大型语言模型和CLIP分数在无梯度、无需训练的条件下生成连贯且语义对齐的提示,优于现有提示反演方法。
2025-07-21 cs.AI cs.CL cs.CV
Language Model Inversion
Cornell University(康奈尔大学)
本研究提出语言模型反演方法,通过模型输出的下一token概率分布恢复隐藏的提示文本,在Llama-2 7b上实现59 BLEU和78 F1,精确恢复27%提示。
2023-11-22 cs.CL cs.LG
TextGrad: Automatic "Differentiation" via Text
Stanford University(斯坦福大学);Chan Zuckerberg Biohub(陈·扎克伯格生物中心)
本文提出TextGrad框架,用LLM生成并反向传播自然语言反馈来优化复合AI系统组件,在问答、代码、推理、分子和放疗计划等任务上验证了效果。
2024-06-11 cs.AI cs.CL cs.LG
Was it Slander? Towards Exact Inversion of Generative Language Models
The University of Manchester(曼彻斯特大学);Federal University of Amazonas(亚马逊联邦大学)
本文针对大型语言模型面临的诽谤攻击,提出基于搜索的定向对抗攻击方法以重建伪造输出输入或证明其不存在,实验表明LLMs仍易受此类攻击。
2024-07-10 cs.AI cs.CL cs.CR
SOMP: Scalable Gradient Inversion for Large Language Models via Subspace-Guided Orthogonal Matching Pursuit
Politecnico di Milano(米兰理工学院);Aalborg University(奥胡斯大学)
本文提出SOMP框架,通过子空间引导的正交匹配追踪解决大规模语言模型在大批次和长序列下的梯度反向问题,实现更高的重建保真度和计算效率。
2026-03-17 cs.CL cs.LG
ALGEN: Few-shot Inversion Attacks on Textual Embeddings using Alignment and Generation
Aalborg University(奥尔堡大学);Macquarie University(麦考瑞大学)
本文提出少样本文本嵌入逆向攻击 ALGEN,通过一步对齐受害者嵌入与攻击空间并结合生成模型重建文本,仅需极少样本即可跨领域、跨语言有效攻击,且现有防御均难以抵御。
2025-02-18 cs.AI cs.CL cs.CR
Cross-Lingual Sentiment Misalignment: Auditing Multilingual Language Models for Inversion Risk, Dialectal Representation, and Affective Stability
Institute of Information Technology University of Dhaka(达卡大学信息科技学院);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文通过控制基准框架评估多语言Transformer模型在平行孟加拉语-英语句子对上的表现,揭示了模型在情感反向、同理心不对称和方言表示中的问题,提出需引入情感稳定性指标以提升跨语言可靠性。
2026-04-30 cs.CL cs.HC
Just a Scratch: Enhancing LLM Capabilities for Self-harm Detection through Intent Differentiation and Emoji Interpretation
Fondazione Bruno Kessler(布鲁诺·克瑟勒基金会);Indian Institute of Technology Patna(印度理工学院帕纳布分校);Indian Institute of Technology Jodhpur(印度理工学院朱罗普尔分校)
本文提出通过意图区分与表情符号敏感性增强大语言模型的自伤检测能力,构建CESM-100表情符号集和SHINES数据集,并以多任务微调框架提升检测与解释性能。
2025-06-05 cs.CL
Sentence Embedding Leaks More Information than You Expect: Generative Embedding Inversion Attack to Recover the Whole Sentence
Hong Kong University of Science and Technology(香港科技大学)
本研究针对大语言模型句子嵌入的信息泄露问题,提出生成式嵌入反转攻击GEIA,通过将嵌入作为初始词元表示训练解码器,在黑盒条件下即可从句子嵌入还原完整句子,性能优于现有方法。
2023-05-04 cs.CL cs.CR
VITRO: Vocabulary Inversion for Time-series Representation Optimization
University of Michigan(密歇根大学);Capital One(第一资本金融公司)
针对LLM预训练词汇表难以捕捉时间序列连续数值特征的问题,提出VITRO方法,借鉴视觉-语言领域的文本反转优化技术学习数据集专属的时间序列伪词嵌入,在多数数据集的长期预测任务中实现了最先进性能。
2024-12-23 cs.CL cs.LG
Text Revealer: Private Text Reconstruction via Model Inversion Attacks against Transformers
University of California San Diego(加州大学圣地亚哥分校);KDDI Research, Inc.(KDDI研究院有限公司)
文本分类已广泛用于各种自然语言处理应用,如情感分析。当前的应用程序通常使用大型的基于transformer的语言模型来对输入文本进行分类。但是,在发布模型时,有多少私人信息可以被倒置,这方面缺乏系统的研究。在本文中,我们制定了\emph{Text Revealer} -第一个模型反演攻击的文本重建对文本分类与Transformers。我们的攻击忠实地重建包含在训练数据中的私有文本,并访问目标模型。我们利用外部数据集和GPT-2来生成目标领域的流畅文本,然后利用目标模型的反馈优化其隐藏状态。我们广泛的实验表明,我们的攻击是有效的,不同的文本长度的数据集,可以重建私人文本的准确性。
2022-09-21 cs.CL
Language-Dependent Political Bias in AI: A Study of ChatGPT and Gemini
Ostim Technical University(奥斯特姆技术大学);Ankara University(安卡拉大学)
本研究通过14种语言测试ChatGPT和Gemini的政治倾向,发现两者均存在自由主义和左翼偏见且随查询语言变化,其中Gemini倾向更明显,并据此提出AI应承认并管理而非否认政治倾向的伦理建议。
2025-04-08 cs.AI cs.CL cs.ET
DeepInvert: Semi-Supervised Embedding Inversion Against Obfuscated Language Models
Ant Group(蚂蚁集团)
该研究针对ObfusLM等混淆语言模型防御提出半监督嵌入反演攻击DeepInvert,其标记恢复率达73.5%,优于现有方法,揭示混淆防御存在效用与反演的权衡问题,呼吁重新评估该防御类别。
2026-08-06 cs.CL cs.CR cs.LG
An Image is Worth One Word: Personalizing Text-to-Image Generation using Textual Inversion
Tel-Aviv University(特拉维夫大学);NVIDIA(英伟达)
文本到图像模型提供了前所未有的自由,通过自然语言指导创作。然而,目前还不清楚如何行使这种自由,以产生特定的独特概念的图像,修改其外观,或组成新的角色和新的场景。换句话说,我们会问:我们如何使用语言引导的模型来把我们的猫变成一幅画,或者根据我们最喜欢的玩具来想象一个新产品?在这里,我们提出了一个简单的方法,允许这种创造性的自由。只使用用户提供的概念的3-5个图像,如对象或样式,我们学习通过冻结的文本到图像模型的嵌入空间中的新“单词”来表示它。这些“话”可以组成自然语言句子,以直观的方式指导个性化创作。值得注意的是,我们发现的证据表明,一个单一的词嵌入是足够的捕捉独特的和不同的概念。我们将我们的方法与广泛的基线进行比较,并证明它可以更忠实地描绘各种应用程序和任务的概念。我们的代码、数据和新词将在以下网址提供:https://textual-inversion.github.io
2022-08-02 cs.CL cs.CV cs.GR
Scaling through abstractions -- high-performance vectorial wave simulations for seismic inversion with Devito
Georgia Institute of Technology(佐治亚理工学院);Devito Codes;Imperial College London(帝国理工学院);TU-Delft(代尔夫特理工大学)
Devito是一个基于特定领域语言和编译器技术的开源Python项目。在勘探地震学中快速HPC应用开发的需求的驱动下,语言和编译器自成立以来已经发生了显着的变化。复杂的边界条件,张量收缩,稀疏运算和交错网格和子域等功能都得到了支持;可以生成基本上任意复杂度的运算符。为了适应这种灵活性,同时确保性能,数据依赖性分析被用来调度循环和检测计算属性,如并行性。本文给出了倾斜横观各向同性介质中拟声波方程和弹性波方程的MPI平行传播子及其伴随子的生成和模拟。在HPC Cloud系统中对工业规模的合成模型进行了模拟,并达到了28 TFLOP/s的性能,从而证明了Devito适用于生产级地震反演问题。
2020-04-22 cs.CL cs.PF physics.ao-ph