Do You Trust Me? Cognitive-Affective Signatures of Trustworthiness in Large Language Models
National University of Singapore(新加坡国立大学)
研究揭示大型语言模型通过认知-情感特征隐式编码信任worthiness,为构建可信AI系统提供基础。
2025-12-17 cs.AI cs.CL
Token Signature: Predicting Chain-of-Thought Gains with Token Decoding Feature in Large Language Models
本文基于 token 概率分布单调性提出评估 CoT 增益的指标,并构建 Dynamic CoT 在 CoT 与直接回答间动态选择,以 89.2% 评估准确率减少逾 35% token 消耗。
2025-06-06 cs.AI cs.CL
Signatures of semantic search in the activations of large language models
Indiana University(印第安纳大学);Santa Fe Institute(圣塔菲研究所)
本研究通过机制可解释性技术,证明大型语言模型在语义流畅性任务中,其内部激活状态存在与人类类似的探索与利用的语义搜索特征,并能通过转向向量调控切换行为。
2026-09-30 cs.AI
Behavioural Signatures of Risk-Sensitive Decision-Making in Large Language Models
School of Computer Science, Wuhan University(武汉大学计算机科学学院);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院)
研究大语言模型在决策支持中风险敏感决策的行为特征,通过无限制德州扑克的多模型框架量化行为,发现前沿LLMs有稳定风险特征,在不同条件下表现各异,为审计交互式环境中风险敏感决策提供行为基础。
2026-07-14 cs.AI
Topical Phase Transitions in Artificial Intelligence Research: Large-Scale Evidence and an Early-Warning Signature for Emerging Topics
College of Science and Engineering(科学与工程学院);Hamad Bin Khalifa University(哈马德·本·哈利法大学);Doha, Qatar(卡塔尔多哈)
通过分析2017-2025年五大AI会议论文,发现AI主题通过“相变”方式突然爆发,并基于早期预警信号识别未来需关注的主题。
2026-06-12 cs.AI
Token Rankings are Unforgeable Language Model Signatures
University of Southern California(南加州大学);University of Edinburgh(爱丁堡大学)
本文发现语言模型的token排名(按概率排序)构成唯一且不可伪造的签名,并研究了在限制API下如何平衡签名展示与参数泄露。
2026-06-03 cs.AI cs.CC cs.CL
A Distributional Perspective on Word Learning in Neural Language Models
ETH Zürich(苏黎世联邦理工学院);University of California San Diego(加利福尼亚大学圣迭戈分校)
针对语言模型单词学习缺乏公认指标的问题,提出基于目标词学习分布特性的分布特征指标,通过小型模型实验发现指标具互补性,但模型学习轨迹与儿童无相关性。
2025-02-09 cs.AI cs.CL
A unified information-theoretic model of EEG signatures of human language processing
University of California Irvine(加州大学欧文分校)
我们提出了一个信息理论模型的人类语言处理在大脑中,传入的语言输入处理在两个层面上,在一个启发式的解释和纠错方面。我们认为,这两种信息处理具有不同的脑电特征,对应于语言相关事件相关电位(ERPs)的N400和P600成分。形式上,我们表明,一个词在上下文中的信息内容(crossal)可以分解为两个量:(A)启发式的惊喜,这标志着处理困难的词给定其推断的上下文,并对应于N400信号;和(B)差异信号,这反映了真实的上下文和推断的上下文之间的分歧,并对应于P600信号。这两个量都可以使用现代NLP技术进行估计。我们通过成功模拟Ryskin等人(2021)先前报道的实验数据中各种语言操作引起的ERP模式来验证我们的理论。我们的理论是在原则上兼容传统的认知理论假设一个“足够好”的启发式解释阶段,但精确的信息理论制定。
2022-12-16 cs.CL
Sig-Networks Toolkit: Signature Networks for Longitudinal Language Modelling
Queen Mary University of London(伦敦玛丽女王大学);The Alan Turing Institute(艾伦·图灵研究所);University of Warwick(华威大学);University of Oxford(牛津大学)
本文介绍首个纵向语言建模工具包 Sig-Networks,整合签名神经网络,在咨询对话、谣言立场转变和情绪变化三类任务上均达最优性能,并开源提供。
2024-02-06 cs.CL
Representation-Aware Unlearning via Activation Signatures: From Suppression to Entity-Signature Erasure
Computer Science and Engineering, BRAC University, Dhaka, Bangladesh(布拉格大学计算机科学与工程系,达卡,孟加拉国);Boston University, Boston, MA, USA(波士顿大学,波士顿,马萨诸塞州,美国)
提出ERUF框架,通过挖掘实体特异性激活签名并抑制对应方向,实现表示层面的遗忘,同时保持表面抑制、内部衰减和效用保留。
2026-05-26 cs.CL cs.LG
Bileve: Securing Text Provenance in Large Language Models Against Spoofing with Bi-level Signature
Northeastern University(东北大学);UC Berkeley(加利福尼亚大学伯克利分校);UC Riverside(加利福尼亚大学河滨分校)
针对现有大语言模型水印易受伪造攻击的问题,提出双层签名方案Bileve,通过基于排序的采样策略嵌入粗细两类签名,可区分5种检测场景,在OPT-1.3B和LLaMA-7B上验证了其抗伪造攻击的有效性。
2024-10-29 cs.CL cs.CR
Geometric Signatures of Compositionality Across a Language Model's Lifetime
University College London(伦敦大学学院);Université de Montréal(蒙特利尔大学);Mila(Mila研究院);University of Toronto(多伦多大学);Universitat Pompeu Fabra(庞培法布拉大学)
该研究从几何视角出发,将数据集组合性与语言模型表征的内在维度关联,验证了组合性与几何复杂度的关联源于训练习得的语言特征,还发现非线性与线性维度分别编码语言组合的语义与表层特征。
2025-06-17 cs.AI cs.CL cs.IT
Scaling Competence, Shrinking Reasoning: Cognitive Signatures in Language Model Learning
Microsoft(微软)
该研究通过分析语言模型推理标记的动态变化,揭示了模型在任务学习中的能力发展过程,并提出相关指标用于优化训练。
2025-11-22 cs.CL
Rift: A Conflict Signature for Deception in Language Models
Harmonic Labs
通过对比知情欺骗与无知错误,发现欺骗性前向传递具有高残差秩的冲突特征,能以100%准确率无标签识别谎言,并跨模型、语言和架构迁移。
2026-06-17 cs.AI cs.CL cs.LG
Training Leaves Traces: Centered Residual Signatures for Language Model Lineage Verification
Amazon(亚马逊);Massachusetts Institute of Technology(麻省理工学院)
本研究提出中心化残差特征方法,通过移除残差训练产生的共享身份对齐组件,对比残差块特有结构得到谱系分数,可高效准确验证开源权重语言模型检查点的谱系
2026-09-24 cs.CL cs.LG
Context Staircase: Signature-Aligned Dynamics of Token Embeddings under Small Initialization
Shanghai Jiao Tong University(上海交通大学);School of Mathematical Sciences(数学科学学院);Institute of Natural Sciences(自然科学研究院)
本研究提出上下文阶梯现象,发现小初始化下词元嵌入从低阶到高阶逐步对齐概率签名,推导相关演化方程并揭示数据统计与架构对嵌入的塑造作用。
2026-09-01 cs.CL cs.LG
MultiHashFormer: Hash-based Generative Language Models
School of Computer Science, University of Sheffield, United Kingdom(谢菲尔德大学计算机科学学院,英国)
提出MultiHashFormer框架,通过多哈希签名表示令牌,实现参数高效的因果语言建模,在多个规模上优于标准Transformer。
2026-09-01 cs.AI cs.CL cs.LG
Understanding Recurrent Neural State Using Memory Signatures
MIT(麻省理工学院);Google, Inc.(谷歌公司)
我们展示了一种网络可视化技术来分析语言和声学模型中常用的LSTM/GRU内部的递归状态。在端到端模型中解释中间状态和网络激活仍然是一个开放的挑战。我们的方法可以让用户准确地了解有多少和什么历史编码内的经常性状态的字形序列模型。我们的过程训练多个解码器,预测先前的输入历史。编译这些解码器的结果,用户可以获得递归内核的签名,该签名表征其内存行为。我们证明了这种方法的有用性,在揭示信息分歧的基础上经常性的因式分解内核,可视化的字符级之间的差异的记忆的n-gram和经常性的语言模型,并提取知识的历史编码层的grapheme-based端到端的ASR网络。
2018-02-11 cs.CL
Learning the Signature of Memorization in Autoregressive Language Models
JetBrains Research(JetBrains研究院)
本文提出了一种可转移的学习攻击方法,通过训练变压器模型来检测记忆签名,实现了在不同架构和数据集上的高准确率。
2026-04-03 cs.CL cs.CR cs.LG
Tracking Typological Traits of Uralic Languages in Distributed Language Representations
University of Copenhagen(哥本哈根大学)
虽然语言类型学有着悠久的历史,但计算方法只是最近才流行起来。在计算语言学中使用分布式表示也变得越来越流行。最近的一个发展是学习语言的分布式表示,使得类型相似的语言在空间上彼此接近。虽然这种语言表征在经验上已经取得了成功,但它们并没有受到太多的类型学探索。在本文中,我们首先看看这种类型的语言表示是否在经验上对深层神经网络中的乌拉尔语言之间的模型转移有用。然后,我们调查哪些类型学特征编码在这些表示,试图预测功能的语言结构的世界地图集,在各个阶段的微调表示。我们专注于乌拉尔语言,并发现,一些类型学特征可以自动推断的准确性远远高于一个强大的基线。
2017-11-15 cs.CL
Thermodynamic Signatures of Reasoning: Free-Energy and Spectral-Form-Factor Diagnostics for Hallucination Detection in Large Language Models
Talan Research & Innovation Center(Talan研究与创新中心)
提出自由能签名(Fes)作为谱描述符,将注意力拉普拉斯视为哈密顿量并提取热力学势和随机矩阵理论谱形因子,用于检测LLM幻觉,无需训练即可实现高AUROC。
2026-06-19 cs.CL cs.LG
The Statistical Signature of LLMs
Department of Computer Science, Sapienza University of Rome(计算机科学系,罗马萨皮恩扎大学);Department of Computer, Control and Management Engineering, Sapienza University of Rome(计算机、控制与管理工程系,罗马萨皮恩扎大学);Department of Legal, Social, and Educational Sciences, Tuscia University(法律、社会与教育科学系,图斯西亚大学)
本研究通过无损压缩分析揭示大语言模型生成文本的统计特征,发现其在受控和中介情境中比人类文本更具规律性和可压缩性,但小尺度下这种差异会减弱。
2026-02-20 cs.CL cs.CY physics.soc-ph
Token Signatures of Code: Comparing Coding Behaviors Across Large Language Models
Visa Research(维萨研究院)
针对LLM编码行为差异难以用性能指标区分的问题,提出CLIC方法,通过词元频率分析和决策树区分模型,并定义鲁棒性与集中度指标,开发可视化系统,在22个Kaggle任务上比较10个LLM,为模型选择和提示工程提供见解。
2026-09-22 cs.CL cs.LG cs.SE
Towards Language Agnostic Universal Representations
Microsoft(微软)
当一个双语学生学习解决数学中的应用题时,我们希望学生能够用学生流利的两种语言解决这些问题,即使数学课只用一种语言教授。然而,机器学习中的当前表示是依赖于语言的。在这项工作中,我们提出了一种方法,通过学习语言不可知的表示,从而允许在一种语言中训练模型,并以zero shot方式应用于不同的语言,从而将语言与问题解耦。我们通过从语言学中汲取灵感并将普遍语法形式化为优化过程来学习这些表示(Chomsky,2014; Montague,1970)。我们通过展示使用语言不可知表示在单一语言上训练的模型在其他语言中达到非常相似的准确性来展示这些表示的能力。
2018-09-23 cs.CL cs.LG stat.ML