GlitchPatch: Repairing Glitch Tokens in Frozen Language Models via Local Retokenization
University of Science and Technology of China(中国科学技术大学);University of Washington(华盛顿大学);Wuhan University(武汉大学)
针对冻结语言模型中的故障词元问题,提出基于局部重新分词的GlitchPatch框架,通过行为路径优化生成替换规则,在不修改模型参数的情况下实现高修复率并降低故障率。
2026-10-06 cs.AI cs.CL
Agent Guide: A Simple Agent Behavioral Watermarking Framework
Beijing University of Posts and Telecommunications(北京邮电大学)
针对智能体行为难以标记和转换的问题,提出Agent Guide框架,通过概率偏差引导智能体高层决策嵌入水印,并利用z统计量检测,实现低误报率的水印嵌入与提取。
2026-05-31 cs.AI
Who Gets a Token, and What Does It Carry? Unequal Name Support and Concept Access in Large Language Models
University of Alberta(阿尔伯塔大学)
本研究揭示大型语言模型中名字的词汇支持不平等,提出NameTrace框架衡量概念可访问性,证明词汇差异影响任务表现,强调行为可比性始于词汇可比性。
2026-09-29 cs.AI cs.CL cs.CY
Behavioral Fingerprints for LLM Endpoint Stability and Identity
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出Stability Monitor系统,通过固定提示集采样输出并比较输出分布,检测端点行为变化,揭示模型家族、版本等变化。
2026-03-19 cs.AI
Did You Read the Instructions? Rethinking the Effectiveness of Task Definitions in Instruction Learning
UCLA(加州大学洛杉矶分校);Salesforce AI Research(赛富时人工智能研究院)
本文系统分析指令学习中任务定义的作用,发现输出与标签信息最关键,并提出自动压缩、结构化关键信息和元微调策略,在119个未知任务上提升4.2 Rouge-L。
2023-06-01 cs.AI cs.CL
AudioCodecBench: A Comprehensive Benchmark for Audio Codec Evaluation
Lu Wang(卢王);Hao Chen(何晨);Siyu Wu(武士);Zhiyue Wu(吴致岳);Hao Zhou(周浩);Chengfeng Zhang(张成峰);Ting Wang(王婷);Haodi Zhang(张浩迪)
针对现有音频编解码器评估存在的令牌定义不当、评估维度单一的问题,本文提出AudioCodecBench综合基准,给出语义/声学令牌的合理定义,从四个维度系统评估编解码器能力,验证了定义合理性及各评估维度间的相关性。
2025-09-04 cs.AI cs.LG cs.SD
Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control
University of Chicago(芝加哥大学);Shanghai AI Lab(上海人工智能实验室);Harvard University(哈佛大学)
研究揭示大语言模型中的情感向量由二维情感价值-唤醒子空间组织,通过主成分分解和岭回归恢复情感操控向量,实现对生成文本情感属性的单向控制及多下游行为的双向控制。
2026-05-08 cs.AI cs.CL cs.CY
Quantization Inflates Reasoning: Token Inflation as a Hidden Cost of Low-Bit Reasoning Models
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft(微软);Anyscale;Snowflake
研究发现低比特后训练量化虽保持推理准确性,但会显著增加推理令牌使用量,导致端到端服务性能下降,并提出了CoT令牌膨胀比来量化该效应。
2026-07-01 cs.AI cs.LG
Quantization Amplifies Determinism, Not Bias: Scale-Dependent Behavioral Effects of Serving-Time Weight Compression
研究发现量化压缩模型权重时,8B模型输出多样性下降(确定性增强),而14B/32B模型出现风格漂移,但均未发现偏见增强,表明量化主要放大确定性而非偏见。
2026-09-09 cs.AI
Cross-Family Universality of Behavioral Axes via Anchor-Projected Representations
Department of Artificial Intelligence(人工智能系);Yonsei University(延世大学);Department of Computer Science(计算机科学系)
本文提出锚定投影框架,通过共享锚坐标空间实现不同模型行为方向的对齐与迁移,验证了跨家族表示层面的鲁棒性。
2026-05-11 cs.AI
Skill-to-LoRA: From Using Skills to Learning Behaviors for Token-Efficient LLM Agents
The Chinese University of Hong Kong(香港中文大学)
提出Skill-to-LoRA方法,将技能文本转换为LoRA适配器,替代运行时注入技能文档,在SWE-Skills-Bench上提升通过率并降低令牌成本。
2026-06-16 cs.AI
Beyond Behaviorist Representational Harms: A Plan for Measurement and Mitigation
UC San Diego(加利福尼亚大学圣迭戈分校)
本文通过审视现有表征性伤害定义的不足,提出超越行为主义、纳入认知与情感伤害的扩展框架,并结合大语言模型案例给出测量要求与缓解措施,以推动公平性研究走向实践。
2024-05-06 cs.AI cs.CL cs.CY
LLMdoctor: Token-Level Flow-Guided Preference Optimization for Efficient Test-Time Alignment of Large Language Models
LLMdoctor通过令牌级流引导偏好优化,实现高效的大语言模型测试时间对齐,提升对齐精度并保留生成多样性。
2026-01-15 cs.AI
Do vision-language models search like humans? Reasoning tokens as a reaction-time analog in classic visual-search paradigms
Independent Researcher(独立研究者)
研究视觉-语言模型(VLM)在经典视觉搜索任务中是否表现出类似人类的行为模式,通过推理标记数量作为搜索努力度的指标,发现模型复现了部分人类特征但也存在关键差异。
2026-06-25 cs.AI cs.CV
Knowledge Packs: Zero-Token Knowledge Delivery via KV Cache Injection
Independent Researcher(独立研究员)
本文提出知识包,通过预计算的KV缓存实现零token成本的知识传递,实验显示在正确格式下,知识包在700个问题上无差异,比RAG节省95%token,同时支持RAG无法实现的行为引导。
2026-03-22 cs.CL
From Passive to Persuasive: Localized Activation Injection for Empathy and Negotiation
Centre for Trusted Internet and Community(可信互联网与社区中心);Department of Communications and New Media(通讯与新媒体系)
本文提出STAR方法,通过局部激活注入提升共情和谈判能力,实验证明其优于全局激活和指令预训练,表明复杂人际行为在LLM激活空间中以局部线性方向编码。
2026-03-17 cs.AI cs.CL
From Token-Max to Outcome-Max: How You Use AI Determines Its Productivity
Carnegie Mellon University(卡内基梅隆大学);Amazon(亚马逊)
本研究提出结果最大化目标与OutcomeShare机制,通过三层模拟证明其能提升AI辅助生产效率,表明AI生产力取决于使用目标而非仅模型能力。
2026-10-06 cs.AI
When Meaning Stays the Same, but Models Drift: Evaluating Quality of Service under Token-Level Behavioral Instability in LLMs
Electrical and Computer Engineering, Vanderbilt University(维珍尼亚大学电气与计算机工程系);Radiology and Radiological Sciences, Vanderbilt University(维珍尼亚大学放射学与放射科学系)
该研究针对大语言模型在语义等价但令牌级实现不同的提示下的行为漂移问题,提出PBSS诊断框架,在十项受限任务中发现模型特有的响应偏移规律,揭示了令牌化与解码对训练后服务质量稳定性的影响。
2025-06-11 cs.CL
Mojito: LLM-Aided Motion Instructor with Jitter-Reduced Inertial Tokens
ShanghaiTech University(上海科技大学);Deemos Technology(德莫斯科技)
针对现有系统难以捕捉3D运动动态力且IMU数据流处理存在不稳定与噪声的问题,提出Mojito智能运动代理,集成惯性传感与LLM,实现交互式运动捕捉和行为分析。
2025-02-22 cs.AI cs.CV cs.GR
Behavioral Generative Agents for Energy Operations
Thayer School of Engineering, Dartmouth College(达特茅斯学院泰勒工程学院);Graduate School of Business, Stanford University(斯坦福大学商学院)
本文提出利用生成代理模拟客户决策,揭示能源运营中消费者行为模式,提升能源管理系统设计和政策分析能力。
2026-02-28 cs.AI cs.SY eess.SY
L2Rec: Towards Dual-View Understanding of LLMs for Personalized Recommendation
Netease Cloud Music(网易云音乐)
提出L2Rec方法,通过双视图个性化混合专家机制在参数层面统一行为与语义理解,实现端到端个性化推荐,实验证明优于现有方法。
2026-05-26 cs.AI cs.IR
Tokensome: Towards a Genetic Vision-Language GPT for Explainable and Cognitive Karyotyping
Chengdu University of Information Technology(成都信息工程大学);Sichuan University(四川大学);Gdansk University of Technology(格但斯克理工大学);Kemoshen Tech(科摩深科技)
本文提出Tokensome,一种基于染色体标记化的视觉-语言模型,通过知识图谱和LLMs将核型分析从视觉感知提升至认知决策层,增强可解释性并促进异常检测。
2024-03-17 cs.AI cs.CV
Invisible Tokens, Visible Bills: The Urgent Need to Audit Hidden Operations in Opaque LLM Services
University of Maryland, College Park(马里兰大学学院公园分校);University of California, Berkeley(加州大学伯克利分校);North Carolina State University(北卡罗来纳州立大学)
针对商业不透明LLM服务中用户无法观察内部操作导致的问责问题,本文提出数量膨胀与质量降级两类风险,并倡导结合多种审计策略及三层审计框架,以提升透明度与可验证性。
2025-05-24 cs.AI cs.CR
Asking Back: Interaction-Layer Antidistillation Watermarks
University of California, Los Angeles(加州大学洛杉矶分校);Lawrence Berkeley National Laboratory(伯克利国家实验室);Meta
本文提出交互层反知识蒸馏水印,通过教师模型的行为特征进行水印,验证其在不同模型上的有效性与鲁棒性。
2026-05-15 cs.AI cs.CR
Semantic Convergence: Harmonizing Recommender Systems via Two-Stage Alignment and Behavioral Semantic Tokenization
Meituan(美团)
本文提出一种融合传统推荐模型与LLMs的新颖框架,通过Alignment Tokenization模块和监督学习任务实现协同信号与语言语义的两阶段对齐,并采用预缓存top-K结果优化在线推理,显著提升了召回率和系统可扩展性。
2024-12-18 cs.AI cs.CL cs.IR
How Well Do Large Language Models Capture Human Personality?
Adobe Media and Data Science Research (MDSR)(Adobe媒体与数据科学研究院)
研究通过形式化假设并系统评估,发现增加角色描述复杂性会导致表征和行为多样性收缩(角色流形坍缩),简单年龄-性别角色比丰富描述更准确。
2026-06-18 cs.AI cs.HC
Enhancing Knowledge Density via Hierarchical Context Pruning for Retrieval-Augmented Repository-Level Code Completion
MIIT Key Laboratory of Pattern Analysis and Machine Intelligence(信息科技模式分析与机器智能国家重点实验室);College of Computer Science and Technology(计算机科学与技术学院);Huaneng Information Technology Co Ltd(华能信息技术有限公司);Hunan Vanguard Group Corporation Co Ltd(湖南 Vanguard集团有限公司);Tsinghua University(清华大学);Zhejiang University(浙江大学);PowerChina Huadong Engineering Co Ltd(国家电网华东工程有限公司)
针对传统检索在代码补全中存在信息冗余与缺乏多样性的问题,提出资源优化的SaraCoder,通过层次特征优化与外部感知标识符消歧模块系统精炼检索结果,在多个基准上显著提升了仓库级代码补全的准确性与可靠性。
2026-10-16 cs.CL cs.IR cs.PL
AI Token Futures Market: Commoditization of Compute and Derivatives Contract Design
Independent Researcher(独立研究者)
本文分析AI令牌作为新商品的属性,提出标准化令牌期货合约设计,通过模型和模拟评估其对计算成本波动的抑制效果,探讨GPU计算期货的可行性及监管框架。
2026-03-23 cs.AI econ.GN q-fin.EC
BehaviorSFT: Behavioral Token Conditioning for Clinical Agents Across the Proactivity Spectrum
Massachusetts Institute of Technology(麻省理工学院);National University of Singapore(新加坡国立大学);University of Washington(华盛顿大学);Seoul National University Hospital(首尔大学医院);Google(谷歌);Mass General Brigham(麻省总医院布莱根医疗集团)
针对LLM临床智能体在主动性参与上的不足,提出BehaviorBench数据集与BehaviorSFT训练策略,利用行为token实现动态行为选择,显著提升临床任务表现及行为合理性。
2025-05-27 cs.CL
Reconsidering Degeneration of Token Embeddings with Definitions for Encoder-based Pre-trained Language Models
RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);Tokyo University(东京大学);Tokyo Institute of Technology(东京工业大学)
本研究分析了编码器型预训练语言模型微调中的退化鲁棒性,提出DefinitionEMB方法,利用Wiktionary定义重建各向同性且语义相关的词元嵌入,显著提升了低频词元在GLUE和文本摘要任务上的性能。
2024-10-16 cs.CL
When Better Codebooks Are Not Enough: Predictive Performance and Behavioral Reliability in LLM Political Event Coding
Independent Researcher(独立研究者);Illinois Institute of Technology(伊利诺伊理工学院);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本研究探讨在政治事件编码任务中,将专家代码手册优化为LLM友好形式能显著提升分类性能,但预测增益并未完全转化为行为可靠性,模型在代码手册变化下仍可能失效。
2026-08-06 cs.CL
SeqLLM: Augmenting LLMs with Behavioral-Sequence Modeling for High-Stakes Decisions at WeChat Pay
SeqLLM是一种在保留LLM语言能力的同时增强其行为序列建模能力的框架,已部署于微信支付,在风险筛查等任务上性能显著优于现有基线。
2026-08-05 cs.CL
How Perturbations Propagate: A Multi-Level Analysis of Robustness in Large Language Models
INTI International College Penang(槟城英迪国际学院);FPT University(FPT大学)
该研究分析六种输入扰动在仅解码器语言模型中于三个层面的传播,发现单一鲁棒性评估度量存在误导性,提出需对大型语言模型鲁棒性开展多层面评估。
2026-10-06 cs.CL stat.ML
Beyond Perplexity: A Behavioral Evaluation Framework for Deployment-Memory Claims in LLM Test-Time Training
Carnegie Mellon University(卡内基梅隆大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
提出行为评估框架,通过证据阶梯和显式记忆基线校准LLM测试时训练的记忆声称,揭示代理指标与部署行为之间的差距。
2026-07-02 cs.CL
Modeling Pathology-Like Behavioral Patterns in Language Models Through Behavioral Fine-Tuning
University of Naples Federico II(那不勒斯费德里科二世大学);Natural and Artificial Cognition Laboratory(自然与人工认知实验室);Department of Humanities(人文学部)
本文研究了通过行为微调在语言模型中建模病理样行为模式,采用结构化决策任务进行微调,发现模型在不同上下文中产生稳定的生成分布变化,表明行为优化能影响语言生成的分布特性。
2026-05-21 cs.CL
Probing Large Language Models from A Human Behavioral Perspective
Universität Hamburg(汉堡大学);Beijing Institute of Technology(北京理工大学);Chinese Academy of Sciences(中国科学院)
该研究从人类行为视角出发,通过关联大语言模型(LLM)输出与眼动测量值探究其内部机制,发现LLM预测模式与人类相似、与浅层语言模型不同,且从中层起FFN和MHSA的语义相关性随层数加深而提升。
2024-04-13 cs.CL
Words that make SENSE: Sensorimotor Norms in Learned Lexical Token Representations
University of Southern California(南加州大学)
本文提出SENSE模型,通过词嵌入预测Lancaster感觉运动规范,并通过行为研究验证了人类选择与SENSE评分之间的显著相关性。
2026-04-23 cs.AI cs.CL
Quantifying Behavioral Tails in Black-Box Language Models
The Pennsylvania State University(宾夕法尼亚州立大学)
RareTrap框架通过几何感知映射和顺序稀有事件模拟,仅用200次评估即可估计黑盒LLM中严重行为的概率,为模型安全评估提供原则性方法。
2026-09-30 cs.CL cs.LG stat.ML
Mapping and Measuring the Behavioral Evolution of Large Language Models
本研究构建三种互补差异度,分析32个大型语言模型的行为,发现模型家族形成聚类、跨家族距离随时间减小等规律,且该方法具有标签无关性与鲁棒性。
2026-08-12 cs.CL cs.LG
Language Model Behavioral Phases are Consistent Across Architecture, Training Data, and Scale
Department of Brain and Cognitive Sciences, MIT(麻省理工学院脑科学与认知科学系);MIT Libraries CREOS(麻省理工学院图书馆 CREOS);Deparmtent of Cognitive Science, UCSD(加州大学圣地亚哥分校认知科学系)
该研究通过分析超1400个不同架构、数据集、规模的语言模型检查点,发现预训练中行为变化模式高度一致,词级行为方差98%可由三类启发式规则解释,且存在一致行为阶段,表明神经语言模型学习轨迹具有共性。
2025-10-28 cs.CL
Bridging Linguistic Structure and Mechanistic Interpretability for Conceptual Interpretation in Language Models
CRUK National Biomarker Centre(英国癌症研究中心国家生物标志物中心);University of Manchester(曼彻斯特大学);Idiap Research Institute(Idiap研究所)
该研究提出DSRA方法,结合因果追踪与定义性语义角色,在GPT-J-6B和BERTIN GPT-J-6B中揭示语言模型内部激活与定义结构的系统对应,为概念解释研究提供新路径。
2026-08-25 cs.CL
One Token Is Enough: Fingerprinting and Verifying Large Language Models from Single-Token Output Distributions
Faculty of Informatics and Statistics, Prague University of Economics and Business(信息与统计学院,布拉格经济与商业大学)
研究如何从大语言模型单令牌输出分布中进行指纹识别和验证。通过定义行为指纹,利用对简单提示的回答分布,实现模型谱系恢复和验证,还发现生态系统异常,且相关协议等已发布。
2026-07-14 cs.CL cs.CR cs.LG
Every Token Counts: Exact Likert-Scale Distributions for Measuring LLM Attitudes and Biases
McGill University(麦吉尔大学);University Canada West(加拿大西部大学);Toronto Metropolitan University(多伦多都会大学)
该研究提出结合人类心理测量学与LLMs机制的精确框架,通过因子实验、词元级PMFs及对应分析方法,分离LLMs的系统性原产国偏差。
2026-09-09 cs.CL
K/V-Cache Interventions Dissociate Representation Alignment from Persona Expression in Decoder-Only Language Models
本研究通过K/V缓存干预在Llama-3.1-8B上发现表示对齐与人格表达解耦,中层替换兼顾表达与多样性,位置扰动抑制表达,揭示轨迹级移植机制。
2026-09-11 cs.CL
Interpretable Word Sense Representations via Definition Generation: The Case of Semantic Change Analysis
University of Amsterdam(阿姆斯特丹大学);University of Oslo(奥斯陆大学)
本研究提出用专门的Flan-T5模型生成语境化词汇用法的自然语言定义作为可解释词义表示,选取簇内原型定义为义项标签,提升了语义变化分析的可解释性,且在语境词语义相似度任务上优于传统嵌入,为NLP提供了新型词汇表示方案。
2023-07-25 cs.CL
LM-Lexicon: Improving Definition Modeling via Harmonizing Semantic Experts
BIGAI;Baidu Inc.(百度公司);Peking University(北京大学)
LM-Lexicon通过语义专家学习和混合架构提升定义建模效果,实现BLEU分数提升7%,并优化领域级路由机制
2026-02-15 cs.CL
Vec2Gloss: definition modeling leveraging contextualized vectors with Wordnet gloss
National Taiwan University(台湾大学)
本文提出Vec2Gloss模型,利用中文Wordnet释义模式从上下文嵌入生成词语定义,并设计依存性指标分析生成文本,为上下文嵌入的词汇语义应用提供新视角。
2023-05-29 cs.CL