语言大模型 / LLM

The Geometry of Semantic Space: A Continuous Geometric Framework for the Transformer Architecture

语义空间的几何：Transformer架构的连续几何框架

Zhihua Liang

机构 * INFN, Sezione di Cagliari（意大利国家核物理研究所，卡利亚里分部） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 该研究提出连续几何框架，将Transformer架构运算建模为积分 - 微分方程，从几何公理出发转化其核心组件。通过实验验证，此框架能为大语言模型的稳定性、上下文及优化动态提供预测性描述词汇。

Dialogue Summarization with Emotion Dynamics Using Topic- and Participant-Centric Decomposition

使用以主题和参与者为中心的分解方法进行具有情感动态的对话摘要

Linyun Xiang, Mark Neerincx, Stephanie Tan

机构 * Delft University of Technology（代尔夫特理工大学） 纠错

专题命中 其他LLM ：language model(abstract)；small language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对对话摘要问题，提出基于改进分层智能体链方法的框架，从主题和参与者两个视角分解对话，结合自动推断情感生成摘要，并引入情感轨迹指标评估，实验表明其框架能生成含语义和情感内容的摘要，凸显方法有效性。

How LLMs Might Think

大型语言模型可能如何思考

Joseph Gottlieb, Ethan Kemp, Matthew Trager

机构 * Texas Tech University（德克萨斯理工大学） ； New York University（纽约大学） ； University of Pittsburgh（匹兹堡大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文挑战了LLMs不思考的观点，提出LLMs可能以非理性、联想式方式思考，其思维过程纯粹基于联想。

Journal ref Mind & Language (2026)

Stars, Stripes, and Silicon: Unravelling the ChatGPT's All-American, Monochrome, Cis-centric Bias

星、条纹与硅：揭开ChatGPT的全美、单色、cis中心主义偏见

Federico Torrielli

机构 * University of Torino, Department of Computer Science, Torino, Italy（托斯尼亚大学计算机科学系） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨了ChatGPT等大型语言模型中的偏见问题，强调数据质量对模型的影响，并呼吁跨学科合作以建立治理机制，减少偏见带来的负面影响。

Journal ref 1st Workshop on Biased Data in Conversational Agents (Hosted at ECML-PKDD, 18-22 September 2023)

From Expressivity to Sample Complexity: Narrow Teachers for Transformers via C-RASP

从表达能力到样本复杂度：通过C-RASP为Transformer构建窄教师模型

Michael Rizvi-Martel, Satwik Bhattamishra, Guillaume Rabusseau, Michael Hahn

机构 * Mila & Université de Montréal（米拉与蒙特利尔大学） ； University of Oxford（牛津大学） ； Saarland University（萨尔兰大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究Transformer的理论理解，通过提出手工权重等分析其表达能力。针对其可学习性研究少的问题，受损失景观分析启发，为用Transformer学习C-RASP结构提出初步样本复杂度界限。

Comments 9 pages total

How Do I Know What to Say Next? Barenholtz's Autogenerative Theory as an Enrichment of Harrisean Integrationism

我如何知道接下来该说什么？巴伦霍尔茨的自生成理论对哈里斯整合主义的丰富

J. Mark Bishop, Stephen J. Cowley

机构 * Emeritus Goldsmiths, University of London（埃米蒂斯金士顿大学伦敦分校） ； Emeritus University of Southern Denmark（埃米蒂斯南部丹麦大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨如何用伊兰·巴伦霍尔茨的自生成理论丰富罗伊·哈里斯的整合主义语言学，填补其在符号开放性机制、语言与非语言符号活动连续性及过去整合档案结构属性方面的解释空白，为相关从业者和研究者说明大语言模型统计结构的本质及局限。

Comments Submitted to Philosophy and Technology

A Gold-Standard Study of What Makes a Lightweight Game-Playing Agent Strong

关于使轻量级博弈代理强大的因素的金标准研究

Nima Kelidari, Mohammadsaeed Haghi, Mahdi Salmani

机构 * University of Southern California（美国南加州大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究不完美信息纸牌游戏中使轻量级博弈代理强大的因素，构建专家代理作标准，经超百次运行确定有效因素，添加基线并应用于另一游戏，得出通用方法可训练有竞争力代理且无需专家训练。

Comments 9 pages, 5 figures, 3 tables. Code and models: https://github.com/Nikelroid/adversarial-coevolution

Unsupervised Anomaly Detection of Information Operations Users via Behavioral and Language Patterns

通过行为和语言模式对信息操作用户进行无监督异常检测

Sishun Liu, Sajal Halder, Ke Deng, Yan Wang, Xiuzhen Zhang

机构 * RMIT University（皇家墨尔本理工大学） ； Macquarie University（麦考瑞大学） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 研究针对社交媒体网络信息操作检测难题，提出无监督方法TENSOR，利用多模态数据，通过训练时间点过程捕捉异常行为模式，并引入新证据函数调整输出，在五个真实数据集上表现优于基线。

Comments Accepted at ECML/PKDD 2026

Detoxify: A framework for abusive text transformation using LLMs

Detoxify：一个使用大语言模型进行辱骂性文本转换的框架

Rohitash Chandra, Jiyong Choi, Jayesh Sonawane

机构 * Transitional Artificial Intelligence Research Group, School of Mathematics and Statistics, UNSW（过渡人工智能研究组，数学与统计学学院，新南威尔士大学） ； Centre for Artificial Intelligence and Innovation, Pingla Institute（人工智能与创新中心，Pingla研究所） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探索大语言模型在转换辱骂性文本上的有效性，提出Detoxify框架，用其转换含仇恨言论等的辱骂性文本并保留原意，评估四个大语言模型识别辱骂性文本的能力，经情感和语义分析，发现Groq与其他模型结果差异大，GPT-4o和DeepSeek有相似性。

Safety Targeted Embedding Exploit via Refinement

通过精炼的安全目标嵌入利用

Joshua Adrian Cahyono

机构 * Nanyang Technological University（南洋理工大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出STEER方法，通过梯度引导攻击识别并翻译关键词语到低资源语言，抑制大语言模型拒绝行为，在多个模型上实现高达96.7%的攻击成功率，揭示安全机制在多语言输入下的泛化缺陷。

Symmetry in language statistics shapes the geometry of model representations

语言统计中的对称性塑造了模型表示的几何结构

Dhruva Karkada, Daniel J. Korchinski, Andres Nava, Matthieu Wyart, Yasaman Bahri

机构 * UC Berkeley（加州大学伯克利分校） ； EPFL（瑞士联邦理工学院洛桑分校） ； Johns Hopkins（约翰斯·霍普金斯大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文证明语言统计中的平移对称性（如月份共现频率仅取决于时间间隔）决定了词嵌入模型的高维几何结构，并推导出表示流形的解析形式，该几何在统计扰动下仍保持鲁棒。

Comments ICML 2026

Generating in the Limit with Infinitely Many Hallucinations

极限生成与无限幻觉

Irene Strauss, Alexandra Butoi, Ryan Cotterell

机构 * ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究语言生成中精确度与召回率的权衡，提出允许无限次错误但频率趋零的松弛条件，证明在对手隐藏大部分目标语言时可严格提升召回率。

Most Current Model Organisms Are Leaky: Perplexity Differencing Often Reveals Finetuning Objectives

模型生物体是泄漏的：困惑度差分经常揭示微调目标

Mohammed Abu Baker, Luca Baroni, Dan Wilhelm

机构 * Meridian Visiting Researcher Programme（Meridian 访问研究员计划） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过困惑度差分方法揭示模型生物体的微调目标，无需模型内部信息或先验假设，适用于多种微调模型。

Agon: An Autonomous Large-Scale Omnidisciplinary Research System Built on Prompt Economy

Agon：基于提示经济学的自主大规模全学科研究系统

Youran Sun, Xingyu Ren, Chugang Yi, Jiaxuan Guo, Kejia Zhang, Jianda Du, Haizhao Yang

机构 * University of Maryland, College Park（马里兰大学 College Park 分校） ； The Chinese University of Hong Kong（香港中文大学） ； Stanford University（斯坦福大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出Agon研究编排系统，通过提示经济学循环实现大规模自主研究，将可验证任务自动化，不可验证判断留给人类，并分类了系统失败类型。

Training-Free Semantic Correction for Autoregressive Visual Models

自回归视觉模型的免训练语义校正

Junhao Chen, Chanyu Zhu, Zheqi Lv, Keting Yin, Shengyu Zhang

机构 * Zhejiang University（浙江大学） ； Shandong University（山东大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出Gazer框架，通过多模态大语言模型反馈在自回归视觉模型采样循环中进行语义诊断与校正，无需额外训练即可提升语义对齐和组合准确性。

The New Associationism: Lessons from Deep Learning

新联想主义：来自深度学习的启示

Daniel Rothschild

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文论证现代AI的成功支持一种温和但真实的联想主义，认为监督学习作为统一、渐进、错误驱动的学习机制，在深度学习中广泛适用，并反驳了联想主义机制不足以解释人类认知能力的观点。

OFMU: Optimization-Driven Framework for Machine Unlearning

OFMU：面向机器遗忘的优化驱动框架

Sadia Asif, Mohammad Mohammadi Amiri

机构 * Rensselaer Polytechnic Institute（拉特格斯理工学院） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出OFMU，一种基于惩罚的双层优化框架，通过层次结构优先遗忘并保持保留性能，在视觉和语言基准上优于现有方法。

Comments Under review at ICLR 2026

BCL: Bayesian In-Context Learning Framework for Information Extraction

BCL：面向信息抽取的贝叶斯上下文学习框架

Haoliang Liu, Chengkun Cai, Xu Zhao, Han Zhu, Shizhou Huang, Xinglin Zhang, Tao Chen, Jenq-Neng Hwang, Zhang Huaping, Lei Li

机构 * HiThink Research（海天瑞声研究） ； University College London（伦敦大学学院） ； University of Edinburgh（爱丁堡大学） ； The Hong Kong University of Science and Technology（香港科技大学） ； East China Normal University（华东师范大学） ； Shanghai Medical Image Insights（上海医学影像洞察） ； University of Waterloo（滑铁卢大学） ； University of Washington（华盛顿大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出BCL框架，利用贝叶斯更新和粒子滤波优化信息抽取中的上下文学习，在序列标注和关系分类任务上取得显著提升。

Comments ACL 2026 Findings

Scaling Enterprise Agent Routing: Degradation, Diagnosis, and Recovery

扩展企业智能体路由：退化、诊断与恢复

Kellen Gillespie, Robyn Perry

机构 * Superhuman, Inc.（Superhuman公司） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 研究企业助手工具库扩展时路由准确率下降问题，通过嵌入预选恢复F1分数10-17个百分点。

Comments 10 pages (6 main + 4 appendix), 4 figures, 6 tables

Lean4Agent: Formal Modeling and Verification for Agent Workflow and Trajectory

Lean4Agent：面向智能体工作流与轨迹的形式化建模与验证

Ruida Wang, Jerry Huang, Pengcheng Wang, Xuanqing Liu, Luyang Kong, Tong Zhang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Independent researcher（独立研究者） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出Lean4Agent框架，利用依赖类型形式语言Lean4对智能体工作流进行形式化建模与验证，通过FormalAgentLib库和LeanEvolve方法提升工作流可靠性，实验验证通过的工作流性能平均提升11.94%。

Teaching Values to Machines: Simulating Human-Like Behavior in LLMs

向机器传授价值观：在LLMs中模拟类人行为

Asaf Yehudai, Naama Rozen, Ariel Gera

机构 * The Hebrew University of Jerusalem（海法大学） ； IBM Research（IBM研究院） ； Tel-Aviv University（特拉维夫大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究基于心理学价值理论，通过大规模实验（超过500万个问题）评估价值提示的LLMs在价值结构和价值-行为关系上与人类的一致性，并证明引入人类价值分布可增强群体模拟。

Comments We had some disagreement regarding proper attribution; we hope to resolve it soon and upload the paper

Agentic MPC for Semantic Control System Resynthesis

用于语义控制系统再综合的智能体MPC

Yuya Miyaoka, Masaki Inoue

机构 * University of Tokyo（东京大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出智能体MPC框架，通过集成大语言模型智能体实现上下文感知的语义自适应控制综合，在自动驾驶场景中验证其根据个人偏好或社交情境（如避让应急车辆）调整控制的能力。

Comments 7 pages, 5 figures

Epistemic Constitutionalism Or: how to avoid coherence bias

认知宪政主义：或如何避免一致性偏见

Michele Loi

机构 * University of Milan（米兰大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出AI应建立明确的认知宪法，通过规范源归因等元规范避免一致性偏见，并论证自由主义路径优于柏拉图式路径。

Comments 27 pages, 7 tables. Data: github.com/MicheleLoi/source-attribution-bias-data and github.com/MicheleLoi/source-attribution-bias-swiss-replication. Complete AI-assisted writing documentation: github.com/MicheleLoi/epistemic-constitutionalism-paper

The Masked Advantage: Uncovering Local-Language Access to Cultural Knowledge in LLMs

掩蔽优势：揭示LLMs中本地语言对文化知识的访问

Yang Zhang, Xiao Fei, Amr Mohamed, Sarah Almeida Carneiro, Mersin Konomi, Mingmeng Geng, Ahmed Asaad, Guokan Shang, Michalis Vazirgiannis

机构 * Ecole Polytechnique（巴黎高等理工学院） ； MBZUAI（穆罕默德·本·拉什德智能研究院） ； ENS-PSL（巴黎综合理工学院-巴黎科学实验室） ； Durham University（杜尔罕大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 通过控制实验和项目反应理论模型，分离语言能力与文化知识访问，发现本地语言在文化知识访问上具有优势，但常被语言能力不足掩盖。

Reachability and asymptotics of Gaussian Transformer dynamics

高斯Transformer动力学的可达性与渐近性

Albert Alcalde, Zhengping Ji, Enrique Zuazua

机构 * Friedrich–Alexander University Erlangen–Nürnberg（弗里德里希-亚历山大大学埃尔朗根-纽伦堡） ； Research Council of Norway（挪威研究理事会） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 将Transformer数据传播建模为概率测度空间上的非线性控制系统，证明高斯分布在自注意力与仿射前馈层下保持高斯性，从而降维为双线性控制系统，并揭示与Riccati方程的联系。

Mobility-Embedded POIs: Learning What A Place Is and How It Is Used from Human Movement

移动性嵌入的POI：从人类移动中学习场所身份与使用方式

Maria Despoina Siampou, Shushman Choudhury, Shang-Ling Hsu, Neha Arora, Cyrus Shahabi

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） 纠错

专题命中 其他LLM ：language model(abstract)；foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 提出ME-POIs框架，通过对比学习将大规模人类移动数据与语言模型嵌入结合，学习场所功能，并在五个地图丰富任务上超越文本或移动性单独基线。

On the importance of multiple training seeds for evaluating machine unlearning

关于多个训练种子在评估机器遗忘中的重要性

Jamie Lanyon, Axel Finke, Petros Andreou, Georgina Cosma

机构 * Department of Computer Science（计算机科学系） ； School of Mathematics（数学学院） ； School of Science（科学学院） ； Statistics and Physics（统计学与物理学） ； Loughborough University（洛桑大学） ； Newcastle University（新castle大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文指出评估机器遗忘算法时仅使用单个训练种子可能导致结果不具代表性，并通过图像分类、联邦学习排序和大语言模型实验验证了问题普遍性，最后给出选择训练和遗忘种子数量的指导。

Comments mini paper, 5 figures

SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks

SlotGCG：利用LLMs中的位置脆弱性进行越狱攻击

Seungwon Jeong, Jiwoo Jeong, Hyeonjin Kim, Yunseok Lee, Woojin Lee

机构 * Dongguk University-Seoul（东国大学-首尔） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SlotGCG方法，通过量化提示中不同插入位置（槽）的脆弱性得分（VSS），选择最脆弱的位置插入对抗性令牌，从而显著提升基于优化的越狱攻击成功率。

Journal ref International Conference on Learning Representations (ICLR), 2026

RUBAS: Rubric-Based Reinforcement Learning for Agent Safety

RUBAS: 基于评分标准的强化学习用于智能体安全

Xian Qi Loye, Qinglin Su, Zhexin Zhang, Shiyao Cui, Qi Zhu, Fei Mi, Hongning Wang, Minlie Huang

机构 * The Conversational AI (CoAI) group, DCST, Tsinghua University（清华大学对话人工智能（CoAI）组，DCST，清华大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 提出RUBAS框架，通过将智能体行为分解为四个维度的评分标准提供细粒度奖励，利用强化学习在保证任务完成的同时提升工具使用安全性。

Luminol-AIDetect: Fast Zero-shot Machine-Generated Text Detection based on Perplexity under Text Shuffling

Luminol-AIDetect: 基于文本打乱下困惑度的快速零样本机器生成文本检测

Lucio La Cava, Andrea Tagarelli

机构 * DIMES Dept., University of Calabria（卡塔尼亚大学DIMES部门） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出Luminol-AIDetect，一种通过随机打乱文本并利用困惑度变化来区分机器生成文本与人类写作的零样本统计方法，在多个领域和攻击下达到SOTA性能。

Comments Under Review