arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Columbia University(哥伦比亚大学)

2026-08-25 至 2026-08-25 共收录 13
2608.23284 2026-08-25 cs.CL 新提交

Dynamic Topic Modeling for Cross-Corpus Temporal Analysis

面向跨语料时间分析的动态主题模型

Ruoxuan Li, Bruce Kogut

机构 * Columbia University(哥伦比亚大学)

AI总结 针对跨语料时间分析中主题对应不稳定的问题,提出带共享主干和残差适配的D-ETM框架,在三个97年跨度的语料上验证其对齐效果显著优于全微调及独立训练方法。

Comments 12 pages, 2 figures. Accepted at CIKM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.22761 2026-08-25 cs.CL cs.AI cs.LG 新提交

Don't Repeat Yourself: Stopping Verbatim Loops at Sampling Time

不要重复你自己:在采样时停止逐字循环

Philipp Emanuel Weidmann, Allen Roush, Judah Goldfeder, Sanjay Basu, Ravid Shwartz-Ziv

机构 * Thoughtworks Columbia University(哥伦比亚大学) Oracle(甲骨文公司) New York University(纽约大学)

AI总结 研究针对大语言模型的逐字循环问题,提出采样时的DRY对数几率调整方法,在多模型和研究中有效降低循环率并保持性能,已被开源LLM推理框架采用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.22758 2026-08-25 cs.CL cs.AI cs.LG 新提交

XTC: Head-Aware Sampling by Excluding Top Choices

XTC:通过排除顶部选择的头感知采样

Philipp Emanuel Weidmann, Allen Roush, Judah Goldfeder, Sanjay Basu, Ravid Shwartz-Ziv

机构 * Thoughtworks(Thoughtworks公司) Columbia University(哥伦比亚大学) Oracle(甲骨文公司) New York University(纽约大学)

AI总结 XTC是一种轻量头感知解码算子,通过排除部分高概率词元改善自回归语言模型的多样性-重复帕累托前沿,在多项实验中提升创意生成效果且准确率损失极小,已被多个工具采用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.22566 2026-08-25 cs.CL 新提交

From Diagnosis to Redesign: Using Quantitative Ethnography to Improve Multi-Agent LLM Reasoning

从诊断到重新设计:使用定量人种志改进多智能体大语言模型推理

Vedant Khatri, Anthony Cusimano, Zachari Swiecki, Zhen Xu, Xiner Liu, Renzhe Yu

机构 * University of California, Irvine(加利福尼亚大学欧文分校) University of California, Los Angeles(加利福尼亚大学洛杉矶分校) Monash University(莫纳什大学) Columbia University(哥伦比亚大学) University of Pennsylvania(宾夕法尼亚大学)

AI总结 本研究提出定量人种志方法,以自动作文评分为例,通过分析五智能体辩论系统的交互模式诊断问题并修改提示词,使多智能体LLM的评分准确率从27.78%提升至40.28%。

Comments Accepted at ICQE 2026 (to appear in Springer CCIS)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.22253 2026-08-25 cs.LG 新提交

Toward a First-Principles Update Geometry for the Language-Model Head

面向语言模型头部的第一性原理更新几何

Aditya Somasundaram

机构 * Columbia University(哥伦比亚大学)

AI总结 该研究将语言模型头部与softmax作为整体推导更新几何,基于Muon的奇异值条件提出最大化最小行间距并约束直径的方法,为V≫d时的近似等距问题提供了思路。

Comments 7 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.22124 2026-08-25 cs.CL 新提交

LLM assisted writing deserves empirical evaluation

大语言模型辅助写作值得实证评估

Xuan Zhong Feng, Yi Lin, Yiye Zhang, Chunhua Weng, Yifan Peng

机构 * Weill Cornell Medicine(威尔康奈尔医学院) Columbia University(哥伦比亚大学)

AI总结 该研究针对常被当作检测问题的大语言模型辅助写作,分析69209篇健康信息学论文发现其关联更聚焦呈现等特征,主张应从学术质量而非工具使用角度评估手稿。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.21690 2026-08-25 cs.AI 新提交

Context as an Environment: Programmatic Context Management for Long-Horizon Agents

上下文作为环境:面向长程智能体的程序化上下文管理

Yin Lin, Elaine Ang, Erkang Zhu, Bolin Ding, Jingren Zhou

机构 * Alibaba Group(阿里巴巴集团) Columbia University(哥伦比亚大学)

AI总结 本研究提出名为Scroll的上下文管理器,将智能体会话视为可执行环境,结合事件日志与Python内核实现程序化上下文管理,在多个长程智能体基准测试中大幅超越现有最优系统。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.21485 2026-08-25 cs.LG eess.SP 新提交

Congruence Decomposition with Neural Block Solvers for Large-Scale PCI Assignment

基于神经块求解器的同余分解用于大规模物理小区标识分配

Yeqing Qiu, Chengpiao Huang, Ye Xue, Akang Wang, Fan Xu, Zhipeng Jiang, Dong Zhang, Ruoyu Sun, Qingjiang Shi, Zhi-Quan Luo

机构 * The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) Shenzhen Research Institute of Big Data(深圳大数据研究院) Columbia University(哥伦比亚大学) Sun Yat-sen University(中山大学) Tongji University(同济大学) University of Chinese Academy of Sciences(中国科学院大学) Huawei Technologies(华为技术有限公司)

AI总结 本研究针对大规模5G网络PCI分配难题,提出带神经块求解器的同余分解框架,将问题解耦为子问题并结合图神经网络优化,实验显示其性能优于现有基线方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.12149 2026-08-25 cs.CL 版本更新

Massive Activations in Hybrid Linear Attention Large Language Models: Pre-Attention Spikes and Inter-Spike Plateaus

混合线性注意力大语言模型中的大规模激活:注意力前峰值与峰间平台期

Zunhai Su, Bohan Sun, Xialie Zhuang, Shuibai Zhang, He Xiao, Jing Xiong, Hengyuan Zhang, Zhongzhu Zhou, Tiantian Zhang, Ngai Wong, Chuan-Wei Kuo

机构 * Startlux(星创公司) Tsinghua University(清华大学) University of Chinese Academy of Sciences(中国科学院大学) The University of Hong Kong(香港大学) University of Sydney(悉尼大学) Columbia University(哥伦比亚大学)

AI总结 本研究系统揭示混合线性注意力大语言模型中大规模激活的两种形态,证实其在多架构、多配置等场景下的重复性,明确其对输出门控的响应规律及机制,为相关模型优化提供依据。

Comments Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.14892 2026-08-25 cs.AI cs.LG cs.SI stat.ML 版本更新

Relational Structural Causal Models

关系结构因果模型

Adiba Ejaz, Elias Bareinboim

机构 * Causal Artificial Intelligence Lab, Columbia University(哥伦比亚大学因果人工智能实验室)

AI总结 提出关系结构因果模型,将结构因果模型扩展到对象和关系可变的场景,通过关系因果图和符号识别准则实现未见组合的因果和观测查询识别,并设计关系神经因果模型在交通场景中优于非关系基线。

Comments Proceedings of the Forty-Third International Conference on Machine Learning. Code available at this https URL (https://github.com/CausalAILab/RelationalCausalModels)

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.00726 2026-08-25 cs.AI 版本更新

Latent Reward Steering: An Adaptive Inference-Time Framework that Implicitly Promotes Cognitive Behaviors in Reasoning LLMs

潜在奖励引导:一种自适应推理时框架,隐式促进推理大语言模型中的认知行为

Jiakang Li, Guanyu Zhu, Can Jin, Chenxi Huang, Dexu Yu, Ronghao Chen, Yang Zhou, Hongwu Peng, Xuanqi Lan, Dimitris N. Metaxas, Youhua Li

机构 * Rutgers University(罗格斯大学) South China Agricultural University(华南农业大学) Columbia University(哥伦比亚大学) Fenz.AI QuantaAlpha Adobe Santa Clara University(圣克拉拉大学) City University of Hong Kong(香港城市大学)

AI总结 提出潜在奖励引导(LRS)框架,通过优化稀疏自编码器潜在状态隐式促进认知行为,利用最终答案正确性训练潜在奖励模型估计中间状态质量,并在推理时提供状态特定的修正方向,实验表明该方法能提升推理性能并修复原始推理错误。

Comments Accepted at EMNLP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.00416 2026-08-25 cs.RO 版本更新

Learning While Deploying: Fleet-Scale Reinforcement Learning for Generalist Robot Policies

在部署中学习:面向通用机器人策略的机群规模强化学习

Yi Wang, Xinchen Li, Pengwei Xie, Pu Yang, Buqing Nie, Yunuo Cai, Qinglin Zhang, Chendi Qu, Jeffrey Wu, Jianheng Song, Xinlin Ren, Jingshun Huang, Mingjie Pan, Siyuan Feng, Zhi Chen, Jianlan Luo

机构 * Shanghai Innovation Institute(上海创新研究院) AGIBOT Finch Columbia University(哥伦比亚大学)

AI总结 提出LWD框架,通过机群规模的离线到在线强化学习,结合分布式隐式价值学习与伴随匹配Q学习,持续后训练通用视觉-语言-动作策略,在16台双臂机器人上实现95%平均成功率。

Comments No

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.23220 2026-08-25 cs.CL cs.LG 版本更新

Model Directions, Not Words: Mechanistic Topic Models Using Sparse Autoencoders

模型方向,而非词语:使用稀疏自编码器的机制性主题模型

Carolina Zheng, Nicolas Beltran-Velez, Sweta Karlekar, Claudia Shi, Achille Nazaret, Asif Mallik, Amir Feder, David M. Blei

机构 * Columbia University(哥伦比亚大学) Google Research(谷歌研究院) Independent(独立研究者)

AI总结 本文提出机制性主题模型(MTMs),利用稀疏自编码器学习可解释特征,以揭示深层概念主题,并通过topic judge评估框架验证其有效性。

Comments Accepted for publication in Transactions of the Association for Computational Linguistics (TACL). 26 pages, 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏