Dynamic Topic Modeling for Cross-Corpus Temporal Analysis
面向跨语料时间分析的动态主题模型
机构 * Columbia University(哥伦比亚大学)
AI总结 针对跨语料时间分析中主题对应不稳定的问题,提出带共享主干和残差适配的D-ETM框架,在三个97年跨度的语料上验证其对齐效果显著优于全微调及独立训练方法。
Comments 12 pages, 2 figures. Accepted at CIKM 2026
高校专区
面向跨语料时间分析的动态主题模型
机构 * Columbia University(哥伦比亚大学)
AI总结 针对跨语料时间分析中主题对应不稳定的问题,提出带共享主干和残差适配的D-ETM框架,在三个97年跨度的语料上验证其对齐效果显著优于全微调及独立训练方法。
Comments 12 pages, 2 figures. Accepted at CIKM 2026
不要重复你自己:在采样时停止逐字循环
机构 * Thoughtworks ; Columbia University(哥伦比亚大学) ; Oracle(甲骨文公司) ; New York University(纽约大学)
AI总结 研究针对大语言模型的逐字循环问题,提出采样时的DRY对数几率调整方法,在多模型和研究中有效降低循环率并保持性能,已被开源LLM推理框架采用。
XTC:通过排除顶部选择的头感知采样
机构 * Thoughtworks(Thoughtworks公司) ; Columbia University(哥伦比亚大学) ; Oracle(甲骨文公司) ; New York University(纽约大学)
AI总结 XTC是一种轻量头感知解码算子,通过排除部分高概率词元改善自回归语言模型的多样性-重复帕累托前沿,在多项实验中提升创意生成效果且准确率损失极小,已被多个工具采用。
从诊断到重新设计:使用定量人种志改进多智能体大语言模型推理
机构 * University of California, Irvine(加利福尼亚大学欧文分校) ; University of California, Los Angeles(加利福尼亚大学洛杉矶分校) ; Monash University(莫纳什大学) ; Columbia University(哥伦比亚大学) ; University of Pennsylvania(宾夕法尼亚大学)
AI总结 本研究提出定量人种志方法,以自动作文评分为例,通过分析五智能体辩论系统的交互模式诊断问题并修改提示词,使多智能体LLM的评分准确率从27.78%提升至40.28%。
Comments Accepted at ICQE 2026 (to appear in Springer CCIS)
面向语言模型头部的第一性原理更新几何
机构 * Columbia University(哥伦比亚大学)
AI总结 该研究将语言模型头部与softmax作为整体推导更新几何,基于Muon的奇异值条件提出最大化最小行间距并约束直径的方法,为V≫d时的近似等距问题提供了思路。
Comments 7 pages
大语言模型辅助写作值得实证评估
机构 * Weill Cornell Medicine(威尔康奈尔医学院) ; Columbia University(哥伦比亚大学)
AI总结 该研究针对常被当作检测问题的大语言模型辅助写作,分析69209篇健康信息学论文发现其关联更聚焦呈现等特征,主张应从学术质量而非工具使用角度评估手稿。
上下文作为环境:面向长程智能体的程序化上下文管理
机构 * Alibaba Group(阿里巴巴集团) ; Columbia University(哥伦比亚大学)
AI总结 本研究提出名为Scroll的上下文管理器,将智能体会话视为可执行环境,结合事件日志与Python内核实现程序化上下文管理,在多个长程智能体基准测试中大幅超越现有最优系统。
基于神经块求解器的同余分解用于大规模物理小区标识分配
机构 * The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) ; Shenzhen Research Institute of Big Data(深圳大数据研究院) ; Columbia University(哥伦比亚大学) ; Sun Yat-sen University(中山大学) ; Tongji University(同济大学) ; University of Chinese Academy of Sciences(中国科学院大学) ; Huawei Technologies(华为技术有限公司)
AI总结 本研究针对大规模5G网络PCI分配难题,提出带神经块求解器的同余分解框架,将问题解耦为子问题并结合图神经网络优化,实验显示其性能优于现有基线方法。
混合线性注意力大语言模型中的大规模激活:注意力前峰值与峰间平台期
机构 * Startlux(星创公司) ; Tsinghua University(清华大学) ; University of Chinese Academy of Sciences(中国科学院大学) ; The University of Hong Kong(香港大学) ; University of Sydney(悉尼大学) ; Columbia University(哥伦比亚大学)
AI总结 本研究系统揭示混合线性注意力大语言模型中大规模激活的两种形态,证实其在多架构、多配置等场景下的重复性,明确其对输出门控的响应规律及机制,为相关模型优化提供依据。
Comments Under review
关系结构因果模型
机构 * Causal Artificial Intelligence Lab, Columbia University(哥伦比亚大学因果人工智能实验室)
AI总结 提出关系结构因果模型,将结构因果模型扩展到对象和关系可变的场景,通过关系因果图和符号识别准则实现未见组合的因果和观测查询识别,并设计关系神经因果模型在交通场景中优于非关系基线。
Comments Proceedings of the Forty-Third International Conference on Machine Learning. Code available at this https URL (https://github.com/CausalAILab/RelationalCausalModels)
潜在奖励引导:一种自适应推理时框架,隐式促进推理大语言模型中的认知行为
机构 * Rutgers University(罗格斯大学) ; South China Agricultural University(华南农业大学) ; Columbia University(哥伦比亚大学) ; Fenz.AI ; QuantaAlpha ; Adobe ; Santa Clara University(圣克拉拉大学) ; City University of Hong Kong(香港城市大学)
AI总结 提出潜在奖励引导(LRS)框架,通过优化稀疏自编码器潜在状态隐式促进认知行为,利用最终答案正确性训练潜在奖励模型估计中间状态质量,并在推理时提供状态特定的修正方向,实验表明该方法能提升推理性能并修复原始推理错误。
Comments Accepted at EMNLP 2026
在部署中学习:面向通用机器人策略的机群规模强化学习
机构 * Shanghai Innovation Institute(上海创新研究院) ; AGIBOT Finch ; Columbia University(哥伦比亚大学)
AI总结 提出LWD框架,通过机群规模的离线到在线强化学习,结合分布式隐式价值学习与伴随匹配Q学习,持续后训练通用视觉-语言-动作策略,在16台双臂机器人上实现95%平均成功率。
Comments No
模型方向,而非词语:使用稀疏自编码器的机制性主题模型
机构 * Columbia University(哥伦比亚大学) ; Google Research(谷歌研究院) ; Independent(独立研究者)
AI总结 本文提出机制性主题模型(MTMs),利用稀疏自编码器学习可解释特征,以揭示深层概念主题,并通过topic judge评估框架验证其有效性。
Comments Accepted for publication in Transactions of the Association for Computational Linguistics (TACL). 26 pages, 10 figures