大模型对齐与安全

Bridging the Gap Between Multimodal Foundation Models and World Models

Xuehai He

机构 * Computer Science and Engineering University of California, Santa Cruz（计算机科学与工程大学加州大学圣克ruz分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments PhD thesis

Multiplicative-Additive Constrained Models:Toward Joint Visualization of Interactive and Independent Effects

Fumin Wang

机构 * Independent Researcher（独立研究者） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

ReflAct: World-Grounded Decision Making in LLM Agents via Goal-State Reflection

Jeonghye Kim, Sojeong Rhee, Minbeom Kim, Dohyung Kim, Sangmook Lee, Youngchul Sung, Kyomin Jung

机构 * KAIST（韩国科学技术院） ； Seoul National University（首尔国立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted to EMNLP 2025 (Main Conference)

Multi-Modal Interpretability for Enhanced Localization in Vision-Language Models

Muhammad Imran, Yugyung Lee

机构 * Computer Science, School of Science and Engineering, University of Missouri - Kansas City（计算机科学系，科学与工程学院，密苏里大学-堪萨斯城分校） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)

Comments 8 pages, 6 figures, 3 tables

Journal ref Non-Archival track - The First Workshop on Multimodal Knowledge and Language Modeling IJCAI 2025 Workshop, August 16, 2025 IJCAI 2025 Workshop, August 16, 2025 Room 516B, Palais des congrès, Montreal, Canada

HypoGeneAgent: A Hypothesis Language Agent for Gene-Set Cluster Resolution Selection Using Perturb-seq Datasets

Ying Yuan, Xing-Yue Monica Ge, Aaron Archer Waterman, Tommaso Biancalani, David Richmond, Yogesh Pandit, Avtar Singh, Russell Littman, Jin Liu, Jan-Christian Huetter, Vladimir Ermakov

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

MedualTime: A Dual-Adapter Language Model for Medical Time Series-Text Multimodal Learning

Jiexia Ye, Weiqi Zhang, Ziyue Li, Jia Li, Meng Zhao, Fugee Tsung

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Technical University of Munich（慕尼黑技术大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 9 pages, 6 figure, 3 tables

Journal ref IJCAI 2025 main conference

AnyGPT: Unified Multimodal LLM with Discrete Sequence Modeling

Jun Zhan, Junqi Dai, Jiasheng Ye, Yunhua Zhou, Dong Zhang, Zhigeng Liu, Xin Zhang, Ruibin Yuan, Ge Zhang, Linyang Li, Hang Yan, Jie Fu, Tao Gui, Tianxiang Sun, Yu-Gang Jiang, Xipeng Qiu

机构 * Fudan University（复旦大学） ； Multimodal Art Projection Research Community（多模态艺术投影研究社区） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 28 pages, 16 figures, under review, work in progress

Statutory Construction and Interpretation for Artificial Intelligence

Luxi He, Nimra Nadeem, Michel Liao, Howard Chen, Danqi Chen, Mariano-Florentino Cuéllar, Peter Henderson

机构 * Princeton University（普林斯顿大学） ； Carnegie Endowment for International Peace（国际和平研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

Challenges and Applications of Large Language Models: A Comparison of GPT and DeepSeek family of models

Shubham Sharma, Sneha Tuli, Narendra Badam

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 18 pages, 7 figures

Integrating Time Series into LLMs via Multi-layer Steerable Embedding Fusion for Enhanced Forecasting

Zhuomin Chen, Dan Li, Jiahui Zhou, Shunyu Wu, Haozheng Ye, Jian Lou, See-Kiong Ng

机构 * School of Software Engineering Sun Yat-Sen University（软件工程学院中山大学） ； Institute of Data Science（数据科学研究院） ； School of Computing（计算机学院） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments To be published in CIKM 2025

Illusions in Humans and AI: How Visual Perception Aligns and Diverges

Jianyi Yang, Junyi Ye, Ankan Dash, Guiling Wang

专题命中 其他安全 ：alignment(abstract)；safety(abstract)

SpaRC-AD: A Baseline for Radar-Camera Fusion in End-to-End Autonomous Driving

Philipp Wolters, Johannes Gilg, Torben Teepe, Gerhard Rigoll

机构 * Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)

Comments 8 pages, 4 figures, 5 tables

Exploring Adapter Design Tradeoffs for Low Resource Music Generation

Atharva Mehta, Shivam Chauhan, Monojit Choudhury

机构 * Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 9 pages, 4 figures

COMPASS: Computational Mapping of Patient-Therapist Alliance Strategies with Language Modeling

Baihan Lin, Djallel Bouneffouf, Yulia Landa, Rachel Jespersen, Cheryl Corcoran, Guillermo Cecchi

机构 * Department of Artificial Intelligence and Human Health, Icahn School of Medicine at Mount Sinai（人工智能与人类健康系，伊坎医学院 Mount Sinai 分校） ； Department of Psychiatry, Icahn School of Medicine at Mount Sinai（精神病学系，伊坎医学院 Mount Sinai 分校） ； Department of Neuroscience, Icahn School of Medicine at Mount Sinai（神经科学系，伊坎医学院 Mount Sinai 分校） ； Berkman Klein Center for Internet & Society, Harvard University（互联网与社会研究中心，哈佛大学） ； IBM Research, T.J. Watson Research Center（IBM 研究，T.J. Watson 研究中心） ； Mental Illness Research, Education and Clinical Center, James J. Peters VA Medical Center（精神疾病研究、教育与临床中心，James J. Peters VA 医疗中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Translational Psychiatry, in press. This work extends our research series in computational psychiatry (e.g auto annotation in arXiv:2204.05522, topic extraction in arXiv:2204.10189, and diagnosis in arXiv:2210.15603) with the introduction of LLMs to complete the full cycle of interpreting and understanding psychotherapy strategies as a comprehensive analytical framework

Journal ref Transl Psychiatry 15, 166 (2025)

LeanK: Learnable K Cache Channel Pruning for Efficient Decoding

Yike Zhang, Zhiyuan He, Huiqiang Jiang, Chengruidong Zhang, Yuqing Yang, Jianyong Wang, Lili Qiu

机构 * Tsinghua University（清华大学） ； Microsoft Research（微软研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

FRED: Financial Retrieval-Enhanced Detection and Editing of Hallucinations in Language Models

Likun Tan, Kuan-Wei Huang, Kevin Wu

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

TTS-1 Technical Report

Oleg Atamanenko, Anna Chalova, Joseph Coombes, Nikki Cope, Phillip Dang, Zhifeng Deng, Jimmy Du, Michael Ermolenko, Feifan Fan, Yufei Feng, Cheryl Fichter, Pavel Filimonov, Louis Fischer, Kylan Gibbs, Valeria Gusarova, Pavel Karpik, Andreas Assad Kottner, Ian Lee, Oliver Louie, Jasmine Mai, Mikhail Mamontov, Suri Mao, Nurullah Morshed, Igor Poletaev, Florin Radu, Dmytro Semernia, Evgenii Shingarev, Vikram Sivaraja, Peter Skirko, Rinat Takhautdinov, Robert Villahermosa, Jean Wang

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 20 pages, 10 figures. For associated modeling and training code, see https://github.com/inworld-ai/tts

Programmable Virtual Humans Toward Human Physiologically-Based Drug Discovery

You Wu, Philip E. Bourne, Lei Xie

机构 * Ph.D. Program in Computer Science The Graduate Center The City University of New York（计算机科学博士项目 美国城市大学研究生中心 新 York 美国） ； School of Data Science & Department of Biomedical Engineering University of Virginia（数据科学学院与生物医学工程系 美国弗吉尼亚大学） ； School of Pharmacy and Pharmaceutical Sciences & Center for Drug Discovery Northeastern University（药学与药学科学学院及药物发现中心 美国东北大学） ； Department of Computer Science Hunter College The City University of New York（计算机科学系 美国城市大学霍顿学院） ； Helen & Robert Appel Alzheimer’s Disease Research Institute Feil Family Brain & Mind Research Institute Weill Cornell Medicine Cornell University（海伦与罗伯特·阿普尔阿尔茨海默病研究所 费尔家族脑与心灵研究研究所 威尔·康奈尔医学院 康奈尔大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG

Comments Under Review

Towards physician-centered oversight of conversational diagnostic AI

Elahe Vedadi, David Barrett, Natalie Harris, Ellery Wulczyn, Shashir Reddy, Roma Ruparel, Mike Schaekermann, Tim Strother, Ryutaro Tanno, Yash Sharma, Jihyeon Lee, Cían Hughes, Dylan Slack, Anil Palepu, Jan Freyberg, Khaled Saab, Valentin Liévin, Wei-Hung Weng, Tao Tu, Yun Liu, Nenad Tomasev, Kavita Kulkarni, S. Sara Mahdavi, Kelvin Guu, Joëlle Barral, Dale R. Webster, James Manyika, Avinatan Hassidim, Katherine Chou, Yossi Matias, Pushmeet Kohli, Adam Rodman, Vivek Natarajan, Alan Karthikesalingam, David Stutz

机构 * Google DeepMind（谷歌DeepMind） ； Google Research（谷歌研究） ； Harvard Medical School, Beth Israel Deaconess Medical Center（哈佛医学院，贝塞斯达德acons医学中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

DENSE: Longitudinal Progress Note Generation with Temporal Modeling of Heterogeneous Clinical Notes Across Hospital Visits

Garapati Keerthana, Manik Gupta

机构 * Department of Computer Science and Information Systems, Birla Institute of Technology and Science, Pilani, Hyderabad Campus（计算机科学与信息系统系，比拉理工学院，比拉理工学院，海得拉巴校区） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

A Comprehensive Survey of Electronic Health Record Modeling: From Deep Learning Approaches to Large Language Models

Weijieying Ren, Jingxi Zhu, Zehao Liu, Tianxiang Zhao, Vasant Honavar

机构 * Information Sciences and Technology, The Pennsylvania State University（信息科学与技术系，宾夕法尼亚州立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

From Domain Documents to Requirements: Retrieval-Augmented Generation in the Space Industry

Chetan Arora, Fanyu Wang, Chakkrit Tantithamthavorn, Aldeida Aleti, Shaun Kenyon

专题命中 其他安全 ：alignment(abstract)；safety(abstract)

The language of time: a language model perspective on time-series foundation models

Yi Xie, Yun Xiong, Zejian Shi, Hao Niu, Zhengfu Liu

机构 * College of Computer Science and Artificial Intelligence, Fudan University（计算机科学与人工智能学院，复旦大学） ； Shanghai Key Laboratory of Data Science（上海数据科学重点实验室） ； ZCTech ； School of Mathematics and Statistics, Beijing Institute of Technology（数学与统计学学院，北京理工大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

Hypertokens: Holographic Associative Memory in Tokenized LLMs

Christopher James Augeri

机构 * Sloop FX, Inc.（Sloop FX 公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments preprint as accepted to https://qnlp.ai/ - Quantum AI and NLP Conference 2025

How Large Language Models play humans in online conversations: a simulated study of the 2016 US politics on Reddit

Daniele Cirulli, Giulio Cimini, Giovanni Palermo

机构 * Enrico Fermi Research Center（恩里科·费米研究中心） ； Physics Department and INFN, University of Rome Tor Vergata（罗马托尔维加塔大学物理系和INFN） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

Evolving Prompts In-Context: An Open-ended, Self-replicating Perspective

Jianyu Wang, Zhiqiang Hu, Lidong Bing

机构 * DAMO Academy, Alibaba Group（达摩院，阿里巴巴集团） ； Hupan Lab（虎扑实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments ICML 2025, and Code will be released at: https://github.com/jianyu-cs/PromptQuine/

Journal ref Forty-second International Conference on Machine Learning, 2025

Hypothesis Testing for Quantifying LLM-Human Misalignment in Multiple Choice Settings

Harbin Hong, Sebastian Caldas, Liu Leqi

机构 * Princeton University（普林斯顿大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.CY、cs.LG

Sectoral Coupling in Linguistic State Space

Sebastian Dumbrava

机构 * Sebastian Dumbrava（独立研究者） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 56 pages, 12 figures

ProMedTS: A Self-Supervised, Prompt-Guided Multimodal Approach for Integrating Medical Text and Time Series

Shuai Niu, Jing Ma, Hongzhan Lin, Liang Bai, Zhihua Wang, Wei Bi, Yida Xu, Guo Li, Xian Yang

机构 * Hong Kong Baptist University（香港 Baptist 大学） ； Shanxi University（山西大学） ； Shanghai Institute for Advanced Study of Zhejiang University（浙江大学上海研究院） ； Tencent AI Lab（腾讯人工智能实验室） ； Manchester Metropolitan University（曼彻斯特 Metropolitan 大学） ； The University of Manchester（曼彻斯特大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments This paper is accepted by ACL2025(Findings)

Foundations of Large Language Models

Tong Xiao, Jingbo Zhu

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG