大模型对齐与安全

Quantifying Correlations of Machine Learning Models

Yuanyuan Li, Neeraj Sarna, Yang Lin

机构 * Munich RE（慕尼黑再保险公司） ； Hartford Steam Boiler（哈特福德蒸汽锅炉公司） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

Let the Poem Hit the Rhythm: Using a Byte-Based Transformer for Beat-Aligned Poetry Generation

Mohamad Elzohbi, Richard Zhao

机构 * University of Calgary（卡尔加里大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

Comments 5 pages, 3 figures, accepted for the 15th International Conference on Computational Creativity, ICCC'24

Journal ref Proceedings of 15th International Conference on Computational Creativity (ICCC), Jönköping, Sweden, June, 2024

SAISA: Towards Multimodal Large Language Models with Both Training and Inference Efficiency

Qianhao Yuan, Yanjiang Liu, Yaojie Lu, Hongyu Lin, Ben He, Xianpei Han, Le Sun

机构 * Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

People Attribute Purpose to Autonomous Vehicles When Explaining Their Behavior: Insights from Cognitive Science for Explainable AI

Balint Gyevnar, Stephanie Droop, Tadeg Quillien, Shay B. Cohen, Neil R. Bramley, Christopher G. Lucas, Stefano V. Albrecht

机构 * University of Edinburgh（爱丁堡大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

Comments CHI 2025

Better Slow than Sorry: Introducing Positive Friction for Reliable Dialogue Systems

Mert İnan, Anthony Sicilia, Suvodip Dey, Vardhan Dongre, Tejas Srinivasan, Jesse Thomason, Gökhan Tür, Dilek Hakkani-Tür, Malihe Alikhani

机构 * University of Southern California（南加州大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

A Machine Learning Approach to Automatic Fall Detection of Soldiers

Leandro Soares, Gustavo Venturini, José Gomes, Jonathan Efigenio, Pablo Rangel, Pedro Gonzalez, Joel dos Santos, Diego Brandão, Eduardo Bezerra

机构 * Cefet/RJ（巴西联邦教育、科学和技术中心里约热内卢分校） ； IPqM - Brazilian Navy（巴西海军量子物理与计算研究所） ； UFRJ（里约热内卢联邦大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

Comments 15 pages, 9 figures, submitted to IEEE Access

Swarm-Gen: Fast Generation of Diverse Feasible Swarm Behaviors

Simon Idoko, B. Bhanu Teja, K. Madhava Krishna, Arun Kumar Singh

机构 * University of Tartu（塔尔图大学） ； IIIT Hyderabad（印度信息技术学院海得拉巴分校） ； RRC（区域研究中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

Comments Submitted to RAL

Fold Bifurcation Identification through Scientific Machine Learning

Giuseppe Habib, Ádám Horváth

机构 * Budapest University of Technology and Economics（布达佩斯技术与经济大学） ； Faculty of Mechanical Engineering（机械工程学院） ； MTA-BME Lendület “Momentum” Global Dynamics Research Group（MTA-BME 伦德勒特“动力矩”全球动力学研究组） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

Journal ref Physica D: Nonlinear Phenomena, 472, 134490 (2025)

Structured Context Recomposition for Large Language Models Using Probabilistic Layer Realignment

Jonathan Teel, Jocasta Cumberbatch, Raphael Benington, Quentin Baskerville

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

Hybrid Phenology Modeling for Predicting Temperature Effects on Tree Dormancy

Ron van Bree, Diego Marcos, Ioannis Athanasiadis

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

LLM-powered Multi-agent Framework for Goal-oriented Learning in Intelligent Tutoring System

Tianfu Wang, Yi Zhan, Jianxun Lian, Zhengyu Hu, Nicholas Jing Yuan, Qi Zhang, Xing Xie, Hui Xiong

机构 * HKUST (GZ)（香港科技大学（广州）） ； Microsoft Inc.（微软公司） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments Accepted by WWW 2025 (Industry Track)

Baichuan-Omni-1.5 Technical Report

Yadong Li, Jun Liu, Tao Zhang, Tao Zhang, Song Chen, Tianpeng Li, Zehuan Li, Lijun Liu, Lingfeng Ming, Guosheng Dong, Da Pan, Chong Li, Yuanbo Fang, Dongdong Kuang, Mingrui Wang, Chenglin Zhu, Youwei Zhang, Hongyu Guo, Fengyu Zhang, Yuran Wang, Bowen Ding, Wei Song, Xu Li, Yuqi Huo, Zheng Liang, Shusen Zhang, Xin Wu, Shuai Zhao, Linchu Xiong, Yozhen Wu, Jiahui Ye, Wenhao Lu, Bowen Li, Yan Zhang, Yaqi Zhou, Xin Chen, Lei Su, Hongda Zhang, Fuzhong Chen, Xuezhen Dong, Na Nie, Zhiying Wu, Bin Xiao, Ting Li, Shunya Dang, Ping Zhang, Yijia Sun, Jincheng Wu, Jinjie Yang, Xionghai Lin, Zhi Ma, Kegeng Wu, Jia li, Aiyuan Yang, Hui Liu, Jianqiang Zhang, Xiaoxi Chen, Guangwei Ai, Wentao Zhang, Yicong Chen, Xiaoqin Huang, Kun Li, Wenjing Luo, Yifei Duan, Lingling Zhu, Ran Xiao, Zhe Su, Jiani Pu, Dian Wang, Xu Jia, Tianyu Zhang, Mengyu Ai, Mang Wang, Yujing Qiao, Lei Zhang, Yanjun Shen, Fan Yang, Miao Zhen, Yijie Zhou, Mingyang Chen, Fei Li, Chenzheng Zhu, Keer Lu, Yaqi Zhao, Hao Liang, Youquan Li, Yanzhao Qin, Linzhuang Sun, Jianhua Xu, Haoze Sun, Mingan Lin, Zenan Zhou, Weipeng Chen

机构 * Baichuan Inc.（百川智能） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

The Multicultural Medical Assistant: Can LLMs Improve Medical ASR Errors Across Borders?

Ayo Adedeji, Mardhiyah Sanni, Emmanuel Ayodele, Sarita Joshi, Tobi Olatunji

机构 * Google Cloud（谷歌云） ； Intron Health（英创健康） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL

Comments 15 pages, 8 figures

Model Monitoring in the Absence of Labeled Data via Feature Attributions Distributions

Carlos Mougan

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

Comments PhD Thesis

TextMatch: Enhancing Image-Text Consistency Through Multimodal Optimization

Yucong Luo, Mingyue Cheng, Jie Ouyang, Xiaoyu Tao, Qi Liu

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments Need a lot of refinements

M^2ConceptBase: A Fine-Grained Aligned Concept-Centric Multimodal Knowledge Base

Zhiwei Zha, Jiaan Wang, Zhixu Li, Xiangru Zhu, Wei Song, Yanghua Xiao

机构 * Fudan University（复旦大学） ； Soochow University（苏州大学） ； Zhejiang Lab（之江实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments Accepted by CIKM2024. The code and data can be found at https://github.com/AwellmanZha/M2ConceptBase

Spurious Forgetting in Continual Learning of Language Models

Junhao Zheng, Xidi Cai, Shengjie Qiu, Qianli Ma

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

Comments ICLR2025

An Offline Multi-Agent Reinforcement Learning Framework for Radio Resource Management

Eslam Eldeeb, Hirley Alves

机构 * Centre for Wireless Communications (CWC)（无线通信中心） ； University of Oulu（奥卢大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

HierPromptLM: A Pure PLM-based Framework for Representation Learning on Heterogeneous Text-rich Networks

Qiuyu Zhu, Liang Zhang, Qianxiong Xu, Cheng Long

机构 * Nanyang Technological University（南洋理工大学） ； HEC Paris（巴黎高等商学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

Irony in Emojis: A Comparative Study of Human and LLM Interpretation

Yawen Zheng, Hanjia Lyu, Jiebo Luo

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

MedFILIP: Medical Fine-grained Language-Image Pre-training

Xinjie Liang, Xiangyu Li, Fanding Li, Jie Jiang, Qing Dong, Wei Wang, Kuanquan Wang, Suyu Dong, Gongning Luo, Shuo Li

机构 * School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院） ； No. 4 Affiliated Hospital, Harbin Medical University（哈尔滨医科大学附属第四医院） ； College of computer and control engineering, Northeast Forestry University（东北林业大学计算机与控制工程学院） ； King Abdullah University of Science and Technology（阿卜杜拉国王科技大学） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments 10 pages, 5 figures, IEEE Journal of Biomedical and Health Informatics 2025

Automated Detection and Analysis of Minor Deformations in Flat Walls Due to Railway Vibrations Using LiDAR and Machine Learning

Surjo Dey, Ankit Sharma, Hritu Raj, Susham Biswas

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

Comments IEEE Conference Paper

Journal ref 2024 15th International Conference on Computing Communication and Networking Technologies (ICCCNT)

Large Process Models: A Vision for Business Process Management in the Age of Generative AI

Timotheus Kampik, Christian Warmuth, Adrian Rebmann, Ron Agam, Lukas N. P. Egger, Andreas Gerber, Johannes Hoffart, Jonas Kolk, Philipp Herzig, Gero Decker, Han van der Aa, Artem Polyvyanyy, Stefanie Rinderle-Ma, Ingo Weber, Matthias Weidlich

机构 * SAP（思爱普） ； University of Vienna（维也纳大学） ； University of Melbourne（墨尔本大学） ； Technical University of Munich（慕尼黑工业大学） ； Fraunhofer Gesellschaft（弗劳恩霍夫协会） ； Humboldt-Universität zu Berlin（柏林洪堡大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

Journal ref Künstl Intell (2024)

A Misclassification Network-Based Method for Comparative Genomic Analysis

Wan He, Tina Eliassi-Rad, Samuel V. Scarpino

机构 * Northeastern University（东北大学） ； Santa Fe Institute（圣达菲研究所） ； University of Vermont（佛蒙特大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

CSL-L2M: Controllable Song-Level Lyric-to-Melody Generation Based on Conditional Transformer with Fine-Grained Lyric and Musical Controls

Li Chai, Donglin Wang

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments Accepted at AAAI-25

Mode-conditioned music learning and composition: a spiking neural network inspired by neuroscience and psychology

Qian Liang, Yi Zeng, Menghaoran Tang

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Key Laboratory of Brain Cognition and Brain-inspired Intelligence Technology, Chinese Academy of Sciences（中国科学院脑认知与类脑智能技术重点实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments 18 pages, 8 figures

Natural Language-Assisted Multi-modal Medication Recommendation

Jie Tan, Yu Rong, Kangfei Zhao, Tian Bian, Tingyang Xu, Junzhou Huang, Hong Cheng, Helen Meng

机构 * The Chinese University of Hong Kong（香港中文大学） ； DAMO Academy, Alibaba Group（阿里巴巴达摩院） ； Beijing Institute of Technology（北京理工大学） ； University of Texas at Arlington（德克萨斯大学阿灵顿分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

Comments 10 pages

Journal ref Proceedings of the 33rd ACM International Conference on Information and Knowledge Management, Boise, ID, USA, 2024

An Interpretable ML-based Model for Predicting p-y Curves of Monopile Foundations in Sand

Biao Li, Qing-Kai Song, Wen-Gang Qi, Fu-Ping Gao

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI as Humanity's Salieri: Quantifying Linguistic Creativity of Language Models via Systematic Attribution of Machine Text against Web Text

Ximing Lu, Melanie Sclar, Skyler Hallinan, Niloofar Mireshghallah, Jiacheng Liu, Seungju Han, Allyson Ettinger, Liwei Jiang, Khyathi Chandu, Nouha Dziri, Yejin Choi

机构 * University of Washington（华盛顿大学） ； Allen Institute for Artificial Intelligence（艾伦人工智能研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

GeoX: Geometric Problem Solving Through Unified Formalized Vision-Language Pre-training

Renqiu Xia, Mingsheng Li, Hancheng Ye, Wenjie Wu, Hongbin Zhou, Jiakang Yuan, Tianshuo Peng, Xinyu Cai, Xiangchao Yan, Bin Wang, Conghui He, Botian Shi, Tao Chen, Junchi Yan, Bo Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

Comments Our code is available at https://github.com/Alpha-Innovator/GeoX