AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2025-07-25 至 2025-07-25 共收录 2 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 偏好对齐 2 篇

2502.03699 2025-07-25 cs.CL cs.AI cs.IR 84%

LLM Alignment as Retriever Optimization: An Information Retrieval Perspective

Bowen Jin, Jinsung Yoon, Zhen Qin, Ziqi Wang, Wei Xiong, Yu Meng, Jiawei Han, Sercan O. Arik

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）； Google Cloud AI Research（谷歌云人工智能研究）； Google DeepMind（谷歌DeepMind）； University of Virginia（弗吉尼亚大学）

专题命中偏好对齐：alignment(title,abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

Comments 26 pages

2507.18417 2025-07-25 cs.CL cs.LG q-fin.ST q-fin.TR 73%

FinDPO: Financial Sentiment Analysis for Algorithmic Trading through Preference Optimization of LLMs

Giorgos Iacovides, Wuyang Zhou, Danilo Mandic

机构 * Imperial College London（伦敦帝国理工学院）

专题命中偏好对齐：alignment(abstract)；DPO(abstract)；分类 cs.CL、cs.LG