Identifying and Mitigating Vulnerabilities in LLM-Integrated Applications
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI
专题命中 领域大模型 :prompting(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI
Comments 4 pages
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL
专题命中 领域大模型 :language model(title,abstract);large language model(abstract);instruction tuning(abstract);分类 cs.CL
Comments Accepted to EMNLP 2023. Camera-ready version: updated IRB, added more evaluation results on LLMs such as GPT4, LLaMa2, and LLaMa2-chat
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL
Comments Accepted by EMNLP 2023 main conf
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI
专题命中 领域大模型 :language model(title,abstract);LLM(abstract);large language model(abstract);分类 cs.CL
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL
Comments 18 pages total (16 pages, 2 reference pages). In submission
专题命中 领域大模型 :prompting(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL
Comments Accepted to ACL 2023. 19 pages with appendix
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL
专题命中 领域大模型 :pretraining(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL
专题命中 领域大模型 :language model(title,abstract);LLM(abstract);large language model(abstract);分类 cs.CL
Comments 13 pages, 5 figures
专题命中 领域大模型 :language model(title,abstract);large language model(abstract);pretraining(abstract);分类 cs.CL
专题命中 领域大模型 :foundation model(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI
专题命中 领域大模型 :foundation model(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI
多模态生成式引擎优化:针对视觉-语言模型排序器的排名操纵
机构 * Georgetown University(乔治城大学) ; University of Southern California(南加州大学) ; University of Maryland, College Park(马里兰大学学院公园分校) ; Arizona State University(亚利桑那州立大学)
专题命中 领域大模型 :language model(title,abstract);foundation model(abstract,comments);分类 cs.CL、cs.AI、cs.LG
AI总结 提出多模态生成式引擎优化(MGEO)方法,通过联合优化图像扰动和文本后缀,利用视觉-语言模型内部跨模态知识耦合,实现对产品排名的有效操纵,揭示了多模态基础模型知识基础的脆弱性。
Comments Proceedings of the 4th Workshop on Towards Knowledgeable Foundation Models (KnowFM) at ACL 2026
BeamVLM 用于低空经济:通过视觉-语言模型进行生成式波束预测
专题命中 领域大模型 :language model(title,abstract);LLM(abstract);large language model(abstract)
AI总结 BeamVLM 通过视觉-语言模型实现生成式波束预测,提升无人机与地面基站间通信的准确性和泛化能力。
Comments We propose a novel end-to-end generative framework for beam prediction by using vision-language models
专题命中 领域大模型 :foundation model(title,abstract);large language model(abstract);language model(abstract)
Comments Accepted at NeurIPS 2024 "Foundation Models for Science: Progress, Opportunities, and Challenges" Workshop
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract)
Comments 8 pages, the 24th Intelligent Virtual Agent Conference
Journal ref Taiyu Zhang, Xuesong Zhang, Robbe Cools, and Adalberto Simeone. 2024. Focus Agent: LLM-Powered Virtual Focus Group. In ACM International Conference on Intelligent Virtual Agents (IVA '24), September 16--19, 2024, GLASGOW, United Kingdom
MARC v1:一个用于临床AI推理与协作的开源多智能体框架
专题命中 领域大模型 :LLM(summary_cn,abstract);prompting(abstract);分类 cs.CL、cs.AI
AI总结 该研究提出开源多智能体框架MARC v1,以确定性多智能体编排替代整体式LLM提示用于临床推理,含角色专业化智能体与分解器模块,支持多部署方式,具备模型无关、可解释等特性。
Comments 13 pages, 4 figures
ExperienceWeaver: 优化基于 LLM 的临床文本改进的小样本经验学习
机构 * School of Computing and Data Science, The University of Hong Kong(计算与数据科学学院,香港大学)
专题命中 领域大模型 :LLM(title_cn,summary_cn);分类 cs.CL、cs.AI
AI总结 ExperienceWeaver 通过经验学习优化小样本下 LLM 的临床文本改进,通过提炼反馈知识提升模型修订能力。
欺骗的语义:针对通用领域最先进模型的法律欺骗检测基准测试
机构 * University of Moratuwa(莫拉图瓦大学) ; The Law Office of George C. Lobb(乔治·C·洛布律师事务所)
专题命中 领域大模型 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);prompting(abstract)
AI总结 本文针对法律领域的自动欺骗检测,对比了微调Transformer模型与大型语言模型在通用和法律数据集上的表现,发现领域敏感性显著,思维链提示效果逊于直接分类,强调需开发适配法律领域的可解释系统。
Comments 5 pages paper
Journal ref ICAIL 2026
AutoSupervision:通过基于事实的修订验证闭合科学工作流中的反馈循环
机构 * Shanghai AI Laboratory(上海人工智能实验室) ; University of California, Los Angeles(加州大学洛杉矶分校) ; The Hong Kong University of Science and Technology(香港科技大学)
专题命中 领域大模型 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 本研究提出AutoSupervision,利用《自然·通讯》5.6万篇文章的评审记录构建数据集,发现LLM刻画评审关切表现较好但证据验证是瓶颈,为AI辅助科学工作流提供反馈循环闭合方案。
所有解释都是错误的,但许多解释是有用的:用大语言模型探索罗生门解释集
机构 * Scheller College of Business, Georgia Tech(舍勒商学院,佐治亚理工学院)
专题命中 领域大模型 :large language model(title);language model(title);分类 cs.AI、cs.LG
AI总结 研究指出机器学习模型解释存在准确性与可解释性权衡非根本性的观点,引入罗生门解释范式,提出RashomonLLM工作流程,经实验验证其在多任务中显著优于基线,提升业务性能并奠定消费者信任基础。
基于结构化临床数据的LLMs心血管风险预测
机构 * Central Michigan University(中央密歇根大学)
专题命中 领域大模型 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);prompting(abstract)
AI总结 提出混合框架将结构化临床数据转换为自然语言表示,利用LLMs进行冠心病预测,并验证了高保真度与隐私保护优势。
Comments International Conference on Intelligent Systems, Blockchain, and Communication Technologies
CodeEvolve:用于算法发现和优化的开源进化编码智能体
机构 * Inter Science - Inter&Co ; Federal University of Minas Gerais(联邦大学伯南迪斯) ; Worcester Polytechnic Institute(沃思彻斯特理工大学)
专题命中 领域大模型 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);prompting(abstract)
AI总结 提出CodeEvolve开源框架,结合大语言模型与岛屿进化搜索,通过灵感交叉、元提示和深度细化,在AlphaEvolve基准上匹配或超越5/9问题,并在匹配条件下优于OpenEvolve和ShinkaEvolve,以更低成本超越前沿闭源集成。
Comments 21 pages, 16 figures, 8 tables
SURGENT: 一种跨围手术期工作流程的手术多智能体辅助系统
机构 * East China Normal University(华东师范大学) ; City University of Hong Kong(香港城市大学)
专题命中 领域大模型 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 提出SURGENT手术多智能体辅助系统,结合思维树规划器、多科室协作智能体和检索增强推理,通过新型记忆设计管理长期患者病史和短期工作摘要,在五项围手术期任务中优于基线LLM和现有医疗多智能体框架。
Comments preprint
科学的异类空间:采样连贯但认知不可用的研究方向
机构 * Max Planck Institute for Human Development(马克斯·普朗克人类发展研究所) ; Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所) ; ELLIS Institute Tübingen(图宾根ELLIS研究所) ; Polytechnique Montreal(蒙特利尔理工学院) ; CIFAR AI Chair(CIFAR人工智能主席) ; Mila – Quebec AI Institute(魁北克人工智能研究所) ; Tiptree Systems(Tiptree系统)
专题命中 领域大模型 :LLM(summary_cn,abstract);language model(abstract);分类 cs.AI、cs.LG
AI总结 本文提出一种框架,通过分解论文为概念单元并学习两个互补模型,采样出连贯但认知不可用的研究方向,扩展了LLM生成的潜在词汇库。
Comments 10 main pages, 42 appendix pages, 29 figures
GONE: 通过邻域扩展分布塑造实现结构知识卸载
机构 * University of Nevada, Las Vegas(内华达大学拉斯维加斯分校) ; Indian Institute of Technology Guwahati(印度理工学院古瓦哈提分校)
专题命中 领域大模型 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.LG
AI总结 本文提出GONE基准,用于评估LLM在结构知识图谱中的知识卸载能力,引入NEDS框架通过图连接性识别相关邻居,实现精确的遗忘边界划分,展示出在知识编辑和卸载任务中的优越性能。