Testing pre-trained Transformer models for Lithuanian news clustering
Faculty of Informatics Kaunas University of Technology(考纳斯理工大学信息学院);Kaunas University of Technology(考纳斯理工大学)
最近推出的Transformer深度学习架构在各种自然语言处理任务中取得了突破。然而,非英语语言无法利用英语文本预训练模型的新机会。这种情况随着多语言模式的研究而改变,其中较少使用的语言是主要受益者。我们比较了预训练的多语言BERT,XLM-R和旧的学习文本表示方法作为立陶宛新闻聚类任务的编码。我们的研究结果表明,公开的预训练多语言Transformer模型可以进行微调,以超过单词向量,但仍然比专门训练的doc 2 vec嵌入得分低得多。
2020-04-03 cs.CL cs.IR cs.LG
Localizing AI: Evaluating Open-Weight Language Models for Languages of Baltic States
Tilde IT;Vytautas Magnus University(维陶塔斯马格努斯大学);Tilde;University of Latvia(拉脱维亚大学)
本文评估 Llama 3、Gemma 2、Phi 和 NeMo 等可本地部署开放权重模型在波罗的海三语上的翻译、问答与生成能力,发现其性能接近商用模型但词汇幻觉仍较普遍。
2025-01-07 cs.AI cs.CL
Normalization of Lithuanian Text Using Regular Expressions
Institute of Informatics, Faculty of Mathematics and Informatics(信息学研究所,数学与信息学学院);Vilnius University(维尔纽斯大学)
本文针对立陶宛语文本到语音合成中的文本规范化问题,提出基于正则表达式的非标准词检测与扩展规则,并在三个数据集上验证了准确性,给出了错误分析与改进建议。
2024-01-01 cs.CL
Hessian of Perplexity for Large Language Models by PyTorch autograd (Open Source)
本文提供基于 PyTorch autograd 计算大语言模型部分 Hessian 矩阵及完整对角线的实用指南,并开源代码以帮助研究者理解 LLM 中 Hessian 的行为与结构。
2025-04-06 cs.AI cs.CL cs.LG
Cited Web Sources in LLM Answers about Brands: A Multilingual Audit
研究LLM在回答品牌问题时引用的网络来源,分析128个品牌在12个市场和13种语言中的167,551条引用,发现85.7%来自第三方,Wikipedia主导11种语言,但市场差异明显。
2026-11-17 cs.CL cs.CY cs.IR
From Zero to Production: Baltic-Ukrainian Machine Translation Systems to Aid Refugees
Tilde(蒂尔德公司)
在本文中,我们研究了六个低资源机器翻译系统之间的乌克兰语和波罗的海国家的官方语言翻译的发展和使用。我们开发这些系统是为了应对俄罗斯对乌克兰的军事侵略造成的乌克兰难民危机升级,希望它们可能对难民和公共行政部门有所帮助。现在,在MT系统公开两个月后,我们分析了它们的使用模式和统计数据。我们的研究结果表明,拉脱维亚-乌克兰语和立陶宛-乌克兰语系统被整合到波罗的海国家的公共服务中,导致立陶宛-乌克兰语系统的翻译句子超过1.27亿个。出于这些发现,我们进一步加强我们的MT系统更好的乌克兰地名翻译,并发布立陶宛-乌克兰系统的改进版本。
2022-09-28 cs.CL
Augmenting Pre-trained Language Models with QA-Memory for Open-Domain Question Answering
Google Research(谷歌研究院);University of Southern California(南加州大学)
检索增强语言模型最近已成为知识密集型任务的标准。这些方法不是纯粹依赖于大型神经模型参数中的潜在语义,而是使用半参数记忆来编码模型检索的知识索引。大多数先前的工作采用文本段落作为知识的单位,其具有高覆盖率,但代价是可解释性,可控性和效率。相反的性质出现在其他方法,而不是依赖于知识库(KB)的事实。与此同时,最近的工作已经证明了存储和检索从文本\citep{lewis2021paq}派生的Q-A对的索引的有效性。这种方法产生了一个高覆盖率的知识表示,保持知识库一样的属性,由于其表示是更多的原子单元的信息。在这项工作中,我们通过提出一个问答增强的编码器-解码器模型和伴随的预训练策略进一步推动了这一研究。这产生了一个端到端的系统,不仅优于以前的QA检索方法的单跳QA任务,但也使组合推理,表现出强大的性能在两个多跳QA数据集。总之,这些方法提高了解释和控制模型的能力,同时缩小了与段落检索系统的性能差距。
2023-01-23 cs.AI cs.CL cs.LG
Discovering Useful Sentence Representations from Large Pretrained Language Models
Scale AI;Arrive
尽管预训练的语言模型作为构建NLP系统的编码器取得了广泛的成功,但它们作为序列生成任务的解码器并不突出。我们探讨的问题,这些模型是否可以适应被用作通用解码器。为了被认为是“通用的”,解码器必须具有针对任何目标句子$s$的隐式表示,使得它可以在以其表示为条件时准确地恢复该句子。对于在大量英语文本上训练的大型基于transformer的语言模型,我们研究了使用标准优化方法是否可以轻松地发现这种表示。我们提出并比较了三种表示注入技术的转换器为基础的模型和三个相应的方法,映射句子,并从这个表示空间。实验表明,不仅各种流派的句子都存在表示。更重要的是,在不需要复杂的优化算法的情况下,我们的方法几乎可以完美地恢复这些句子,而根本不需要微调底层的语言模型。
2020-08-20 cs.CL cs.LG
Syllable-level lyrics generation from melody exploiting character-level language model
National Institute of Informatics(国立情报学研究所);SOKENDAI(综合研究大学院大学);Aalto University(阿尔托大学)
针对无公开音节级预训练语言模型的问题,提出将微调字符级语言模型的语言学知识融入音节级Transformer生成网络的束搜索过程,实现从符号旋律生成歌词,经ChatGPT与人工评估验证提升了歌词的连贯性与准确性,无需训练高成本新模型。
2024-01-30 cs.AI cs.CL
AnTenA: Actionable and Explainable Tensor Analysis System with Large Language Models
University of California, Riverside CA 92507, USA(加州大学河滨分校);Neuralix AI
提出AnTenA系统,利用大语言模型知识解释张量分解提取的共聚类潜在模式,通过前向和反向推理任务评估解释质量。
2026-06-27 cs.CL cs.LG
Understanding Understanding: A Pragmatic Framework Motivated by Large Language Models
AI21 Labs(AI21实验室);University of British Columbia(不列颠哥伦比亚大学);Stanford University(斯坦福大学)
针对大语言模型是否具备人类级理解能力的争议,提出了基于问答表现、通过随机抽样和概率置信边界判断智能体理解能力的实用框架,还发现附解释可降低样本复杂度,该框架可用于测试和构建有理解能力的AI。
2024-06-19 cs.AI cs.CL cs.LG
A Systematic Survey on Large Language Models for Algorithm Design
City University of Hong Kong(香港城市大学);Huawei Noah’s Ark Lab(华为诺亚实验室);Xi'an Jiaotong University(西安交通大学);Huawei Cloud EI Service Product Dept.(华为云EI服务产品部);Southern University of Science(南方科技大学)
本文系统性地综述了大型语言模型在算法设计中的应用,提出分类法分析其角色并指出未来研究方向。
2026-01-02 cs.AI cs.CL cs.LG
Lost in Compression: A Controlled Cross-Lingual Audit of Extractive Prompt Compressors
Hostinger;Kaunas University of Technology(考纳斯理工大学)
该研究审计抽取式提示压缩器的跨语言性能,发现英文训练的压缩器存在跨语言迁移差距,多语言训练的 XProvence 无此差距,先翻译再压缩的 pipeline 可在部分语言中以更低成本实现相当或更优效果。
2026-08-28 cs.AI cs.CL
Towards a copilot in BIM authoring tool using a large language model-based agent for intelligent human-machine interaction
Technical University of Munich(慕尼黑工业大学)
为降低BIM软件学习成本,提出基于LLM的自主智能体框架作为copilot,通过自然语言理解意图并调用工具自主执行建模任务,并在Vectorworks中验证了其规划与推理能力。
2024-06-02 cs.AI cs.CL cs.HC
Large language models in medicine: the potentials and pitfalls
Stanford University(斯坦福大学)
本文综述了大语言模型在医学中的应用现状、发展历程、潜在用途及相关风险,旨在帮助医疗从业者理解这一快速变化的领域。
2023-08-31 cs.AI cs.CL cs.CY
Grounding and Evaluation for Large Language Models: Practical Challenges and Lessons Learned (Survey)
Oracle Health AI(甲骨文健康人工智能);Microsoft Azure AI(微软 Azure 人工智能);Google Cloud AI(谷歌云人工智能)
本文综述了大型语言模型等生成式AI系统在可信性、安全性和可观测性方面的评估挑战,涵盖幻觉、有害内容等危害,并总结了最新应对方法及开放问题。
2024-07-10 cs.AI cs.CL cs.CV
Can LLMs Narrate Tabular Data? An Evaluation Framework for Natural Language Representations of Text-to-SQL System Outputs
Oracle AI
针对Text-to-SQL系统表格结果转自然语言表示的评估缺失问题,提出融合多方法优势的Combo-Eval评估框架,降低25-61%LLM调用量,配套发布首个NLR专用基准数据集NLR-BIRD,验证了其与人类判断的高一致性。
2025-10-27 cs.AI cs.CL
Training dataset and dictionary sizes matter in BERT models: the case of Baltic languages
University of Ljubljana(卢布尔雅那大学)
大型预训练的掩蔽语言模型已经成为许多NLP问题的最先进的解决方案。虽然研究表明单语模型比多语言模型产生更好的结果,但训练数据集必须足够大。我们为立陶宛语、拉脱维亚语和英语训练了一个三语LitLat BERT类模型,为爱沙尼亚语训练了一个单语Est-RoBERTa模型。我们评估了他们的表现在四个下游任务:命名实体识别,依存句法分析,词性标注,和词的类比。为了分析专注于单一语言的重要性以及大型训练集的重要性,我们将创建的模型与爱沙尼亚语、拉脱维亚语和立陶宛语的现有单语和多语言BERT模型进行了比较。实验结果表明,新建立的LitLat BERT和Est-RoBERTa模型在大多数情况下都能改善现有模型在所有测试任务上的结果。
2021-12-20 cs.CL
A Component-Based Survey of Interactions between Large Language Models and Multi-Armed Bandits
College of Information and Electrical Engineering, China Agricultural University, Beijing 100083, China(信息与电气工程学院,中国农业大学,北京);Key Laboratory of Agricultural Machinery Monitoring and Big Data Application, Ministry of Agriculture and Rural Affairs, Beijing 100083, China(农业机械监测与大数据应用重点实验室,农业农村部,北京)
本文调研了大型语言模型与多臂老虎机在组件层面的双向交互,分析了两者在解决对方挑战中的协同作用及未来研究方向。
2026-03-07 cs.CL cs.LG
ltzGLUE: Luxembourgish General Language Understanding Evaluation
University of Luxembourg(卢森堡大学);LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心);LIST(卢森堡国家信息技术与智能系统研究所);Lancaster University(兰卡斯特大学)
本文提出ltzGLUE,首个针对卢森堡语的NLU基准,填补了该语言在NLU领域的评估空白,通过新任务和现有任务评估编码器模型能力。
2026-04-20 cs.CL
Large Language Models and Games: A Survey and Roadmap
Institute of Digital Games, University of Malta(马耳他大学数字游戏研究所);Tandon School of Engineering, New York University(纽约大学坦登工程学院)
本文作为大语言模型与游戏交叉领域的首份全面综述与路线图,调研了LLMs在游戏中的各类应用及角色,探讨了未来方向,并梳理了其潜力与局限性,为该领域研究创新奠定基础。
2024-12-09 cs.AI cs.CL cs.HC
Using Large Language Models to Generate Authentic Multi-agent Knowledge Work Datasets
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);University of Kaiserslautern-Landau (RPTU)(凯泽斯劳滕-兰道大学);RheinMain University of Applied Sciences(莱茵美因应用科学大学)
针对真实知识工作数据难以收集的问题,本文提出可配置的多智能体LLM数据集生成器,通过模拟协作、记录知识图谱并开展人工真实性评估验证其潜力。
2024-10-24 cs.AI cs.CL
Reducing hallucination in structured outputs via Retrieval-Augmented Generation
ServiceNow
本文针对 GenAI 结构化输出中的幻觉问题,提出基于 RAG 的工作流生成系统,显著降低幻觉、增强域外泛化,并支持以小型检索器编码器减小 LLM 部署资源开销。
2024-04-12 cs.AI cs.CL cs.IR
Spontaneous Context Restoration: How Language Models Recover from Corrupted Inputs
Independent Researcher(独立研究者);ML Collective (MLC)(机器学习集体(MLC))
本文研究语言模型在输入损坏时自发恢复正确输出的内部机制,发现两阶段过程,并利用隐藏状态预测失败,通过微调提升鲁棒性。
2026-09-29 cs.AI cs.CL
DataTales: Investigating the use of Large Language Models for Authoring Data-Driven Articles
Tableau Research(Tableau研究院)
本文通过设计原型系统DataTales,探究利用大型语言模型辅助数据驱动文章撰写的可行性与价值,并基于11位专业人士的定性研究提炼出LLM作为撰写助手的设计机会。
2023-08-08 cs.CL cs.HC
A Comprehensive FP8 Training Recipe for Reasoning-Enhanced Language Models
The Hong Kong Polytechnic University(香港理工大学)
本文提出整合持续预训练与监督微调的端到端FP8训练方案,通过混合粒度量化实现高效无损失训练,效率较BF16提升显著,将发布代码推动大规模模型训练普及。
2026-08-04 cs.AI cs.CL
LFTF: Locating First and Then Fine-Tuning for Mitigating Gender Bias in Large Language Models
Harbin Institute of Technology(哈尔滨工业大学);Tencent(腾讯)
本研究提出GenBiasEval、GenHintEval两个数据集及对应指标以评估大模型性别偏见,还提出LFTF算法,通过定位并微调与偏见最相关的模块,在保留通用能力的同时有效缓解性别偏见。
2025-05-21 cs.AI cs.CL
Forecasting Future World Events with Neural Networks
UC Berkeley(加州大学伯克利分校);MIT(麻省理工学院);UIUC(伊利诺伊大学厄巴纳-香槟分校);University of Oxford(牛津大学)
预测未来世界事件是一项具有挑战性但有价值的任务。对气候、地缘政治冲突、流行病和经济指标的预测有助于制定政策和决策。在这些领域,专家的判断有助于做出最佳预测。鉴于语言建模的进步,这些预测可以自动化吗?为此,我们引入了Autocast,一个包含数千个预测问题和相应新闻语料库的数据集。问题来自预测比赛,确保高质量,现实世界的重要性和多样性。新闻语料库是按日期组织的,这使我们能够精确地模拟人类做出过去预测的条件(避免未来的泄漏)。由于难以预测数量级之间的数字(例如2022年的全球COVID-19病例),我们还策划了IntervalQA,这是一个数字问题和校准指标的数据集。我们在预测任务中测试了语言模型,发现其性能远低于人类专家的基线。然而,随着模型大小的增加和来自新闻语料库的相关信息的并入,性能提高。总之,Autocast对大语言模型提出了新的挑战,提高性能可以带来很大的实际好处。
2022-10-09 cs.CL cs.LG
Code Comment Inconsistency Detection with BERT and Longformer
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Penn State University(宾夕法尼亚州立大学)
注释或源代码的自然语言描述是软件开发人员的标准做法。通过交流代码的重要方面,如功能和用法,注释有助于软件项目的维护。然而,当代码被修改而没有对注释进行相应的更正时,注释和代码之间可能会出现不一致,这可能会导致开发人员混淆和错误。在本文中,我们提出了两个基于BERT的模型(Devlin等人,2019)和Longformer(Beltagy等人,2020)来检测自然语言推断(NLI)上下文中的这种不一致。通过在代码更改期间和之后对先前建立的评论方法对语料库进行评估,我们证明了我们的模型优于多个基线,并产生与排除语言和词汇特征的最先进模型相当的结果。我们进一步讨论了未来研究的想法,在使用预训练的语言模型的不一致检测和自动评论更新。
2022-07-29 cs.CL
Decision Information Meets Large Language Models: The Future of Explainable Operations Research
City University of Hong Kong(香港城市大学)
针对LLM增强运筹学方法缺乏可解释性的问题,提出EOR框架,以决策信息为核心,结合二分图与LLM生成可理解解释,并发布首个工业评估基准。
2025-02-14 cs.AI
Automated Spinal MRI Labelling from Reports Using a Large Language Model
University of Oxford(牛津大学)
我们提出了一种利用大型语言模型从放射学报告中自动提取标签的通用流程,在脊柱MRI报告上验证,其性能达到或超过GPT-4,且自动标签训练的分类器性能与手动标注相当。
2024-10-22 cs.CL cs.CV eess.IV
DS@GT at Touché: Large Language Models for Retrieval-Augmented Debate
Georgia Institute of Technology(佐治亚理工学院);Peoples' Friendship University of Russia (RUDN University)(俄罗斯人民友谊大学);Joint Institute for Nuclear Research(联合核研究所);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Skövde(斯德哥尔摩大学)
本文研究LLMs在结构化辩论与辩论话语评估中的能力,部署六款公开模型进行检索增强辩论与评估,发现其辩论表现良好但回复冗长,评估保持一致。
2025-07-12 cs.CL cs.IR
TokenSmith: Streamlining Data Editing, Search, and Inspection for Large-Scale Language Model Training and Interpretability
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);University of Southern California(南加州大学)
针对预训练数据与模型行为关联研究工具繁琐难用的问题,研究人员推出开源库TokenSmith,支持Megatron风格框架数据集的交互式编辑分析等操作,即插即用,降低了生产级数据集工具的使用门槛。
2025-09-30 cs.CL
Evaluating Dependencies in Fact Editing for Language Models: Specificity and Implication Awareness
Mila(米拉研究所);McGill University(麦吉尔大学)
本文提出评估协议和DepEdit数据集,用于考察LLM事实编辑中的特异性与逻辑蕴含依赖,实验表明现有方法对表层形式敏感且蕴含推理能力有限。
2023-12-04 cs.CL
Plausible but Not Valid: A Psychometric Audit of LLMs as Synthetic Survey Respondents
Hostinger;Kaunas University of Technology(考纳斯理工大学);AI Insight Lab
本文通过心理计量学分析发现,虽LLMs可复现人类调查关系的定性方向,但其心理计量学相似性不及高斯copula基线,且存在默许偏移、预测效度下降等问题,无法作为人类调查数据的直接替代品。
2026-10-14 cs.AI cs.CL cs.CY
Combining Large Language Models and Gradient-Free Optimization for Automatic Control Policy Synthesis
UC Berkeley, Department of Mechanical Engineering(伯克利大学机械工程系)
针对大语言模型生成控制策略时无法区分结构与数值参数、搜索效率低的问题,提出将结构综合与参数优化解耦的混合方法,在控制任务上实现了更高回报与更优样本效率,兼具可解释性与高性能。
2025-10-01 cs.AI cs.LG cs.NE
Understanding Graphical Perception in Data Visualization through Zero-shot Prompting of Vision-Language Models
Harvard University(哈佛大学);New York University(纽约大学);Georgia Institute of Technology(佐治亚理工学院)
该研究评估视觉语言模型零样本提示在图形感知任务上的准确率,发现其在特定任务样式下表现与人类相似,且对样式变化敏感,为用VLM建模人类可视化感知能力奠定基础。
2024-10-31 cs.AI cs.CV
Semantic visually-guided acoustic highlighting with large vision-language models
University of Rochester(罗切斯特大学)
本文提出利用大型视觉-语言模型提取视觉-语义特征,以提升音频混音质量,发现摄像机焦点、语气和场景背景对感知混音质量提升最显著。
2026-01-12 cs.AI cs.SD eess.AS
DS@GT ARC at Touché: Large Language Models for Retrieval-Augmented Debate
Georgia Institute of Technology(佐治亚理工学院)
DS@GT ARC参与Touché 2025检索增强辩论任务,采用三家提供商的六个主流LLMs通过检索增强提示流水线,发现多LLM评估者一致性无法可靠追踪官方评估目标,在质准则上差距最大。
2026-08-11 cs.CL cs.IR
Synthetic Data Generation Using Large Language Models: Advances in Text and Code
Faculty of Mathematics and Computer Science, Babeş-Bolyai University(巴贝什-博耶亚大学数学与计算机科学系);KlusAI Research Lab(KlusAI研究实验室)
本文探讨了利用大语言模型生成合成数据在文本和代码领域的新进展,分析了其在低资源任务和代码应用中的潜力及挑战。
2025-07-22 cs.CL
Language Models as Semantic Teachers: Post-Training Alignment for Medical Audio Understanding
Eindhoven University of Technology, The Netherlands(埃因霍温理工大学,荷兰);Kyutai, France(Kyutai公司,法国);Eindhoven Artificial Intelligence Systems Institute, The Netherlands(埃因霍温人工智能系统研究所,荷兰)
本文提出AcuLa框架,通过将音频编码器与医学语言模型对齐,提升医学音频的语义理解能力,在18个心血管任务中取得最佳性能,显著提升诊断准确性。
2026-04-17 cs.AI cs.SD
VHDLSuite: Unified Pipeline for LLM VHDL Generation with Data Synthesis and Evaluation
Center for Data Science, NYU Shanghai, China(纽约市立大学上海分校数据科学中心);NYU Tandon School of Engineering, USA(纽约大学Tandon工程学院);NYU Abu Dhabi, UAE(纽约大学阿布扎比分校)
提出VHDLSuite基础设施,通过自动基准合成、可执行验证和多模型诊断分析,解决LLM在VHDL生成评估中的不足,并构建含200+问题的VHDLBench基准。
2026-06-15 cs.AI cs.AR cs.LG
SCALE: Upscaled Continual Learning of Large Language Models
SCALE通过宽度扩展架构在持续学习中平衡稳定性与可塑性,减少遗忘并提升多语言性能。
2025-12-11 cs.CL
NoteBar: An AI-Assisted Note-Taking System for Personal Knowledge Management
NoteBar Research(NoteBar研究);University of Rochester(罗切斯特大学);Case Western Reserve University(凯斯西储大学);Skidmore College(斯克里文学院)
针对现有AI辅助笔记工具效率不足的问题,提出结合人格信息与高效语言模型的NoteBar系统,构建含16种MBTI人格的标注笔记数据集,验证了其低成本实用部署的可行性,为AI辅助个人知识管理提供可扩展基础。
2025-09-03 cs.CL
Dolma: an Open Corpus of Three Trillion Tokens for Language Model Pretraining Research
Allen Institute for AI(艾伦人工智能研究所);University of California, Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学);Spiffy AI(Spiffy AI公司);Massachusetts Institute of Technology(麻省理工学院);University of Washington(华盛顿大学)
本文发布了包含三万亿词元的英文开放语料库Dolma,详细记录了其构建过程并开源数据整理工具包,以促进语言模型预训练研究。
2024-06-06 cs.CL
"Mistakes Help Us Grow": Facilitating and Evaluating Growth Mindset Supportive Language in Classrooms
UT Austin(德克萨斯大学奥斯汀分校);Vanderbilt University(范德堡大学);Stanford University(斯坦福大学);Brown University(布朗大学)
本研究探索利用大语言模型为教师提供自动化成长型思维支持性语言指导,构建数据集、提示框架和评估框架,并通过大规模评估验证其有效性,发现模型改写优于教师改写。
2023-10-16 cs.CL
VNHSGE: VietNamese High School Graduation Examination Dataset for Large Language Models
Eastern International University(东方国际大学);International University(国际大学)
本文提出覆盖九科目、含逾1.9万选择题和300篇作文的越南高中毕业考试数据集VNHSGE,用于多任务评估大语言模型,并发现ChatGPT和BingChat在文科接近人类水平、在数学和自然科学仍有不足。
2023-05-20 cs.CL
EgoCross: Benchmarking Multimodal Large Language Models for Cross-Domain Egocentric Video Question Answering
EgoCross提出一个跨领域眼动视频问答基准,评估多模态大语言模型在不同领域中的泛化能力,揭示现有模型在非日常领域任务中的局限性。
2026-03-10 cs.AI cs.CV
Language-assisted Vision Model Debugger: A Sample-Free Approach to Finding and Fixing Bugs
School of Computer;Information Technology \& Beijing Key Lab of Traffic Data Analysis;Mining, Beijing Jiaotong University, Beijing, China
本文提出基于 CLIP 和 LLM 的无样本语言辅助诊断框架,通过文本代理模型探测视觉模型缺陷,并在 Waterbirds 与 CelebA 上发现已知及未知错误。
2024-03-03 cs.AI cs.CV
Using LLMs for Explainable, Data-Driven Insight Generation from Time Series
University of Oxford(牛津大学);Vortexa
研究针对时间序列预测中解释生成难且易幻觉的问题,提出领域无关框架,含提取解释因素、基于证据生成解释及可扩展评估三组件,经案例研究验证,该框架能大规模实现有根据的解释生成,无需特定领域微调。
2026-07-22 cs.AI
SoK: a Comprehensive Causality Analysis Framework for Large Language Model Security
Singapore Management University(新加坡管理大学)
本文提出一个综合因果分析框架,用于研究大语言模型安全问题,通过系统分析因果因素提升模型安全性。
2025-12-04 cs.AI cs.CR
Hallucinating AI Hijacking Attack: Large Language Models and Malicious Code Recommenders
PeopleTec(PeopleTec公司)
本研究揭示大语言模型存在语境突变防护漏洞,攻击者可借编程场景诱导模型推荐含恶意API的代码,结合代码仓库与CDN放大攻击面,提出一种新型“借地生存”式AI劫持攻击。
2024-10-09 cs.AI cs.CR
BarrierBench: Evaluating Large Language Models for Safety Verification in Dynamical Systems
Isfahan University of Technology(伊斯法罕技术大学);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);University of Colorado Boulder(科罗拉多大学博尔德分校)
本文提出BarrierBench基准,评估大型语言模型在动态系统安全验证中的能力,通过100个动态系统案例测试语言模型在生成安全证书和协调策略中的有效性。
2026-04-16 cs.AI cs.SY eess.SY
Recovered in Translation: Efficient Pipeline for Automated Translation of Benchmarks and Datasets
INSAIT, Sofia University "St. Kliment Ohridski"(INSAIT,索菲亚大学"圣克莱门特·奥赫里迪斯基");ETH Zurich(苏黎世联邦理工学院)
本文提出了一种高效自动化框架,用于高质量翻译多语言基准和数据集,以提升多语言AI评估的准确性和可靠性。
2026-02-25 cs.AI cs.CL cs.LG