Symbolic Informalization: Fluent, Productive, Multilingual
Department of Computer Science and Engineering, Chalmers University of Technology and University of Gothenburg(查尔姆斯理工大学与哥德堡大学计算机科学与工程系)
提出符号非形式化方法,将形式数学可靠地转换为自然语言,基于Dedukti和Grammatical Framework的中间语言架构,实现多证明系统与多自然语言的流畅转换。
2026-09-09 cs.AI cs.CL cs.LO
Towards Reliable and Fluent Large Language Models: Incorporating Feedback Learning Loops in QA Systems
Naver Corp.(Naver公司);Korea University(高丽大学)
本研究构建数据集训练批评模型评估LLM在QA系统中生成响应的引用、正确性和流畅性,并提出自动化反馈机制与反馈学习循环迭代优化模型,使ChatGPT引用精度提升4%、流畅性提升约8%且保持高正确性。
2023-09-08 cs.AI cs.CL
Fluent but Unfeeling: The Emotional Blind Spots of Language Models
Northeastern University(东北大学);UC San Diego(加州大学圣地亚哥分校);University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校)
针对LLMs在细粒度情感对齐上的评估空白,提出基于Reddit的EXPRESS基准数据集(含251个标签),通过八种基本情感分解进行细粒度比较,发现主流LLMs在准确预测与人类自我披露一致的情感及捕捉上下文线索方面仍存在局限。
2025-09-11 cs.AI cs.CL
Is Multilingual BERT Fluent in Language Generation?
University of Turku(图尔库大学)
多语言BERT模型在104种语言上进行训练,旨在作为一种通用的语言模型和句子编码工具。我们探讨如何以及该模型在几种语言上执行几个任务:一个诊断分类探测嵌入一个特定的句法属性,完形填空任务测试的语言建模能力,以填补句子中的空白,和一个自然语言生成任务测试的能力,以产生连贯的文本拟合给定的上下文。我们发现,目前可用的多语言BERT模型显然不如单语同行,在许多情况下,不能作为一个训练有素的单语模型的替代品。我们发现,英语和德语模型表现良好的一代,而多语言模型是缺乏,特别是北欧语言。
2019-10-09 cs.CL cs.LG
Non-Fluent Synthetic Target-Language Data Improve Neural Machine Translation
Universitat d’Alacant(阿利坎特大学)
针对低资源平行语料不足的问题,本研究打破非流利合成目标语有害的假设,将其作为另一语言纳入多语言翻译框架,在14项高低资源任务中均超越现有合成数据方法,且鲁棒性更强、幻觉更少。
2024-01-29 cs.CL
Fast and Fluent Diffusion Language Models via Convolutional Decoding and Rejective Fine-tuning
Department of Artificial Intelligence(人工智能系);Yonsei University(延世大学)
针对扩散语言模型的长解码窗口问题,提出卷积解码与拒绝式微调,在保持速度的同时提升生成质量,在AlpacaEval等基准上取得最优结果。
2025-10-24 cs.AI cs.CL cs.LG
Phir Hera Fairy: An English Fairytaler is a Strong Faker of Fluent Speech in Low-Resource Indian Languages
Indian Institute of Technology Madras(印度理工学院马德拉斯学院);Saryps Labs(Saryps实验室)
本研究评估英语F5-TTS在11种印度语言上的微调,发现仅用印度数据微调最有效,IN-F5接近人类多语言水平,并支持零资源TTS合成未见语言。
2025-05-27 cs.CL cs.LG cs.SD
Stuttering-Aware Automatic Speech Recognition for Indonesian Language
本文提出一种针对印尼语口吃语音识别的数据增强方法,通过合成数据提升模型对不流畅语音的识别性能。
2026-01-14 cs.CL
Jako Tako or Fluent? Presenting PoVisLE: A Polish Vision-Language Evaluation
NASK National Research Institute(NASK国家研究院)
针对现有英语中心视觉-语言模型在文化理解上的不足,推出波兰语单文化视觉-语言基准 PoVisLE,含1117张图像与2366对标注VQA样本,可评估深层文化多模态理解。
2026-08-11 cs.CL cs.CV
Is ChatGPT a Highly Fluent Grammatical Error Correction System? A Comprehensive Evaluation
University of Macau(澳门大学);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳));Soochow University(苏州大学)
本文全面评估了ChatGPT在语法错误纠正(GEC)任务中的能力,通过设计零样本和少样本思维链设置进行多语言及文档级测试,发现其错误检测与流利度表现出色,但在跨句错误纠正及遵循最小编辑原则上存在局限。
2023-04-04 cs.CL
Better Call SAUL: Fluent and Consistent Language Model Editing with Generation Regularization
Bosch Center for Artificial Intelligence (BCAI)(博世人工智能中心);LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);Hochschule der Medien, Stuttgart(斯图加特媒体大学);Karlsruhe University of Applied Sciences(卡尔斯鲁厄应用技术大学)
本文提出SAUL模型编辑方法,通过句子拼接与增强随机事实进行生成正则化,在保持生成质量的同时以更低计算开销实现优于现有方法的编辑效果。
2024-10-03 cs.CL cs.LG
Minimizing Targeted Activations: Input-Only Suppression of Evaluation-Awareness Latents in Large Language Models
Center for Data Science, New York University(纽约大学数据科学中心)
研究大语言模型中仅通过输入优化提示来抑制“评估感知”潜在因素,采用特定方法在多种目标结构下对Llama模型进行实验,发现潜在因素可抑制,但激活可读性与行为可控性不同,还解决了相关问题。
2026-07-29 cs.AI cs.CL cs.LG
Lost in Translation: Measuring the Effect of Non-Native English on End User Performance of Large Language Models
University of Michigan(密歇根大学)
本研究通过构建FABLE数据集,评估34个开源大语言模型对非母语英语提示的响应,发现模型虽不传播拼写错误,但会镜像用户的修辞和词汇质量,导致非母语用户获得质量更低、流利度更差的答案。
2026-09-30 cs.CL
Reading or Guessing? Visual Grounding Failures of Vision-Language Models for OCR in Ancient Greek Editions
Inria(法国国家信息与自动化研究所)
通过对比开放权重视觉语言模型与传统OCR基线在低资源古希腊批判版本上的表现,发现VLM即使错误也能生成流畅文本,表明其依赖语言先验,并引入扰动和标记级定位度量分析视觉证据。
2026-09-09 cs.AI cs.CL cs.CV
Fluent but Foreign: Even Regional LLMs Lack Cultural Alignment
Cornell University(康奈尔大学);Microsoft Research(微软研究院)
研究发现,即使区域LLM也缺乏文化契合,需通过社区基础的数据和厚宽评估来构建真正主权的LLM。
2026-01-22 cs.AI cs.CL cs.CY
Beyond Fluent Generation: A CPU Reliability Benchmark for MCP-Style Tool Calling in Sub-2B Small Language Models for Edge Deployment
University of the West of England(西英格兰大学)
针对边缘设备上MCP风格工具调用的可靠性,提出CPU基准测试,评估五个Sub-2B模型,发现Qwen2.5-1.5B最优,并揭示资源与可靠性权衡。
2026-09-09 cs.CL
Automated Generation of Accurate \& Fluent Medical X-ray Reports
University of Alberta(阿尔伯塔大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
我们的论文重点是自动生成的医疗报告,从胸部X射线图像输入,一个关键的,但耗时的任务,放射科医生。与现有的倾向于生成人类可读报告的医疗报告生成工作不同,我们的目标是生成流畅且临床准确的医疗报告。这是通过我们的完全可区分和端到端的范例来实现的,该范例包含三个互补模块:以患者的胸部X射线图像和临床历史文档作为输入,我们的分类模块生成疾病相关主题的内部检查列表,称为丰富的疾病嵌入;然后将嵌入表示传递到我们基于transformer的生成器,生成医疗报告;同时,我们的生成器还产生了加权嵌入表示,并将其提供给我们的解释器,以确保与疾病相关的主题的一致性。我们的方法在常用的语言流畅性和临床准确性方面取得了令人满意的结果。此外,当额外的输入信息可用时,如临床文档和不同视图的额外扫描,可以持续观察到显著的性能提升。
2021-08-27 cs.CL
Artificially Fluent: Swahili AI Performance Benchmarks Between English-Trained and Natively-Trained Datasets
Phillips Exeter Academy(菲利普斯埃克塞特学院);Harvard University(哈佛大学)
本研究通过对比原生斯瓦希里语训练与翻译后英语评测的BERT模型,证明语言一致性优于跨语言翻译抽象,凸显低资源语言原生数据集建设的重要性。
2025-09-28 cs.CL cs.CY
A Plug-and-Play Method for Controlled Text Generation
ETH Zürich(苏黎世联邦理工学院);University of Cambridge(剑桥大学)
大型预训练的语言模型已经多次显示出它们生成流畅文本的能力。然而,即使从一个提示开始,生成也可以朝着许多看似合理的方向继续。当前的解码方法的目标是控制生成,例如,为了确保包括特定的单词,或者需要额外的模型或微调,或者当手头的任务在语义上不受约束时工作不佳,例如,故事世代在这项工作中,我们提出了一种即插即用的解码方法,用于控制语言生成,这是如此简单和直观,它可以用一句话来描述:给定一个主题或关键字,我们增加了一个转移到概率分布在我们的词汇语义相似的话。我们展示了如何退火这种分布可以用来强加硬约束语言生成,没有其他的即插即用的方法是目前能够与SOTA语言生成器。尽管这种方法很简单,但我们看到它在实践中表现得非常好:从GPT-2解码可以产生多样化和流畅的句子,同时保证给定引导词的外观。我们进行了两项用户研究,结果表明:(1)我们的方法在人类评估中优于竞争方法;(2)强制引导词出现在生成的文本中对生成的文本的流畅性没有影响。
2021-09-20 cs.AI cs.CL
Large Language Models Can Better Understand Knowledge Graphs Than We Thought
Southeast University(东南大学);The University of New South Wales(新南威尔士大学);Monash University(莫纳什大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
本研究通过大规模实验发现,线性化三元组比自然语言文本更能帮助LLMs理解知识图谱并回答事实性问题,且不同模型对三元组组织格式有不同偏好,更大规模模型更易受噪声和不完整子图影响。
2025-01-23 cs.AI cs.CL
Generating Reports or Repeating Templates? Measuring and Mitigating Template Collapse in 3D CT Report Generation
Technical University of Munich (TUM)(慕尼黑技术大学);TUM Hospital(TUM医院);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
针对三维CT报告生成中模型输出多样性低、病理检测能力差的模板崩溃问题,提出解耦框架CLarGen,通过分离临床检测与语言合成,显著提升临床准确性并保持报告流畅性。
2026-09-15 cs.AI cs.CL cs.CV
Neural Conversation Models and How to Rein Them in: A Survey of Failures and Fixes
University of Potsdam(波茨坦大学)
本文从格赖斯合作准则出发,系统梳理神经对话模型在流畅性、信息量、一致性、连贯性和社会规范方面的失败与修复方法,并提出未来研究方向。
2023-08-11 cs.AI cs.CL cs.LG
Generating Sentiment-Preserving Fake Online Reviews Using Neural Language Models and Their Human- and Machine-based Detection
Saarland Informatics Campus(萨尔信息学园区);University of Southern California(南加州大学);National Institute of Informatics(国立信息学研究所);SOKENDAI(综合研究大学院大学)
先进的神经语言模型(NLM)被广泛用于序列生成任务,因为它们能够生成流畅和有意义的句子。它们还可以用来生成虚假评论,然后可以用来攻击在线评论系统并影响在线购物者的购买决策。为了执行这样的攻击,专家有必要针对特定主题训练量身定制的LM。在这项工作中,我们证明了一个低技能的威胁模型可以通过结合公开可用的LM来构建,并证明所产生的虚假评论可以欺骗人类和机器。特别地,我们使用GPT-2 NLM基于具有期望情感的评论生成大量高质量评论,然后使用基于BERT的文本分类器(准确率为96%)过滤掉具有不期望情感的评论。因为评论中的单词都没有被修改,所以可以从学习的分布中生成流畅的样本,如训练数据。80名参与者的主观评价表明,这种简单的方法可以产生与人写的评论一样流畅的评论。它还表明,参与者倾向于随机区分虚假评论。三种对策,Grover,GLTR和OpenAI GPT-2检测器,被发现难以准确检测虚假评论。
2019-12-03 cs.CL cs.CR cs.IR
DisfluencyFixer: A tool to enhance Language Learning through Speech To Speech Disfluency Correction
IIT Bombay(印度理工学院孟买分校)
DisfluencyFixer通过ASR、不流利修正和TTS流水线实现英语和印地语的语音到语音不流利修正,并提供转写、不流利类型及计数,为语言学习者提供一站式流利度提升工具。
2023-05-26 cs.CL cs.LG cs.SD
The Whole Truth and Nothing But the Truth: Faithful and Controllable Dialogue Response Generation with Dataflow Transduction and Constrained Decoding
Microsoft Semantic Machines(微软语义机器公司)
本文提出一种混合架构,结合数据流转导规则与受限解码,在神经语言模型生成中约束输出,实现既忠实又可控的对话回复生成,并在流畅性、相关性和真实性上超越现有方法。
2023-05-26 cs.CL
Multilingual AMR-to-Text Generation
FAIR(Facebook人工智能研究院);LORIA(洛林计算机科学及其应用研究实验室);Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心)
从结构化数据生成文本具有挑战性,因为它需要弥合(i)结构和自然语言(NL)以及(ii)语义欠指定的输入和完全指定的NL输出之间的差距。多语言生成带来了额外的挑战:生成具有不同词序和形态属性的语言。在这项工作中,我们专注于抽象意义表征(AMR)作为结构化输入,以前的研究绝大多数集中在生成只到英语。我们利用跨语言嵌入、预训练和多语言模型方面的进步,创建了多语言AMR到文本模型,这些模型可以用21种不同的语言生成。对于18种语言,基于自动度量,我们的多语言模型超过了生成单一语言的基线。我们分析了我们的多语言模型使用人类评估准确捕捉形态和词序的能力,发现母语者判断我们这一代人流利。
2020-11-10 cs.CL
Leveraging Acoustic and Linguistic Embeddings from Pretrained speech and language Models for Intent Classification
National University of Singapore(新加坡国立大学)
意图分类是口语语言理解的一项任务。意图分类系统通常被实现为流水线过程,其中语音识别模块之后是对意图进行分类的文本处理。也有端到端系统的研究,以声学特征作为输入,并直接分类的意图。这样的系统没有利用相关的语言信息,并且受到有限的训练数据的影响。在这项工作中,我们提出了一种新的意图分类框架,采用从预训练的语音识别系统中提取的声学特征和从预训练的语言模型中学习的语言特征。我们使用知识蒸馏技术将声学嵌入映射到语言嵌入。我们执行融合的声学和语言嵌入通过交叉注意的方法来分类意图。在ATIS和Fluent语音语料库上的测试结果表明,该方法的准确率分别达到90.86%和99.07%。
2021-02-15 cs.CL
DRAG: Director-Generator Language Modelling Framework for Non-Parallel Author Stylized Rewriting
Adobe Research(奥多比研究院);Georgia Tech(佐治亚理工学院)
作者风格化改写是指按照作者的风格对输入文本进行改写。最近在这方面的工作已经在去噪自动编码器设置中利用基于transformer的语言模型来生成作者风格化的文本,而不依赖于并行的数据语料库。然而,这些方法受到缺乏对目标属性的显式控制以及完全数据驱动的限制。在本文中,我们提出了一个Director-Generator框架,以目标作者的风格重写内容,特别关注某些目标属性。我们表明,我们提出的框架工作良好,即使是一个有限大小的目标作者语料库。我们的实验语料库由三个不同的作者创作的相对较小的文本显着改善现有的作品重写输入文本的目标作者的风格。我们的定量和定性分析进一步表明,我们的模型有更好的意义保持和更流畅的一代的结果。
2021-01-28 cs.AI cs.CL cs.LG
Counterfactuals As a Means for Evaluating Faithfulness of Attribution Methods in Autoregressive Language Models
Tehran Institute for Advanced Studies, Khatam University(哈塔姆大学德黑兰高级研究所)
针对自回归语言模型归因方法忠实性评估中破坏输入导致分布外样本的问题,本文提出利用反事实生成技术构造流畅且符合分布的反事实样本,以提高评估协议的可靠性。
2025-03-07 cs.CL
Toward Human Readable Prompt Tuning: Kubrick's The Shining is a good movie, and a good prompt too?
University of Washington(华盛顿大学)
大语言模型可以在指定所需行为的自然语言提示下以zero-shot方式执行新任务。这种提示通常是手工设计的,但也可以通过基于梯度的方法从标记的数据中学习。然而,是什么因素使提示有效,特别是当提示是自然语言时,还没有充分探索。在本文中,我们调查的共同属性共享有效的提示。首先,我们提出了一个人可读的提示微调方法(F LUENT P ROMPT)的基础上朗之万动力学,结合了流畅性约束,找到一个有效的和流畅的提示的多样性分布。我们的分析表明,有效的提示主题相关的任务域和校准的先验概率的标签词。基于这些发现,我们还提出了一种仅使用未标记数据生成提示的方法,在三个任务中的平均准确率超过强基线7.0%。
2022-12-20 cs.CL
Attention Sinks as Internal Signals for Hallucination Detection in Large Language Models
Department of Artificial Intelligence, Wroclaw University of Science and Technology(弗罗茨瓦夫科技大学人工智能系)
本文提出SinkProbe方法,通过分析注意力汇点揭示幻觉检测机制,基于理论提出新的检测方法,在多个数据集和LLM上取得最佳性能。
2026-08-04 cs.CL cs.LG
Extending Context Window of Large Language Models via Semantic Compression
Tsinghua University(清华大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
针对大语言模型上下文长度受限的问题,提出一种基于信息论信源编码、无需微调的语义压缩方法,可将上下文扩展6-8倍,在多类任务中有效且能降低计算开销、保持生成流畅度。
2023-12-15 cs.CL cs.IT math.IT