Fine-Tuning LLMs with Fine-Grained Human Feedback on Text Spans
Columbia University(哥伦比亚大学);Microsoft(微软公司);Johns Hopkins University(约翰霍普金斯大学)
本文提出基于文本片段的细粒度人类反馈方法,通过反馈驱动的改进链提升语言模型微调效果。
2025-12-29 cs.CL
Revealing Weaknesses in Text Watermarking Through Self-Information Rewrite Attacks
University of British Columbia(不列颠哥伦比亚大学);Vector Institute for AI(向量人工智能研究所);University of Cambridge(剑桥大学);Canada CIFAR AI Chair(加拿大CIFAR人工智能主席);NSERC CRC Chair(NSERC加拿大研究主席)
本文提出自信息重写攻击 SIRA,利用高熵 token 水印设计漏洞,在无需访问水印模型的情况下以低成本近乎完全攻破七种近期文本水印方法。
2025-05-11 cs.AI cs.CL cs.CR
Learning to Rewrite Prompts for Bootstrapping LLMs on Downstream Tasks
Hopcroft Center on Computing Science Huazhong University of Science and Technology (HUST)(霍普克罗夫特计算科学中心华中科技大学)
本文提出一种基于反向翻译策略训练的小参数模型,专门优化机器翻译任务的提示输入部分,以降低训练开销并提升性能,且可扩展至其他下游任务。
2025-10-08 cs.AI cs.CL cs.LG
Fine-grained Controllable Text Generation through In-context Learning with Feedback
Saarland Informatics Campus(萨尔兰信息学园区);Saarland University(萨尔兰大学)
本文提出利用带反馈的上下文学习进行细粒度句子改写,无需微调即可控制依存深度等语言特征,并在指定学龄年级水平改写任务上达到SOTA。
2024-06-17 cs.CL
Reviser: Writing and Editing Text with Autoregressive Cursor Actions
Reviser是一种仅解码器的Transformer,通过自回归光标操作在可变画布上生成文本,实现非单调生成,在延续性基准上优于SEDD和MDLM,并与自回归基线竞争力相当且推理计算更少。
2026-10-15 cs.CL
Predicting Compact Phrasal Rewrites with Large Language Models for ASR Post Editing
Google Research(谷歌研究院)
本文提出一种基于短语的编辑表示,用于LLM在ASR后编辑任务中的紧凑改写,在LibriSpeech上以较小长度缩减损失实现了WER差距的大幅缩小。
2025-01-23 cs.AI cs.CL cs.LG
IRLab@iKAT24: Learned Sparse Retrieval with Multi-aspect LLM Query Generation for Conversational Search
University of Amsterdam(阿姆斯特丹大学)
本文研究对话式搜索中的查询重写,提出基于MQ4CS框架的多维度LLM查询生成方法,并结合SPLADE学习型稀疏检索与交叉编码器重排序,在iKAT 2024任务中验证了该方法能有效提升检索性能并超越人工重写效果。
2024-11-22 cs.CL cs.IR
FACTWASH: Catching AI Rewrites That Wash Hearsay into Fact
本研究提出开源工具factwash,用于捕捉AI将传闻洗成事实的改写,明确否定线索检测F1达0.91,LLM见证者可提升线索检测召回率,在mem0 2.0.7上标记8个模糊传闻写入中的5个。
2026-08-05 cs.AI cs.CL
Forging LLM Authorship Fingerprints with Targeted Rewriting
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);George Mason University(乔治梅森大学);Indiana University(印第安纳大学)
针对模型归属分类器,提出ForgePrint框架,通过搜索-蒸馏方式改写文本以定向迁移模型指纹,在摘要任务上实现高目标成功率,揭示指纹检测不等于来源真实性。
2026-10-01 cs.CL
Query Rewriting for Retrieval-Augmented Large Language Models
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院);Microsoft Azure AI(微软Azure人工智能部门)
本文提出Rewrite-Retrieve-Read框架,通过强化学习训练小型语言模型作为查询重写器,优化检索增强LLM的搜索查询,在开放域和多选QA任务上取得一致性能提升。
2023-10-23 cs.CL
Learning to Rewrite Prompts for Personalized Text Generation
Google Research(谷歌研究院);University of Michigan(密歇根大学)
针对冻结且仅通过API访问的大语言模型,提出一种结合监督学习和强化学习的提示重写方法,自动优化个性化文本生成提示,在三个领域数据集上优于原始及单一学习优化的提示。
2024-02-08 cs.CL
Document Optimization for Black-Box Retrieval via Reinforcement Learning
Stanford University(斯坦福大学);ContextualAI
提出通过强化学习(GRPO)优化文档表示,使其与目标检索器的查询分布对齐,仅需黑盒访问检索排名,在代码和视觉文档检索任务中提升性能,使小模型超越大模型。
2026-10-08 cs.CL cs.IR
Adapting Language Models for Non-Parallel Author-Stylized Rewriting
IIIT Hyderabad(印度国际信息技术研究所海得拉巴分校);Adobe Research(奥多比研究院)
鉴于最近的进展,在语言建模中使用基于transformer的神经模型和积极的兴趣,在生成风格化的文本,我们提出了一种方法,利用泛化能力的语言模型重写输入文本的目标作者的风格。我们提出的方法采用预训练的语言模型,通过使用级联编码器-解码器框架中的去噪自动编码器(DAE)损失对作者特定的语料库进行微调来生成作者风格化的文本。通过对DAE损失进行优化,我们的模型可以在不依赖并行数据的情况下学习作者风格的细微差别,这是该领域以前相关工作的严重限制。为了评估我们的方法的有效性,我们提出了一个语言动机的框架来量化生成的文本的风格对齐目标作者在词汇,句法和表面水平。评估框架是可解释的,因为它导致了关于模型的几个见解,并且是自包含的,因为它不依赖于外部分类器,例如情感或形式分类器。定性和定量评估表明,所提出的方法重写输入文本与目标风格更好地对齐,同时保留原始内容比国家的最先进的基线。
2020-10-31 cs.CL cs.LG
Supportiveness-based Knowledge Rewriting for Retrieval-augmented Language Modeling
Peking University(北京大学);Alibaba Group(阿里巴巴集团)
针对检索增强语言模型中检索知识不可靠的问题,提出基于支持度的知识重写方法SKR,通过支持度筛选训练数据、结合DPO优化重写效果,在多任务多模型上验证了其优于GPT-4的重写能力。
2024-10-03 cs.AI cs.CL
A Single Rewrite Suffices: Empirical Lessons from Production Skill Description Optimization
Microsoft(微软)
针对企业AI代理中技能描述重叠导致路由错误的问题,提出自动化优化管道,在9技能生产系统上达到与手动调优相当的F1值(79.2% vs 79.4%),并将每技能工程时间从120分钟降至3.8分钟。消融实验表明,仅用一次LLM重写即可获得大部分改进。
2026-07-01 cs.AI cs.CL
Controlling Pre-trained Language Models for Grade-Specific Text Simplification
University of Maryland(马里兰大学)
本文研究如何控制预训练语言模型实现面向特定年级的文本简化,提出逐实例预测编辑操作的方法,相比语料库层面搜索启发式方法显著提升了简化输出的质量。
2023-11-30 cs.CL
ProText: A benchmark dataset for measuring (mis)gendering in long-form texts
Apple(苹果公司)
ProText数据集通过三种维度评估长文本中的性别化与误性别化,利用先进大语言模型探讨文本转换中的性别偏见问题,揭示系统性性别偏见。
2026-03-29 cs.CL
Learn-to-Distance: Distance Learning for Detecting LLM-Generated Text
Tsinghua University(清华大学);University of Birmingham(伯明翰大学);London School of Economics and Political Science(伦敦政治经济学院)
本文提出了一种自适应学习的距离方法,用于更有效地检测LLM生成的文本,通过几何方法揭示了重写检测算法的原理,并在多种LLM上实现了显著的性能提升。
2026-03-02 cs.AI cs.CL stat.ML
Measuring and Benchmarking Large Language Models' Capabilities to Generate Persuasive Language
Aarhus University(奥胡斯大学);University of Copenhagen(哥本哈根大学)
该研究构建Persuasive-Pairs数据集并训练回归评分模型,跨领域基准测试大语言模型在说服性改写和释义场景下的说服性语言生成能力,还发现LLaMA3的角色设定会显著影响其说服性语言输出。
2025-02-20 cs.AI cs.CL
Steering Large Language Models with Register Analysis for Arbitrary Style Transfer
Department of Computer Science University of Maryland, College Park(计算机科学系大学马里兰大学学院公园分校)
本文针对基于示例的任意风格迁移任务,提出基于语域分析的提示方法,实验证明该方法在提升风格迁移强度的同时能更好地保留语义。
2025-05-09 cs.CL
Example-Guided Prompting for Document-Level Text Simplification
SCE(SCE(以色列SCE学院));ScaDS.AI, TUD Dresden(ScaDS.AI,德累斯顿工业大学)
该研究针对文档级文本简化中提示指导不足的问题,提出示例引导提示方法,经OneStopEnglish语料库实验,可提升大语言模型的简化质量,性能优于或媲美相关基准系统。
2026-08-07 cs.CL
Thinking Outside of the Differential Privacy Box: A Case Study in Text Privatization with Language Model Prompting
Technical University of Munich(慕尼黑工业大学);School of Computation, Information and Technology(计算、信息与技术学院)
本文以DP-Prompt为案例,通过多场景重写实验和效用与隐私评估,批判性审视差分隐私在NLP中的限制,呼吁重新讨论其可用性与相对优势。
2024-10-01 cs.CL
Don't Retrain, Just Rewrite: Countering Adversarial Perturbations by Rewriting Text
University of Utah(犹他大学);Bloomberg(彭博社)
本文提出ATINTER模型,通过重写对抗性输入而非重新训练分类器来提升文本分类鲁棒性,在多个数据集和攻击下优于现有防御方法,并能跨任务迁移。
2023-05-25 cs.CL
Voice Under Revision: Large Language Models and the Normalization of Personal Narrative
Social Sciences D-Lab, University of California, Berkeley(社会科学D实验室,加州大学伯克利分校)
研究探讨大型语言模型如何通过改写影响个人叙述的风格和叙述质感,发现改写导致风格规范化,包括功能词、缩略语和第一人称代词减少,而词汇多样性、词长和标点使用增加,影响叙述方式和因果推理。
2026-04-24 cs.CL cs.CY
Just Rewrite It Again: A Post-Processing Method for Enhanced Semantic Similarity and Privacy Preservation of Differentially Private Rewritten Text
Technical University of Munich(慕尼黑工业大学)
提出一种对差分隐私重写文本进行再次重写的后处理方法,使输出在语义上更接近原文,并在经验性隐私评估中平均得分更高,为抵御恶意对手提供额外保护。
2024-05-31 cs.CL
DP-Rewrite: Towards Reproducibility and Transparency in Differentially Private Text Rewriting
Technical University of Darmstadt(达姆施塔特工业大学)
基于差分隐私的文本重写为保护文本中个体的隐私提供了具体的理论保证。在实践中,现有系统可能缺乏验证其隐私保护声明的手段,导致透明度和可重复性问题。我们介绍DP-Rewrite,一个用于差异化私有文本重写的开源框架,旨在通过模块化,可扩展和高度可定制来解决这些问题。我们的系统整合了各种下游数据集、模型、预训练程序和评估指标,以提供一种灵活的方式来领导和验证私人文本重写研究。为了在实践中展示我们的软件,我们提供了一组实验作为ADePT DP文本重写系统的案例研究,在其预训练方法中检测隐私泄漏。我们的系统是公开的,我们希望它将有助于社区使DP文本重写研究更容易获得和透明。
2022-08-22 cs.CL cs.CR
Raidar: geneRative AI Detection viA Rewriting
Columbia University(哥伦比亚大学);Rutgers University(罗格斯大学)
本研究发现大语言模型重写时对AI生成文本修改更少,据此提出Raidar检测方法,通过计算重写编辑距离检测AI内容,多领域下F1分数最高提升29点,兼容黑盒模型且鲁棒性强。
2024-04-14 cs.CL
Large Language Model Turnover Undermines Screening for Artificial Intelligence-Assisted Scientific Writing
Tokyo Metropolitan University(东京都立大学);National Institute of Informatics(信息学研究所)
该研究量化了LLM版本更迭对科研写作筛查的影响,发现仅基于旧版本训练的检测器会在模型代际边界处失效,建议科研诚信政策需随LLM版本更新重新验证检测器准确性。
2026-10-09 cs.AI cs.CL cs.CY
I Am No One: Style-Aware Paraphrasing for Text Anonymization
RMIT University(皇家墨尔本理工大学)
提出风格感知提示驱动的文本匿名化方法,利用大语言模型构建风格画像并改写文本,在博客和评论数据集上将作者归属F1降低60-70%,同时保持内容质量。
2026-09-14 cs.CL cs.CR
When Emotion Becomes Trigger: Emotion-style dynamic Backdoor Attack Parasitising Large Language Models
School of Cyber Science and Engineering, Sichuan University(四川大学计算机科学与工程学院);School of Computer Science, China West Normal University(西南大学计算机科学学院);School of Electronic and Information Engineering, Lanzhou Jiaotong University(兰州交通大学电子信息工程学院)
本文提出Paraesthesia攻击,通过情绪风格动态后门触发机制,在大语言模型中实现高隐蔽性的恶意输出。
2026-08-27 cs.AI cs.CL
MELD: Multi-Task Equilibrated Learning Detector for AI-Generated Text
Cornell University(康奈尔大学);Weill Cornell Medicine(韦尔医学院);Cornell Tech(康奈尔科技)
MELD通过多任务学习提升AI生成文本检测的鲁棒性与泛化能力,结合生成器、攻击类型和源域头,平衡损失函数以提高检测精度和低误报率。
2026-09-29 cs.AI cs.CL
Chainwash: Multi-Step Rewriting Attacks on Diffusion Language Model Watermarks
College of Engineering and Computer Science, Marshall University(马歇尔大学工程与计算机科学学院);Department of Computer Science and Engineering, University of Rajshahi(拉贾沙希大学计算机科学与工程系);Miami University(迈阿密大学)
研究多步重写对扩散语言模型水印检测的影响,发现多次重写显著降低检测率,表明重写是更有效的攻击手段。
2026-05-06 cs.CL
Keep It Private: Unsupervised Privatization of Online Text
University of Maryland, College Park(马里兰大学学院公园分校)
针对现有作者身份混淆技术场景窄、输出不自然的问题,提出基于强化学习微调大语言模型的无监督文本私有化框架,在大规模Reddit数据集上验证其兼具高文本质量与隐私防护能力。
2024-05-16 cs.AI cs.CL
RIFF: Learning to Rephrase Inputs for Few-shot Fine-tuning of Language Models
University of Alberta(阿尔伯塔大学)
本文提出RIFF方法,通过训练少样本释义模型改写输入文本,并与参数高效微调结合,在六个文本分类数据集上提升少样本性能。
2024-06-06 cs.CL cs.LG
Decoupled Dialogue Modeling and Semantic Parsing for Multi-Turn Text-to-SQL
Shanghai Jiao Tong University(上海交通大学);State Key Lab of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室)
最近,Text-to-SQL的多轮对话引起了极大的兴趣。在这里,给定所有先前的对话历史,当前回合的用户输入被解析为适当数据库的相应SQL查询。目前的方法大多采用端到端模型,因此面临两个挑战。首先,对话历史建模和Text-to-SQL解析是隐式结合的,因此很难进行可解释性分析和有针对性的改进。第二,多轮对话的SQL注释非常昂贵,导致训练数据稀疏。在本文中,我们提出了一种新的解耦的多轮文本到SQL框架,其中的话语重写模型首先明确地解决了对话上下文的完成,然后是一个单轮文本到SQL解析器。本文还提出了一种双重学习方法来解决数据稀疏性问题。与端到端的方法相比,所提出的解耦方法可以在不需要任何带注释的域内数据的情况下获得优异的性能。在只有几个带注释的重写案例的情况下,解耦方法在SParC和CoSQL数据集上的性能优于已发布的最先进的端到端模型。
2021-06-09 cs.CL
Rewrite-to-Rank: Optimizing Ad Visibility via Retrieval-Aware Text Rewriting
University of Oxford, Oxford, England(牛津大学);University of Berkeley, Berkeley, CA, USA(伯克利大学);Carnegie Mellon University, Pittsburgh, PA, USA(卡内基梅隆大学);Algoverse AI Research, Remote(Algoverse AI研究)
该研究提出Rewrite-to-Rank框架,通过检索感知的广告文本改写优化可见性,设计平衡语义与保真度的损失及两项评估指标,实验证明PPO训练模型效果优于提示工程和监督微调。
2025-07-03 cs.CL
Style Transfer for Texts: Retrain, Report Errors, Compare with Rewrites
Yandex(扬德斯克);Ural Federal University(乌拉尔联邦大学);Sberbank(俄罗斯联邦储蓄银行);Speech Technology Center(语音技术中心)
本文表明,风格迁移的标准评估方法有几个重要的问题。首先,样式准确性和语义保留的标准度量在不同的重新运行中有很大的不同。因此,必须报告所得结果的误差范围。第二,从输入和输出之间的双语评价替代(BLEU)和情感转移的准确性的某些值开始,这两个标准度量的优化偏离了风格转移任务的直观目标。最后,由于任务本身的性质,这两个指标之间存在特定的依赖关系,可以很容易地操纵。在这种情况下,我们建议在基准测试中考虑输入和人类书写的重新表述之间的BLEU。我们还提出了三个新的架构,在这个指标方面优于最先进的。
2019-08-29 cs.CL cs.LG
Retrieve-Rewrite-Answer: A KG-to-Text Enhanced LLMs Framework for Knowledge Graph Question Answering
Southeast University(东南大学);Zhejiang Lab(之江实验室)
本文针对大语言模型在知识图谱问答中长尾知识不足的问题,提出答案敏感的KG-to-Text方法及增强LLMs框架,将KG知识转化为高信息量文本,并在多个基准上验证其优于已有KG增强方法。
2023-09-21 cs.AI cs.CL
TextReg: Mitigating Prompt Distributional Overfitting via Regularized Text-Space Optimization
Georgia Institute of Technology(佐治亚理工学院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文研究了提示分布过拟合问题,提出TextReg框架通过正则化的文本梯度实现软惩罚目标,结合双证据梯度净化、语义编辑正则化和正则化引导的提示更新,提升模型在分布外(OOD)任务上的泛化能力。
2026-10-06 cs.AI cs.CL cs.LG
Theoria: Rewrite-Acceptability Verification over Informal Reasoning States
Independent Researchers(独立研究者)
提出Theoria验证架构,通过将候选解重写为带显式理由的序列化状态转换并验证变更完整性,在HLE-Verified Gold上以91.4%精确率认证105个问题,优于整体式LLM评判。
2026-07-21 cs.AI cs.CL cs.LG
Short-form Text Rewriting with Phi Silica
IEEE ICAD
本研究通过数据集整理、提示蒸馏、参数高效微调和评估,将小语言模型 Phi Silica 适配于短文本改写任务,结果表明微调提高了语义保真度、减少了幻觉并提升了与 GPT-5-chat 改写的偏好胜率。
2026-05-30 cs.AI cs.CL cs.LG
Improving Sequence-to-Sequence Pre-training via Sequence Span Rewriting
Stanford University(斯坦福大学);Microsoft Research Asia(微软亚洲研究院);University of California, San Diego(加利福尼亚大学圣迭戈分校);Beihang University(北京航空航天大学)
在本文中,我们概括了文本填充(例如,掩蔽的语言模型),提出序列跨度重写(SSR)作为自监督序列到序列(seq2seq)的预训练目标。SSR通过监督模型将不完美的跨度重写为基本事实,为文本表示提供了更细粒度的学习信号,并且它比文本填充更一致,其中许多下游seq2seq任务将源句子重写为目标句子。我们在各种seq2seq任务上使用T5模型进行的实验表明,SSR可以显著改善seq2seq预训练。此外,我们观察到SSR特别有助于改进具有强大的不完美跨度生成器的小规模seq2seq模型的预训练,这表明将知识从大模型转移到较小的seq2seq预训练模型的新视角。
2021-09-24 cs.CL
When AI Rewrites, Classifiers Relax: Uncertainty-Aware Sentiment Analysis on Sarcastic and AI-Paraphrased Social Text
Manipal University Jaipur(斋浦尔马尼帕尔大学)
该研究针对讽刺与AI改写社交文本开展情感分析,发现AI改写文本可提升分类器准确率,提出轻量弃权包装器,推动高风险情感应用转向不确定性感知预测。
2026-08-18 cs.AI cs.CL
Don't Take This Out of Context! On the Need for Contextual Models and Evaluations for Stylistic Rewriting
Carnegie Mellon University(卡内基梅隆大学);Google DeepMind(谷歌DeepMind);Allen Institute for AI(艾伦人工智能研究所)
本文研究将上下文整合到风格文本改写的生成与评估阶段,提出复合评估指标CtxSimFit及常见指标的上下文注入版本,发现上下文改写更受人类偏好且新指标与人类偏好的相关性显著优于现有句子级指标。
2023-10-23 cs.AI cs.CL
Select or Rewrite: Oracle-Guided Fine-Tuning for Generative ASR Post-Editing from N-Best Hypotheses
Idiap Research Institute(伊迪亚普研究所);KTH Royal Institute of Technology(皇家理工学院);Brno University of Technology(布尔诺理工大学)
针对仅提示的ASR后编辑方法存在过度编辑、幻觉及需大模型的缺陷,提出Oracle引导微调方法,利用三类N-best池训练混合选择-重写策略,在专有数据集上收益显著,CommonVoice数据集结果存在差异。
2026-10-14 cs.AI cs.CL
Do VLMs Read or Rewrite? On Transcription Faithfulness in Vision-Language Models
研究视觉语言模型在文档理解中是否忠实转录。引入FaithC4基准,评估通用、OCR专用VLMs及传统OCR管道。发现通用VLMs受扰WER降4.5分,OCR专用降0.2 - 2分,传统OCR降不到0.6分。还揭示重写与FFN表示及单词长度的关系。
2026-09-03 cs.AI cs.CL
UnBias-Plus: Detect, Explain, and Rewrite Bias
Vector Institute for Artificial Intelligence(向量人工智能研究所);Independent Researcher(独立研究者)
提出UnBias-Plus开源工具包,统一多类偏见分类、偏见片段定位、中性重写和决策推理,支持多种接口。
2026-06-23 cs.AI cs.CL cs.SE
DAMAGE: Detecting Adversarially Modified AI Generated Text
Pangram Labs, Inc.(Pangram实验室)
针对AI人性化工具规避文本检测的问题,本文评估19种工具,提出以数据为中心的增强检测模型,并通过自攻击验证其跨工具泛化与稳健性。
2025-01-06 cs.CL
Zero-Shot Fine-Grained Style Transfer: Leveraging Distributed Continuous Style Representations to Transfer To Unseen Styles
Facebook AI Research(脸书人工智能研究院)
文本样式转换通常使用可以采用少量离散值的属性(例如,负面评价)。在这项工作中,我们引入了一种体系结构,该体系结构可以利用预训练的一致连续分布式风格表示,并使用它们来转移到训练期间未见过的属性,而无需对风格转移模型进行任何重新调整。我们通过训练一个架构来展示该方法,该架构使用超过20个情感标签的细粒度集合,而不是风格转移中经常使用的二进制正/负,将传达一种情感的文本转移到另一种情感。我们的实验表明,这个模型可以重写文本,以匹配在训练过程中看不到的目标情感。
2019-11-10 cs.CL
CAMOUFLAGE: Exploiting Misinformation Detection Systems Through LLM-driven Adversarial Claim Transformation
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
CAMOUFLAGE提出一种LLM驱动的双智能体对抗攻击方法,通过迭代改写声明操纵证据检索与比较模块,在不改变语义的前提下绕过误信息检测系统,在四个系统上平均攻击成功率达46.92%。
2025-05-03 cs.CL
NAP^2: A Benchmark for Naturalness and Privacy-Preserving Text Rewriting by Learning from Human
Monash University(莫纳什大学);Macquarie University(麦考瑞大学);RMIT University(皇家墨尔本理工学院);University of Melbourne(墨尔本大学)
针对云端LLM交互中的隐私泄露问题,本文提出采用人类常用的删除与抽象化策略净化敏感文本,并构建了首个语料库NAP^2,实验证明该方法能产生更自然的改写,并在隐私保护与数据效用间取得更优平衡。
2025-05-27 cs.CL
Generic resources are what you need: Style transfer tasks without task-specific parallel training data
University of Groningen(格罗宁根大学)
风格转换的目的是将源文本改写为不同的目标风格,同时保留其内容。我们提出了一种新的方法来完成这项任务,该方法利用通用资源,并且在不使用任何特定于任务的并行(源-目标)数据的情况下,在两个最流行的风格转换任务上优于现有的无监督方法:形式转换和极性交换。在实践中,我们采用了一个多步骤的过程,它建立在一个通用的预训练序列到序列模型(BART)。首先,我们通过在现有的通用释义集合以及使用通用词汇资源创建的合成对上进一步预训练BART来加强模型的重写能力。其次,通过迭代反向转换方法,我们训练两个模型,每个模型都在一个转移方向上,这样它们就可以在训练过程中动态地为彼此提供合成生成的对。最后,我们让我们最好的reresult模型生成静态合成对,用于监督训练机制。除了方法和最先进的结果,这项工作的核心贡献是对我们所处理的两项任务的性质的反思,以及它们对我们方法的反应如何突出它们的差异。
2021-09-09 cs.CL
A Generalized Recurrent Neural Architecture for Text Classification with Multi-Task Learning
Shanghai Jiao Tong University(上海交通大学)
多任务学习利用相关任务之间的潜在相关性来提取共同特征并产生性能增益。然而,大多数以前的作品只考虑简单或弱的相互作用,从而无法模拟三个或更多的任务之间的复杂的相关性。在本文中,我们提出了一种多任务学习架构,该架构具有四种类型的递归神经层,以融合多个相关任务之间的信息。该体系结构是灵活的,并考虑到各种任务之间的相互作用,这可以被视为许多以前的作品的一般情况下。在五个文本分类基准数据集上的大量实验表明,我们的模型可以显着提高相关任务的性能,并从其他人那里获得额外的信息。
2017-07-10 cs.CL
MSSRNet: Manipulating Sequential Style Representation for Unsupervised Text Style Transfer
The University of Hong Kong(香港大学);Zhejiang University(浙江大学)
针对无监督文本风格迁移中传统固定向量风格调控粒度不足的问题,提出为每个词元分配独立风格向量的MSSRNet,结合融合师生学习的对抗训练框架,在双风格和多风格迁移任务中均提升了迁移准确率与内容保留度。
2023-06-12 cs.AI cs.CL cs.LG