Authorship Attribution in Multilingual Machine-Generated Texts
DIMES Department, University of Calabria(卡利博大学DIMES系);Kempelen Institute of Intelligent Technologies(智能技术研究所)
提出多语言作者归属问题,研究单语言方法在18种语言和8个生成器上的跨语言迁移能力,发现显著局限。
2026-06-12 cs.AI cs.CL cs.CY
Keep It Private: Unsupervised Privatization of Online Text
University of Maryland, College Park(马里兰大学学院公园分校)
针对现有作者身份混淆技术场景窄、输出不自然的问题,提出基于强化学习微调大语言模型的无监督文本私有化框架,在大规模Reddit数据集上验证其兼具高文本质量与隐私防护能力。
2024-05-16 cs.AI cs.CL
Trends and Challenges in Authorship Analysis: A Review of ML, DL, and LLM Approaches
Luleå University of Technology(吕勒奥理工大学)
该综述针对作者身份分析的两大子任务,梳理了2015-2024年从传统ML到LLM的SOTA方法,分析了相关技术、数据集与挑战,指出低资源语言处理等研究空白,为领域发展提供参考。
2025-05-21 cs.CL
TAROT: Task-Oriented Authorship Obfuscation Using Policy Optimization Methods
Hornetsecurity(霍内特安全公司);Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院)
提出无监督方法 TAROT,利用策略优化微调小型语言模型并重写全文,在保留下游任务效用的同时降低攻击者识别作者身份的准确率。
2025-03-18 cs.CL
A Girl Has A Name: Detecting Authorship Obfuscation
The University of Iowa(爱荷华大学)
作者归属的目的是在文体分析的基础上确定文本的作者。另一方面,作者身份混淆旨在通过修改文本的风格来防止作者归属。在本文中,我们评估了对抗性威胁模型下最先进的作者身份混淆方法的隐蔽性。混淆器是隐形的,在某种程度上,对手发现检测混淆器修改的文本是否被混淆是具有挑战性的-这是对作者归属感兴趣的对手的关键决定。我们发现,现有的作者身份混淆方法并不隐秘,因为它们的混淆文本可以被识别,平均F1得分为0.87。缺乏隐蔽性的原因是这些模糊器以可检测的方式降低了文本平滑度,如神经语言模型所确定的。我们的研究结果强调需要开发隐形的作者身份混淆方法,可以更好地保护作者的身份寻求匿名。
2020-05-02 cs.CL cs.IR cs.LG
Attribution and Obfuscation of Neural Text Authorship: A Data Mining Perspective
Penn State University(宾夕法尼亚州立大学);University of Mississippi(密西西比大学)
作者身份归属(AA)和作者身份混淆(AO)是隐私研究中两个日益引起兴趣和重要性的相互关联的研究问题。给定一个工件,特别是一个有问题的文本t,AA解决方案的目标是准确地将t归因于许多候选作者中的真实作者,而AO解决方案的目标是修改t以隐藏其真实作者。传统上,作者身份的概念及其伴随的隐私问题只针对人类作者。然而,近年来,由于NLP中神经文本生成(NTG)技术的爆炸性进步,能够合成人类质量的开放式文本(所谓的“神经文本”),人们现在必须考虑人类,机器或其组合的作者。由于神经文本在恶意使用时的影响和潜在威胁,了解传统AA/AO解决方案的局限性并开发新的AA/AO解决方案来处理神经文本变得至关重要。因此,在这项调查中,我们从数据采掘的角度对神经文本作者的归属和混淆的最新文献进行了全面的回顾,并分享了我们对他们的局限性和有前途的研究方向的看法。
2023-03-13 cs.CL cs.LG
PADBen: A Comprehensive Benchmark for Evaluating AI Text Detectors Against Paraphrase Attacks
Khoury College of Computer Science(科里学院计算机科学学院)
本文提出PADBen基准,首次系统评估AI文本检测器抵御改写攻击的鲁棒性,发现现有检测器在作者混淆场景下失效,揭示需超越现有语义和风格判别方法的根本性架构进步。
2025-11-01 cs.AI cs.CL
UID as a Guiding Metric for Automated Authorship Obfuscation
Saint Vincent College(圣文森特学院)
本文提出三种基于均匀信息密度(UID)理论的作者身份混淆方法,并在TuringBench的人类与GPT-3文章上测试,结果未证明UID适合作为混淆指导指标。
2023-11-05 cs.CL cs.CR
ALISON: Fast and Effective Stylometric Authorship Obfuscation
Washington University in St. Louis(圣路易斯华盛顿大学);The Pennsylvania State University(宾夕法尼亚州立大学);University of Mississippi(密西西比大学)
针对现有作者身份混淆方法速度慢、实用性不足的问题,提出ALISON方法,在大幅提升混淆速度的同时取得更优效果,还具备可解释性,可保护ChatGPT生成文本的作者隐私。
2024-02-01 cs.AI cs.CL cs.LG
SemEval-2024 Task 8: Multidomain, Multimodel and Multilingual Machine-Generated Text Detection
MBZUAI(穆罕默德·本·扎耶德人工智能大学);TU Darmstadt(达姆施塔特工业大学);University of Cambridge(剑桥大学);Institute of Information Science Technology(信息技术研究所);New York University Abu Dhabi(纽约大学阿布扎比分校)
本文介绍了 SemEval-2024 Task 8 的机器生成文本检测任务,涵盖二元分类、来源检测和转变点识别三个子任务,发现表现最佳的系统均使用了 LLM。
2024-04-22 cs.CL
A Girl Has A Name, And It's ... Adversarial Authorship Attribution for Deobfuscation
University of California, Davis(加州大学戴维斯分校);University of Iowa(爱荷华大学)
自然语言处理的最新进展使得强大的侵犯隐私的作者归属成为可能。为了对抗作者归属,研究者们提出了各种基于规则和基于学习的文本混淆方法。然而,现有的作者身份混淆方法不考虑对抗性威胁模型。具体来说,它们不会针对意识到潜在混淆的经过对抗训练的作者归属进行评估。为了填补这一空白,我们研究了对抗性作者归属问题。我们发现,经过对抗训练的作者归属能够将现有混淆器的有效性从20-30%降低到5- 10%。我们还评估了当归因者对是否使用混淆器以及使用哪个混淆器做出错误假设时对抗训练的有效性。虽然归因准确性有明显的下降,但值得注意的是,这种下降仍然等于或高于根本没有经过对抗训练的归因者的归因准确性。我们的研究结果强调了需要更强大的混淆方法,可以抵抗去混淆
2022-03-22 cs.CL cs.CR cs.LG
Increasing the Robustness of the Fine-tuned Multilingual Machine-Generated Text Detectors
Kempelen Institute of Intelligent Technologies(肯佩伦智能技术研究院)
针对LLM普及后机器生成文本难识别、易被滥用的问题,提出鲁棒的LLM微调流程,提升多语言机器生成文本检测器抗混淆能力与分布外数据泛化性。
2025-03-19 cs.AI cs.CL
Large Language Models and Forensic Linguistics: Navigating Opportunities and Threats in the Age of Generative AI
College of Humanities and Social Sciences(人文与社会科学学院);Hamad Bin Khalifa University(哈马德·本·卡西姆大学)
本文探讨了大语言模型对语言学鉴定的双重影响,指出其在分析工具与身份混淆方面的矛盾,并提出混合工作流程和可解释检测方法以提升科学可信度和法律可采性。
2025-12-07 cs.CL cs.CY
Two Birds with One Stone: Multi-Task Detection and Attribution of LLM-Generated Text
University of Georgia(佐治亚大学);Egypt-Japan University of Science and Technology(埃及-日本科学技术大学);University of Louisville(路易斯维尔大学)
针对LLM生成文本的检测与归属问题,提出多任务学习框架DA-MTL,在多数据集与骨干模型上验证其多语言、多来源性能及鲁棒性,为相关任务泛化提供见解。
2025-08-19 cs.CL cs.CR cs.LG
Leveraging Multilingual Training for Authorship Representation: Enhancing Generalization across Languages and Domains
University of Michigan(密歇根大学)
本文提出一种多语言作者表征学习方法,通过概率内容掩码和语言感知批处理两项创新,在36种语言、13个领域、450余万作者上训练,显著优于单语基线并增强跨语言与跨领域泛化。
2025-09-20 cs.CL
Authorship attribution and aesthetic evaluation of AI poetry: a case study with Haiku
Sapienza University of Rome(罗马大学);Shibaura Institute of Technology(芝浦工业大学)
本研究通过少样本提示生成多类LLM的日本俳句,结合人类创作进行问卷测试,发现美学评价与作者识别分离,且随模型改进,人类辨别能力可能下降。
2026-09-15 cs.AI cs.CL
Mitigating Self-Preference by Authorship Obfuscation
Taslim Mahbub, Shi Feng
本文通过作者混淆技术减少语言模型判断者的自我偏好,发现简单词义替换可有效降低偏见,但彻底消除偏见面临根本挑战。
2025-12-05 cs.AI cs.CL
MultiGhostBench: A Multilingual Benchmark for Long-Form LLM-Generated Text Attribution under Distribution Shifts
School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院);University of Calabria(卡拉布里亚大学)
MultiGhostBench是含928本多语言长文本的LLM生成文本基准,支持多类分布偏移评估,可用于开发鲁棒的LLM作者身份归因方法。
2026-09-03 cs.AI cs.CL cs.CY
AuthBench: A Large-Scale Multilingual Benchmark for Authorship Representation across Genres and Lengths
Cornell University(康奈尔大学)
AuthBench是一个大规模多语言作者身份表征基准,涵盖多种语言、体裁和长度,通过统一零样本协议评估47个神经模型,发现作者身份表征仍远未解决,并提供诊断资源以研究其成败原因。
2026-09-09 cs.AI cs.CL
The State of Profanity Obfuscation in Natural Language Processing
Bocconi University(博科尼大学)
关于仇恨言论的工作使科学出版物中粗鲁和有害的例子不可避免。这引起了各种问题,例如是否要掩盖亵渎。虽然科学必须准确地披露它所做的事情,但毫无根据地传播仇恨言论对读者有害,并增加了其互联网频率。在保持出版物专业外观的同时,模糊的亵渎语言使评估内容变得具有挑战性,特别是对于非母语人士。通过对150篇ACL论文的调查,我们发现模糊处理通常用于英语,而不是其他语言,即使如此也很不平衡。我们讨论了模糊处理的问题,并建议一个名为PrOf的多语言社区资源,它有一个Python模块来标准化亵渎模糊处理过程。我们相信,ProOf可以帮助科学出版政策,使仇恨言论的工作,无论语言的可访问性和可比性。
2022-10-14 cs.CL
When Cow Urine Cures Constipation on YouTube: Limits of LLMs in Detecting Culture-specific Health Misinformation
University of Michigan(密歇根大学);University of Kansas(堪萨斯大学);IIT Jodhpur(印度理工学院乔浦尔)
研究通过分析印度YouTube上的牛尿相关内容,揭示LLMs在处理文化特定健康谣言时的局限性,指出文化嵌入的谣言无法通过提示工程解决。
2026-04-23 cs.CL
HAMSA: Hijacking Aligned Compact Models via Stealthy Automation
MIPT(莫斯科国立信息安全学院);Sberbank(俄罗斯储蓄银行);AIRI(人工智能研究机构);MTUCI(莫斯科联邦大学);ISP RAS(俄罗斯科学院信息与通信技术研究所);Cadi Ayyad University(卡迪·艾亚德大学)
本文提出HAMSA自动化红队框架,通过多阶段演化搜索生成语义自然且隐蔽的越狱提示,以绕过对齐紧凑型LLMs的安全防护,并在英语和新标注的阿拉伯语基准上验证了多语言攻击效果。
2025-08-22 cs.CL
FAID: Fine-Grained AI-Generated Text Detection Using Multi-Task Auxiliary and Multi-Level Contrastive Learning
BKAI Research Center, Hanoi University of Science and Technology(河内科学技术大学BKAI研究中心);MBZUAI;INSAIT, Sofia University "St. Kliment Ohridski"(索菲亚大学"圣克莱门特·奥赫里德斯"INSAIT)
FAID通过多任务辅助和多级对比学习,实现对AI生成文本的细粒度分类与识别,提升AI辅助写作的透明度和可问责性。
2026-02-08 cs.CL
On the Influence of Machine Translation on Language Origin Obfuscation
Universität Innsbruck(因斯布鲁克大学)
在过去的十年中,机器翻译已经成为处理多语言数字内容的流行手段。通过提供更高质量的翻译,混淆文本的源语言变得更有吸引力。在本文中,我们分析的能力,检测源语言的翻译输出的两个广泛使用的商业机器翻译系统,利用机器学习算法的基本文本特征,如n-gram。评估表明,源语言可以重建具有高精度的文件,包含足够数量的翻译文本。此外,我们分析了文档大小如何影响预测的性能,以及如何限制可能的源语言集提高分类精度。
2021-06-24 cs.CL
Detection of Illicit Content on Online Marketplaces using Large Language Models
AiLECS Lab Monash University(AiLECS实验室 莫纳什大学)
本文研究了利用大语言模型检测在线市场非法内容的有效性,发现LLM在复杂分类任务中表现优于传统方法。
2026-03-05 cs.AI cs.CL
The Case for Being Average: A Mediocrity Approach to Style Masking and Author Obfuscation
Sofia University “St. Kliment Ohridski”(索非亚大学“圣克莱门特·奥赫里德斯基”);Qatar Computing Research Institute, HBKU(卡塔尔计算研究所,哈马德·本·哈利法大学)
在网上发帖的用户希望保持匿名,除非他们已经登录,这通常需要他们能够自由地讨论各种话题。保持文本作者的匿名性在其他一些上下文中也很重要,例如,在证人保护或匿名项目中。然而,每个人都有自己的写作风格,可以使用文体学进行分析,因此,即使他/她试图隐藏文本的作者的真实身份,也可以揭示它。因此,设计自动工具可以帮助人们在写作文本时混淆他/她的身份可能是有帮助的。特别是,在这里,我们提出了一种改变文本的方法,使其被推向一些一般的风格特征的平均值,从而使这些特征的使用较少的歧视。该方法包括三个主要步骤:首先,我们计算一些流行的风格度量,可以表明作者的值;然后,我们应用各种变换的文本,使这些指标调整到平均水平,同时保持语义和健全的文本;最后,我们添加随机噪声。事实证明,这种方法非常有效,并在PAN-2016竞赛中的作者混淆任务中取得了最佳表现。
2017-07-28 cs.CL
mStyleDistance: Multilingual Style Embeddings and their Evaluation
University of Pennsylvania(宾夕法尼亚大学)
针对现有风格嵌入仅支持英文的问题,研究提出基于合成数据和对比学习训练的多语言风格嵌入模型mStyleDistance,在9种语言数据上训练并构建多语言基准测试,实验显示其性能优于现有模型且泛化性好,模型已公开。
2025-02-21 cs.CL
ER-AE: Differentially Private Text Generation for Authorship Anonymization
McGill University(麦吉尔大学);Queen’s University(女王大学);Zayed University(扎耶德大学)
大多数文本数据的隐私保护研究都集中在删除显式敏感标识符上。然而,个人写作风格作为作者身份的一个强有力的指标,却常常被忽视。最近的研究,如SynTF,在隐私保护文本挖掘方面取得了可喜的成果。然而,他们的匿名化算法只能输出数字术语向量,这对接收者来说很难解释。我们提出了一种新的文本生成模型与两组指数机制的作者匿名。通过REINFORCE训练奖励函数增加语义信息,该模型可以生成与原始文本具有紧密语义和相似语法结构的差异化私人文本,同时去除写作风格的个人特征。它不假设任何有条件的标签或文本数据用于训练。我们评估了所提出的模型在现实生活中的同行评议数据集和Yelp评论数据集上的性能。结果表明,我们的模型优于国家的最先进的语义保存,作者混淆,和文体转换。
2021-05-13 cs.CL cs.CR cs.LG
Aggregation-Aware Synthetic Text Generation Against Authorship Re-Identification
The Pennsylvania State University(宾夕法尼亚州立大学);Information Sciences and Technology(信息科学与技术学院)
该研究提出AAST框架,通过捆绑层面联合选择合成文本解决现有作者混淆方法忽略跨文档关联的问题,实验显示其可降低账户级可链接性并保留文本质量。
2026-08-25 cs.AI cs.CL
StegoStylo: Squelching Stylometric Scrutiny through Steganographic Stitching
Department of Computer Science and Engineering, Mississippi State University, Mississippi State, Mississippi, USA(计算机科学与工程系,密苏里州立大学,密苏里州密苏里市,美国)
本文探讨了通过隐写术与对抗性风格分析结合来对抗风格分析的方法,提出改进的对抗攻击TraceTarnish,并量化隐写术对作者风格指纹的遮蔽效果,发现33%以上的隐写覆盖可有效隐藏作者身份。
2026-06-23 cs.CL cs.CR cs.IR
Unmasking the Canvas: A Dynamic Benchmark for Image Generation Jailbreaking and LLM Content Safety
本文提出动态可扩展基准UTCB,通过结构化提示工程、多语言混淆和LLaMA-3评估,系统检测大语言模型图像生成中的越狱脆弱性,并建立分层验证机制。
2025-05-07 cs.AI cs.CL cs.CY
ObscuraCoder: Powering Efficient Code LM Pre-Training Via Obfuscation Grounding
TU Darmstadt(达姆施塔特工业大学);JMU Würzburg(维尔茨堡大学)
本文提出基于混淆代码的预训练方法,构建了ObscuraX数据集并预训练了ObscuraCoder模型,显著提升了代码语言模型在语法语义理解及多项代码生成任务上的能力。
2025-03-27 cs.AI cs.CL cs.SE
BanglaLorica: Design and Evaluation of a Robust Watermarking Algorithm for Large Language Models in Bangla Text Generation
Systems and Software Lab (SSL) Department of Computer Science and Engineering(系统与软件实验室(SSL)计算机科学与工程系)
本文提出分层水印策略,提升孟加拉语LLM在RTT攻击下的检测精度,实现3-4倍的相对提升。
2026-01-08 cs.AI cs.CL
Sentence Embedding Models for Ancient Greek Using Multilingual Knowledge Distillation
Sattler College(萨特勒学院)
针对古希腊语缺乏训练数据难构建高质量句子嵌入模型的问题,研究采用多语言知识蒸馏方法,借助自建的希英平行句子数据集训练BERT模型生成古希腊语句子嵌入,在多项任务上验证了效果并公开了数据集。
2023-08-24 cs.CL
Protecting Anonymous Speech: A Generative Adversarial Network Methodology for Removing Stylistic Indicators in Text
University of California, Berkeley(加州大学伯克利分校)
随着互联网用户不断地留下文本线索,无论是通过博客、电子邮件还是社交媒体帖子,匿名写作和抗议的能力正在受到侵蚀,因为人工智能在获得以前工作的样本时,可以从数百个可能的候选人中将文本与其作者进行匹配。现有的作者身份匿名化方法,也称为作者身份混淆,通常专注于保护二进制人口统计属性,而不是整体身份。即使是那些专注于混淆身份的人也需要手动反馈,失去了原始句子的连贯性,或者只在有限的作者子集中表现良好。在本文中,我们开发了一种新的方法,作者匿名化,通过构建一个生成对抗网络,保护身份和优化对应于匿名性,流畅性和内容保存三种不同的损失。我们的全自动方法在内容保存和流畅性方面达到了与其他方法相当的结果,但在匿名化方面大大优于基线。此外,我们的方法能够很好地推广到一个开放集的背景下,并匿名化的句子,它以前没有遇到过的作者。
2021-10-18 cs.CL cs.CR cs.LG
CEAID: Benchmark of Multilingual Machine-Generated Text Detection Methods for Central European Languages
Kempelen Institute of Intelligent Technologies(克姆佩伦智能技术研究所)
针对现有机器生成文本检测多聚焦英语、中欧语言相关研究匮乏的问题,该研究推出首个面向中欧语言的检测基准CEAID,通过多维度评估发现有监督微调的检测器在该类语言中性能与抗混淆能力最优。
2025-09-30 cs.AI cs.CL
A New Generation of Perspective API: Efficient Multilingual Character-level Transformers
Jigsaw;Google Research(谷歌研究院)
在万维网上,有毒内容检测器是抵御潜在仇恨和攻击性信息的关键防线。因此,构建高效的分类器以实现更安全的互联网是一个重要的研究领域。此外,网络是一个高度多语言、跨文化的社区,随着时间的推移,它会发展出自己的行话。因此,开发跨各种语言、用法和风格的有效模型至关重要。在本文中,我们介绍了Google Jigsaw的下一个版本的Perspective API背后的基本原理。该方法的核心是一个单一的多语言无令牌Charformer模型,适用于各种语言,域和任务。我们证明,通过放弃静态词汇表,我们获得了各种设置的灵活性。我们还概述了技术,使这样一个字节级模型的生产效率和可行性。通过对来自真实API流量的多语言有毒评论分类基准进行广泛的实验,并对一系列代码切换,隐蔽毒性,基于表情符号的仇恨,人类可读混淆,分布偏移和偏见评估设置进行评估,我们表明我们提出的方法优于强大的基线。最后,我们提出了我们的调查结果,从部署这个系统在生产中。
2022-02-22 cs.AI cs.CL cs.CY
Interpretable Predictability-Based AI Text Detection: A Replication Study
Faculty of Information Technology, Brno University of Technology(布拉格技术学院);Kempelen Institute of Intelligent Technologies(智能技术研究所)
本文复制并扩展了AuTexTification 2023共享任务中用于机器生成文本作者归属的系统,测试了新多语言模型并添加了26个文档级风格学特征,通过SHAP分析探讨特征影响,使用Qwen等新生成模型提升性能,多语言配置在性能上不逊于语言特定模型。
2026-09-01 cs.AI cs.CL cs.LG