UPB at SemEval-2021 Task 7: Adversarial Multi-Task Learning for Detecting and Rating Humor and Offense
University Politehnica of Bucharest(布加勒斯特理工大学)
检测幽默是一项具有挑战性的任务,因为单词可能共享多个配价,并且根据上下文,相同的单词甚至可以用于攻击性表达。基于Transformer的神经网络架构在多个自然语言处理任务上获得了最先进的结果,特别是文本分类。对抗性学习与其他技术(如多任务学习)相结合,有助于神经模型学习数据的内在属性。在这项工作中,我们描述了我们的对抗性多任务网络AMTL-Humor,用于检测和评估SemEval-2021任务7中的幽默和攻击性文本。模型的每个分支都专注于解决相关的任务,并且由BiLSTM层和Capsule层组成,在用于生成上下文化嵌入的BERTweet之上。我们的最佳模型由所有测试配置的集合组成,任务1a的F1得分为95.66%,准确率为94.70%,任务1b和任务2的RMSE得分分别为0.6200和0.5318。
2021-04-13 cs.AI cs.CL
CFunModel: A "Funny" Language Model Capable of Chinese Humor Generation and Processing
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所)
针对大语言模型处理中文幽默能力不足的问题,我们构建了包含超16万条数据的中文幽默数据集CFunSet,并开发了首个能处理相声应答选择、幽默识别、笑话生成等任务的中文幽默模型CFunModel,实验证明其性能优于主流大模型。
2025-03-26 cs.CL
Generating Philosophical Statements using Interpolated Markov Models and Dynamic Templates
KU Leuven(鲁汶大学)
自动模仿输入文本是自然语言生成中的一项常见任务,通常用于创建幽默的结果。用于学习模仿文本的经典算法,例如简单的马尔可夫链,通常在原创性和语法正确性之间进行权衡。我们提出了两种方法,自动模仿哲学语句的例子克服了这个问题,并显示如何在交互式系统中工作。第一种算法使用扩展的内插马尔可夫模型来提高生成文本的质量。对于第二种算法,我们提出动态提取模板并填充新内容。为了说明这些算法,我们实现了TorfsBot,这是一个模仿前鲁汶大学校长Rik Torfs教授的诙谐,半哲学的推文的Twitterbot。我们发现,用户更喜欢专注于局部连贯句子的生成模型,而不是那些模仿哲学陈述的全局结构的模型。因此,所提出的算法是有价值的新工具,自动模仿以及模板学习系统。
2019-09-19 cs.CL
HumorGen: Cognitive Synergy for Humor Generation in Large Language Models via Persona-Based Distillation
Carnegie Mellon University Africa(卡内基梅隆大学非洲分校)
针对大语言模型标准训练目标与幽默所需意外性之间的矛盾,提出认知协同框架,利用六种认知角色合成多样化喜剧视角数据,微调7B参数学生模型,实验表明认知驱动的数据策展比对齐算法或模型规模更关键。
2026-09-15 cs.CL
Small But Funny: A Feedback-Driven Approach to Humor Distillation
University of British Columbia(英属哥伦比亚大学);Meta AI;Vector Institute for AI(向量人工智能研究院)
本文提出反馈驱动的幽默蒸馏框架,让 LLM 同时担任教师与评论者,证明反馈比单纯模仿更能缩小 SLM 与大模型在幽默生成上的差距。
2024-02-28 cs.AI cs.CL
Pun Generation with Surprise
Stanford University(斯坦福大学);University of Southern California(南加州大学)
我们解决了给定一对同音异义词生成双关句的问题(例如,“死”和“染”)。由于缺乏大量的双关语语料库,有监督的文本生成是不合适的,即使存在这样的语料库,模仿也与生成新颖的内容不一致。在本文中,我们提出了一种无监督的双关语生成方法,使用非幽默文本语料库和我们所说的局部-全局双关原则:我们认为在双关语句子中,双关语之间存在很强的关联(例如,“dyed”)和遥远的上下文,以及替代词(例如,“死”和直接上下文。这种对比创造了惊喜,从而产生了幽默。我们以两种方式实例化这一原则的双关语生成:(i)作为一个语言模型下的概率比的基础上的措施,和(ii)检索和编辑方法的基础上,建议由跳过语法模型的话。人工评估表明,我们的检索和编辑方法成功地生成了31%的双关语,是神经生成基线成功率的三倍。
2019-04-15 cs.CL
Witscript: A System for Generating Improvised Jokes in a Conversation
Twenty Lane Media, LLC(二十巷传媒有限责任公司)
如果聊天机器人在输出中包含一些笑话,它会被认为更像人类,更讨人喜欢。但大多数现有的笑话生成器并不是为了集成到聊天机器人中而设计的。本文介绍了Witscript,一种新颖的笑话生成系统,可以即兴创作原创的,上下文相关的笑话,如在对话中的幽默反应。该系统是基于一个专家喜剧作家创造的笑话写作算法。Witscript采用众所周知的自然语言处理工具从主题句中提取关键词,并使用文字游戏将这些关键词和相关词链接起来以创建妙语。然后,一个预先训练好的神经网络语言模型,已经在电视节目独白笑话的数据集上进行了微调,用于通过填充主题句和妙语之间的间隙来完成笑话响应。一种内部评分方法过滤掉不符合预设质量标准的笑话。人类评估者判断Witscript对输入句子的反应超过40%是笑话。这证明Witscript代表了为聊天机器人提供人类幽默感的重要下一步。
2023-02-03 cs.AI cs.CL
Optimizing Humor Generation in Large Language Models: Temperature Configurations and Architectural Trade-offs
University of Cambridge(剑桥大学)
本研究系统评估13个最先进LLMs在软件开发幽默生成中的表现,通过715种温度与提示词配置测试,发现架构解释38.7%性能方差,73%模型在低温下表现最佳,为幽默生成系统提供了模型选择与配置指南。
2025-03-31 cs.CL cs.LG
Towards Fairness Assessment of Dutch Hate Speech Detection
Maastricht University(马斯特里赫特大学);Indira Gandhi Delhi Technical University for Women(英迪拉·甘地德里技术学院女子大学);Utrecht University(埃因霍温大学)
本研究针对荷兰语仇恨言论检测的反事实公平性问题,构建社会群体术语表、生成反事实数据并微调transformer模型,验证了反事实数据可同时提升检测性能与公平性,填补了相关研究空白。
2025-06-14 cs.AI cs.CL cs.CY
ExPUNations: Augmenting Puns with Keywords and Explanations
University of Southern California(南加州大学);Amazon Alexa AI(亚马逊Alexa人工智能部门);University of California, Los Angeles(加州大学洛杉矶分校)
幽默理解和生成的任务是具有挑战性和主观性的,即使对人类来说,也需要常识和现实世界的知识来掌握。特别是双关语,增加了将这种知识与解释词汇语义歧义的能力相融合的挑战。在本文中,我们提出了ExPUNations(ExPUN)数据集,在该数据集中,我们增加了现有的双关语数据集,其中包含详细的众包关键字注释,这些注释表示使文本有趣的最具特色的单词,双关语解释描述了文本为什么有趣,以及细粒度的有趣评级。这是第一个幽默数据集,专门针对双关语进行了如此广泛和细粒度的注释。在此基础上,我们提出了两个任务:辅助双关分类的解释生成和基于关键词的双关生成,以挑战当前最先进的自然语言理解和生成模型理解和生成幽默的能力。我们展示了我们收集的注释关键字有助于在人类评价中生成更好的新颖幽默文本,并且我们的自然语言解释可以用来提高幽默分类器的准确性和鲁棒性。
2022-10-24 cs.CL
Knowledge Amalgam: Generating Jokes and Quotes Together
Microsoft R&D(微软研发部门)
幽默和引语的生成是计算语言学领域中非常具有挑战性的问题,并且经常被分开处理。在本文中,我们提出了一种受控的长短期记忆(LSTM)架构,该架构通过将类别作为输入以及单词序列来使用笑话和引用等类别数据进行训练。这个想法是,一个神经网络将学习笑话和引语的结构,并根据输入类别按需生成它们。重要的是,我们相信神经网络拥有更多的知识,因为它是在不同的数据集上训练的,因此将使它能够从混合的信息中生成更多有创意的笑话或引用。愿网络生成一个搞笑励志的笑话!
2018-06-13 cs.AI cs.CL
Witscript 2: A System for Generating Improvised Jokes Without Wordplay
Twenty Lane Media, LLC(二十巷传媒有限责任公司)
之前的一篇论文介绍了Witscript,这是一个依靠文字游戏生成会话笑话的系统。本文通过介绍Witscript 2扩展了这项工作,它使用大语言模型来生成依赖于常识而不是文字游戏的会话笑话。和Witscript一样,Witscript 2也是基于一位专业喜剧作家创建的笑话写作算法。人类评估者判断Witscript 2对输入句子的反应有46%的时间是笑话,而人类书面反应的时间是70%。这证明Witscript 2代表了向赋予聊天机器人类似人类的幽默感迈出的又一步。
2023-02-03 cs.AI cs.CL
Acoustic and Textual Data Augmentation for Improved ASR of Code-Switching Speech
Radboud University(拉德堡德大学);National University of Singapore(新加坡国立大学)
在本文中,我们描述了几种技术,以改善声学和语言模型的自动语音识别(ASR)系统上的代码切换(CS)的语音。我们的重点是确认弗里斯兰语-荷兰语无线电广播,其中一种混合语言,即弗里斯兰语,是一种资源不足的语言。在以前的工作中,我们已经提出了几个自动转录策略CS语音,以增加可用的训练语音数据量。在这项工作中,我们将探讨如何声学建模(AM)可以受益于单语语音数据属于高资源的混合语言。为了这个目的,我们训练国家的最先进的AM,这是无效的,由于缺乏训练数据,对显着增加量的CS语音和单语荷兰语语音。此外,我们改进的语言模型(LM),通过创建代码转换文本,这是在实践中几乎不存在的,通过(1)生成文本使用经常性的LM训练的训练CS语音数据的转录,(2)添加自动转录的CS语音数据的转录和(3)翻译荷兰语文本提取的大型荷兰语语音语料库的转录。我们报告称,由于声学和文本训练数据的增加,CS ASR性能显着提高。
2018-07-28 cs.CL
SynthesizRR: Generating Diverse Datasets with Retrieval Augmentation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon(亚马逊公司)
提出SynthesizRR方法,通过检索增强在数据集合成中引入多样性,解决了少样本提示导致的重复和偏见问题,显著提升了数据多样性、文本相似性和蒸馏性能。
2024-11-13 cs.AI cs.CL cs.LG
Descartes: Generating Short Descriptions of Wikipedia Articles
EPFL(洛桑联邦理工学院)
维基百科是当今网络上最丰富的知识来源之一。为了便于导航、搜索和维护其内容,维基百科的指导方针规定,所有文章都应该用所谓的简短描述来说明文章的主题(例如,啤酒的简短描述是“由发酵的谷物制成的酒精饮料”)。尽管如此,仍有很大一部分条目(从荷兰语的10.2%到哈萨克语的99.7%)没有简短描述,这对数百万维基百科用户造成了不利影响。出于这个问题的动机,我们引入了自动生成维基百科文章的简短描述的新任务,并提出了Descartes,一个多语言模型来解决这个问题。Descartes集成了三个信息源来生成目标语言的文章描述:该条款的所有语文文本,该条款已有的其他语文说明(如有),以及从知识图谱获得的语义类型信息。我们评估了一个同时处理25种语言的笛卡尔模型,结果表明它击败了基线(包括一个强大的基于解释的基线),并与为特定语言量身定制的单语模型表现相当。人类对三种语言的评价进一步表明,笛卡尔描述的质量与人类书面描述的质量在很大程度上是无法区分的;例如,91.3%的英文描述(相对于92.1%的人类书面描述)通过了维基百科的收录标准,这表明笛卡尔已经准备好生产,有可能支持人类编辑填补当今维基百科跨语言的主要空白。
2023-02-17 cs.CL
Do LLMs exhibit the same commonsense capabilities across languages?
University of Alicante(阿利坎特大学);University of Utrecht(乌得勒支大学)
本研究通过新基准MULTICOM评估多种开源LLM在四种语言上的常识生成,发现英语表现最佳,低资源语言表现较差,凸显多语言常识生成的局限性。
2025-09-08 cs.CL
YesBut: A High-Quality Annotated Multimodal Dataset for evaluating Satire Comprehension capability of Vision-Language Models
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Haldia Institute of Technology(哈尔迪亚理工学院)
本文提出讽刺图像检测、理解和补全任务,并发布高质量多模态数据集YesBut,评估发现视觉语言模型在零样本设置下表现不佳。
2024-09-20 cs.AI cs.CL cs.CV