Integrating Transformer and Paraphrase Rules for Sentence Simplification
School of Computing and Information(计算与信息学院);School of Health and Rehabilitation Sciences(健康与康复科学学院);University of Pittsburgh(匹兹堡大学)
句子简化的目的是减少句子的复杂性,同时保留其原始意义。现有的句子简化模型借鉴了机器翻译研究的思想,并从普通简单句对中隐式学习简化映射规则。在本文中,我们探索了一种新的模型的基础上,多层和多头注意力架构,我们提出了两个创新的方法来集成简单的PPDB(一个释义数据库简化),一个外部释义知识库的简化,涵盖了广泛的现实世界的简化规则。实验结果表明,该集成模型具有两个主要优点:(1)集成模型的性能优于文献中的多个最先进的句子简化基线模型;(2)通过对规则利用率的分析,该模型寻求选择更准确的简化规则。本文中使用的代码和模型可在https://github.com/ Sanqiang/text_simplification上获得。
2018-10-26 cs.AI cs.CL
Integrating Pre-trained Model into Rule-based Dialogue Management
Microsoft(微软)
基于规则的对话管理由于其可解释性仍然是工业面向任务的对话系统最流行的解决方案。然而,当场景变得越来越复杂时,开发人员很难保持对话逻辑。另一方面,数据驱动的对话系统,通常具有端到端的结构,在学术研究中很受欢迎,并且更容易处理复杂的会话,但是这样的方法需要大量的训练数据,并且行为的可解释性较差。在本文中,我们提出了一种方法,利用基于规则和数据驱动的对话管理器(DM)的力量。本文首先介绍了Carina Dialog System(CDS,一个先进的工业对话系统)中的数据模型。然后,我们提出了“模型触发器”的设计,使DM可训练,从而可扩展到场景的变化。此外,我们集成了预先训练的模型,并赋予DM Few-Shot能力。实验结果证明了该方法的有效性和较强的Few-Shot能力。
2021-02-17 cs.AI cs.CL
A Hybrid Framework for Subject Analysis: Integrating Embedding-Based Regression Models with Large Language Models
University of North Texas(北卡罗来纳大学达顿分校);University of Pittsburgh(匹兹堡大学)
针对传统机器学习主题分析难处理未见过案例、大语言模型易过度生成和幻觉的问题,提出融合基于嵌入的机器学习模型与大语言模型的混合框架,通过预测标签数量引导生成、后编辑对齐词表,提升了图书主题术语预测的可控性与一致性。
2025-07-19 cs.AI cs.CL
Hybrid LLM/Rule-based Approaches to Business Insights Generation from Structured Data
Narrative BI
本文针对传统规则系统与大型语言模型在商业数据分析中的局限性,提出一种将规则系统的稳健性与 LLMs 的自适应能力相结合的混合方法,以从结构化数据中生成可执行的商业洞察。
2024-04-24 cs.AI cs.CL
Integrating Regular Expressions with Neural Networks via DFA
Harbin Institute of Technology(哈尔滨工业大学)
人工设计的规则被广泛用于构建行业应用程序。然而,要维护成千上万条这样的手工规则是不可行的。因此,将规则知识融入神经网络中,建立一个性能更好的混合模型是非常重要的。具体地说,人类设计的规则制定为正则表达式(RE),从它的等价的最小确定性有限自动机(MDFA)的构造。我们建议使用的MDFA作为一个中间模型,以捕获匹配的RE模式作为基于规则的功能,为每个输入句子,并将这些额外的功能到神经网络。我们评估所提出的方法上的ATIS意图分类任务。实验结果表明,当训练数据集相对较小时,该方法与神经网络以及其他四种RE与神经网络相结合的方法相比,具有最佳的性能。
2021-09-07 cs.CL
Hybrid-NL2SVA: Integrating RAG and Finetuning for LLM-based NL2SVA
NYU Tandon School of Engineering(纽约大学Tandon工程学院)
本文提出集成定制RAG框架和合成微调数据集的Hybrid-NL2SVA方法,通过教授并发SVAs逐层构建过程提升轻量级LLM的语法和功能准确性,并构建最大评估数据集验证,显著提升功能匹配率。
2025-06-12 cs.AI cs.CL
Understanding Social Support Needs in Questions: A Hybrid Approach Integrating Semi-Supervised Learning and LLM-based Data Augmentation
Beijing Institute of Technology(北京理工大学);The University of Iowa(爱荷华大学)
针对在线健康问答社区社会支持需求识别模型标注数据稀缺、类别不平衡的问题,研究提出融合答案增强半监督学习、LLM文本增强及统一训练的HA-SOS框架,性能优于现有方法,可助力平台提供个性化支持。
2025-03-21 cs.AI cs.CL cs.CY
A Hybrid Persian Sentiment Analysis Framework: Integrating Dependency Grammar Based Rules and Deep Neural Networks
University of Stirling(斯特灵大学);Edinburgh Napier University(爱丁堡龙比亚大学);Chinese Academy of Sciences(中国科学院)
社交媒体拥有关于公众舆论的宝贵、大量和非结构化的信息,可用于改进产品和服务。然而,对这些数据的自动分析需要对自然语言有深刻的理解。现有的情感分析方法主要基于词的共现频率,这在大多数实际情况下是不够的。在这项工作中,我们提出了一种新的混合框架,用于波斯语中的概念级情感分析,该框架集成了语言规则和深度学习来优化极性检测。当一个模式被触发时,框架允许情感从单词流向基于符号依赖关系的概念。当没有模式被触发时,框架切换到其子符号对应物,并利用深度神经网络(DNN)来执行分类。所提出的框架优于最先进的方法(包括支持向量机和逻辑回归)和DNN分类器(长短期记忆和卷积神经网络),分别有10-15%和3-4%的利润率,使用基准波斯语产品和酒店评论语料库。
2019-09-30 cs.CL cs.LG
TAKTAG: Two-phase learning method for hybrid statistical/rule-based part-of-speech disambiguation
统计方法和基于规则的方法都有各自的优点和局限性。特别是对于韩语,隐马尔可夫模型(HMM)提供的窄窗口不能覆盖必要的词汇和长距离的依赖性的POS消歧。另一方面,基于规则的方法是不准确的和灵活的新的标签集和语言。在这方面,统计/基于规则的混合方法,可以利用这两种方法的优点是强大的和灵活的POS消歧。我们提出了这样的方法之一,即,一个两阶段的学习架构的混合统计/基于规则的POS消歧,特别是对韩国。在该方法中,形态标注的统计学习通过Brill [1992]风格标注器的基于规则的学习进行纠错。我们还设计了层次和灵活的韩语标签集,以应付多种标注应用程序,其中每一个需要不同的标签集。我们的实验表明,两阶段的学习方法可以克服不可取的功能,单独基于HMM或单独基于规则的标记,特别是对形态复杂的韩语。
1995-05-28 cmp-lg cs.CL
Hybrid Rule-Neural Coreference Resolution System based on Actor-Critic Learning
Samsung Research America(三星美国研究院)
一个共指消解系统是将在给定上下文中引用同一实体的所有提及进行聚类。所有的共指消解系统需要处理两个主要任务:一个任务是检测所有的潜在提及,另一个是学习每个可能提及的先行词的链接。在本文中,我们提出了一个混合的规则-神经共指消解系统的基础上actor-critic学习,使它可以实现更好的共指性能,利用启发式规则和神经会议模型的优点。该端到端系统还可以通过利用联合训练算法来执行提及检测和解决。我们在BERT模型上进行实验,以生成输入跨度表示。我们的模型与BERT跨度表示达到了国家的最先进的模型之间的性能在CoNLL-2012共享任务英语测试集。
2022-12-20 cs.CL
From Threat Intelligence to Firewall Rules: Semantic Relations in Hybrid AI Agent and Expert System Architectures
Department of Control and Computer Engineering(控制与计算机工程系)
本文提出利用语义关系从威胁情报中提取信息,通过神经符号方法生成防火墙规则以缓解网络威胁。
2026-03-04 cs.AI cs.CL cs.CR
Boundary-Aware NL2SQL: Integrating Reliability through Hybrid Reward and Data Synthesis
Li Auto Inc.(Li汽车公司);Beijing University of Posts and Telecommunications(北京邮电大学)
BAR-SQL通过混合奖励和数据合成方法,提升NL2SQL在生成准确性和边界感知回避能力上的表现。
2026-01-15 cs.CL
Integrating Image Captioning with Rule-based Entity Masking
Saarland University(萨尔兰大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
给定图像,生成其自然语言描述(即,说明)是一个研究得很好的问题。为解决这一问题而提出的方法通常依赖于难以解释的图像特征。特别地,这些图像特征被细分为全局和局部特征,其中全局特征从图像的全局表示中提取,而局部特征从图像中局部检测到的对象中提取。尽管局部特征从图像中提取了丰富的视觉信息,但现有模型以黑盒方式生成字幕,并且人类难以解释字幕旨在表示哪些局部对象。因此,在本文中,我们提出了一个新的框架,图像描述与显式对象(例如,知识图谱实体)选择过程,同时仍然保持其端到端训练能力。该模型首先根据人类可解释的掩码显式地选择要包含在字幕中的本地实体,然后通过关注所选实体来生成适当的字幕。在MSCOCO数据集上进行的实验表明,该方法在字幕质量和多样性方面取得了良好的性能,并且比以前的方法具有更好的可解释性。
2020-07-22 cs.CL cs.CV cs.LG
HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction
BlackRock, Inc.(贝莱德集团);NVIDIA(英伟达公司)
本文提出 HybridRAG,融合 GraphRAG 与 VectorRAG,从向量数据库和知识图谱共同检索上下文,提升金融文档问答的信息抽取准确率与生成质量。
2024-08-09 cs.CL cs.LG q-fin.ST
A new hybrid stemming algorithm for Persian
Imam Khomeini International University(伊玛目霍梅尼国际大学)
词干提取是信息检索和搜索引擎中一个重要的研究领域。在制作高效准确的词干分析器方面,人们付出了巨大的努力。词干分析器可以有三种词干分析方法,基于词典的词干分析器,基于词典的词干分析器和基于规则的词干分析器。本文旨在建立一个混合词干,同时使用基于字典的方法和基于规则的方法进行词干。这最终有助于词干分析器的有效性和准确性。
2015-11-24 cs.CL cs.IR
Integrating Deep Learning with Logic Fusion for Information Extraction
Nanyang Technological University(南洋理工大学)
信息抽取(IE)旨在从输入文本中产生结构化信息,例如,命名实体识别和关系抽取。已经提出了通过特征工程或深度学习用于IE的各种尝试。然而,他们中的大多数人未能将任务本身固有的复杂关系联系起来,而这一点已被证明是特别重要的。例如,两个实体之间的关系高度依赖于它们的实体类型。这些依赖关系可以被视为复杂的约束,可以有效地表示为逻辑规则。为了将这种逻辑推理能力与深度神经网络的学习能力相结合,我们提出将逻辑知识以一阶逻辑的形式集成到深度学习系统中,该系统可以以端到端的方式进行联合训练。该集成框架能够通过逻辑规则的知识正则化来增强神经输出,同时更新逻辑规则的权重以符合训练数据的特性。我们证明了该模型的有效性和推广多IE任务。
2019-12-06 cs.CL cs.IR cs.LG