On Neural Architecture Inductive Biases for Relational Tasks
Mila, Quebec AI Institute(米拉魁北克人工智能研究所)
目前的深度学习方法已经显示出良好的分布内泛化性能,但难以实现分布外泛化。这在涉及抽象关系的任务中尤其如此,比如识别序列中的规则,正如我们在许多智力测试中发现的那样。最近的研究探索了如何迫使关系表征与感官表征保持区别,就像大脑中的情况一样,可以帮助人工系统。在这项工作的基础上,我们进一步探索和形式化的优势提供的“分区”表示的关系和感官细节,以及如何这种归纳偏见可以帮助重组学习的关系结构,在新遇到的设置。我们引入了一个简单的架构,我们命名为组合关系网络(CoRelNet)的相似性分数的基础上。使用这个模型,我们调查了一系列的归纳偏见,确保抽象的关系,学习和代表明显的感官数据,并探讨其影响分布外泛化的一系列关系心理物理学任务。我们发现,简单的架构选择可以优于现有的模型在分布外泛化。总之,这些结果表明,分区关系表示从其他信息流可能是一种简单的方式来增强现有的网络架构的鲁棒性时,执行分布外的关系计算。
2022-06-09 cs.AI cs.LG cs.NE
Generalization of CNNs on Relational Reasoning with Bar Charts
School of Computer Science and Technology, Shandong University(山东大学计算机科学与技术学院);State Key Lab of CAD&CG, Zhejiang University(浙江大学CAD&CG国家重点实验室);School of Information, Renmin University of China(中国人民大学信息学院);College of Science and Mathematics, University of Massachusetts Boston(马萨诸塞大学波士顿分校科学与数学学院);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);School of Engineering and Applied Sciences, Harvard University(哈佛大学工程与应用科学学院)
本文系统研究了CNN和人类在柱状图关系推理任务上的泛化能力,发现CNN仅在训练与测试视觉编码一致时优于人类,且对无关扰动更敏感,表明提升其泛化需增强对任务相关视觉属性的识别。
2025-02-28 cs.AI cs.CV cs.HC
Combining Planning and Reinforcement Learning for Solving Relational Multiagent Domains
The University of Texas at Dallas(德克萨斯大学达拉斯分校);IBM Research(IBM研究院);Oregon State University(俄勒冈州立大学)
针对多智能体强化学习在关系型领域中的样本效率低和泛化困难问题,提出将关系型规划器作为集中控制器与强化学习结合,实现高效任务迁移与泛化。
2025-02-26 cs.AI cs.LG cs.MA
A Theory of Relation Learning and Cross-domain Generalization
The University of Edinburgh(爱丁堡大学);Max Planck Institute for Psycholinguistics(马克斯·普朗克心理语言学研究所);Radboud University(拉德堡德大学);University of Illinois(伊利诺伊大学)
该研究提出了一种基于类比推理的关系学习模型,能够从非关系性输入中学习结构化关系表示,并实现跨领域零样本学习。
2021-12-07 cs.AI cs.LG cs.NE
A Relational Inductive Bias for Dimensional Abstraction in Neural Networks
Princeton Neuroscience Institute(普林斯顿神经科学研究所);Princeton University(普林斯顿大学)
本文提出关系瓶颈这一归纳偏置,使神经网络学习因子化、正交的低维表征,从而提升泛化与学习效率,并涌现类人规律性偏置和类符号灵活性。
2024-02-28 cs.AI cs.LG
A Study of Compositional Generalization in Neural Models
Thomas J. Watson Research Center(托马斯·J·沃森研究中心);IBM Research AI(IBM研究院人工智能);MIT Media Lab(麻省理工学院媒体实验室)
组合和关系学习是人类智能的标志,但这对神经模型提出了挑战。开发这种模型的一个困难是缺乏具有明确的组成和关系任务结构的基准,以便系统地评估它们。在本文中,我们介绍了一个名为ConceptWorld的环境,它可以生成图像的组成和关系的概念,使用逻辑域特定的语言定义。我们使用它来生成各种组成结构的图像:2x2正方形,五角形,序列,涉及这些对象的场景以及其他更复杂的概念。我们进行实验,以测试标准的神经架构的能力,以概括的关系与组成的参数,这些参数的组成深度的增加和替代。我们比较了标准神经网络,如MLP,CNN和ResNet,以及最先进的关系网络,包括WReN和PrediNet在多类图像分类设置。对于简单的问题,所有模型都能很好地推广到封闭的概念,但却难以处理较长的组合链。对于涉及替代性的更复杂的测试,所有模型都很难,即使是短链。在强调这些困难,并提供一个环境,进一步的实验,我们希望鼓励发展的模型,能够有效地概括在成分,关系域。
2020-07-08 cs.LG stat.ML
A Relational Intervention Approach for Unsupervised Dynamics Generalization in Model-Based Reinforcement Learning
The University of Sydney(悉尼大学);The University of Melbourne(墨尔本大学);JD Explore Academy(京东探索研究院)
将基于模型的强化学习(MBRL)方法推广到具有不可见过渡动态的环境是一个重要但具有挑战性的问题。现有的方法试图从过去的过渡段提取环境指定的信息$Z$,使动力学预测模型可推广到不同的动态。然而,由于环境是没有标记的,提取的信息不可避免地包含冗余的信息无关的动态过渡段,从而无法保持$Z$的一个重要性质:$Z$应该是相似的,在相同的环境和不同的。结果,学习的动态预测函数将偏离真实的动态预测函数,这破坏了泛化能力。为了解决这个问题,我们引入了一个介入预测模块来估计两个估计的$\hat{z}_i, \hat{z}_j$属于同一环境的概率。此外,利用$Z$在单一环境下的不变性,提出了一种关系头来增强来自同一环境的$\hat{Z}$之间的相似性。结果,将减少$\hat{Z}$中的冗余信息。我们的经验表明,我们的方法估计的$\hat{Z}$享有比以前的方法更少的冗余信息,这样的$\hat{Z}$可以显着减少动态预测误差,并提高基于模型的RL方法的性能zero-shot新的环境中看不见的动态。该方法的代码可在\url{https://github.com/CR-Gjx/RIA}上获得。
2022-06-09 cs.AI cs.LG cs.RO
Relational inductive biases, deep learning, and graph networks
DeepMind(深度思维);Google Brain(谷歌大脑);MIT(麻省理工学院);University of Edinburgh(爱丁堡大学)
人工智能(AI)最近经历了一次复兴,在视觉、语言、控制和决策等关键领域取得了重大进展。这在一定程度上是由于廉价的数据和廉价的计算资源,这符合深度学习的自然优势。然而,人类智力的许多决定性特征是在不同的压力下发展起来的,目前的方法仍然无法达到。特别是,超越个人经验的概括--这是人类智能从婴儿期开始的标志--仍然是现代人工智能面临的巨大挑战。以下是部分立场文件,部分审查,部分统一。我们认为,组合泛化必须是AI实现类似人类能力的首要任务,而结构化表示和计算是实现这一目标的关键。正如生物学合作使用先天和后天一样,我们拒绝在“手工工程”和“端到端”学习之间做出错误的选择,而是提倡一种从两者互补优势中受益的方法。我们探讨了如何在深度学习架构中使用关系归纳偏差来促进对实体、关系和组成它们的规则的学习。我们提出了一个新的构建块的人工智能工具包与强大的关系归纳偏见-图网络-它概括和扩展了各种方法的神经网络上运行的图形,并提供了一个简单的接口,操作结构化的知识和产生结构化的行为。我们讨论了图网络如何支持关系推理和组合泛化,为更复杂,可解释和灵活的推理模式奠定了基础。作为本文的配套,我们发布了一个用于构建图网络的开源软件库,并演示了如何在实践中使用它们。
2018-10-17 cs.AI cs.LG stat.ML
Extrapolatable Relational Reasoning With Comparators in Low-Dimensional Manifolds
Department of Computer Science and Technology(计算机科学与技术系);University of Cambridge(剑桥大学)
虽然当测试数据从与训练数据相同的分布中采样时,现代深度神经架构可以很好地推广,但当测试数据分布与训练分布甚至在几个维度上都不同时,它们会严重失败。当任务变得更加抽象和复杂时,例如在关系推理中,这种分布外概括的缺乏越来越明显。在本文中,我们提出了一个神经科学启发的归纳偏置模块,可以很容易地与当前的神经网络架构合并,以提高关系推理任务的分布外(o.o.d)泛化性能。该模块学习将高维对象表示投影到低维流形,以实现更有效和更通用的关系比较。我们表明,这种归纳偏见的神经网络实现了相当好的O.O.D的概括性能的一系列关系推理任务。最后,我们分析了所提出的归纳偏差模块,以了解低维投影的重要性,并提出了一个增强的算法对齐理论,以更好地衡量算法对齐与概括。
2020-10-03 cs.LG stat.ML
Symbolic Relational Deep Reinforcement Learning based on Graph Neural Networks and Autoregressive Policy Decomposition
Czech Technical University in Prague(布拉格捷克技术大学);Artificial Intelligence Center, Department of Computer Science, Faculty of Electrical Engineering(电气工程学院计算机科学系人工智能中心)
针对关系型强化学习中状态与动作空间可变、难用定长表示适配现有方法的问题,提出基于图神经网络和自回归策略分解的无领域依赖深度RL框架,在多领域验证了适用性与跨规模零样本泛化能力。
2023-08-25 cs.AI cs.LG
Efficient Regularized Least-Squares Algorithms for Conditional Ranking on Relational Data
University of Turku(图尔库大学);Ghent University(根特大学)
在像生物信息学、信息检索和社会网络分析这样的领域中,人们可以找到学习任务,其中目标包括推断对象的排名,以特定的目标对象为条件。我们提出了一个通用的内核框架,用于从各种类型的关系数据中学习条件排名,其中排名可以以看不见的数据对象为条件。我们提出了有效的算法,条件排名通过优化平方回归和排名损失函数。我们从理论上证明,使用排名损失的学习可能比回归损失更好地推广。此外,我们证明了关系的对称性或互易性可以在学习模型中有效地实施。对合成数据和真实数据的实验表明,所提出的方法在预测能力和计算效率方面具有最先进的性能。此外,我们还表明经验,将对称性或互易性的属性可以提高泛化性能。
2013-06-08 cs.LG stat.ML
Guided Exploration for Efficient Relational Model Learning
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
针对关系模型学习中随机探索效率低的问题,提出演示初始化算子与前置条件定向引导两项原则,并在 Baking-Large 上验证其可提升样本效率与泛化性。
2025-05-10 cs.AI cs.LG
Investigating Relational State Abstraction in Collaborative MARL
University of Warwick(华威大学);Nanyang Technological University(南洋理工大学)
本文提出基于空间关系的状态抽象方法MARC,通过图神经网络编码空间归纳偏置,在六个协作任务中显著提升样本效率和渐近性能,无需复杂设计即可实现高效泛化。
2024-12-19 cs.AI cs.LG cs.MA
Multi-Relational Graph Neural Network for Out-of-Domain Link Prediction
Universitá di Pisa(比萨大学);H&M Group(H&M集团)
针对动态多关系图中的域外链接预测任务,提出GOOD模型,通过解耦关系嵌入混合比例实现泛化,在零售领域基准上取得最优结果。
2024-03-17 cs.AI cs.LG
Evaluating Logical Generalization in Graph Neural Networks
Facebook AI Research(Facebook AI研究);McGill University(麦吉尔大学);Montreal Institute of Learning Algorithms (Mila)(蒙特利尔学习算法研究所(Mila));School of Computer Science(计算机科学学院)
最近的研究强调了关系归纳偏差在构建学习代理中的作用,这些学习代理可以以组合方式进行概括和推理。然而,尽管诸如图神经网络(GNN)等关系学习算法显示出了希望,但我们不了解这些方法如何有效地适应新任务。在这项工作中,我们通过设计一个基于一阶逻辑的基准套件来研究使用GNNs进行逻辑泛化的任务。我们的基准测试套件GraphLog要求学习算法在不同的合成逻辑中执行规则归纳,表示为知识图谱。GraphLog由57个不同逻辑域上的关系预测任务组成。我们使用GraphLog在三种不同的设置中评估GNN:单任务监督学习,多任务预训练和持续学习。与以前的基准测试不同,我们的方法允许我们精确地控制不同任务之间的逻辑关系。我们发现,模型的泛化和适应能力在很大程度上取决于它们在训练过程中遇到的逻辑规则的多样性,我们的研究结果突出了GNN模型设计的新挑战。我们在https://www.cs.mcgill.ca/~ksinha4/graphlog公开发布数据集和用于生成数据集并与数据集交互的代码。
2020-03-14 cs.LG stat.ML
Relational inductive biases on attention mechanisms
Facultad de Ciencias, UNAM(全国自治大学科学学院);CEIICH, UNAM(全国自治大学计算机工程与信息学学院)
本文从几何深度学习视角分析注意力机制关于置换子群的等变性质,提出基于关系归纳偏置的分类,揭示不同注意力层对输入数据潜在关系的不同假设。
2025-07-05 cs.CL cs.LG
Online Relational Inference for Evolving Multi-agent Interacting Systems
Georgia Institute of Technology(佐治亚理工学院)
提出在线关系推断框架ORI,利用流式数据和在线反向传播实时识别演化多智能体系统中的交互图,并通过AdaRelation和轨迹镜像增强准确性与泛化能力。
2024-11-07 cs.AI cs.LG cs.MA
HIRE: Distilling High-order Relational Knowledge From Heterogeneous Graph Neural Networks
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Zhejiang University(浙江大学)
由于异构图在学术界和工业界的普遍存在,近年来研究人员提出了大量的异构图神经网络(HGNNs)。在本文中,我们没有追求更强大的HGNN模型,而是有兴趣设计一个通用的即插即用模块,该模块负责从预训练的HGNN中提取关系知识。据我们所知,我们是第一个在异构图上提出高阶关系(HIRE)知识蒸馏框架的人,无论HGNN的模型架构如何,它都可以显着提高预测性能。具体地说,我们的HIRE框架最初执行一阶节点级知识蒸馏,它编码的教师HGNN的语义与其预测逻辑。同时,二阶关系级知识蒸馏模仿由教师HGNN生成的不同类型的节点嵌入之间的关系相关性。在各种流行的HGNNs模型和三个真实世界的异构图上进行的大量实验表明,我们的方法获得了一致和可观的性能增强,证明了其有效性和泛化能力。
2022-07-25 cs.LG
Multi-relational Poincaré Graph Embeddings
University of Edinburgh(爱丁堡大学);Samsung AI Centre(三星人工智能中心)
双曲嵌入最近在机器学习中受到关注,因为它们能够比它们的欧几里得类似物更准确和简洁地表示分层数据。然而,多关系知识图谱往往表现出多个同时的层次结构,目前的双曲线模型没有捕捉。为了解决这个问题,我们提出了一个模型,嵌入多关系图数据的庞加莱球模型的双曲空间。我们的多关系庞加莱模型(MuRP)通过莫比乌斯矩阵向量乘法和莫比乌斯加法来学习特定于关系的参数来转换实体嵌入。在WN18 RR知识图谱上的实验表明,本文提出的Poincaré嵌入方法在链接预测任务上的性能优于欧氏嵌入方法和现有的嵌入方法,特别是在低维情况下.
2019-10-27 cs.LG stat.ML
Relational Attention for Data-Efficient Language Modeling
UC Santa Cruz(加州大学圣克鲁兹分校);Utrecht University(乌得勒支大学)
本文提出Relational BabyLM,结合双注意力Transformer和下一潜在预测目标,提升数据效率,在BabyLM 2026挑战赛严格轨道上排名第6,优于GPT-2基线。
2026-09-18 cs.CL cs.LG
Geometric Relational Embeddings
Universität Stuttgart(斯图加特大学);Institut für Künstliche Intelligenz (KI) der Universität Stuttgart(斯图加特大学人工智能研究所)
针对向量表示难以捕捉关系数据复杂符号属性的问题,提出几何关系嵌入范式,通过多种模型捕捉网络、知识图谱及本体中的复杂结构、逻辑约束与高阶结构,有效保留数据的离散符号特性。
2024-09-18 cs.AI cs.LG cs.SI
Understanding Domain-Size Generalization in Markov Logic Networks
TU Wien(维也纳技术大学);Ludwig-Maximilians-Universität München(慕尼黑大学)
本文研究了 Markov Logic Networks 在不同 domain 规模间泛化能力差的问题,通过量化参数方差对内部不一致性和 KL 散度的界限,证明最小化参数方差可提升泛化能力,并在四个数据集上得到验证。
2024-06-03 cs.AI cs.LG
PluRel: Synthetic Data unlocks Scaling Laws for Relational Foundation Models
Stanford University(斯坦福大学);SAP Labs LLC(SAP实验室)
PluRel通过合成多表关系数据库,实现了关系基础模型在扩展定律上的突破,展示了合成数据在提升模型泛化能力方面的潜力。
2026-07-15 cs.AI cs.DB cs.LG
Relational Autoencoder for Feature Extraction
University of Technology Sydney(悉尼科技大学);The Children’s Hospital at Westmead(韦斯特米德儿童医院);Queen’s University at Kingston(金斯顿女王大学)
随着数据的高维化,特征提取变得越来越重要。自编码器作为一种基于神经网络的特征提取方法,在高维数据的抽象特征提取方面取得了很大的成功。然而,它没有考虑数据样本之间的关系,这可能会影响使用原始和新的功能的实验结果。在本文中,我们提出了一个关系自动编码器模型,同时考虑到数据特征和它们之间的关系。我们还将其扩展到其他主要的自动编码器模型,包括稀疏自动编码器,去噪自动编码器和变分自编码器。在一组基准数据集上对所提出的关系自动编码器模型进行了评估,实验结果表明,考虑数据关系可以生成更鲁棒的特征,与其他变体的自动编码器相比,这些特征可以实现更低的构造损失,从而降低进一步分类的出错率。
2018-02-09 cs.LG stat.ML
Shelving, Stacking, Hanging: Relational Pose Diffusion for Multi-modal Rearrangement
Massachusetts Institute of Technology(麻省理工学院);NVIDIA(英伟达);Improbable AI Lab(Improbable AI实验室)
本文提出基于关系位姿扩散的多模态物体重排系统,通过迭代位姿去噪和局部几何条件化,在仿真与真实环境中实现对新物体形状、位姿及场景布局的精确泛化。
2023-07-10 cs.CV cs.LG cs.RO
Towards Practical Multi-Object Manipulation using Relational Reinforcement Learning
Massachusetts Institute of Technology(麻省理工学院);University of California Berkeley(加州大学伯克利分校)
使用具有稀疏奖励的强化学习来学习机器人操作任务目前是不切实际的,因为数据要求非常高。许多实际任务需要操纵多个对象,并且这些任务的复杂性随着对象的数量而增加。从日益复杂的任务课程中学习似乎是一种自然的解决方案,但不幸的是,在许多情况下都不起作用。我们假设,最先进的算法无法有效地利用任务课程源于缺乏归纳偏见,从简单到复杂的任务转移知识。我们表明,基于图的关系架构克服了这一限制,并使学习复杂的任务时,提供了一个简单的课程的任务与越来越多的对象。我们演示了我们的框架上的模拟块堆叠任务的实用程序。从零开始,我们的智能体学习将六个街区堆叠成一座塔。尽管使用了逐步稀疏奖励,但我们的方法的数据效率要高出几个数量级,并且优于现有的利用人类演示的最先进方法。此外,学习到的策略表现出零射击(zero-shot)概括,无需任何进一步的训练即可成功地将积木堆叠成更高的塔楼和以前从未见过的配置,例如金字塔。
2019-12-23 cs.AI cs.LG cs.RO
Stochastic Neighbor Embedding of Multimodal Relational Data for Image-Text Simultaneous Visualization
Kyoto University(京都大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);NAVER Corporation(NAVER公司)
多模态关系数据分析近年来变得越来越重要,用于探索不同领域的数据,诸如从社交网络服务(例如,Flickr)。已经开发了各种数据分析方法用于可视化;举一个例子,t-随机邻居嵌入(t-SNE)计算低维特征向量,以便它们的相似性保持观察到的数据向量。然而,t-SNE是专为一个单一的数据域,但不是多模态数据,本文的目的是在可视化的多模态关系数据组成的数据向量在多个域与这些向量之间的关系。通过扩展t-SNE,本文提出了多模态关系随机邻居嵌入(MR-SNE),即(1)首先计算增强关系,其中我们观察跨域的关系,并通过观察到的数据向量计算每个域内的关系,以及(2)将增强关系联合嵌入到低维空间。通过可视化的Flickr和动物与属性2数据集,建议MR-SNE与其他基于图嵌入的方法进行了比较,MR-SNE展示了有前途的性能。
2020-05-02 cs.CL cs.CV cs.HC
BayReL: Bayesian Relational Learning for Multi-omics Data Integration
Texas A&M University(得克萨斯农工大学)
高通量分子谱分析技术产生了高维多组学数据,使得能够在基因组尺度上系统地理解生命系统。研究不同数据类型的分子相互作用有助于揭示不同分子类别的信号转导机制。在本文中,我们开发了一种新的贝叶斯表示学习方法,推断跨多组学数据类型的关系交互。我们的方法,贝叶斯关系学习(BayReL)的多组学数据集成,利用先验已知的关系,在同一类分子,建模为一个图形在每个相应的视图,学习视图特定的潜变量,以及多部图,编码跨视图的相互作用。我们在几个真实世界数据集上的实验表明,与现有基线相比,BayReL在推断有意义的交互方面的性能有所增强。
2020-10-22 cs.LG q-bio.MN stat.AP
Efficient Data Access Paths for Mixed Vector-Relational Search
EPFL(洛桑联邦理工学院)
本文针对混合向量-关系搜索,重新评估了基于扫描和基于近似索引的访问路径,发现低选择性时扫描更优、高选择性时探测更佳,并提出硬件优化与张量化批处理以降低扫描成本。
2024-03-23 cs.AI cs.AR cs.DB
Towards Anomaly Detection on Relational Data
Griffith University(格里菲斯大学);Guangxi University(广西大学)
提出RelAD框架,通过条件稀疏门控属性重建和双视图多关系边重建,有效检测关系数据中的属性异常和连接模式异常,在6个基准数据集上优于现有方法。
2026-08-04 cs.LG
Searching to Sparsify Tensor Decomposition for N-ary Relational Data
The Hong Kong University of Science and Technology(香港科技大学);Paradigm Inc.(第四范式);Tsinghua University(清华大学)
张量是向量和矩阵在多维情况下的扩展,是描述N元关系数据的一种自然方法。最近,张量分解方法被引入到N元关系数据中,并成为嵌入学习的最新技术。然而,现有的张量分解方法的性能并不理想。首先,它们遭受数据稀疏性问题,因为它们只能从具有特定arity的N元关系数据中学习,即,常见的N元关系数据的一部分。此外,由于过度参数化问题,它们既不有效也不有效,无法进行训练。在本文中,我们提出了一种新的方法,即,S2 S,用于有效且高效地从N元关系数据中学习。具体来说,我们提出了一个新的张量分解框架,它允许嵌入共享从混合元的事实中学习。由于核心张量仍然可能遭受过度参数化,我们建议通过稀疏化核心张量来减少参数,同时使用神经架构搜索(NAS)技术来保留它们的表达能力,该技术可以搜索数据依赖的架构。因此,所提出的S2S不仅保证了表达能力,而且还有效地从混合元中学习。最后,实验结果表明,S2S是有效的训练,并达到最先进的性能。
2021-04-21 cs.LG
RPT: Relational Pre-trained Transformer Is Almost All You Need towards Democratizing Data Preparation
QCRI, HBKU, Qatar(卡塔尔计算研究所,哈马德·本·哈利法大学);Renmin University, China(中国人民大学);Tsinghua University, China(清华大学);CSAIL, MIT, USA(麻省理工学院计算机科学与人工智能实验室)
人工智能能否帮助自动化人类容易但计算机难以完成的数据准备任务,这些任务会给数据科学家,从业者和人群工作者带来负担?我们通过介绍RPT来回答这个问题,RPT是一个用于元组到X模型的去噪自动编码器(X可以是元组,令牌,标签,JSON等)。RPT通过破坏输入元组然后学习模型以重建原始元组来预先训练元组到元组模型。它采用了一种基于transformer的神经翻译架构,由一个双向编码器(类似于BERT)和一个从左到右的自回归解码器(类似于GPT)组成,从而使BERT和GPT都得到了推广。预先训练的RPT已经可以支持几个常见的数据准备任务,如数据清理,自动完成和模式匹配。更好的是,RPT可以在广泛的数据准备任务上进行微调,例如值规范化,数据转换,数据注释等。为了补充RPT,我们还讨论了几种有吸引力的技术,例如用于实体解析的协作训练和少样本学习,以及用于信息抽取的少样本学习和NLP问答。此外,我们确定了一系列的研究机会,以推进数据准备领域。
2021-03-31 cs.DB cs.LG