Automated Extraction of Fine-Grained Standardized Product Information from Unstructured Multilingual Web Data
Berlin University of Applied Sciences and Technology（柏林应用科学与技术大学）；Einstein Center Digital Future（爱因斯坦数字未来中心）
从非结构化数据中提取结构化信息是包括电子商务在内的现代信息检索应用中的关键挑战之一。在这里，我们展示了机器学习的最新进展，结合最近发布的具有标准化细粒度产品类别信息的多语言数据集，如何在具有挑战性的迁移学习设置中实现强大的产品属性提取。我们的模型可以可靠地预测在线商店，语言或两者的产品属性。此外，我们表明，我们的模型可以用来匹配在线零售商之间的产品分类。
2023-02-23 cs.AI cs.IR cs.LG
General policy mapping: online continual reinforcement learning inspired on the insect brain
Argonne National Laboratory（阿贡国家实验室）
我们已经开发了一个模型，在线连续或终身强化学习（RL）的启发昆虫大脑。我们的模型利用特征提取和通用通用策略层的离线训练，使RL算法在在线设置中收敛。在任务之间共享公共策略层会导致正向向后转移，其中代理在共享相同的底层一般策略的旧任务中不断改进。生物启发的限制代理的网络是RL算法收敛的关键。这为资源受限场景中的高效在线RL提供了一条途径。
2022-11-30 cs.AI cs.LG
EON-1: A Brain-Inspired Processor for Near-Sensor Extreme Edge Online Feature Extraction
imec（荷蘭校際微電子研究中心）；University of Twente（特温特大学）；Technical University of Delft（代尔夫特理工大学）；Maastricht University（马斯特里赫特大学）；CNRS（法国国家科学研究中心）
针对边缘AI设备端在线学习开销大的问题，提出类脑处理器EON-1，集成脉冲神经网络实现近传感器在线特征提取，学习能耗开销仅1%且保持推理精度，支持实时低延迟处理高清流视频。
2024-06-25 cs.AI cs.ET cs.LG
Online Inference for Relation Extraction with a Reduced Feature Set
University of California, Berkeley（加州大学伯克利分校）；Amazon（亚马逊）；Xerox Research Centre Europe（施乐欧洲研究中心）
访问网络规模的语料库正逐渐带来强大的自动知识库创建和扩展触手可及。为了利用这些大型的未注释的-而且极难注释的-语料库，需要无监督的机器学习方法。文本的概率模型最近作为这样一种工具取得了一些成功，但可扩展性仍然是其应用中的一个障碍，标准方法依赖于已知难以扩展的采样方案。因此，在这份报告中，我们提出了一个经验评估的次线性时间稀疏随机变分推理（SSVI）计划适用于RelLDA。我们表明，在线推理导致相对较强的定性结果，但也确定了它的一些病理-和那些模型-这将需要克服，如果SSVI是用于大规模的关系抽取。
2015-04-18 cs.CL cs.LG
Evaluation of LLM-based Strategies for the Extraction of Food Product Information from Online Shops
Institute for Software Systems, University of Applied Sciences Trier（软件系统研究所，应用科学大学特里尔）
本文评估了两种基于LLM的食品产品信息抽取策略，发现间接抽取方法虽准确率略低1.61%，但可减少95.82%的LLM调用次数，为大规模网页信息抽取提供了更高效低成本的方案。
2025-06-17 cs.CL cs.IR cs.LG
DeepCover: Advancing RNN Test Coverage and Online Error Prediction using State Machine Extraction
University of Tehran（德黑兰大学）
本文提出从RNN模型中提取状态机（SM）以提高可解释性，并基于SM引入六个模型覆盖准则和树模型进行在线错误预测，在MNIST和Mini Speech Commands数据集上AUC超过80%。
2024-02-10 cs.LG
Large-scale Kernel-based Feature Extraction via Budgeted Nonlinear Subspace Tracking
University of Minnesota（明尼苏达大学）
基于核的方法在处理各种学习任务时具有强大的泛化能力。当这样的方法提供有足够的训练数据，广泛适用的类的非线性函数可以近似所需的精度。然而，基于核的估计的非参数性质所固有的计算和内存要求，成为大规模数据集的禁止。为了应对这一艰巨的挑战，目前的工作提出了一个低秩，基于内核的，特征提取方法，特别是针对在线操作，其中数据流不需要存储在内存中。一种新的生成模型被引入到近似高维（可能是无限的）的功能，通过一个低秩的非线性子空间，学习导致一个直接的核函数近似。离线和在线求解器的子空间学习任务，以及负担得起的版本，其中存储的数据向量的数量被限制在一个预定义的预算。分析结果提供了性能界限如何以及内核矩阵以及基于内核的分类和回归任务可以近似利用预算在线子空间学习和特征提取方案。合成和真实数据集上的测试表明，当线性分类和回归应用于提取的特征时，所提出的方法的效率和基准。
2017-12-26 cs.LG stat.ML
Open Event Extraction from Online Text using a Generative Adversarial Network
Southeast University（东南大学）；University of Warwick（华威大学）
在提取开放域事件的结构化表示方面，贝叶斯图模型取得了一定的进展。然而，这些方法通常假设文档中的所有单词都是从单个事件生成的。虽然这对于短文本（如推文）可能是正确的，但这种假设通常不适用于长文本（如新闻文章）。此外，贝叶斯图模型通常依赖于吉布斯采样进行参数推断，这可能需要很长时间才能收敛。为了解决这些局限性，我们提出了一种基于生成对抗网的事件提取模型，称为对抗神经事件模型（AEM）。AEM使用Dirichlet先验对事件进行建模，并使用生成器网络来捕获潜在事件的模式。一个隐藏事件被用来区分从潜在事件重建的文档和原始文档。该方法的一个副产品是，由学习的网络生成的特征允许对提取的事件进行可视化。我们的模型已经在两个Twitter数据集和一个新闻文章数据集上进行了评估。实验结果表明，我们的模型优于基线方法在所有的数据集上，与更显着的改善观察到的新闻文章数据集，其中增加了15%的F-测量。
2019-08-25 cs.CL cs.IR cs.LG
Automatic Detection of Satire in Bangla Documents: A CNN Approach Based on Hybrid Feature Extraction Model
Shahjalal University of Science & Technology（沙赫贾拉尔科技大学）
讽刺新闻在网络社区中的广泛传播是一种持续的趋势。讽刺的本质是如此的模棱两可，有时甚至连人类都很难理解它是否真的是讽刺。因此，对这一领域的研究兴趣越来越大。本研究的目的是检测孟加拉国讽刺新闻在在线新闻门户网站以及社交媒体上的传播。在本文中，我们提出了一种混合技术，从文本文档中提取特征结合Word2Vec和TF-IDF。使用我们提出的特征提取技术，与标准的CNN架构，我们可以检测是否孟加拉语文本文档是讽刺或没有超过96%的准确率。
2019-11-19 cs.CL cs.IR cs.LG
Fully automatic extraction of morphological traits from the Web: utopia or reality?
Inria（法国国家信息与自动化研究所）；University of Montpellier（蒙彼利埃大学）；LIRMM（蒙彼利埃电子与计算机实验室）；AMAP（植物与动物科学建模与分析研究中心）；Wageningen University & Research（瓦赫宁根大学及研究中心）；University of Amsterdam（阿姆斯特丹大学）；Athens University of Economics and Business（雅典经济与商业大学）
针对植物性状信息人工汇编耗时、在线文本非结构化难规模化利用的问题，提出基于大语言模型的全自动提取机制，复现人工矩阵验证显示F1超75%，证明规模化构建结构化性状数据库可行，受限于目标性状文本覆盖度。
2025-02-21 cs.AI cs.CL cs.LG
Deep Flow Collaborative Network for Online Visual Tracking
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
基于深度学习的视觉跟踪算法（诸如MDNet）利用深度神经网络的特征提取能力来实现高性能。然而，这些跟踪器的跟踪效率不是很高，由于缓慢的特征提取为每帧的视频。在本文中，我们提出了一个有效的跟踪算法，以减轻耗时的问题。具体来说，我们设计了一个深流协作网络，它只在稀疏的关键帧上执行昂贵的特征网络，并通过光流将特征映射传输到其他帧。此外，我们提出了一个有效的自适应关键帧调度机制，以选择最合适的关键帧。我们在大规模数据集上评估了所提出的方法：OTB2013和OTB2015。实验结果表明，该算法具有较高的加速比和精度。
2019-11-05 cs.CV cs.LG
Does constituency analysis enhance domain-specific pre-trained BERT models for relation extraction?
Université Paris-Saclay, INRAE, MaIAGE（巴黎-萨克雷大学，法国国家农业食品与环境研究院，应用数学与计算机科学、基因组学与环境研究单位）；Université Paris-Saclay, CNRS, Laboratoire interdisciplinaire des sciences du numérique（巴黎-萨克雷大学，法国国家科学研究中心，数字科学跨学科实验室）
近年来，人们对关系抽取进行了大量的研究。BioCreative VII的DrugProt跟踪为关系抽取系统的开发和评估提供了一个手动注释的语料库，其中研究了化学品和基因之间的相互作用。我们描述了我们用于提交的集成系统，该系统通过多数投票结合了微调的bioBERT，sciBERT和const-bioBERT模型的预测。我们特别测试了语法信息对BERT关系抽取的贡献。我们观察到，向BERT添加基于成分的句法信息提高了准确率，但降低了召回率，因为在训练集中很少看到的关系不太可能被注入句法信息的BERT模型预测。我们的代码可以在线获取[https：//github.com/Maple177/drugprot-relation-extraction]。
2021-11-25 cs.AI cs.CL cs.LG
Optimizing Feature Extraction for On-device Model Inference with User Behavior Sequences
Shanghai Jiao Tong University（上海交通大学）
本文提出AutoFeature系统，通过图抽象、图优化和高效缓存减少设备端特征提取延迟，提升模型推理效率。
2026-03-23 cs.AI cs.HC cs.LG
A Joint Learning Approach based on Self-Distillation for Keyphrase Extraction from Scientific Documents
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adobe Research（奥多比研究院）
关键词提取是提取最能描述文档的一小部分短语的任务。用于该任务的大多数现有基准数据集通常具有有限数量的注释文档，这使得训练日益复杂的神经网络具有挑战性。相比之下，数字图书馆在线存储了数百万篇科学文章，涵盖了广泛的主题。虽然这些文章中有很大一部分包含作者提供的关键词，但大多数其他文章缺乏这种注释。因此，为了有效地利用这些大量的未标记的文章，我们提出了一个简单而有效的联合学习方法的思想的基础上的自蒸馏。实验结果表明，我们的方法始终提高了关键词提取的基线模型的性能。此外，我们的最佳模型优于以前的任务方法，在两个公共基准测试中获得了最新的结果：Inspec和SemEval-2017。
2020-10-22 cs.CL cs.LG
Real-Time Online Stock Forecasting Utilizing Integrated Quantitative and Qualitative Analysis
BITS Pilani Hyderabad Campus（比拉理工学院海得拉巴校区）；Missouri University of Science and Technology（密苏里科技大学）
本研究构建了一个包含140万条文本的公开多源股票数据集，结合定量与定性数据，利用Spearman等级相关实现超60%准确率的实时增量在线股票预测。
2024-01-02 cs.CE cs.CL cs.LG
FeatureBox: Feature Engineering on GPUs for Massive-Scale Ads Systems
Baidu Research（百度研究院）；Baidu Inc.（百度公司）
深度学习已被广泛部署用于在线广告系统以预测点击率（CTR）。机器学习研究人员和从业者经常重新训练CTR模型，以测试他们新提取的特征。然而，CTR模型训练通常依赖于大量原始输入数据日志。因此，对于工业级CTR模型，特征提取可能占用很大比例的训练时间。在本文中，我们提出了一种新的端到端训练框架，它将特征提取和GPU服务器上的训练进行流水线化，以节省特征提取的中间I/O。我们将计算密集型特征提取运算符重写为GPU运算符，并将内存密集型运算符留在CPU上。我们引入了一个分层的运营商调度算法来调度这些异构运营商。我们提出了一种轻量级的GPU存储管理算法，支持动态GPU内存分配，以最小的开销。我们通过实验评估了MatureBox，并在两个真实的广告应用程序上将其与之前的生产特征提取框架进行了比较。实验结果证实了该方法的有效性。
2022-09-26 cs.IR cs.LG
Learning Mobile CNN Feature Extraction Toward Fast Computation of Visual Object Tracking
Nagoya University（名古屋大学）
在本文中，我们使用训练好的CNN构建了一个轻量级、高精度和高速的目标跟踪。传统的训练CNN的方法使用VGG16网络，这需要强大的计算资源。因此，存在难以在低计算资源环境中应用的问题。为了解决这个问题，本文采用了MobileNetV3，这是一个面向移动终端的CNN，基于特征图选择跟踪，提出了一种新的架构，提取MobileNet的有效特征进行目标跟踪。该体系结构不需要在线学习，而只需要离线学习。此外，通过使用跟踪目标以外的对象的特征，更有效地提取跟踪目标的特征。我们用Visual Tracker Benchmark测试了跟踪精度，证实了该方法即使在低计算资源环境下也能进行高精度和高速的计算。
2021-04-03 cs.CV cs.GR cs.LG
Online trajectory recovery from offline handwritten Japanese kanji characters
Institute of Global Innovation Research（全球创新研究机构）；Tokyo University of Agriculture and Technology（东京农工大学）
通常，从在线手写模式呈现离线手写图像是简单的。然而，这是具有挑战性的重建一个在线的手写模式给定的离线手写图像，特别是多笔划的字符，如日本汉字。多笔画字符不仅需要点坐标，而且需要笔画顺序，其难度随笔画数量呈指数增长。此外，多个交叉和接触点可能会增加恢复任务的难度。我们提出了一种基于深度神经网络的方法来解决使用大型在线手写数据库的恢复任务。我们提出的模型有两个主要组成部分：基于卷积神经网络的编码器和基于长短期记忆网络的解码器与注意层。编码器专注于特征提取，而解码器参考提取的特征并生成坐标的时间序列。我们还演示了在重建过程中的注意层，以指导解码器的效果。我们通过视觉验证和手写字符识别来评估所提出的方法的性能。虽然视觉验证揭示了一些问题，识别实验表明，在提高离线手写字符识别的准确性时，结合在线识别的恢复轨迹的轨迹恢复的效果。
2020-09-09 cs.CV cs.LG
