IdeaReader: A Machine Reading System for Understanding the Idea Flow of Scientific Publications
Shanghai Jiao Tong University（上海交通大学）；Institute of Geographic Sciences and Natural Resources Research, Chinese Academy of Sciences（中国科学院地理科学与资源研究所）
了解出版物思想的起源和影响对于进行科学研究至关重要。然而，科学出版物的激增使得研究人员很难理清所有相关文献的演变。为此，我们提出了IdeaReader，一个机器阅读系统，找出哪些论文最有可能激发或影响的目标出版物，并总结了这些论文的想法在自然语言。具体来说，IdeaReader首先对目标出版物的参考文献和引文（一阶或更高阶）进行聚类，得到的聚类被认为是激发目标出版物或受其影响的主题。然后，它从每个聚类中挑选出重要的论文，以提取思想流的骨架。最后，IdeaReader会自动生成每个主题中重要论文的文献综述。我们的系统可以帮助研究人员深入了解科学思想如何从目标出版物的参考文献的引用，通过自动生成的调查和可视化的想法流。
2022-09-27 cs.CL cs.DL
Claim Extraction in Biomedical Publications using Deep Discourse Model and Transfer Learning
University of Pennsylvania（宾夕法尼亚大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Syracuse University（雪城大学）
主张是科学论述的基本单位。科学出版物数量的指数增长使得自动索赔提取成为研究人员的一个重要问题，他们被这种信息过载所淹没。这种自动化的索赔提取系统对于人工和程序化探索科学知识都是有用的。在本文中，我们介绍了一个新的数据集，其中包含来自生物医学领域的1,500篇科学摘要，每个句子都有专家注释，表明该句子是否提出了科学主张。我们介绍了一种新的索赔提取模型，并将其与几种基线模型进行了比较，包括基于规则的技术和深度学习技术。此外，我们表明，使用带有微调步骤的迁移学习方法可以提高大型话语注释数据集的性能。与没有迁移学习的基线模型相比，我们的最终模型将F1分数提高了14个百分点以上。我们发布了一个可公开访问的工具，用于话语和索赔预测以及注释工具。我们讨论了生物医学文献之外的进一步应用。
2020-01-16 cs.CL
Grounding Fallacies Misrepresenting Scientific Publications in Evidence
Ubiquitous Knowledge Processing Lab (UKP Lab)（通用知识处理实验室（UKP实验室））；TU Darmstadt（达姆施塔特工业大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心）；IT:U Interdisciplinary Transformation University Austria（奥地利跨学科转型大学（IT:U））；IBM Research Ireland（IBM爱尔兰研究院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文提出MissciPlus数据集，将逻辑谬误与被错误表述的真实科学段落配对，用于基准测试检索模型、评估大语言模型表述谬误的能力以及事实核查模型的反驳效果，发现现有模型难以有效利用被错误表述的证据反驳虚假健康声明。
2025-02-07 cs.CL
Self-Supervised Learning for Visual Summary Identification in Scientific Publications
Waseda University（早稻田大学）；University of Mannheim（曼海姆大学）；Waseda Research Institute for Science and Engineering（早稻田大学科学与工程研究院）
提供科学出版物的视觉摘要可以增加读者的信息访问，从而有助于应对科学出版物数量的指数增长。尽管如此，提供视觉出版物摘要的努力很少，而且相距甚远，主要集中在生物医学领域。这主要是因为有限的注释黄金标准，这阻碍了强大的和高性能的监督学习技术的应用。为了解决这些问题，我们创建了一个新的基准数据集，用于选择数字作为基于摘要的出版物的视觉摘要，涵盖计算机科学的几个领域。此外，我们开发了一种自监督学习方法，基于启发式匹配的内联引用的图与图标题。在生物医学和计算机科学领域的实验表明，我们的模型是能够超越最先进的，尽管是自我监督，因此不依赖于任何注释的训练数据。
2021-01-14 cs.CL cs.IR
Keyword Extraction in Scientific Documents
ETH Zurich（苏黎世联邦理工学院）；SUPSI（瑞士南部应用科学与艺术大学）；HE-Arc（阿尔高等工程学院）；Dalle Molle Institute for Artificial Intelligence USI-SUPSI（USI-SUPSI达尔·莫勒人工智能研究所）
科学出版物的产量呈指数级增长。因此，跟踪趋势和变化越来越具有挑战性。理解科学文献是知识图谱构建、文本挖掘和学科分类等下游任务的重要步骤。在这个研讨会中，我们提供了一个更好的理解关键字和关键短语提取从摘要的科学出版物。
2022-07-07 cs.CL
Tagging Scientific Publications using Wikipedia and Natural Language Processing Tools. Comparison on the ArXiv Dataset
Interdisciplinary Centre for Mathematical and Computational Modelling, University of Warsaw（华沙大学跨学科数学与计算建模中心）
在这项工作中，我们比较了两种简单的方法来标记科学出版物的标签反映其内容。作为第一源的标签维基百科被采用，第二标签集被构造从名词短语中出现的分析语料库。我们研究了这两种方法的统计特性和有效性的数据集上的摘要从0.7万的科学文件存放在ArXiv预印本集合。我们相信，所获得的标签可以在以后的各种机器学习任务（文档相似性，聚类，主题建模等）中作为有用的文档特征。
2014-11-03 cs.CL cs.DL
Confabulations from ACL Publications (CAP): A Dataset for Scientific Hallucination Detection
Charles University, Prague（查尔斯大学，布拉格）；Independent Researcher（独立研究者）；University of Helsinki, Finland（赫尔辛基大学）；University of British Columbia, Vancouver, Canada（不列颠哥伦比亚大学，温哥华，加拿大）；Chosun University, South Korea（成均馆大学，韩国）
该论文提出了CAP数据集，一个多语言科学幻觉检测资源，包含900个科学问题和7000多个来自16个模型的生成答案，用于检测LLM在科学文本生成中的事实性错误。
2025-10-25 cs.CL
SemEval 2017 Task 10: ScienceIE - Extracting Keyphrases and Relations from Scientific Publications
University College London（伦敦大学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
我们描述了SemEval从科学文献中提取关键词及其之间关系的任务，这对于理解哪些出版物描述了哪些过程，任务和材料至关重要。虽然这是一项新任务，但我们在3个评估场景中共收到26份提交。我们期望本文中报告的任务和发现与致力于理解科学内容的研究人员以及更广泛的知识库人群和信息抽取社区相关。
2017-05-02 cs.AI cs.CL stat.ML
A Multi-lingual Dataset of Classified Paragraphs from Open Access Scientific Publications
French Ministry of Higher Education and Research（法国高等教育与研究部）
本文介绍了一个包含83.3万段、涵盖多语言和四类标注的科学文献段落数据集，用于训练分类模型和命名实体识别系统，推动科学文献挖掘。
2025-10-13 cs.CL cs.DL
SciRecSys: A Recommendation System for Scientific Publication by Discovering Keyword Relationships
Nguyen Tat Thanh University（阮爱国大学）；Yeungnam University（岭南大学）；Information Technology College（信息技术学院）；University of Information Technology（信息技术大学）；Chung-Ang University（中央大学）
在这项工作中，我们提出了一种新的方法来发现各种关键字之间的关系，在科学出版物的基础上的马尔可夫链模型。这是一个重要的问题，因为关键字是表示抽象对象的基本元素，如文档，用户简档，主题和许多其他东西。我们的模型是非常有效的，因为它结合了科学出版物的四个重要因素：内容，宣传，影响和随机性。特别是，推荐系统（称为SciRecSys）已经提出，以支持用户有效地找到相关的文章。
2015-02-27 cs.CL cs.DL cs.IR
Unsupervised Key-phrase Extraction and Clustering for Classification Scheme in Scientific Publications
Ericsson AB（爱立信公司）；Uppsala University（乌普萨拉大学）
已经探索了几种方法来自动化系统映射（SM）和系统评价（SR）方法的一部分。挑战通常围绕文本语义理解的差距以及缺乏弥合这一差距所需的领域和背景知识而演变。在本文中，我们研究可能的方法自动化部分SM/SR过程，即提取关键字和关键短语从科学文献中使用无监督的方法，然后使用语义关键短语聚类技术作为基础，构建相应的分类方案。具体而言，我们探讨了集成分数测量在关键短语提取中的作用，我们探讨了基于语义网络的词嵌入在短语语义的嵌入表示中的作用，最后我们还探讨了如何使用聚类来对相关的关键短语进行分组。评估是在与“可解释的人工智能”领域有关的出版物数据集上进行的，我们使用标准的公开数字图书馆和索引术语（关键词）集构建了该数据集。实验结果表明：集成排序得分确实提高了关键词提取的性能。基于ConceptNet语义网络的基于语义网络的词嵌入与上下文化的词嵌入具有相似的性能，但是前者的计算效率更高。最后，在术语级进行语义关键词聚类，可以将相似的术语聚集在一起，从而适合于分类方案。
2021-02-08 cs.CL
Analyzing Scientific Publications using Domain-Specific Word Embedding and Topic Modelling
SUTD-MIT International Design Centre（新加坡科技设计大学-麻省理工学院国际设计中心）；Singapore University of Technology and Design（新加坡科技设计大学）
科学世界正在快速变化，新技术的开发和新趋势的出现越来越频繁。本文提出了一个对学术出版物进行科学分析的框架，这对于监测研究趋势和识别潜在的创新至关重要。该框架采用并结合了自然语言处理的各种技术，如词嵌入和主题建模。词嵌入用于获取特定领域词的语义。我们提出了两个新的科学出版物嵌入，即，PUB-G和PUB-W，能够学习各种研究领域中的通用词和特定领域词的语义。此后，主题建模用于确定这些较大的研究领域内的研究主题集群。我们策划了一个出版物数据集，包括1995年至2020年两个研究领域的两个会议和两种期刊。实验结果表明，我们的PUB-G和PUB-W嵌入优于其他基线嵌入的基础上主题一致性的利润率为~0.18-1.03。
2021-12-24 cs.AI cs.CL
Does Scientific Writing Converge to U.S. English? Evidence from Generative AI-Assisted Publications
本研究利用生成式AI辅助出版物的数据，发现非英语国家的科学写作在语言上趋于美国英语，表明GenAI在降低语言障碍方面的作用。
2026-03-10 cs.CL cs.CY
Full-Text Argumentation Mining on Scientific Publications
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；University of Potsdam（波茨坦大学）
学术论证挖掘（SAM）最近受到关注，因为它有可能帮助学者快速增长的已发表科学文献。它包括两个子任务：争论性话语单元识别（ADUR）和争论性关系抽取（ARE），这两者都具有挑战性，因为它们需要例如领域知识的集成、隐式陈述的检测以及论点结构的消歧。虽然以前的工作主要集中在特定文档部分（如摘要或结果）的数据集构建和基线方法上，但全文学术论证挖掘几乎没有进展。在这项工作中，我们介绍了一个顺序流水线模型结合ADUR和ARE全文SAM，并提供了第一次分析的性能预训练语言模型（PLM）的两个子任务。我们在Sci-Arg语料库上为ADUR建立了一个新的SotA，大大优于之前报道的最佳结果（+7%F1）。我们还在这个基准数据集上展示了ARE的第一个结果，从而也展示了完整的AM管道。我们详细的错误分析表明，非连续ADU以及话语连接词的解释构成了重大挑战，数据注释需要更加一致。
2022-10-24 cs.CL
Data Augmentation Techniques for Process Extraction from Scientific Publications
Fujitsu Limited（富士通公司）
针对科学出版物中的流程抽取任务，提出一种基于流程信息、角色标签相似性和句子相似性的数据增强技术，将任务转化为序列标注任务，显著提升化学领域模型F值达12.3个百分点，还可减少过拟合。
2024-05-23 cs.CL cs.IR
Generating Topic Pages for Scientific Concepts Using Scientific Publications
Elsevier（爱思唯尔）
本文提出 Topic Pages 系统，利用 NLP 与 ML 从同行评审科学文献中自动提取概念定义、相关概念和相关片段，构建覆盖20个领域、月均2300万访问的科学概念信息库。
2023-04-24 cs.CL cs.DL cs.IR
AutoFigure: Generating and Refining Publication-Ready Scientific Illustrations
Engineering School, Westlake University（西湖大学工学院）
AutoFigure通过代理框架自动生成高质量科学插图，基于长篇科学文本并优于基线方法，实现结构和视觉的双重完善。
2026-02-12 cs.AI cs.CL cs.CV
A Web-scale system for scientific knowledge exploration
Microsoft Research（微软研究院）
为了有效地探索网络规模的科学知识，有必要将科学出版物组织成一个层次化的概念结构。在这项工作中，我们提出了一个大规模的系统（1）识别数十万个科学概念，（2）通过利用文本和图形结构将这些识别的概念标记到数亿科学出版物中，以及（3）使用基于包容的模型构建六层概念层次结构。该系统构建了迄今为止发布的最全面的跨领域科学概念本体，拥有超过20万个概念和超过100万个关系。
2018-05-30 cs.CL cs.DL
HyperPIE: Hyperparameter Information Extraction from Scientific Publications
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Fraunhofer Institute for Systems and Innovation Research（弗劳恩霍夫系统与创新研究所）；The University of Tokyo（东京大学）
本文提出HyperPIE任务，构建标注数据集，并基于BERT微调模型和多种大语言模型（含YAML输出方法）实现超参数实体识别与关系抽取，取得显著性能提升并分析跨学科模式。
2024-01-10 cs.CL cs.IR
AI-Reporter: A Path to a New Genre of Scientific Communication
Department of Philosophy（哲学系）；Humboldt-Universität zu Berlin（洪堡大学）
本研究提出AI-Reporter系统，通过具体案例验证其可在三分钟内将学术报告转化为可出版章节，为科学传播提供新范式，弥合了口头报告与永久科学文献间的差距。
2025-07-31 cs.CL cs.DL
Towards Math-Aware Automated Classification and Similarity Search of Scientific Publications: Methods of Mathematical Content Representations
Faculty of Informatics, Masaryk University（马萨里克大学信息学院）
在本文中，我们调查的数学内容表示适用于自动分类和STEM文档中的相似性搜索使用标准的机器学习算法：潜在狄利克雷分配（LDA）和潜在语义索引（LSI）。这些方法在arXiv.org论文的一个子集上进行评估，数学主题分类（MSC）作为参考分类，并使用标准的精确度/召回率/F1度量指标。这些结果让我们深入了解不同的数学表示如何影响STEM存储库中分类和相似性搜索任务的性能。毫不奇怪，机器学习方法能够从文本标记中获取分布式语义。适当选择表示数学的加权标记可以稍微提高结果的质量。一个结构化的数学表示，模仿成功的文本处理技术与数学，产生更好的结果比平面TeX令牌。
2021-10-08 cs.AI cs.CL cs.IR
SMAuC -- The Scientific Multi-Authorship Corpus
Bauhaus-Universität Weimar（魏玛包豪斯大学）；Leipzig University（莱比锡大学）
针对科学出版物作者身份分析缺乏大规模数据集的问题，构建了包含逾300万篇论文、超500万作者的元数据丰富语料库SMAuC，旨在推动该领域研究。
2023-05-10 cs.CL cs.DL
Classifying Scientific Publications with BERT -- Is Self-Attention a Feature Selection Method?
expert.ai Research Lab（expert.ai研究实验室）
我们研究了BERT的自我注意力机制，在一个微调的情况下，对科学文章的分类超过一个分类的研究学科。我们观察自我注意力是如何集中在与文章领域高度相关的词上的。特别是，一小部分词汇往往会受到大部分关注。我们比较和评估的子集最出席的话通常用于文本分类的特征选择方法，以表征自我注意作为一种可能的特征选择方法。使用ConceptNet作为基础事实，我们还发现，关注词与文章的研究领域更相关。然而，传统的特征选择方法仍然是从头开始学习分类器的更好选择。这一结果表明，虽然自我注意识别领域相关的条款，歧视性信息在BERT编码的上下文输出和分类层。它还提出了一个问题，即在自注意力机制中注入特征选择方法是否可以进一步优化使用Transformers的单序列分类。
2021-01-20 cs.AI cs.CL cs.DL
Enhancing Scientific Reproducibility Through Automated BioCompute Object Creation Using Retrieval-Augmented Generation from Publications
GW School of Medicine and Health Sciences（乔治·华盛顿大学医学与健康科学学院）；The George Washington University（乔治·华盛顿大学）
本文提出一种基于检索增强生成和大型语言模型的BCO助手工具，通过两遍检索与重排序从论文和代码库中自动提取信息生成BCO文档，解决LLM幻觉等问题，显著降低生物信息学研究合规文档创建的时间与精力，提升科学可重复性。
2024-09-23 cs.AI cs.CL q-bio.OT
MexPub: Deep Transfer Learning for Metadata Extraction from German Publications
University of Koblenz-Landau（科布伦茨-兰道大学）
从科学论文中提取元数据可以被认为是NLP中解决的问题，因为最先进的方法具有很高的准确性。然而，这并不适用于德国的科学出版物，它们有各种各样的风格和布局。与大多数遵循标准和简单布局的英语科学出版物相比，德语出版物中元数据的顺序、内容、位置和大小在出版物之间差异很大。这种多样性使得传统的NLP方法无法准确地从这些出版物中提取元数据。在本文中，我们提出了一种方法，提取元数据的PDF文档与不同的布局和风格，通过查看文件作为一个图像。我们使用Mask R-CNN，它在COCO数据集上训练，并与PubLayNet数据集进行了微调，PubLayNet数据集由大约20万个PDF快照组成，具有五个基本类（例如文本，图等）。我们在我们提出的由约30 K文章快照组成的合成数据集上对模型进行了微调，以提取九种模式（即作者，标题等）。我们的合成数据集使用德语和英语两种语言的内容以及从德国出版物中获得的有限的具有挑战性的模板生成。我们的方法实现了$90\%$左右的平均准确度，这验证了它能够从具有挑战性模板的各种PDF文档中准确提取元数据。
2021-06-04 cs.CL cs.CV cs.DL
Drugs4Covid: Drug-driven Knowledge Exploitation based on Scientific Publications
Universidad Politécnica de Madrid（马德里理工大学）
在需求增加导致COVID患者缺乏足够药物的情况下，医院药剂师使用了废弃药物或修改了可用药物的剂量。在现有的科学文献中可以找到使用替代药物的一些证据，这些证据可以帮助做出这样的决定。然而，以有效的方式利用大量的文档并不容易，因为药物可能在文本中没有明确的相关性，并且可能在不同的品牌名称下被提及。Drugs 4Covid结合了词嵌入技术和语义网技术，以实现对大型医学文献的药物导向探索。药物和疾病分别根据ATC分类和MeSH类别确定。从CORD-19语料库中已经处理了超过6万篇文章和200万个段落，其中包含COVID-19，SARS和其他相关冠状病毒的信息。已创建了一个开放的药物目录，并通过药物浏览器、关键词引导的文本浏览器和知识图谱公开提供结果。
2020-12-03 cs.AI cs.CL cs.IR
