Old Content and Modern Tools - Searching Named Entities in a Finnish OCRed Historical Newspaper Collection 1771-1910
National Library of Finland, Centre for Preservation and Digitization(芬兰国家图书馆,保存与数字化中心);Aalto University, Semantic Computing Research Group(阿尔托大学,语义计算研究组);University of Helsinki, Department of Modern Languages(赫尔辛基大学,现代语言系);Department of Linguistics and English Language, Lancaster University(兰卡斯特大学,语言学与英语语言系)
命名实体识别(Named Entity Recognition,NER)是对文本中频繁出现的信息元素名称和名称进行检索、分类和标注,已成为文本数据的标准信息抽取过程。NER已被应用于许多类型的文本和不同类型的实体:报纸,小说,历史记录,人物,地点,化合物,蛋白质家族,动物等。一般来说,NER系统的性能是体裁和领域相关的,并且所使用的实体类别也各不相同(Nadeau和Sekine,2007)。命名实体的最一般的集合通常是位置、人员和组织的三方分类的某种版本。在本文中,我们报告了第一次大规模的试验和评估NER的数据出了一个数字化的芬兰历史报纸收集Digi。本研究的实验,结果和讨论服务于历史芬兰报纸的网络收集的发展。Digi收集了1771年至1910年的1,960,921页芬兰语和瑞典语报纸材料。我们在评估中只使用芬兰文件的材料。OCRed报纸集有很多OCR错误;其估计的单词级别正确率约为70- 75%(Kettunen和Pääkkönen,2016)。我们的主要NER标注器是芬兰语的基于规则的标注器FiNER,由FIN-BERLIN联盟提供。我们还显示了有限的类别语义标记的阿尔托大学的语义计算研究小组(SeCo)的工具的结果。另外三个工具也进行了简要评价。这项研究报告首次发表了大规模的NER结果在历史上的芬兰OCRed报纸收藏。研究结果补充了具有类似噪声数据的其他语言的NER结果。
2016-11-09 cs.CL
Temporal Concept Drift and Alignment: An empirical approach to comparing Knowledge Organization Systems over time
Drexel University(德雷塞尔大学);Temple University(天普大学)
本研究探讨知识组织系统中的时间概念漂移与时间对齐。使用1910年美国国会图书馆主题词,2020年快速主题和自动索引进行比较分析。这个用例包含了90个19世纪的大英百科全书条目的样本。使用两种方法对条目进行索引:1)全文索引; 2)使用Stanza(Stanford的NLP工具包)对条目进行命名实体识别,并使用1910 LCSH和FAST Topical使用帮助跨学科词汇应用程序(HIVE)自动索引实体。分析集中在三个目标上:1)识别1910年LCSH输出的专有结果; 2)识别从当代LCSH中被弃用的专有集合中的术语,展示时间概念漂移; 3)探索这些弃用术语的历史意义。结果证实,历史词汇可以用来产生不合时宜的主题词,代表概念漂移跨时间在KOS和历史资源。一个方法论的贡献,展示了如何研究随着时间的推移,在KOS的变化,提高历史人文资源的语境化。
2022-08-16 cs.CL
SoulMate: Short-text author linking through Multi-aspect temporal-textual embedding
Iran University of Science and Technology(伊朗科技大学);Singapore University of Technology and Design(新加坡科技设计大学);University of Queensland(昆士兰大学)
链接短文本内容的作者在许多应用中具有重要用途,包括命名实体识别(NER)和人类社区发现。然而,前面还有一些挑战。首先,输入的短文本内容是嘈杂的,模糊的,不遵循语法规则。其次,传统的文本挖掘方法不能有效地通过单词和短语提取概念。第三,文本内容具有时间倾斜性,可以通过多个时间层面影响语义理解。最后,使用互补的知识库使结果偏向于外部数据库的内容,偏离了对给定短文本语料库的真实性质的理解和解释。为了克服这些挑战,我们设计了一个基于神经网络的时间-文本框架,从微博短文本内容中生成紧密连接的作者子图。我们的方法,一方面,计算作者之间的相关性得分(边权重),通过考虑一个组合的内容和概念,另一方面,采用了一个堆栈明智的图切割算法来提取相关作者的社区。实验结果表明,与其他以知识为中心的竞争对手相比,我们的多方面向量空间模型可以实现更高的性能连接短文本作者。此外,给定作者链接任务,数据集越全面,提取的概念的重要性就越高。
2019-10-27 cs.CL cs.IR cs.LG
Combining Visual and Textual Features for Semantic Segmentation of Historical Newspapers
École polytechnique fédérale de Lausanne(洛桑联邦理工学院);Universität Zürich(苏黎世大学)
针对历史报纸语义分割中仅用视觉特征的问题,提出结合视觉与文本特征的多模态方法,实验证明其性能优于视觉基线且对材料变异更鲁棒。
2020-12-14 cs.CL cs.CV cs.IR
Textual Analysis for Studying Chinese Historical Documents and Literary Novels
National Chengchi University(台湾政治大学);Harvard University(哈佛大学);National Central University(台湾中央大学);National Taiwan University(台湾大学)
我们分析了中国的历史和文学文献,以深入了解研究问题,并概述了我们的研究,利用四个不同的文本材料来源,在本文中。我们利用包含1830年至1930年有关中国的历史文献的《现代中国思想与文学研究数据库》调查了中国的概念和音译词的历史。我们还试图消除歧义的名字,多个政府官员谁在618年和1912年之间服务,并记录在中国地方志。为了展示计算机辅助分析中国文学的潜力和挑战,我们探讨了一些关于中国四大古典小说中的两部的有趣而又重要的问题:(1)在16世纪出版的《西游记》(JTTW)中,哪些怪物试图吃掉佛教僧侣玄奘,(2)《西游记》中最强大的怪物是什么,(3)在18世纪出版的《红楼梦》中,哪个主要角色笑得最多。类似的方法也可以应用于现代文献的分析和研究,例如1947年台湾发生的关于二二八事件的报纸文章。
2015-10-11 cs.CL cs.DL
Large Multimodal Model based Standardisation of Pathology Reports with Confidence and their Prognostic Significance
University of Warwick(华威大学);University Hospitals Coventry and Warwickshire NHS Trust(考文垂与沃里克郡大学医院国民保健服务信托基金);Warwick Medical School(华威医学院)
本研究提出基于大型多模态模型(LMMs)的病理报告标准化方法,通过两阶段提示提取信息并生成带置信度的标准化报告,克服现有方法局限,其提取结果对患者分层有显著预后价值。
2024-05-03 cs.CL
Page Layout Analysis of Text-heavy Historical Documents: a Comparison of Textual and Visual Approaches
EPFL(洛桑联邦理工学院);UNIL(洛桑大学)
页面布局分析是文档处理中的基本步骤,它能够将页面分割成感兴趣的区域。由于高度复杂的布局和混合的脚本,学术评论是文本繁重的文档,对于最先进的模型来说仍然具有挑战性。它们的布局在不同版本之间有很大的差异,它们最重要的区域主要由语义而不是图形特征(如位置或外观)定义。这种情况要求对文本、视觉和混合方法进行比较。因此,我们评估两个Transformers(LayoutLMv 3和RobERTa)和一个目标检测网络(YOLOv 5)的性能。如果结果显示后者有明显的优势,我们也会对这一发现提出一些警告。除了我们的实验之外,我们还发布了ca的数据集。300页注释,摘自19世纪的评论。
2022-12-12 cs.AI cs.CL cs.CV
Intervention-Aware Forecasting: Breaking Historical Limits from a System Perspective
Department of Computer Science and Engineering, CUHK(计算机科学与工程系,香港中文大学)
针对传统时间序列预测依赖历史数据、忽略外部干预的局限,提出IATSF框架与轻量模型FIATS,通过文本干预建模提升预测精度,经无泄漏基准验证优于现有最优方法。
2025-05-16 cs.AI cs.CL cs.LG
An open diachronic corpus of historical Spanish: annotation criteria and automatic modernisation of spelling
Universitat d’Alacant(阿利坎特大学)
历史西班牙语的IMPACT-es历时语料库汇编了100多本书-包含约800万个单词-除了一个补充词典,该词典将1万多个词元与文件中发现的不同变体的证明联系起来。本文本语料库和随附的词典已根据开放许可证(Creative Commons by-nc-sa)发布,以允许在语言学研究中对其进行深入开发。语料库中大约7%的单词(旨在提高最常见单词形式的覆盖率的选择)已经用它们的词元,词性和现代等价物进行了注释。本文介绍了注释遵循的标准和标准,基于文本编码倡议的建议,用于表示数字形式的文本。作为一个例证的历时文本资源和语言学研究之间可能的协同作用,我们描述了应用统计机器翻译技术来推断概率上下文敏感的规则,自动现代化的拼写。当将输出与文本的监督现代版本进行比较时,使用这种类型的统计方法的自动现代化导致非常低的字符出错率。
2013-06-28 cs.CL cs.DL
Exploiting Rich Textual User-Product Context for Improving Sentiment Analysis
Dublin City University(都柏林城市大学);Westlake University(西湖大学);Trinity College Dublin(都柏林圣三一学院)
与评论相关联的用户和产品信息对于情感极性预测是有用的。结合这些信息的典型方法集中在将用户和产品建模为隐式学习的表示向量。大多数没有利用历史回顾的潜力,或者那些目前需要对模型架构进行不必要的修改,或者没有充分利用用户/产品关联的评论。这项工作的贡献是双重的:i)一种方法,明确采用属于同一用户/产品的历史评论初始化表示,以及ii)通过用户-产品跨上下文模块有效地结合用户和产品之间的文本关联。在IMDb,Yelp-2013和Yelp-2014基准测试上的实验表明,我们的方法大大优于以前的最先进的。由于我们使用BERT-base作为编码器,我们还提供了实验,在实验中,我们的方法与Span-BERT和Longformer表现良好。此外,在训练数据中的每个用户/产品的评论被下采样的实验中,证明了我们的方法在低资源设置下的有效性。
2022-12-17 cs.CL
D4R -- Exploring and Querying Relational Graphs Using Natural Language and Large Language Models -- the Case of Historical Documents
Univ. Paul-Valéry Montpellier(保罗-瓦莱里蒙彼利埃大学);INU Jean-François Champollion(让-弗朗索瓦·商博良国家大学);CNRS(法国国家科学研究中心);INSPE, UT2J(图卢兹第二大学教育学院);Univ. de Toulouse(图卢兹大学);IRIT(图卢兹计算机科学研究所)
D4R是一个利用大语言模型将自然语言转换为Cypher查询,帮助历史学家等非技术用户探索文本关系图的平台,并已提供演示。
2025-03-26 cs.AI cs.CL cs.IR
Do Images really do the Talking? Analysing the significance of Images in Tamil Troll meme classification
University Visvesvaraya College of Engineering(维斯瓦瓦拉亚工程学院);Bangalore University(班加罗尔大学);Indian Institute of Information Technology Tiruchirappalli(蒂鲁奇拉帕利印度信息技术学院);ULTRA Arts and Science College(ULTRA文理学院);Sri Krishna Adithya College of Arts and Science(斯里克里希纳阿迪蒂亚文理学院);SSN College of Engineering(SSN工程学院);Eastern University(东部大学);Insight SFI Research Centre for Data Analytics(INSIGHT SFI数据分析研究中心);National University of Ireland Galway(爱尔兰国立高威大学)
模因是媒体的一部分,用于在互联网上分享观点或情感。由于其流行性,模因已成为社交媒体上的新传播形式。然而,由于其性质,它们正以有害的方式被使用,如拖钓和网络欺凌。各种数据建模方法在特征提取中创造了不同的可能性,并将其转化为有益的信息。数据中包含的各种模态在预测结果方面发挥着重要作用。我们试图探讨图像的视觉特征在模因分类中的意义。模因是图像和文本的混合体,其中文本嵌入到图像中。我们试图根据图片和文字将这些迷因分为巨魔迷因和非巨魔迷因。然而,图像将被分析并与文本相结合,以提高性能。我们的工作说明了不同的文本分析方法和对比多模态方法,从简单的合并到交叉注意,利用两个世界的最佳视觉和文本功能。经过微调的跨语言语言模型XLM在文本分析中表现最好,而多模态转换器Transformer在多模态分析中表现最好。
2021-08-09 cs.CL
Detecting Historical Turning Points in Italian Media: A Complex Systems Approach to a Diachronic News Corpus
Department of Physics and Chemistry, University of Palermo(帕尔米洛大学物理与化学系);Institute for Cross-Disciplinary Physics and Complex Systems (IFISC), UIB-CSIC(跨学科物理与复杂系统研究所(IFISC), UIB-CSIC)
通过NLP和复杂系统方法分析意大利《共和报》1985-2000年的60万篇文章,无监督检测出意大利第一共和国向第二共和国过渡、海湾战争等关键历史转折点。
2026-11-03 cond-mat.stat-mech cs.CL physics.soc-ph
BERnaT: Basque Encoders for Representing Natural Textual Diversity
HiTZ Center - Ixa, University of the Basque Country UPV/EHU(希茨中心 - Ixa,巴斯克国家大学UPV/EHU)
本文提出BERnaT模型,通过结合标准、社交媒体和历史文本构建新语料库,训练三种配置的编码器模型,评估框架区分标准和多样任务,结果表明混合训练模型在各类任务中表现更优。
2026-03-23 cs.AI cs.CL
An Information-Theoretic Approach to Identifying Formulaic Clusters in Textual Data
Department of Statistics and Data Science, The Hebrew University of Jerusalem(统计与数据科学系,耶路撒冷希伯来大学);Department of Statistics(统计系);Data Science, The Hebrew University of Jerusalem(数据科学,耶路撒冷希伯来大学);Faculty of Theology, Carl von Ossietzky Universität Oldenburg(神学系,卡尔·冯·奥西特齐克大学)
该研究旨在通过分析重复短语等识别文本数据中的公式化聚类,针对无监督区分公式化与非公式化元素的计算挑战,开发信息论算法,应用于希伯来圣经,分离文体层次并提供定量框架,增强分析创作模式的能力。
2026-07-29 cs.CL
An unsupervised framework for tracing textual sources of moral change
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究所)
道德在社会福祉中发挥着重要作用,但人们的道德感知并不稳定,并随着时间的推移而变化。自然语言处理的最新进展表明,文本是告知道德变化的有效媒介,但没有尝试量化这些变化的起源。我们提出了一个新的无监督的框架跟踪文本来源的道德变化对实体通过时间。我们用概率主题分布来描述道德变化,并推断出对道德时间进程产生显著影响的源文本。我们根据从社交媒体到新闻文章等多种数据来评估我们的框架。我们表明,我们的框架不仅捕捉细粒度的人类道德判断,但也确定了连贯的源主题的道德变革所引发的历史事件。我们运用我们的方法来分析COVID-19大流行的新闻,并展示其在识别高影响力和实时社会事件中道德变化来源方面的实用性。
2021-09-01 cs.CL
Mined Semantic Analysis: A New Concept Space Model for Semantic Representation of Textual Data
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
挖掘语义分析(MSA)是一种新的概念空间模型,它采用无监督学习来生成文本的语义表示。MSA将文本结构(术语、短语、文档)表示为概念袋(BoC),其中概念来自概念丰富的百科全书语料库。传统的概念空间模型只利用目标语料的内容来构建概念空间。或者,MSA通过挖掘概念之间的关联来揭示概念之间的隐含关系(例如,挖掘维基百科的“See also”链接图)。我们评估了MSA在衡量单词和句子语义相关性的基准数据集上的性能。实证结果表明,竞争力的性能MSA相比,现有的国家的最先进的方法。此外,我们介绍了第一个分析研究,以检查不同的语义相关性方法报告的结果的统计意义。我们的研究表明,最佳性能方法的结果的细微差别在统计学上可能是不显著的。这项研究的立场MSA作为一个国家的最先进的方法来衡量语义相关性,除了固有的可解释性和简单的生成的语义表示。
2017-12-31 cs.CL
An Empirical Evaluation of Text Representation Schemes on Multilingual Social Web to Filter the Textual Aggression
DA-IICT(古吉拉特邦达拉尔巴伊信息技术与通信技术研究所)
本文试图研究两个任务,即:用户攻击和事实检测的社会媒体内容的文本表示方案的有效性。在用户攻击检测,目的是从社交媒体中生成的内容和写在英语,梵文印地语和罗马化印地语识别侵略的水平.攻击性水平分为三个预定义的类,即:“非攻击性”,“公开攻击性”和“隐蔽攻击性”。在与灾难有关的事件,社会媒体一样,推特是充斥着数以百万计的职位。在这种紧急情况下,查明实际员额对参与救济行动的组织很重要。我们预计这个问题是分类和排名问题的组合。本文对基于BoW技术、分布式词/句表示、分类器上的迁移学习的各种文本表示方案进行了比较。加权$F_1$评分用作主要评价指标。实验结果表明,在机器学习分类器上,使用BoW的文本表示比词嵌入的效果更好。而预训练的词嵌入技术在基于深度神经网络的分类器上表现更好。最近的迁移学习模型,如ELMO,ULMFiT,针对攻击分类任务进行了微调。然而,结果与预训练的词嵌入模型不一致。总的来说,使用fastText的词嵌入比Word 2 Vec和Glove产生最好的加权$F_1$分数。使用预训练的向量模型进一步改进结果。采用统计显著性检验来确保分类结果的显著性。在词汇上不同的测试数据集的情况下,除了训练数据集之外,深度神经模型更健壮,并且比机器学习分类器表现得更好。
2019-04-16 cs.CL cs.IR cs.SI
Revitalizing Public Urban Places through Cultural and Political Memory: A Technological Approach with LLMs and Augmented Reality
National Technical University of Athens(雅典国立技术大学);TWT GmbH Science & Innovation(TWT有限公司科学与创新部);Massachusetts Institute of Technology(麻省理工学院)
研究借助数字孪生、虚拟现实等技术,探讨记忆、场所和身份的关联,介绍连接数字孪生、虚拟环境与城市及非城市景观的方法,为空间数字孪生、城市转型及文化遗产保护研究做贡献。
2026-07-28 cs.AI cs.CL cs.CY
Replicated Siamese LSTM in Ticketing System for Similarity Learning and Retrieval in Asymmetric Texts
Siemens AG(西门子股份公司);University of Munich (LMU)(慕尼黑大学(LMU))
我们的工业票务系统的目标是检索一个输入查询的相关解决方案,通过匹配存储在知识库中的历史门票。查询由主题和描述组成,而历史票证由主题、描述和解决方案组成。为了检索相关的解决方案,我们使用文本相似性范式来学习查询和历史门票中的相似性。该任务是具有挑战性的,由于显着的长期不匹配的查询和票据对的不对称长度,其中主题是一个简短的文本,但描述和解决方案是多句子的文本。我们提出了一种新的复制暹罗LSTM模型来学习非对称文本对中的相似性,在无监督和有监督的基线上,检索任务分别获得了22%和7%的增益(准确度@10)。我们还表明,短文本和长文本的主题和分布式语义特征提高了相似性学习和检索。
2018-07-08 cs.CL cs.IR cs.LG
GeoGLUE: A GeoGraphic Language Understanding Evaluation Benchmark
East China Normal University(华东师范大学);Alibaba Group(阿里巴巴集团)
针对地理NLP缺乏统一基准的问题,提出GeoGLUE基准,包含六个地理语言理解任务,实验证明其有效性与重要性。
2023-05-11 cs.AI cs.CL
Improving (Dis)agreement Detection with Inductive Social Relation Information From Comment-Reply Interactions
Westlake University(西湖大学)
一致性检测旨在识别作者对特定文本的态度或立场(\textit{agree, disagree, neutral})。现有的方法仅使用文本信息来识别(不)协议,特别是对于跨域设置,这是有限的。社会关系信息除了文本信息外,还可以在不同意任务中起到辅助作用。我们提出了一种新的方法来提取这样的关系信息(不)协议数据到一个归纳的社会关系图,只使用评论回复对没有任何额外的平台特定的信息。归纳的社会关系从整体上考虑了历史讨论和作者之间的关系。基于预训练的语言模型的文本信息和由预训练的RGCN编码的社会关系信息被联合考虑用于(不)一致检测。实验结果表明,我们的模型达到了最先进的性能,无论是在域内和跨域的基准- DEBAGREEMENT任务。我们发现,社会关系可以提高(不)协议检测模型的性能,特别是对于长令牌的评论-回复对,证明了社会关系图的有效性。通过对知识图谱的嵌入方法、信息融合方法、构建时间间隔等因素对构建社会关系图谱的影响的研究,验证了该模型的有效性。
2023-02-08 cs.AI cs.CL
From Pampas to Pixels: Fine-Tuning Diffusion Models for Gaúcho Heritage
Alana AI Research(阿尔纳人工智能研究)
本文以巴西南里奥格兰德州高乔文化遗产为案例,研究通过微调潜在扩散模型来生成地方文化概念、历史人物和濒危物种图像,从而探索生成模型在保存区域文化身份方面的作用与可行性。
2024-01-10 cs.AI cs.CL cs.CV