The distribution of information content in English sentences
Communication University of China(中国传媒大学);Zhejiang University(浙江大学)
句子是一种基本的语言单位,然而人们对句子中不同位置的信息量分布情况却知之甚少。基于真实的英语语料,本研究计算了不同句子位置的熵和其他与熵相关的统计量。统计数据表明,三步楼梯形分布模式,与熵在初始位置低于中间位置(位置以外的初始和最终),中间位置低于最终位置和中间位置显示没有显着差异。结果表明:(1)在句中位置上,熵率恒定假设和信息密度均匀假设不成立;(2)句中词的语境不能简单地定义为同一句中所有在它前面的词;(3)句中的语境信息量不是递增的,而是遵循“整体大于部分之和”的规律。
2016-09-24 cs.CL
Complexity-entropy analysis at different levels of organization in written language
University of Havana(哈瓦那大学)
书面语言是复杂的。书面文本可以被认为是试图传达一个有意义的信息,最终受到语言规则,上下文依赖和高度冗余的资源使用的限制。尽管有这些限制,但不可预测性是自然语言的基本要素。在这里,我们提出了使用熵的措施,以维护书面文本的可预测性和惊喜之间的平衡。简而言之,可以在文档中度量创新和上下文保持。它表明,这也可以在不同层次的组织的文本。所提出的分析类型是相当普遍的,也可以用于分析其他复杂信息中的相同平衡,例如DNA,其中已知存在组织层次结构。
2019-03-14 cs.CL
Span Identification of Epistemic Stance-Taking in Academic Written English
University of Oregon(俄勒冈大学)
本文基于Appraisal的engagement框架标注学术文本中的八类认知立场,并训练RoBERTa+LSTM模型识别其表达跨度,F1达到0.7208,超过人工编码者间信度。
2023-06-03 cs.AI cs.CL cs.LG
Macaron: Controlled, Human-Written Benchmark for Multilingual and Multicultural Reasoning via Template-Filling
MBZUAI;Meta;Capital One
Macaron通过模板填充方法构建多语言多文化推理基准,包含11862个实例,涵盖20个国家文化背景、10种文字体系和20种语言方言,评估了21种多语言大模型的推理能力,发现文化相关数学和计数模板最难。
2026-04-20 cs.CL
Sāmayik: A Benchmark and Dataset for English-Sanskrit Translation
Vizzhy Inc(Vizzhy公司);University of Utah(犹他大学);Indian Institute of Technology Bombay(印度理工学院孟买分校);Indian Institute of Technology Roorkee(印度理工学院鲁尔基分校)
本文发布包含约5.3万对当代散文风格英梵平行句对的Sāmayik数据集,填补现有梵语语料偏重诗歌的空白,并证明基于该数据集训练的翻译模型在领域外当代语料上显著优于基于古典诗歌数据训练的模型。
2024-03-29 cs.CL
Predictability and Causality in Spanish and English Natural Language Generation
University of Vigo(维戈大学)
本研究比较了英语和西班牙语在因果与非因果语言建模中的表现,发现英语适合因果NLG,西班牙语适合非因果NLG,支持在西班牙语中使用双向transformer模型。
2024-08-26 cs.CL
On the letter frequencies and entropy of written Marathi
University of Manitoba(曼尼托巴大学);Columbia University(哥伦比亚大学)
我们进行了全面的分析,在当代书面马拉地语的字母频率。我们确定的字母集,统计上占主导地位的任何大型通用马拉地文,并使用这些集合来估计马拉地文的熵。
2017-07-11 cs.CL cs.IT math.IT
Entropy of Ukrainian
Polish-Japanese Academy of Information Technology(波兰-日本信息科技学院);University of the National Education Commission in Kraków(克拉科夫国家教育委员会大学)
本文通过招募184名志愿者预测乌克兰语句子中下一个字符,计算出其熵上限为1.201 bits/character,并与现有大语言模型进行对比。
2026-04-30 cs.CL
Plain English Summarization of Contracts
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
单方面合同,如服务条款,在现代数字生活中发挥着重要作用。然而,很少有用户在接受这些条款之前阅读这些文档,因为它们太长,语言太复杂。我们建议用简明的英语对这些法律文件进行总结,使用户能够更好地理解他们所接受的术语。我们提出了一个初始数据集的法律文本片段配对的摘要写在简单的英语。我们手动验证这些摘要的质量,并表明它们涉及大量的抽象,压缩和简化。初步的实验表明,无监督的提取摘要方法不执行这项任务,由于抽象和风格的差异。最后,我们呼吁资源和技术开发的简化和风格的法律语言的转移。
2019-06-02 cs.CL
Detecting English Writing Styles For Non Native Speakers
Stony Brook University(石溪大学)
本文提出了第一次尝试,据我们所知,分类英语写作风格在这个规模上的挑战,分类日常语言写的作家与不同背景的涵盖各个领域的topics.The论文提出了简单的机器学习算法和简单的生成功能来解决困难的问题。依赖于从维基百科等大型知识来源获得的数据规模。我们相信,这些数据源对于为Web生成高准确性和易于在实践中部署的强大解决方案至关重要。本文对本族语者和非本族语者写作风格的分类准确率达到74%。此外,本文显示了一些有趣的观察不同的语言之间的相似性衡量其用户的英语写作风格的相似性。这种技术可以用来显示一些众所周知的事实,如将它们分组到家庭中,我们的实验支持。
2017-04-24 cs.CL
What talking you?: Translating Code-Mixed Messaging Texts to English
Carnegie Mellon University(卡内基梅隆大学)
本研究针对新加坡式英语(Singlish)到正式英语的翻译,采用多步骤提示方案在五个大型语言模型上进行语言检测与翻译,发现模型表现不佳,并发布数据集以促进语码混合语言翻译研究。
2024-11-08 cs.CL
English K_Quantization of LLMs Does Not Disproportionately Diminish Multilingual Performance
University of Agder(阿格德大学)
本文通过使用三种语言的重要性矩阵对Llama3.3 70B进行量化,发现当前量化实践不会不成比例地损害多语言性能。
2026-01-22 cs.AI cs.CL
Quantifying literature quality using complexity criteria
Universidad Simón Bolívar(西蒙·玻利瓦尔大学)
我们测量了英语和西班牙语文本的熵和符号多样性,包括文学诺贝尔奖获得者和其他著名作家。熵,符号多样性和符号频率分布进行了比较,这四个群体。我们还建立了一个规模敏感的写作质量,并评估其与Flesch的可读性指数为英语和西班牙语的Szigriszt的清晰度指数的关系。结果表明,熵和词的多样性与写作质量之间的相关性。文本体裁也会影响文本的熵和多样性。结果表明,文本的自动质量评估的可行性。
2017-01-15 cs.CL
Racial Bias in Hate Speech and Abusive Language Detection Datasets
Cornell University(康奈尔大学)
滥用语言检测技术的开发和应用很少考虑其潜在的偏见。我们研究了五组不同的Twitter数据中的种族偏见,这些数据被注释为仇恨言论和辱骂性语言。我们在这些数据集上训练分类器,并将这些分类器对用非裔美国英语写的推文的预测与用标准美国英语写的推文的预测进行比较。结果显示,在所有数据集中都存在系统性种族偏见的证据,因为在这些数据集上训练的分类器倾向于预测用非裔美国人英语写的推文是虐待性的,其比率要高得多。如果这些辱骂性语言检测系统被用于该领域,它们将对非裔美国人社交媒体用户产生不成比例的负面影响。因此,这些系统可能会歧视那些经常成为我们试图发现的虐待目标的群体。
2019-05-29 cs.CL cs.LG
NILC-Metrix: assessing the complexity of written and spoken language in Brazilian Portuguese
Instituto de Ciências Matemáticas e de Computação - University of São Paulo(圣保罗大学数学与计算机科学研究所);The University of Sheffield(谢菲尔德大学);Itaú Unibanco(伊塔乌联合银行)
本文提出并公开提供NILC-Meetings,一个计算系统,包括200个指标提出的话语,心理语言学,认知和计算语言学的研究,以评估文本的复杂性在巴西葡萄牙语(BP)。这些度量与描述性分析和计算模型的创建相关,并且可以用于从书面和口头语言的各种语言水平中提取信息。NILC-Meetings中的指标是在过去13年中开发的,从2008年开始使用Coh-Meetings-Port,这是在PorSimples项目范围内开发的工具。Coh-Meetings-Port从Coh-Meetings工具中调整了一些度量标准,用于计算英语文本的衔接和连贯性。在2010年PorSimples结束后,Coh-Meetings-Port最初的48个指标中增加了新的指标。鉴于大量的指标,我们提出了他们以下的组织类似的指标Coh-Meetings v3.0,以方便与葡萄牙语和英语的指标进行比较。在这篇论文中,我们通过三个应用来说明NILC-Meetings的潜力:(i)描述性分析儿童电影字幕和为小学I和II编写的文本之间的差异(ii)PorSimples项目的原始和简化文本语料库的文本复杂性的新预测器;(iii)利用青少年讲述的儿童故事的文字记录,为学校成绩建立一个复杂性预测模型。对于每个应用程序,我们评估哪组指标更具区分力,显示它们对每个任务的贡献。
2021-12-17 cs.CL
Punctuation effects in English and Esperanto texts
Université de Liège(列日大学)
本文用统计物理学方法研究了标点符号对句子长度的影响,并以书面语篇为例,分析了{ \it Alice in wonderland}和{ \it Through a looking glass}两个句子的标点符号对句子长度的影响。将第一个文本翻译成世界语也被认为是对标点符号在定义一种风格中的作用的测试,以及对自然语言和人工语言的对比。几个对数对数图的句子长度等级关系的主要标点符号。观察到不同的幂律与特征指数。根据句子的定义方式,指数可以取一个远小于1的值($ca.$ 0.50或0.30)。文本也被映射到基于词频的时间序列。原文与译文之间的数量差异非常微小,处于指数级。有人认为,句子似乎是更可靠的讨论作者的风格比字的分布。
2010-04-27 cs.CL physics.data-an
BanglishRev: A Large-Scale Bangla-English and Code-mixed Dataset of Product Reviews in E-Commerce
United International University(联合国际大学);Indiana University Bloomington(印第安纳大学伯明顿分校);BRAC University(BRAC大学);North South University(北南大学)
本文提出迄今最大电商评论数据集BanglishRev,包含174万条孟加拉语、英语及混合语评论,并训练BanglishBERT模型实现了94%准确率的情感分析。
2024-12-18 cs.CL cs.CV cs.LG
Development of POS tagger for English-Bengali Code-Mixed data
IIIT, Hyderabad(海得拉巴国际信息技术学院);Jadavpur University, Kolkata(贾达普大学)
由于社交媒体的出现,代码混合文本现在很普遍。由于这些文本将两种语言结合起来形成一个句子,因此产生了与自然语言处理相关的各种研究问题。本文试图挖掘这样一个问题,即语码混合文本的词性标注。我们已经建立了一个系统,可以POS标记英语孟加拉语代码混合的数据,其中孟加拉语的话写在罗马脚本。我们的方法最初涉及收集和清理英语-孟加拉语代码混合的推文。这些推文被用作构建我们系统的开发数据集。所提出的系统是一种模块化方法,首先用各自的语言标记各个标记,然后将它们传递给为不同语言(英语和孟加拉语,在我们的情况下)设计的不同POS标记器。这两个系统给出的标签随后被连接在一起,最终结果被映射到一个通用的POS标签集。我们的系统使用100个人工标记的POS代码混合句子进行测试,它返回的准确率为75.29%
2020-07-29 cs.CL
Shallow Discourse Annotation for Chinese TED Talks
Tianjin University(天津大学);University of Edinburgh(爱丁堡大学)
标注了语言相关属性的文本语料库是语言技术发展的重要资源。目前的工作为中文语言技术和中英翻译提供了一个新的资源,以一组TED演讲的形式(一些最初是用英语给出的,一些是中文),这些演讲已经以Penn Discourse TreeBank的风格用话语关系进行了注释,适应了中文文本中不存在的属性。该资源是目前唯一的注释话语级属性计划的口头独白,而不是书面文本。一个注释者之间的协议研究表明,注释方案是能够实现高度可靠的结果。
2020-04-06 cs.CL
Racial Disparity in Natural Language Processing: A Case Study of Social Media African-American English
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
我们强调了算法公平性的一个重要前沿:当应用于来自不同社会群体的作者的语言时,自然语言处理算法的质量差异。例如,目前的系统有时对女性和少数民族语言的分析比对白人和男性的分析更差。我们进行了实证分析的种族差异的语言识别写在非洲裔美国人的英语推文,并讨论在NLP的差异的影响。
2017-06-30 cs.CL cs.CY
MATra: A Multilingual Attentive Transliteration System for Indian Scripts
Chandigarh University(昌迪加尔大学);SRM Institute of Science and Technology(SRM科学技术学院)
音译是NLP领域的一项任务,其中输出的单词是使用任何外语的字母书写的发音相似的单词。今天,这个系统已经开发了几种语言对,涉及英语作为源或目标词,并部署在谷歌翻译和聊天机器人等几个地方。然而,在印度语翻译成其他印度语的研究很少。本文展示了一种基于Transformers(经过一些修改)的多语言模型,该模型可以提供比该领域中所有现有模型更高的性能和准确性,并且比最先进的模型获得更好的结果。本文展示了一个模型,可以执行以下五种语言之间的任何一对音译-英语,印地语,孟加拉语,卡纳达语和泰米尔语。它适用于语言是任何书面任务中沟通障碍的情况。该模型击败了最先进的技术(对于上述五种语言中的所有语言对-英语,印地语,孟加拉语,卡纳达语和泰米尔语),并达到了80.7%的前1准确率,比目前最好的结果高出约29.5%。此外,该模型在语音准确性方面达到了93.5%(音译主要是基于语音/声音的任务)。
2022-08-23 cs.CL
Using Sentiment Analysis to Investigate Peer Feedback by Native and Non-Native English Speakers
Georgia Institute of Technology(佐治亚理工学院)
本文利用Twitter-roBERTa情感分析,研究美国在线计算机课程中母语与非母语英语使用者的同伴反馈差异,发现语言背景对反馈体验有复杂影响。
2025-08-07 cs.CL
Mapping the Americanization of English in Space and Time
Center for Data Science, New York University(纽约大学数据科学中心);Departament de Filologia Espanyola, Moderna i Clàssica, Universitat de les Illes Balears (UIB)(巴利阿里群岛大学(UIB)现代与古典西班牙语言学系);Institute for Cross-Disciplinary Physics and Complex Systems IFISC (CSIC-UIB)(跨学科物理与复杂系统研究所(CSIC-UIB))
随着全球政治优势逐渐从英国转移到美国,文化影响世界其他地区的能力也随之转移。在这项工作中,我们分析了世界范围内的各种书面英语是如何演变的。我们研究的空间和时间的变化的词汇和拼写的英语使用一个大型语料库的地理定位的推文和谷歌图书数据集对应的书籍在美国和英国出版。我们的方法的优点是,我们可以解决标准的书面语言(谷歌图书)和更口语化的形式的微博消息(Twitter)。我们发现,美国英语是英国以外的英语的主导形式,其影响力甚至在英国境内。最后,我们分析了这一趋势如何随着时间的推移而演变,以及一些文化事件对塑造这一趋势的影响。
2018-05-28 cond-mat.stat-mech cs.CL cs.CY
Multilingual Hate Speech and Offensive Content Detection using Modified Cross-entropy Loss
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校);National Institute of Technology Raipur(赖布尔国家理工学院)
社交媒体用户数量的增加导致很多人滥用这些平台来传播攻击性内容和使用仇恨言论。手动跟踪大量的帖子是不切实际的,因此有必要设计自动化方法来快速识别它们。大语言模型是在大量数据上训练的,它们还利用了上下文嵌入。我们对大语言模型进行微调,以帮助我们完成任务。数据也很不平衡;所以我们使用了修改的交叉熵损失来解决这个问题。我们观察到,使用在印地语语料库中微调的模型表现更好。我们的团队(HNLP)在英语子任务A和英语子任务B中分别获得了0.808,0.639的宏观F1分数。在HASOC 2021中,我们的团队在印地语子任务A和印地语子任务B中分别获得了0. 737和0. 443的宏观F1分数。
2022-02-05 cs.CL
Neural Cross-Lingual Entity Linking
IBM Research AI(IBM研究院人工智能)
实体链接(EL)的一个主要挑战是有效地利用上下文信息来消除对维基百科的歧义,这些条目可能在不同的上下文中指代不同的实体。这个问题加剧了跨语言EL,它涉及到链接提到写在非英语文档中的条目在英语维基百科:比较跨语言的文本线索,我们需要计算跨语言的文本片段之间的相似性。在本文中,我们提出了一种神经EL模型,该模型结合卷积和张量网络,从多个角度训练查询和候选文档之间的细粒度相似性和差异性。此外,我们表明,这个英语训练的系统可以应用,在零样本学习,以其他语言,令人惊讶的有效利用多语言嵌入。所提出的系统具有强有力的经验证据,在英语和跨语言:西班牙语和中文TAC 2015数据集中产生了最先进的结果。
2017-12-05 cs.CL
FEANEL: A Benchmark for Fine-Grained Error Analysis in K-12 English Writing
Squirrel Ai Learning;Tsinghua University(清华大学);Shanghai Jiao Tong University(上海交通大学)
FEANEL基准旨在评估LLMs在K-12英语写作中细粒度错误分析的能力,通过1000篇学生作文和自定义分类体系,揭示当前模型在教育反馈方面的不足。
2025-11-28 cs.CL
Amharic-English Cross-Language Question Answering Using Statistical Machine Translation, Named Entity Recognition, and Semantic Indexing
Addis Ababa University(亚的斯亚贝巴大学)
该研究针对低资源语言阿姆哈拉语的信息获取障碍,构建整合SMT、NER等组件的双向跨语言问答系统,在阿姆哈拉语-英语检索任务中取得72%/79%、65%/70%的精确率与召回率,验证了模块化架构的有效性。
2026-10-14 cs.CL
Corpus Creation for Sentiment Analysis in Code-Mixed Tamil-English Text
Cardiff University(卡迪夫大学);Saraswathi Narayanan College(萨拉斯瓦蒂·纳拉亚南学院)
从视频或图像中理解评论的情感是许多应用中的一项重要任务。文本的情感分析可以用于各种决策过程。其中一个应用是基于观众评论分析社交媒体上视频的流行情绪。然而,来自社交媒体的评论并不遵循严格的语法规则,它们包含多种语言的混合,通常是用非母语脚本编写的。对于像泰米尔语这样的低资源语言,没有注释的代码混合数据也增加了这个问题的难度。为了克服这个问题,我们创建了一个黄金标准的泰米尔语-英语代码转换,情感注释语料库,包含来自YouTube的15,744条评论帖子。在本文中,我们描述了创建语料库和分配极性的过程。我们提出了注释者之间的协议,并显示了在此语料库上训练的情感分析的结果作为基准。
2020-05-30 cs.CL
Language Agnostic Data-Driven Inverse Text Normalization
Meta Platforms, Inc.(Meta平台公司)
随着自动语音识别(ASR)模型的出现,迫切需要将口语形式的文本(从ASR)转换为书面形式。这种逆文本规范化(ITN)问题吸引了来自各个领域的研究人员的关注。最近,一些工作表明,数据驱动的ITN方法可以输出高质量的书面形式的文本。由于标注的口语-书面语数据集的稀缺性,对非英语数据驱动的ITN的研究非常有限。在这项工作中,我们提出了一个语言无关的数据驱动的ITN框架,以填补这一空白。具体来说,我们将数据增强与神经机器翻译的数据结合起来用于低资源语言。此外,我们设计了一个评估方法,语言无关的ITN模型时,只有英文数据。我们的实证评估表明,这种语言无关的建模方法是有效的低资源的语言,同时保持高资源的语言的性能。
2023-01-24 cs.CL cs.LG
RoCode: A Dataset for Measuring Code Intelligence from Problem Definitions in Romanian
University POLITEHNICA of Bucharest(布加勒斯特理工大学);University of Bucharest, HTL Research Center(布加勒斯特大学HTL研究中心);PRHLT Research Center, Universitat Politècnica de València(瓦伦西亚理工大学PRHLT研究中心);ValgrAI - Valencian Graduate School and Research Network of Artificial Intelligence(ValgrAI - 瓦伦西亚人工智能研究生院与研究网络)
本文提出RoCode竞赛编程数据集,包含2642道罗马尼亚语题目及多语言解答,用于评估非英语代码智能并推动多语言代码模型发展。
2024-02-20 cs.CL
Automatic Annotation of Direct Speech in Written French Narratives
Deezer Research(Deezer研究院);EPFL(洛桑联邦理工学院)
针对法语叙事文本,构建了最大的按词标注直接引语的数据集,并评估多种基线方法,发现任务仍具挑战,为后续研究奠定基础。
2023-06-28 cs.CL
On the Entropy of Written Spanish
本文报告的结果熵的西班牙语。它们基于对n字符号(n = 1至18)、三元组、二元组和字符的自然语言的分析。在这项工作中获得的结果是基于12个不同的西班牙语文学作品的分析,以及由西班牙新闻社EFE提供的279917字的新闻文件。熵值的计算采用计算机处理和概率大数定律的直接方法。一阶模型软件源产生的人工西班牙语的三个样本也进行了分析,并与自然西班牙语。
2009-01-30 cs.CL cs.IT math.IT
Translationese as a Rational Response to Translation Task Difficulty
本文研究翻译ese与翻译任务难度的关系,通过量化任务难度指标预测翻译ese,发现跨语言转移难度对翻译ese的影响更大,信息理论指标在书面语中表现优异。
2026-09-14 cs.CL
From Contracts in Structured English to CL Specifications
University of Gothenburg(哥德堡大学);University of Oslo(奥斯陆大学)
在本文中,我们提出了一个框架来分析冲突的书面合同结构化的英语。使用语法框架(GF)将以结构化英语手动重写的合同自动翻译成形式语言。特别地,我们使用契约语言CL作为这种翻译的目标形式语言。在我们的框架中,CL规范可以输入到工具CLAN中,以检测冲突的存在(是否存在相互矛盾的义务,权限和禁令)。我们还使用GF得到CL公式的(限制)英语版本。我们讨论了这样一个框架的实施。
2011-09-13 cs.CL cs.FL cs.LO
Entropy in Large Language Models
Carl von Ossietzky Universität Oldenburg(奥尔登堡卡尔·冯·奥西特齐克大学)
本研究比较了大语言模型与自然语言的词熵,发现LLM的词熵低于自然口语,旨在评估LLM训练数据对信息和不确定性的影响。
2026-02-23 cs.CL
Mapping Written Words to Spoken Words in a Different Language Using Only Visual Grounding
Politehnica Bucharest(布加勒斯特理工大学);Stellenbosch University(斯坦陵布什大学);Trinity College Dublin(都柏林圣三一学院)
本研究针对低资源场景下的语音数据构建问题,提出一种基于自监督语音表示的对齐方法,可从视觉 grounding 数据中直接学习跨语言词到语音的映射,效果优于以往的注意力模型。
2026-08-28 cs.CL eess.AS
Large language models and the entropy of English
Joseph Henry Laboratories of Physics(乔赛亚·亨利物理实验室);Princeton Center for Theoretical Science(普林斯顿理论科学中心);Lewis--Sigler Institute for Integrative Genomics(刘易斯-西格尔整合基因组学研究所);Princeton University(普林斯顿大学);Initiative for the Theoretical Sciences(理论科学倡议);The CUNY Graduate Center(纽约市立大学研究生中心)
通过大语言模型揭示英语文本中长程结构的熵特性及依赖关系
2025-12-31 cond-mat.stat-mech cs.CL physics.bio-ph
RILEC: Detection and Generation of L1 Russian Interference Errors in English Learner Texts
Higher School of Economics(俄罗斯高等经济学院);Université Claude Bernard Lyon 1(克莱尔蒙特大学里昂1分校);Université Lumière Lyon 2(里昂2大学路易斯大学);ERIC(教育研究与创新中心)
RILEC通过生成语言模型和增强方法,有效检测和生成英语学习者文本中的L1俄语干扰错误。
2026-03-07 cs.CL
A Web-Based Tool for Analysing Normative Documents in English
Chalmers University of Technology(查尔姆斯理工大学);University of Gothenburg(哥德堡大学)
我们的目标是使用正式的方法来分析用英语编写的规范性文件,例如隐私政策和服务级别协议。这需要结合许多不同的元素,包括从自然语言中提取信息抽取、用于模型表示的形式语言以及用于属性规范和验证的接口。我们已经完成了这项任务的一系列组件:一个自然语言提取工具,一个合适的形式主义,用于表示这些文件,在这种形式主义的接口,用于建立模型,并回答查询的方法要求一个给定的模型。在这项工作中,这些关切都集中在一个网络工具中,为分析英文规范性案文提供了一个单一的界面。通过使用一个运行的例子,我们描述了每个组件,并展示了我们的工具建立的工作流程。
2017-07-13 cs.CL cs.CY
MASIVE: Open-Ended Affective State Identification in English and Spanish
Columbia University(哥伦比亚大学)
本研究提出开放式情感状态识别新任务,发布英西双语数据集MASIVE,发现微调小型多语言模型优于大型LLM,预训练提升基准表现,且母语数据对性能至关重要。
2024-11-12 cs.CL
The Parallel Meaning Bank: A Framework for Semantically Annotating Multiple Languages
Center for Language and Cognition, University of Groningen(格罗宁根大学语言与认知中心)
本文给出了一个一般性的描述的想法背后的并行意义银行,一个框架,旨在提供一个简单的方法来注释组成语义的语言以外的其他语言写的文本。注释过程是半自动的,包括七层语言信息:分割,符号化,语义标记,词义消歧,句法结构,主题角色标签,和共指。只要文档是基于英语翻译的,就可以将新的语言添加到意义库中,但也会对并行意义库的语言学假设提出新的有趣挑战。
2020-12-29 cs.CL
Multilingual Neural Semantic Parsing for Low-Resourced Languages
Amazon Research Cambridge(亚马逊剑桥研究院)
多语言语义解析是一种经济有效的方法,它允许单个模型理解不同的语言。然而,研究人员面临着训练数据的可用性很大的不平衡,英语资源丰富,而其他语言的数据少得多。为了解决数据限制的问题,我们提出使用机器翻译引导多语言训练数据从更丰富的英语数据。为了补偿机器翻译的训练数据的数据质量,我们利用来自预训练的多语言编码器的迁移学习来进一步改进模型。为了评估我们的多语言模型对人类写的句子,而不是机器翻译的,我们介绍了一个新的多语言语义解析数据集的基础上,Facebook的任务导向解析(TOP)数据集的英语,意大利语和日语。我们发现,使用预训练编码器的联合多语言训练在TOP数据集上的表现远远优于我们的基线,并且在公共NLMaps数据集上的表现优于最先进的模型。我们还在TOP数据集上建立了一个新的零样本学习基线。我们发现,一个语义解析器只训练英语数据实现了zero-shot性能的44.9%的精确匹配准确度对意大利语句子。
2021-06-14 cs.CL
Predicting CEFRL levels in learner English on the basis of metrics and full texts
University of Richmond(里士满大学);Université Paris Diderot(巴黎狄德罗大学);The Insight Centre for Data Analytics NUI Galway(爱尔兰国立大学戈尔韦分校洞察数据分析中心)
本文分析了语言指标的贡献,并可能,语言结构,分类法国英语学习者根据欧洲共同语言参考框架(CEFRL)的水平。其目的是建立一个模型,作为语言复杂性功能的学习者水平的预测。我们使用了EFCAMDAT语料库,这是一个包含一百万份学习者书面作业的数据库。在对文本应用语言复杂性度量之后,我们构建了一个表示,将文本的语言度量与其分配的CEFRL级别相匹配。词汇和句法指标计算LCA,LSA和koRpus。通过使用梯度提升树和Keras神经网络方法并通过对比CEFRL水平对来构建几个监督学习模型。结果表明,有可能实现成对区分,特别是对于A1至B1范围内的水平(A1=>A2:0.916 AUC和A2=>B1:0.904 AUC)。模式解释揭示了语料库中预测性的重要语言特征。单词标记和单词类型似乎在确定水平方面起着重要作用。这表明级别高度依赖于特定的语义配置文件。
2018-06-28 cs.CL
Study of Encoder-Decoder Architectures for Code-Mix Search Query Translation
Flipkart Data Science(Flipkart数据科学部门)
随着互联网和智能手机的广泛普及,电子商务平台的用户群越来越多样化。由于母语用户不熟悉英语,他们的首选浏览模式是他们的区域语言或他们的区域语言和英语的组合。从我们最近对查询数据的研究中,我们注意到我们收到的许多查询都是代码混合的,特别是Hinglish,即用英语(拉丁语)脚本编写的一个或多个印地语单词的查询。我们提出了一个基于转换器的方法代码混合查询翻译,使用户能够搜索这些查询。我们证明了在大型未标记英语文本语料库上训练的预训练编码器-解码器模型的有效性。使用通用域翻译模型,我们创建了一个伪标签数据集,用于在搜索查询上训练模型,并验证了各种数据增强技术的有效性。此外,为了减少模型的延迟,我们使用知识蒸馏和权重量化。通过实验评估和A/B测试验证了该方法的有效性。该模型目前在Flipkart应用程序和网站上运行,为数百万个查询提供服务。
2022-08-07 cs.CL
SMPOST: Parts of Speech Tagger for Code-Mixed Indic Social Media Text
IIT Patna(印度理工学院帕特纳分校);MNIT Jaipur(马拉维亚国家理工学院斋浦尔分校)
社交媒体的使用在过去几年中急剧增长。用户在通过社交媒体进行交流时使用非正式语言。交流的语言通常是混合的,人们用英语转录他们的地区语言,这种技术被发现非常受欢迎。自然语言处理(NLP)的目的是从这些文本中推断信息,其中词性标注(PoS)在获得书面文本的韵律方面起着重要作用。对于代码混合的印度社交媒体文本的PoS标记任务,我们开发了一个基于条件随机场分类器的监督系统。为了有效地解决这个问题,我们集中精力提取丰富的语言特征。我们参加了三个不同的语言对,即。英语-印地语,英语-孟加拉语和英语-泰卢固语在三个不同的社交媒体平台,Twitter,Facebook和WhatsApp。该系统能够成功地分配粗以及细粒度的PoS标签标签为一个给定的代码混合的句子。实验表明,我们的系统是相当通用的,在所有领域的所有三种语言对表现出令人鼓舞的性能水平。
2017-02-02 cs.CL
NL2Bash: A Corpus and Semantic Parser for Natural Language Interface to the Linux Operating System
University of Washington(华盛顿大学)
我们提出了新的数据和语义解析方法的问题,映射英语句子的Bash命令(NL2Bash)。我们的长期目标是使任何用户都能执行文件操作、搜索和特定于应用程序的脚本编写等操作,只需用英语说明他们的目标。我们在这一领域迈出了第一步,提供了一个新的数据集,其中包含了具有挑战性但常用的Bash命令和专家编写的英语描述,以及建立此任务性能水平的基线方法。
2018-03-02 cs.CL cs.SE
Uncovering Differences in Persuasive Language in Russian versus English Wikipedia
University of Pennsylvania(宾夕法尼亚大学);Air Force Research Lab(空军研究实验室)
本文提出用LLM自动生成并筛选高层次问题来识别多语言文本中的说服性语言,在88K篇英俄维基百科文章上揭示了两文化在乌克兰、中东等主题上的说服性差异,并发布了代码与数据。
2024-09-27 cs.CL
Lexical Simplification Benchmarks for English, Portuguese, and Spanish
Universitat Pompeu Fabra(庞培法布拉大学);Manchester Metropolitan University(曼彻斯特城市大学);George Mason University(乔治梅森大学)
即使在高度发达的国家,也有15- 30%的人口只能理解使用基本词汇书写的文本。他们对日常文本的理解有限,这使他们无法在社会中发挥积极作用,并在医疗保健,法律代表或民主选择方面做出明智的决定。词汇简化是一项自然语言处理任务,旨在通过用简单的词汇和表达替换复杂的词汇和表达,同时保留原始含义,使每个人都能理解文本。在过去的20年里,它引起了相当大的关注,并且已经为各种语言提出了全自动的词汇简化系统。阻碍该领域发展的主要障碍是缺乏用于构建和评估词汇简化系统的高质量数据集。我们提出了一个新的基准数据集的词汇简化英语,西班牙语和(巴西)葡萄牙语,并提供有关数据选择和注释程序的细节。这是第一个提供三种语言词汇简化系统直接比较的数据集。为了展示数据集的可用性,我们采用了两个具有不同架构的最先进的词汇简化系统(神经与\非神经)到所有三种语言(英语,西班牙语和巴西葡萄牙语),并评估它们在我们新数据集上的表现。为了更公平的比较,我们使用了几个评估指标,这些指标反映了系统功效的各个方面,并讨论了它们的优点和缺点。我们发现,一个国家的最先进的神经词汇简化系统优于一个国家的最先进的非神经词汇简化系统在所有三种语言。更重要的是,我们发现最先进的神经词汇简化系统对英语的表现明显优于西班牙语和葡萄牙语。
2022-09-12 cs.CL
KatFishNet: Detecting LLM-Generated Korean Text through Linguistic Feature Analysis
Yonsei University(延世大学)
本文提出首个韩语LLM生成文本检测基准KatFish及检测方法KatFishNet,通过分析分隔、词性和逗号使用等语言特征,将AUROC较现有最佳方法平均提升19.78%。
2025-09-19 cs.AI cs.CL
Minimally Supervised Written-to-Spoken Text Normalization
Google(谷歌)
在诸如文本到语音(TTS)或自动语音识别(ASR)的语音应用中,\emph{text normalization}指的是从\emph{written}表示转换成文本将如何是\emph{spoken}的表示的任务。在所有真实世界的语音应用程序中,文本规范化引擎都是手工开发的。例如,可以使用手工构建的语法来列举在给定语言中说出给定标记的可能方式,并且使用统计模型来选择上下文中最适当的发音。在这项研究中,我们研究了在文本规范化引擎中使用或多或少特定于语言的领域知识的权衡。在数据最丰富的场景中,我们可以访问精心构建的手工构建的规范化语法,对于任何给定的token,该语法都会为该token生成一组所有可能的动词化。我们还假设了一个语料库对齐的书面-口语话语,从中我们可以训练一个排名模型,选择适当的动词化为给定的上下文。作为精心构造的语法的替代品,我们还考虑了一种具有语言通用规范化\emph{covering grammar}的场景,其中开发人员只需要提供一组特定于该语言的词汇项。作为对齐语料库的替代,我们还考虑了一种情况,其中只有口语侧,并且通过用反向规范化语法组成口语侧来“幻觉化”相应的书面侧。我们调查的准确性的文本规范化引擎在这些情况下。我们报告的实验结果英语和俄语。
2016-09-21 cs.CL
Can LLMs capture stable human-generated sentence entropy measures?
Ludwig Maximilian University(路德维希·马克西米利安大学);Technical University of Munich(慕尼黑工业大学)
研究通过实验证明大语言模型在捕捉人类生成句子熵方面的能力,发现GPT-4o与人类数据最一致,但LLMs无法完全替代稳定的人类分布。
2026-02-04 cs.CL
CrossSum: Beyond English-Centric Cross-Lingual Summarization for 1,500+ Language Pairs
Bangladesh University of Engineering Technology (BUET)(孟加拉国工程技术大学(BUET));University of California Los Angeles(加利福尼亚大学洛杉矶分校);Monash University(莫纳什大学);Swinburne University of Technology(斯威本科技大学)
本文提出CrossSum,一个覆盖1500多个语言对、包含168万样本的最大跨语言摘要数据集,并设计多阶段采样算法和LaSE评估指标,使模型能用任意目标语言生成摘要且性能优于基线。
2023-05-25 cs.CL
Advantages of Domain Knowledge Injection for Legal Document Summarization: A Case Study on Summarizing Indian Court Judgments in English and Hindi
Department of Mathematics(数学系);Indian Institute of Technology Kharagpur(印度理工学院Khargpur分校);Department of Computer Science and Engineering(计算机科学与工程系)
本研究通过注入领域知识提升印度法律文件摘要能力,生成英文和印地语摘要,验证方法有效性。
2026-02-07 cs.AI cs.CL
Classifying Graphemes in English Words Through the Application of a Fuzzy Inference System
School of Computer Science University of Hull Hull, UK
本文提出用模糊推理系统将英语单词拆分为字素,以应对字素划分的非二值规则,并在50.18%的准确率和93.51%的±1误差范围内完成预测,同时开发基于IPA映射的基线方法进行比较。
2024-04-02 cs.CL cs.LO