Does Context Help Mitigate Gender Bias in Neural Machine Translation?
Vicomtech Foundation(维康科技基金会);Basque Research and Technology Alliance (BRTA)(巴斯克研究与技术联盟(BRTA));University of the Basque Country UPV/EHU(巴斯克大学(UPV/EHU))
该研究检验上下文感知模型能否缓解神经机器翻译的性别偏见,通过英德刻板职业翻译、巴斯克语到西班牙语无信息上下文翻译实验,发现这类模型虽提升阴性术语准确率,却仍可能维持甚至放大偏见,凸显需更细粒度的偏见缓解方案。
2024-06-18 cs.CL
Translation Error Detection as Rationale Extraction
University of Sheffield(谢菲尔德大学);Imperial College London(伦敦帝国理工学院)
最近基于多语言预训练表示的质量估计(QE)模型在预测翻译句子的整体质量时取得了非常有竞争力的结果。预测翻译错误,即具体检测哪些单词是不正确的,是一项更具挑战性的任务,特别是在训练数据有限的情况下。我们假设,与人类不同,成功的QE模型依赖于翻译错误来预测整体句子质量。通过探索一组特征归因方法,将相关性得分分配给输入以解释模型预测,我们研究了最先进的量化宽松模型的行为,并表明从这些模型中提取的解释(即理由)确实可以用于检测翻译错误。因此,我们(i)引入了一种新的半监督方法,用于词级QE和(ii)建议使用QE任务作为一个新的基准来评估特征属性的可解释性,即如何解释模型解释是人类。
2021-08-27 cs.CL
Understanding and Addressing the Under-Translation Problem from the Perspective of Decoding Objective
Pattern Recognition Center, WeChat AI, Tencent Inc(腾讯微信AI模式识别中心)
本研究从解码目标角度分析神经机器翻译中欠翻译的成因,提出利用预测EOS的置信度作为检测器并加强惩罚,以准确检测和纠正欠翻译输出。
2024-05-29 cs.CL
Indowordnets help in Indian Language Machine Translation
Indian Institute of Technology (IIT) Bombay(印度理工学院孟买分校)
作为资源较少的语言,印度-印度语和英语-印度语机器翻译系统的发展面临着翻译各种词汇现象的困难。在本文中,我们介绍了我们对11种印度语言中110种语言对的440个基于短语的统计训练模型的比较研究。我们已经开发了110个基本的统计机器翻译系统。然后,我们用词汇数据库中的Indowordnet同义词集词条扩充了训练语料库,并在基线系统的基础上进一步训练了110个模型。我们使用BLEU评分、METEOR和TER等各种评估指标进行了详细的性能比较。在使用Indowordnet后,我们观察到所有440个模型的翻译质量评估都有显着改善。这些实验从两个方面给出了详细的见解:(1)使用词汇数据库与同义词集映射的资源贫乏的语言(2)有效地使用Indowordnet系统集映射。此外,同义词集映射的词条在很大程度上帮助SMT系统处理翻译过程中的歧义。
2017-10-06 cs.CL
Predicting Machine Translation Performance on Low-Resource Languages: The Role of Domain Similarity
University of Michigan(密歇根大学);University of Toronto(多伦多大学);Centro de Investigación en Matemáticas(数学研究中心);Amherst College(阿默斯特学院);Universiteit Gent(根特大学);Ontario Tech University(安大略理工大学)
本研究针对低资源语言,通过回归模型分析微调语料规模、领域相似性和语言相似性对机器翻译性能的影响,发现领域相似性是最关键的预测因素。
2024-02-04 cs.CL cs.LG
Video-Helpful Multimodal Machine Translation
Kyoto University(京都大学);Google Research(谷歌研究院)
本文针对现有多模态机器翻译数据集中视频未必有助于消歧的问题,提出包含大规模训练集和视频有帮助评估集的EVA数据集,并设计基于选择性注意力的SAFA模型,通过帧注意力损失和歧义增强方法显著提升翻译性能。
2023-10-31 cs.CL
Please Translate Again: Two Simple Experiments on Whether Human-Like Reasoning Helps Translation
Language Technology Lab University of Amsterdam(语言技术实验室 阿姆斯特丹大学)
本文通过实验检验LLM翻译中类人逐步推理的有效性,发现CoT式分解并非性能提升的明确来源,而“再翻译一次”的自我精炼策略效果更优,揭示了人类与LLM最优翻译策略的差异。
2025-09-22 cs.CL
Encoders Help You Disambiguate Word Senses in Neural Machine Translation
Uppsala University(乌普萨拉大学);University of Zurich(苏黎世大学);University of Edinburgh(爱丁堡大学)
神经机器翻译(NMT)在翻译歧义词方面取得了新的最先进的性能。然而,目前还不清楚哪个组成部分主导了消歧过程。在本文中,我们探讨的能力NMT编码器和解码器消除歧义的词义,通过评估隐藏状态和调查的自我注意力的分布。我们训练一个分类器来预测一个歧义名词的翻译是否正确。我们发现,编码器隐藏状态优于词嵌入显着,这表明编码器充分编码的消歧到隐藏状态的相关信息。解码器可以提供用于消除歧义的进一步相关信息。此外,注意权重和注意熵表明,自我注意可以检测出歧义名词,并将更多的注意力分配到上下文。请注意,这是一个修订版。与解码器隐藏状态相关的内容已更新。
2020-05-06 cs.CL
Bridging Background Knowledge Gaps in Translation with Automatic Explicitation
University of Maryland(马里兰大学)
本文针对直译因背景知识缺失而难以理解的问题,提出基于 WikiExpl 数据集的自动显化生成技术,并在多语言问答中验证其能提升回答准确性。
2023-12-03 cs.CL
When Does Reasoning Help in Machine Translation? A Hierarchical Analysis of LRM Reasoning Traces
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Google DeepMind(谷歌DeepMind)
本研究通过层次化元摘要框架分析大型推理模型在机器翻译中的推理轨迹,发现推理语言、长度和模式对翻译质量有复杂影响,提出应模型感知、长度感知和模式感知地控制推理。
2026-09-21 cs.CL
Does Multi-Encoder Help? A Case Study on Context-Aware Neural Machine Translation
Northeastern University(东北大学);NiuTrans Research(小牛翻译研究院);Institute of Psychology, CAS(中国科学院心理研究所);Kingsoft AI Lab(金山人工智能研究院)
在编码器-解码器神经模型中,除了单个句子之外,多个编码器通常用于表示上下文信息。本文研究了文档级神经机器翻译(NMT)中的多编码器方法。令人惊讶的是,我们发现上下文编码器不仅对周围的句子进行编码,而且还表现为噪声生成器。这让我们重新思考多编码器在上下文感知翻译中的真正好处-一些改进来自鲁棒训练。我们比较了几种方法,这些编码器的训练中引入噪声和/或良好调整的辍学设置。实验结果表明,噪声训练在基于多编码器的NMT中起着重要作用,特别是当训练数据较小时。此外,我们建立了一个新的国家的最先进的IWFRF-EN任务,仔细使用噪声产生和辍学的方法。
2020-05-17 cs.CL
Predicting Anchored Text from Translation Memories for Machine Translation Using Deep Learning Methods
Northeastern University(东北大学);Institute for Experiential AI, Northeastern University(东北大学体验式人工智能研究院)
本文提出利用Word2Vec、BERT和GPT-4等深度学习方法替代机器翻译,从翻译记忆中预测并修复法语到英语的锚定词,在CBOW范式下取得了更优或相当的翻译效果。
2024-09-26 cs.AI cs.CL cs.LG
Source-primed Multi-turn Conversation Helps Large Language Models Translate Documents
University of Zurich(苏黎世大学)
本文提出利用多轮对话保留上下文并复用 KV cache 的文档翻译方法,且在翻译前提供完整源文档进行源文预热,实验证明其优于单轮全文翻译和独立片段翻译。
2025-03-13 cs.CL
When Does Monolingual Data Help Multilingual Translation: The Role of Domain and Model Scale
University of Edinburgh(爱丁堡大学);Samaya AI;Google DeepMind(谷歌DeepMind)
本文通过 100 个翻译方向的现实数据集,研究去噪自编码和回译在不同领域匹配度与模型规模(90M 至 1.6B 参数)下对多语言机器翻译的影响,发现领域不匹配会显著削弱单语数据的收益,且 DAE 的效果高度依赖模型规模,大模型下 DAE 可达到甚至超过 BT 的性能。
2024-03-30 cs.CL
Retrieve What Helps, Only When It Helps: Agentic Reinforcement Learning for Selective Retrieval-Augmented Machine Translation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon(亚马逊公司)
针对现有检索增强机器翻译策略统一化的问题,提出智能体强化学习框架SRAT,通过优化翻译质量学习检索决策,实验显示其在多类翻译任务上优于基线,将检索视为可学习动作更具优势。
2026-10-15 cs.AI cs.CL cs.IR
Does Joint Training Really Help Cascaded Speech Translation?
RWTH Aachen University(亚琛工业大学)
目前,在语音翻译中,直接的方法-将识别系统与翻译系统级联-提供了最先进的结果。然而,诸如来自自动语音识别系统的错误传播之类的基本挑战仍然存在。为了缓解这些问题,最近,人们将注意力转向直接数据,并提出各种联合训练方法。在这项工作中,我们试图回答联合训练是否真的有助于级联语音翻译的问题。我们回顾了最近的论文的主题,并探讨了联合训练标准边缘化的转录后验概率。我们的研究结果表明,一个强大的级联基线可以减少使用联合训练获得的任何改善,我们建议联合训练的替代方案。我们希望这项工作可以作为当前语音翻译领域的一个更新,并激励研究寻找更有效和创造性的方法来利用语音翻译的直接数据。
2022-11-24 cs.CL cs.LG eess.AS
Effective General-Domain Data Inclusion for the Machine Translation Task by Vanilla Transformers
Saarland University(萨尔大学)
机器翻译史上的一个重要突破是Transformer模型的发展。它不仅对各种翻译任务具有革命性意义,而且对大多数其他NLP任务也具有革命性意义。在本文中,我们的目标是一个基于transformer的系统,能够翻译德语中的源句子到其对应的目标句子在英语中。我们对WMT'13数据集上的新闻评论德英平行句进行了实验。此外,我们还研究了在从IWELK '16数据集进行训练时包含额外的通用域数据以提高Transformer模型性能的效果。我们发现,在训练中包含IWIT16数据集有助于在WMT'13数据集的测试集上获得2个BLEU得分点。定性分析被引入到分析如何使用通用领域的数据有助于提高翻译句子的质量。
2022-09-28 cs.CL
Does Syntactic Knowledge help English-Hindi SMT?
Language Technologies Research Centre(语言技术研究中心)
在本文中,我们将探讨各种参数设置的国家的最先进的统计机器翻译系统,以提高翻译质量的“遥远”的语言对,如英语-印地语。我们提出了新的技术,有效的重新排序。据报告,使用这些技术后,与基线相比略有改善。我们还表明,一个简单的预处理步骤可以显着提高翻译的质量。
2014-01-20 cs.AI cs.CL
Multilingual Neural Machine Translation:Can Linguistic Hierarchies Help?
Monash University(莫纳什大学)
多语言神经机器翻译(MNMT)训练支持多种语言之间翻译的单个NMT模型,而不是为不同语言训练单独的模型。学习单个模型可以通过利用来自多种语言的数据来增强低资源翻译。然而,MNMT模型的性能高度依赖于训练中使用的语言类型,因为从不同的语言集合转移知识会由于负迁移而降低翻译性能。在本文中,我们提出了一个层次知识蒸馏(HKD)的MNMT方法,它利用根据语言的类型学特征和同源性产生的语言群体,以克服负迁移的问题。HKD通过基于语言组的选择性知识蒸馏机制生成一组多语言教师助理模型,然后以自适应的方式从这些助理中提取最终的多语言模型。来自53种语言的TED数据集的实验结果证明了我们的方法在避免MNMT中的负迁移效应方面的有效性,与强基线相比,提高了翻译性能(平均约1个BLEU分数)。
2021-10-15 cs.AI cs.CL
Poor Man's Quality Estimation: Predicting Reference-Based MT Metrics Without the Reference
ETH Zürich(苏黎世联邦理工学院);TU Darmstadt(达姆施塔特工业大学);Microsoft(微软)
本文提出无参考译文的指标估计(ME)任务,用模型预测 BLEU、TER 等自动指标分数,并以此预训练 QE 模型,在降低标注与计算成本的同时提升机器翻译质量估计效果。
2023-04-25 cs.CL
Facilitating Access to Multilingual COVID-19 Information via Neural Machine Translation
ADAPT Centre(ADAPT中心);School of Computing, Dublin(都柏林计算机学院)
每天都有更多的人因接触COVID-19而感染和死亡。欧洲的一些国家,如西班牙、法国、英国和意大利,受到这种病毒的影响尤为严重。德国等其他国家似乎应对得非常好。卫生专业人员和公众都渴望获得有关病毒影响的最新信息,以及已被证明有效的治疗方法。在语言成为获取相关信息的障碍的情况下,机器翻译(MT)可以帮助人们吸收以不同语言发布的信息。我们经过COVID-19数据培训的MT系统可免费提供给任何人使用,以帮助将以德语、法语、意大利语、西班牙语发布的信息翻译成英语,以及相反的方向。
2020-05-01 cs.CL
Eyes are the Windows to the Soul: Predicting the Rating of Text Quality Using Gaze Behaviour
IIT Bombay(印度理工学院孟买分校);IITB-Monash Research Academy(印度理工学院孟买分校-莫纳什研究学院);Monash University(莫纳什大学);IBM Research(IBM研究院)
预测读者对文本质量的评分是一项具有挑战性的任务,涉及估计文本的不同主观方面,如结构,清晰度等。认知信息的一个这样的来源是凝视行为。在本文中,我们表明,凝视行为确实有助于有效地预测文本质量的评级。为此,我们首先将文本质量建模为三个属性的函数-组织,连贯性和衔接。然后,我们演示了如何捕捉凝视行为有助于预测这些属性中的每一个,因此整体质量,通过报告通过将凝视特征添加到传统的文本特征中进行分数预测所获得的改进。我们还假设,如果读者已经完全理解了文本,相应的凝视行为将给出一个更好的指示分配的评级,而不是部分理解。我们的实验验证了这一假设,当读者对文本有充分的理解时,给定的评级和预测的评级之间的一致性更大。
2018-10-11 cs.CL
Does Multimodality Help Human and Machine for Translation and Image Captioning?
LIUM, University of Le Mans(勒芒大学LIUM);Galatasaray University(加拉塔萨雷大学);CVC, Universitat Autonoma de Barcelona(巴塞罗那自治大学CVC)
本文介绍了LIUM和CVC为WMT 16多模态机器翻译挑战开发的系统。我们探索了各种比较方法,即基于短语的系统和使用单模态或多模态数据训练的注意递归神经网络模型。我们还进行了人为评估,以估计人类机器翻译和图像描述生成的多模态数据的有用性。我们的系统获得了最好的结果,这两个任务根据自动评估指标BLEU和METEOR。
2016-08-16 cs.CL cs.LG cs.NE
Efficient Object-Level Visual Context Modeling for Multimodal Machine Translation: Masking Irrelevant Objects Helps Grounding
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部)
视觉上下文为多模态机器翻译(MMT)提供了基础信息。然而,以往的MMT模型和视觉特征的探索研究表明,视觉信息在MMT中的探索较少,因为它往往是多余的文本信息。在本文中,我们提出了一个对象级的视觉上下文建模框架(OVC),有效地捕捉和探索多模态机器翻译的视觉信息。与检测到的对象,建议OVC鼓励MMT地面翻译所需的视觉对象,通过掩盖不相关的对象在视觉模态。我们配备了一个额外的对象掩蔽损失,以实现这一目标。根据被掩蔽对象与源文本的相似度来估计对象掩蔽损失,以鼓励对与源文本无关的对象进行掩蔽。此外,为了生成视觉一致的目标词,我们进一步提出了一个视觉加权的翻译损失OVC。在MMT数据集上的实验表明,所提出的OVC模型的性能优于最先进的MMT模型,分析表明,屏蔽无关对象有助于MMT的接地。
2020-12-18 cs.AI cs.CL cs.CV
Folksonomication: Predicting Tags for Movies from Plot Synopses Using Emotion Flow Encoded Neural Network
University of Houston(休斯顿大学)
电影的大众分类法涵盖了关于电影的各种异构信息,如类型,情节结构,视觉体验,配乐,元数据和观看电影的情感体验。能够自动生成或预测电影的标签可以帮助推荐引擎改进对类似电影的检索,并帮助观众提前知道对电影的期望。在这项工作中,我们探讨了从情节概要创建电影标签的问题。我们提出了一种新颖的神经网络模型,它将来自概要的信息和整个情节的情感流合并起来,以预测一组电影标签。我们将我们的系统与多个基线进行了比较,发现添加情感流可以通过比传统机器学习系统多学习18%的标签来提高网络的性能。
2018-08-15 cs.CL
Context-Aware Machine Translation with Source Coreference Explanation
Nara Institute of Science and Technology(奈良科学技术研究所)
本文针对上下文感知机器翻译中因上下文过长或模型复杂导致的解释消除效应,提出通过预测输入共指特征来解释翻译决策的模型,并在多个数据集上取得超过1.0 BLEU的提升。
2024-04-30 cs.CL
Gumbel-Attention for Multi-modal Machine Translation
Harbin Institute of Technology(哈尔滨工业大学)
多模态机器翻译通过引入视觉信息来提高翻译质量。然而,现有的MMT模型忽略了图像会带来与文本无关的信息,给模型带来很多噪声,影响翻译质量的问题。提出了一种新的用于多模态机器翻译的Gumbel-Attention方法,该方法选择图像特征中与文本相关的部分。具体来说,与以往的基于注意力的方法不同,我们首先使用一种可微的方法来选择图像信息,并自动去除图像特征中无用的部分。实验证明,我们的方法保留了与文本相关的图像特征,其余部分有助于MMT模型生成更好的翻译。
2022-07-24 cs.CL
Personalized Machine Translation: Preserving Original Author Traits
IBM Research - Haifa(IBM 海法研究院);C-DAC Mumbai(孟买先进计算发展中心);University of Haifa(海法大学);University of Sheffield(谢菲尔德大学)
我们产生的语言反映了我们的个性,各种个人和人口统计特征可以在自然语言文本中检测到。我们专注于作者的一个特殊的个人特征,性别,并研究它是如何在原文和翻译中表现出来的。我们发现,作者的性别在原文中有一个强大的,明确的信号,但这个信号是混淆在人类和机器翻译。然后,我们提出了简单的域适应技术,有助于保留翻译中的原始性别特征,而不会损害翻译的质量,从而创建更个性化的机器翻译系统。
2017-01-12 cs.CL
Intrinsic vs. Extrinsic Evaluation of Czech Sentence Embeddings: Semantic Relevance Doesn't Help with MT Evaluation
Charles University Faculty of Mathematics and Physics Institute of Formal and Applied Linguistics(查尔斯大学数学与物理系形式与应用语言学研究所)
本文通过内在和外在评估比较捷克语和多语言句子嵌入模型,发现在语义相似性测试中表现优异的模型未必在下游机器翻译评估任务中表现更好,揭示了语义属性与下游任务间的复杂关系。
2025-06-25 cs.CL
When Do Agents Help? Embedding, LLM and Agentic Alignment of Classical Texts and Their Translations
本研究比较经典文本翻译对齐的七种方法,发现生成式智能体在结构可靠性和缺陷减少上优于嵌入方法,但在长文档分块后优势消失。
2026-09-29 cs.CL
Should I Share this Translation? Evaluating Quality Feedback for User Reliance on Machine Translation
University of Maryland(马里兰大学);Johns Hopkins University(约翰霍普金斯大学)
该研究针对单语用户难以评估机器翻译质量的问题,对比四种质量反馈对用户分享决策的影响,发现除错误高亮外的反馈均能提升决策效果,其中QA表格形式的隐式反馈表现最优。
2025-10-02 cs.AI cs.CL
Generative Imagination Elevates Machine Translation
Nanyang Technological University(南洋理工大学);ByteDance AI Lab(字节跳动人工智能实验室)
文本和图像之间有共同的语义。给定一个源语言的句子,描绘视觉场景是否有助于翻译成目标语言?现有的多模态神经机器翻译方法(MNMT)需要双语句子-图像三元组进行训练,需要源句子-图像元组进行推理.在本文中,我们提出了ImagiT,一个新的机器翻译方法,通过视觉想象。ImagiT首先学习从源句子生成视觉表征,然后利用源句子和“想象表征”生成目标翻译。与以往的方法不同,它只需要在推理时的源句。实验表明,ImagiT受益于视觉想象,并显着优于纯文本神经机器翻译基线。进一步的分析表明,ImagiT中的想象过程有助于在执行降级策略时填充缺失的信息。
2021-04-13 cs.AI cs.CL
Predicting Mental Health Help-Seeking Behaviour on Reddit: A Survival Analysis of Linguistic and Behavioural Signals
University of Strathclyde(思克莱德大学);Sir Syed CASE Institute of Technology(赛义德·卡塞理工学院);NUST(国立科学与技术大学)
该研究将Reddit用户的心理健康求助视为时间-事件问题,通过构建两组队列,结合行为与文本特征,采用多种生存分析模型,发现行为特征对求助可能性预测更优、文本特征对求助时间预测更稳定,分离两类问题可提升分析效果。
2026-10-14 cs.CL cs.LG cs.SI
When Does Data Augmentation Help? Evaluating LLM and Back-Translation Methods for Hausa and Fongbe NLP
Carnegie Mellon University Africa(卡内基梅隆大学非洲分校);Centre for Text Technology(文本技术中心);North-West University(北开普大学)
本文评估了LLM生成和回译方法在豪萨语和丰贝语中的有效性,发现任务类型而非语言或LLM质量决定增强效果,不同任务对增强结果有不同影响。
2026-04-14 cs.AI cs.CL
Evaluating the Effectiveness of Pre-trained Language Models in Predicting the Helpfulness of Online Product Reviews
Tilburg University(蒂尔堡大学)
本文比较 RoBERTa 与 XLM-R 预测在线产品评论有用性的效果,基于 Amazon 数据集发现预训练模型显著优于 random forest 基线,附加评分特征可进一步提升性能。
2023-02-19 cs.CL cs.LG
PETCI: A Parallel English Translation Dataset of Chinese Idioms
The University of Chicago(芝加哥大学)
成语是汉语中一种重要的语言现象,但成语翻译是出了名的难。现有的机器翻译模型在习语翻译上表现不佳,而习语在许多翻译数据集中是稀疏的。我们提出了PETCI,一个平行的英语翻译数据集的中国成语,旨在提高成语翻译的人力和机器。数据集是通过利用人类和机器的努力来构建的。基线生成模型在提高翻译质量方面表现不佳,而结构感知分类模型在区分好的翻译方面表现出良好的性能。此外,PETCI的规模可以很容易地增加,而无需专业知识。总的来说,PETCI可以帮助语言学习者和机器翻译系统。
2022-02-19 cs.CL cs.LG
When Does Longer Reasoning Help? Predicting Mathematical Reasoning Through Discovery and Execution
IU Bloomington(印第安纳大学布卢明顿分校)
本研究提出发现-执行框架,通过短预算运行预测数学推理随计算扩展的曲线,并在奥林匹克问题上验证,表明测量条件执行能提供短预算成功率无法捕捉的更长推理信息。
2026-10-06 cs.CL cs.LG
Gloss Attention for Gloss-free Sign Language Translation
Zhejiang University(浙江大学)
针对手语翻译依赖难获取的 gloss 标注问题,本文提出 gloss attention 与句级相似度知识迁移构建 GASLT,在多个大规模数据集上显著优于现有方法。
2023-07-14 cs.CL cs.CV
AdaTranS: Adapting with Boundary-based Shrinking for End-to-End Speech Translation
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
为了缓解端到端语音翻译中的数据稀缺问题,对语音识别和机器翻译的数据进行预训练被认为是一项重要的技术。然而,语音和文本之间的模态差距阻碍了ST模型从预训练模型有效地继承知识。在这项工作中,我们提出了AdaTransS端到端ST。它适应语音特征与一个新的收缩机制,以减轻语音和文本特征之间的长度不匹配预测词的边界。在MUST-C数据集上的实验表明,AdaTransS比其他基于收缩的方法具有更高的推理速度和更低的内存占用率。进一步的实验还表明,AdaTransS可以配备额外的对齐损失,以进一步提高性能。
2022-12-17 cs.CL cs.SD eess.AS
Predicting the clinical citation count of biomedical papers using multilayer perceptron neural network
Huazhong University of Science and Technology(华中科技大学);Tongji Medical College(同济医学院);Central China Normal University(华中师范大学);Wuhan University(武汉大学)
从临床指南或临床试验中收到的临床引文数量被认为是量化生物医学论文临床影响的最合适指标之一。因此,早期预测生物医学论文的临床引文数量对于生物医学领域的科学活动,如研究评估、资源分配和临床翻译至关重要。在这项研究中,我们设计了一个四层多层感知器神经网络(MPNN)模型来预测未来的生物医学论文的临床引用计数使用9,822,620发表的生物医学论文1985年至2005年。我们从三个维度中提取了91个论文特征作为模型的输入,其中论文维度21个,参考文献维度35个,引用论文维度35个。在每个维度上,特征可以被分为三类,即,引文相关特征、临床诊断相关特征和主题相关特征。此外,在论文维度中,我们还考虑了以前被证明与研究论文的引用次数有关的特征。结果表明,所提出的MPNN模型优于其他五个基线模型,在参考维度的特征是最重要的。
2022-10-21 cs.CL cs.LG
Facilitating Global Team Meetings Between Language-Based Subgroups: When and How Can Machine Translation Help?
University of Maryland(马里兰大学)
全球团队通常由基于语言的子小组组成,这些小组将补充信息汇总在一起以实现共同目标。以前的研究概述了这些团队中的两步工作沟通流程。有使用所需通用语言的团队会议(即,英语);在准备这些会议时,人们用母语进行小组对话。团队会议上的工作沟通通常不如小组对话有效。在目前的研究中,我们调查的想法,利用机器翻译(MT),以促进全球团队会议。我们假设在团队会议之前交换子组对话日志提供了有利于会议团队合作的上下文信息。MT可以翻译这些日志,这使得能够以低成本理解。为了验证我们的假设,我们进行了一个受试者之间的实验,其中20个四人组的参与者进行了人员选择任务。每个四人组包括两名英语母语者(NS)和两名母语为普通话的非母语者(NNS)。所有参与者都以母语的小组对话开始任务,然后以英语进行团队会议。我们在团队会议之前操纵子组对话日志的交换:有MT介导的交换与没有。分析参与者的主观经验,任务性能,并通过他们的会话动作反映的讨论的深度共同表明,团队会议质量提高时,有MT介导的交流小组对话日志,而不是没有交流。最后,我们反思了何时以及如何将机器翻译应用于跨越语言障碍加强全球团队合作。
2022-09-27 cs.CL cs.HC
Isochrony-Controlled Speech-to-Text Translation: A study on translating from Sino-Tibetan to Indo-European Languages
本文提出一种等时性控制的端到端语音翻译方法,通过向解码器提供时间信息以预测语音和停顿时长,实现翻译时长与源音频的严格对齐,在CoVoST 2上取得了高语音重叠率且BLEU仅微降。
2024-11-11 cs.CL eess.AS
IITP at WAT 2021: System description for English-Hindi Multimodal Translation Task
Indian Institute of Technology Patna(巴特那印度理工学院)
神经机器翻译(NMT)因其端到端的可训练灵活性而成为当今机器翻译的主流技术。然而,NMT仍然很难在低资源环境中正确翻译,特别是在遥远的语言对上。克服这一问题的方法之一是利用其他模式提供的信息。这个想法是,尽管语言不同,但源语言和目标语言说话者看到的是相同的东西,源语言和目标语言的视觉表示是相同的,这可以积极地帮助系统。多模态信息可以帮助NMT系统通过消除某些短语或单词上的歧义来改进翻译。我们参加了第八届亚洲翻译研讨会(WAT - 2021)的英语-印地语多模态翻译任务,并在评估和挑战子集中分别获得42.47和37.50的BLEU分数。
2021-07-04 cs.AI cs.CL
Predicting the Success of Domain Adaptation in Text Similarity
Thomson Reuters Labs(汤森路透实验室);Copenhagen Business School(哥本哈根商学院)
迁移学习方法,特别是领域自适应,有助于利用一个领域中的标记数据来提高另一个领域中的特定任务的性能。但是,目前还不清楚是什么因素影响了领域自适应的成功。本文模型的适应成功和选择最合适的源域中的几个候选文本相似度。我们使用描述性域信息和跨域相似性度量作为预测特征。虽然大多数结果是积极的,但也指出了一些难以预测适应成功的领域。
2021-06-23 cs.AI cs.CL cs.LG
Zero-Shot Information Extraction as a Unified Text-to-Triple Translation
UC Berkeley(加州大学伯克利分校);Tsinghua University(清华大学)
我们将一套信息抽取任务转换为文本到三重翻译框架。我们不是依靠特定于任务的数据集和模型来解决每个任务,而是将任务形式化为特定于任务的输入文本和输出三元组之间的转换。通过获取特定于任务的输入,我们通过利用预先训练的语言模型具有的关于任务的潜在知识来实现任务不可知的翻译。我们进一步证明,预测哪些关系信息对应于哪些输入文本的简单预训练任务是产生特定于任务的输出的有效方法。这使得我们的框架能够zero-shot转移到下游任务。我们研究了这个框架在开放信息抽取(OIE 2016,NYT,WEB,PENN),关系分类(FewRel和TACRED)和事实探测(Google-RE和T-REx)上的zero-shot性能。该模型可以很好地转移到大多数任务中,并且通常与完全监督的方法竞争,而不需要任何特定于任务的训练。例如,我们显著优于有监督的开放信息抽取的F1得分,而无需使用其训练集。
2021-09-23 cs.AI cs.CL cs.LG
Predicting the Leading Political Ideology of YouTube Channels Using Acoustic, Textual, and Metadata Information
Qatar Computing Research Institute, HBKU(哈马德·本·哈利法大学卡塔尔计算研究所)
我们解决预测主导政治意识形态的问题,即,左中右偏置,对于新闻媒体的YouTube频道。以前关于这个问题的工作只集中在文本和对所使用的语言、讨论的主题、情感等的分析上。相比之下,在这里我们研究视频,这产生了一个有趣的多模态设置。从Media Bias/Fact Check关于世界主要新闻媒体的主要政治意识形态的黄金注释开始,我们在YouTube上搜索找到相应的频道,并从每个频道下载了最近的视频样本。我们抓取了超过1,000个小时的YouTube以及相应的字幕和元数据,从而产生了一个新的多模态数据集。我们进一步为该任务开发了多模态深度学习架构。我们的分析表明,与仅使用文本和元数据相比,使用声学信号有助于将偏差检测提高6%以上。我们将数据集发布给研究社区,希望有助于推进多模态政治偏见检测领域。
2019-10-20 cs.CL cs.IR cs.SD
Self-Supervised Representations Improve End-to-End Speech Translation
Facebook AI(Facebook人工智能)
端到端语音到文本翻译可以提供更简单,更小的系统,但面临着数据稀缺的挑战。预训练方法可以利用未标记的数据,并且已被证明在数据稀缺的情况下是有效的。在这项工作中,我们探讨了自我监督的预训练语音表示是否可以在高资源和低资源环境中有益于语音翻译任务,它们是否可以很好地转移到其他语言,以及它们是否可以有效地与其他有助于改善低资源端到端语音翻译的常用方法相结合,例如使用预训练的高资源语音识别系统。我们证明,自我监督的预训练特征可以持续提高翻译性能,跨语言迁移允许扩展到各种语言,而无需或只需很少的调整。
2020-10-25 cs.CL cs.SD eess.AS