KurdSTS: The Kurdish Semantic Textual Similarity
Artificial Intelligence and Innovation Centre, University of Kurdistan Hewler(库尔德斯坦赫勒大学人工智能与创新中心);Soran University(索兰大学);University of Tehran(德黑兰大学)
本文提出了首个库尔德语语义文本相似性数据集,并评估了多种基线模型,揭示了库尔德语在形态学、正字法和代码混合方面的挑战。
2025-11-27 cs.AI cs.CL
On the Contributions of Visual and Textual Supervision in Low-Resource Semantic Speech Retrieval
最近的研究表明,即使没有任何文本监督,与图像配对的语音也可以用于学习语义上有意义的语音表示。然而,在现实世界的低资源环境中,我们经常可以访问一些转录的语音。我们研究是否以及如何视觉接地是有用的,在存在不同数量的文本监督。特别是,我们认为在低资源设置的语义语音检索的任务。我们使用先前研究的数据集和任务,其中模型在带有语音字幕的图像上进行训练,并根据人类对语义相关性的判断进行评估。我们提出了一种多任务学习方法,以利用视觉和文本形式,与视觉监督的关键字概率从外部标记的形式。我们发现,视觉接地是有帮助的,即使在存在的文字监督,我们分析了这种效果的转录数据集的大小范围。通过约5小时的转录语音,当还使用视觉监督时,我们获得了23%的平均精度。
2019-08-30 cs.CL cs.SD eess.AS
Retrieval Augmented Generation and Representative Vector Summarization for large unstructured textual data in Medical Education
University of Peradeniya(佩拉德尼亚大学)
本文探讨了检索增强生成在医学教育领域的应用,并提出了一种基于代表性向量、结合抽取式与抽象式的大型非结构化文本数据摘要方法。
2023-08-01 cs.AI cs.CL
An Approach for Automatic Construction of an Algorithmic Knowledge Graph from Textual Resources
Indian Statistical Institute(印度统计研究所);Calcutta University(加尔各答大学)
在各个研究领域都有巨大的增长。这种发展伴随着新的问题。为了有效地以优化的方式解决这些问题,研究人员在科学文献中创建和描述了算法。科学算法对于理解和重用许多领域的现有工作至关重要。然而,算法通常很难找到。此外,由于文档不连贯,相似算法之间的比较很困难。关于算法的信息大多存在于网站、代码注释等中,缺乏描述算法的结构化元数据。因此,有时会发布冗余或类似的算法,研究人员从头开始构建它们,而不是重用或扩展现有的算法。在本文中,我们介绍了一种自动开发的知识图谱(KG)的算法问题,从非结构化数据的方法。因为它更清晰和广泛地捕获信息,算法KG将为算法元数据提供额外的上下文和可解释性。
2022-05-25 cs.AI cs.CL
The Generation of Textual Entailment with NLML in an Intelligent Dialogue system for Language Learning CSIEC
Peking University(北京大学)
本文介绍了CSIEC(计算机模拟in Educational Communication)项目中文本蕴涵的生成,CSIEC是一个基于网络的人机对话系统,使用自然语言进行英语教学。文本蕴涵的生成是CSIEC项目进一步完善的关键。到目前为止,我们发现很少有文献与GTE。模拟人类学习英语作为外语的过程,我们探索我们的天真的方法来解决GTE问题及其算法的框架内CSIEC,即规则标注在NLML,模式识别(匹配),蕴涵转换。用一些蕴涵实例对算法的时间复杂度和空间复杂度进行了测试。进一步的工作包括基于英文教科书的规则注释和一个GUI界面,供普通用户编辑蕴涵规则。
2008-02-29 cs.AI cs.CL cs.CY
Efficient Personalized Text-to-image Generation by Leveraging Textual Subspace
Tsinghua University(清华大学);Alibaba Group(阿里巴巴集团);Dalian University of Technology(大连理工大学)
本文提出在文本子空间中优化目标嵌入并设计基向量选择策略,以提升个性化文本到图像生成的重建质量、文本对齐能力和对初始词的鲁棒性,同时提高训练效率。
2024-06-30 cs.AI cs.CL cs.CV
Improving Multilingual Semantic Textual Similarity with Shared Sentence Encoder for Low-resource Languages
Alibaba Group(阿里巴巴集团);Carnegie Mellon University(卡内基梅隆大学)
测量两个句子之间的语义相似性(或语义文本相似性- STS)是许多NLP应用程序的基础。尽管在有足够标签的监督环境中取得了显着的成果,但在标签不足的低资源语言中,很少有人注意到这一任务。现有的方法大多利用机器翻译技术将句子翻译成资源丰富的语言。这些方法要么会产生语言偏见,要么在口语场景更频繁且要求严格效率的工业应用中不切实际。在这项工作中,我们提出了一个多语言的框架,以解决STS任务在一个低资源的语言,如西班牙语,阿拉伯语,印度尼西亚语和泰语,通过利用丰富的注释数据在一个丰富的资源语言,如英语。我们的方法是从一个基本的单语STS框架扩展到一个共享的多语言编码器预训练的翻译任务,将丰富的资源语言数据。通过利用共享的多语言编码器的性质,一个句子可以具有针对不同目标翻译语言的多个表示,这些表示用于集成模型以提高相似性评估。我们证明了我们的方法优于其他国家的最先进的方法对SemEval STS任务的显着改善非MT方法,以及在线工业产品,其中MT方法未能击败基线,而我们的方法仍然有一贯的改进。
2018-10-30 cs.CL
Thinking-while-Generating: Interleaving Textual Reasoning throughout Visual Generation
CUHK(香港中文大学);IMIXR;MMLab;Meituan Project(美团项目)
本文提出TwiG框架,通过在视觉生成过程中穿插文本推理,提升生成内容的上下文感知和语义丰富性。
2025-11-20 cs.AI cs.CL cs.CV
LAViTeR: Learning Aligned Visual and Textual Representations Assisted by Image and Caption Generation
University at Buffalo, The State University of New York(纽约州立大学布法罗分校)
本文提出LAViTeR架构,通过视觉文本对齐模块并辅以GAN图像合成和图像描述生成任务,学习对齐的视觉与文本表示,并在CUB和MS-COCO上验证了其优越的对齐效果。
2024-10-01 cs.AI cs.CL cs.CV
Linguistic Descriptions for Automatic Generation of Textual Short-Term Weather Forecasts on Real Prediction Data
Research Centre on Information Technologies (CiTIUS), University of Santiago de Compostela(圣地亚哥-德孔波斯特拉大学信息技术研究中心(CiTIUS));MeteoGalicia(加利西亚气象局)
在本文中,我们提出了一个应用程序,自动生成文本的每个城市在加利西亚(西班牙西北部)的短期天气预报,使用加利西亚气象局(MeteoGalicia)提供的真实数据。该解决方案以创新的方式将计算与感知技术和数据语言描述策略与自然语言生成(NLG)系统相结合。名为GALiWeather的应用程序从天气预报输入数据中提取相关信息,并使用语言变量和时间参考将其编码为中间描述。这些描述随后由自然语言生成系统翻译成自然语言文本。所获得的预测结果已经由来自MeteoGalicia的气象专家使用质量评估方法进行了彻底验证,该方法涵盖了文本的两个关键方面:其内容的准确性和其形式的正确性。在此验证之后,GALiWeather将作为一项真正的服务发布,为广大公众提供定制预报。
2014-11-18 cs.AI cs.CL
T2VTextBench: A Human Evaluation Benchmark for Textual Control in Video Generation Models
Guilin University of Electronic Technology(桂林电子科技大学);University of Arizona(亚利桑那大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of California, Berkeley(加州大学伯克利分校);Arizona State University(亚利桑那州立大学)
本文提出首个面向文本到视频模型的屏幕文本保真度与时间一致性人类评估基准T2VTextBench,评估十个主流系统后发现大多数难以生成清晰一致的屏幕文本,揭示了当前视频生成中的关键不足。
2025-05-08 cs.AI cs.CL cs.CV
Textual Augmentation Techniques Applied to Low Resource Machine Translation: Case of Swahili
African Institute for Mathematical Sciences(非洲数学科学研究所);University of Pretoria(比勒陀利亚大学)
本研究针对低资源机器翻译平行语料不足的问题,以英斯语对为例,对比三种文本增强技术与基线NMT的性能,发现上下文数据增强在两个翻译方向均有提升,验证了该类方法的应用潜力。
2023-06-12 cs.CL
Enhancing textual textbook question answering with large language models and retrieval augmented generation
Faculty of Computing and Information Technology, King Abdulaziz University(阿卜杜勒阿齐兹国王大学计算与信息技术学院);College of Computer and Information Science, Imam Mohammad Ibn Saud Islamic University (IMSIU)(伊玛目穆罕默德·本·沙特伊斯兰大学计算机与信息科学学院);School of Computing, Macquarie University(麦考瑞大学计算学院)
本文提出PLRTQA框架,结合检索增强生成与迁移学习,解决文本教材问答中的推理弱和长上下文问题,在验证集和测试集上分别提升4.12%和9.84%的准确率。
2025-01-22 cs.AI cs.CL
A Resource-Light Method for Cross-Lingual Semantic Textual Similarity
University of Mannheim(曼海姆大学);Symanto Research;Universitat Politècnica de València(瓦伦西亚理工大学)
识别跨语言语义相似的句子或段落对于许多任务都是有益的,从跨语言信息检索和剽窃检测到机器翻译。然而,最近提出的用于预测短文本的跨语言语义相似性的方法利用工具和资源(例如,机器翻译系统、句法分析器或命名实体识别),这些对于许多语言(或语言对)来说是不存在的。相比之下,我们提出了一个无监督的和一个非常资源轻的方法来测量不同语言的文本之间的语义相似性。为了在双语(或多语言)空间中操作,我们投影连续的词向量(即,词嵌入)经由线性翻译模型从一种语言到另一种语言的向量空间。然后,我们根据双语嵌入空间中的向量的相似性对齐单词,并研究利用双语嵌入和单词对齐的语义相似性的不同无监督措施。只需要一个有限大小的一组语言之间的单词翻译对,所提出的方法是适用于几乎任何一对语言,其中存在一个足够大的语料库,需要学习单语词嵌入。在三个不同的数据集上测量语义文本相似性的实验结果表明,我们简单的资源轻方法达到了接近监督和资源密集型方法的性能,在不同的语言对中显示出稳定性。此外,我们评估所提出的方法上的两个外在的任务,即从可比语料库和跨语言剽窃检测平行句子的提取,并表明它产生的性能相媲美的复杂的资源密集型国家的最先进的模型为各自的任务。
2018-01-19 cs.CL
Sparse Graph to Sequence Learning for Vision Conditioned Long Textual Sequence Generation
Saarland University(萨尔大学)
当以视觉信息为条件时,生成更长的文本序列是一个值得探索的有趣问题。这里的挑战超过了标准视觉条件反射水平生成(例如,图像或视频描述),因为它需要产生描述可视内容的简短且连贯的故事。在本文中,我们将这个视觉到序列的学习问题称为图形到序列的学习问题,并使用Transformer架构来解决这个问题。具体来说,我们引入稀疏图到序列的Transformer(SGST)编码的图形和解码的序列。编码器旨在直接编码图级语义,而解码器用于生成更长的序列。与基准图像段落数据集进行的实验表明,我们提出的实现13.3%的CIDEr评价措施相比,以前的国家的最先进的方法。
2020-07-12 cs.CL cs.CV cs.LG
Textual-to-Visual Iterative Self-Verification for Slide Generation
Shanghai Jiao Tong University(上海交通大学)
针对现有基于LLM的幻灯片生成智能体灵活性不足、缺乏自动优化机制的问题,将任务拆解为内容与布局生成,提出文本到视觉迭代自验证方法,在多项指标上显著优于基线。
2025-02-21 cs.CL
Open Domain Dialogue Generation with Latent Images
Beihang University(北京航空航天大学);Meituan(美团);Microsoft(微软);China Resources Group(华润集团)
我们考虑将开放域对话与图像结合起来。现有的工作假设图像和文本上下文都是可用的,但图像为基础的对话本质上比文本对话更难获得。因此,我们建议学习一个响应生成模型与图像为基础的对话和文本对话,假设在对话时的视觉场景信息可以由图像表示,并试图通过文本到图像生成技术来恢复文本对话的潜像。两种类型的对话的可能性,然后制定的响应生成器和图像重建器,学习条件变分自动编码框架内。本文对基于图像的会话和基于文本的会话进行了实证研究。在第一种情况下,图像为基础的对话,特别是在低资源的设置,可以有效地增强文本对话与潜像;而在第二种情况下,潜像可以丰富的内容的反应,并在同一时间保持他们相关的上下文。
2021-06-01 cs.AI cs.CL cs.CV
Dialogizer: Context-aware Conversational-QA Dataset Generation from Textual Sources
LG AI Research(LG AI研究院);IPAI, Seoul National University(首尔大学IPAI);Dept. of ECE, Seoul National University(首尔大学电子与计算机工程系);Chung-Ang University(中央大学);SNU-LG AI Research Center(首尔大学-LG AI研究中心)
针对对话式问答数据稀缺问题,提出Dialogizer框架,通过问答匹配和主题感知对话生成两个训练任务及推理重排序,从文本源自动生成高上下文相关性的ConvQA数据集,实验证明其质量优于基线模型。
2023-11-09 cs.AI cs.CL
Textual Data Distributions: Kullback Leibler Textual Distributions Contrasts on GPT-2 Generated Texts, with Supervised, Unsupervised Learning on Vaccine & Market Topics & Sentiment
University of Charleston(查尔斯顿大学);Apple Inc.(苹果公司);Cerence B. V.(赛轮思公司)
有效的文本数据分布(TDD)对齐和生成是文本分析和NLP中的开放性研究问题。目前,很难简约地和方法学地确认两个或更多个自然语言数据集属于相似的分布,并且难以识别文本数据具有对齐的程度。这项研究的重点是解决上述更广泛的问题的一部分,通过应用多个监督和无监督的机器学习(ML)方法来探索TDD的行为(i)主题对齐,(ii)情感对齐。此外,我们使用多种文本生成方法,包括微调的GPT-2,按主题和情感生成文本。最后,我们开发了一个独特的过程驱动的变化的Kullback-Leibler分歧(KLD)的应用TDD,命名为KL文本分布对比(KL-TDC),以确定对齐的机器生成的文本语料库与自然发生的文本语料库。因此,这项研究确定了一种独特的方法,用于生成和验证TDD的主题和情绪,这可以用来帮助解决稀疏数据问题和其他研究,实践和课堂情况下,需要人工生成的主题或情绪对齐的文本数据。
2021-06-15 cs.CL cs.LG cs.SI
Textual Supervision for Visually Grounded Spoken Language Understanding
Tilburg University(蒂尔堡大学);University of Copenhagen(哥本哈根大学)
基于视觉的语言理解模型直接从语音中提取语义信息,而不依赖于翻译。这对于资源少的语言很有用,因为transmittance可能很昂贵或者不可能获得。最近的工作表明,如果在训练时有可用的transmittance,这些模型可以得到改进。然而,当人们可以访问transcription时,端到端方法与传统的基于管道的方法相比如何,这一点还不清楚。比较不同的策略,我们发现,管道的方法更好地工作时,足够的文本。考虑到低资源的语言,我们还表明,翻译可以有效地用于代替transmitting,但需要更多的数据来获得类似的结果。
2020-10-07 cs.CL cs.LG cs.SD
SACL: Understanding and Combating Textual Bias in Code Retrieval with Semantic-Augmented Reranking and Localization
Carnegie Mellon University(卡内基梅隆大学)
本文发现当前代码检索器严重依赖表面文本特征并对文档完善的代码存在偏差,据此提出SACL框架,通过语义信息增强代码或结构知识来丰富文本并减少偏差,显著提升了代码检索与生成性能。
2025-06-26 cs.AI cs.CL
Controllable Textual Inversion for Personalized Text-to-Image Generation
Zhejiang University(浙江大学)
本文提出可控文本反转(COTI),通过理论指导的损失目标、加权评分机制和主动学习范式,解决了文本反转在个性化文本到图像生成中数据需求高、人工成本大和鲁棒性差的问题,并显著提升了生成质量。
2023-09-24 cs.AI cs.CL cs.CV
ALGEN: Few-shot Inversion Attacks on Textual Embeddings using Alignment and Generation
Aalborg University(奥尔堡大学);Macquarie University(麦考瑞大学)
本文提出少样本文本嵌入逆向攻击 ALGEN,通过一步对齐受害者嵌入与攻击空间并结合生成模型重建文本,仅需极少样本即可跨领域、跨语言有效攻击,且现有防御均难以抵御。
2025-02-18 cs.AI cs.CL cs.CR
IITK at SemEval-2024 Task 1: Contrastive Learning and Autoencoders for Semantic Textual Relatedness in Multilingual Texts
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
针对 SemEval-2024 多语言语义文本相关性任务,本文提出基于 BERT 的对比学习与相似度方法处理监督赛道,并探索自动编码器及负采样构建二元语料库以改进词嵌入。
2024-04-06 cs.AI cs.CL cs.LG
DyRRen: A Dynamic Retriever-Reranker-Generator Model for Numerical Reasoning over Tabular and Textual Data
Nanjing University(南京大学)
包含表格和长文本的混合数据的数值推理最近受到了AI社区的研究关注。为了生成由数学和表操作组成的可执行推理程序来回答问题,最先进的方法使用检索器-生成器流水线。然而,它们的检索结果是静态的,而不同的生成步骤可能依赖于不同的句子。出席检索到的信息是相关的每个生成步骤,在本文中,我们提出了DyRRen,一个扩展的检索器reranker生成器框架,每个生成步骤是增强检索到的句子的动态重新排序。它优于FinQA数据集上的现有基线。
2022-11-23 cs.AI cs.CL cs.IR
MultiQG-TI: Towards Question Generation from Multi-modal Sources
Adobe Research(奥多比研究院);Rice University(莱斯大学)
本文提出MultiQG-TI方法,通过结合图像描述、OCR提取文本与输入文本,使纯文本问题生成器能够处理多模态输入,并在ScienceQA上以极少参数显著超越ChatGPT。
2023-07-07 cs.AI cs.CL
The Cost of Context: Mitigating Textual Bias in Multimodal Retrieval-Augmented Generation
Elmore Family School of Electrical and Computer Engineering(埃尔莫夫家族电气与计算机工程学院)
本文探讨了多模态大语言模型在整合检索增强生成时出现的文本偏差问题,提出BAIR方法通过恢复视觉显著性并施加位置感知惩罚来提升多模态接地和诊断可靠性。
2026-05-07 cs.CL cs.CV cs.LG
CliQ-RRG: Clinical-Knowledge Guided Disease-aware Visual-Textual Alignment for QA-Style Radiology Report Generation
Indian Institute of Technology Indore(印度理工学院印多尔分校);University of Texas at Dallas(德州大学达拉斯分校);University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
本研究提出CliQ-RRG框架,通过两阶段结构结合疾病感知对齐与GraphRAG检索,在胸部X射线基准上生成更优的问答式放射学报告。
2026-10-12 cs.CL
GDGB: A Benchmark for Generative Dynamic Text-Attributed Graph Learning
Renmin University of China(中国人民大学);Ant Group(蚂蚁集团)
GDGB提出一个生成动态文本属性图学习的基准,包含高质量数据集和两个新任务,用于评估生成DyTAG的结构、时间和文本质量。
2026-02-18 cs.AI cs.CL
CraftRTL: High-quality Synthetic Data Generation for Verilog Code Models with Correct-by-Construction Non-Textual Representations and Targeted Code Repair
NVIDIA Corporation(英伟达公司)
本文提出CraftRTL方法,通过构造即正确的非文本表示数据和自动化定向代码修复数据生成,微调Starcoder2-15B,在三个Verilog基准上显著超越先前最优结果。
2025-02-06 cs.AR cs.CL
ToolGrad: Efficient Tool-use Dataset Generation with Textual "Gradients"
Google(谷歌);The University of Tokyo(东京大学);RIKEN AIP(日本学术振兴会AIP);Tohoku University(东北大学)
提出ToolGrad框架,通过文本“梯度”引导的迭代过程先构建有效工具使用链再合成用户查询,实现低成本、高成功率的数据生成,训练模型性能超越基线。
2026-06-18 cs.CL
Motion Generation from Fine-grained Textual Descriptions
Peking University(北京大学);The University of Tokyo(东京大学)
针对现有text2motion局限于粗粒度描述的问题,构建了细粒度数据集FineHumanML3D并提出模型FineMotionDiffuse,通过学习细粒度描述到动作基元的映射,显著提升了动作生成质量与复合动作生成能力。
2024-03-26 cs.AI cs.CL cs.CV
XLMRQA: Open-Domain Question Answering on Vietnamese Wikipedia-based Textual Knowledge Source
University of Information Technology(信息技术大学);Vietnam National University, Ho Chi Minh City(胡志明市越南国家大学)
问答(QA)是信息检索和信息抽取领域中的一个自然语言理解任务,近年来由于基于机器阅读理解的模型的蓬勃发展,引起了计算语言学和人工智能研究界的广泛关注。基于读者的问答系统是一个高级搜索引擎,它可以使用机器阅读理解(MRC)技术在开放域或特定域的文本中找到查询或问题的正确答案。特别是MRC和QA系统中的数据资源和机器学习方法的大多数进步都是在两种资源丰富的语言(如英语和中文)中显着发展的。像越南语这样的低资源语言见证了问答系统研究的匮乏。本文介绍了XLMRQA,第一个越南QA系统,使用基于维基百科的文本知识源(使用NHT-ViQuAD语料库)上的基于监督转换器的阅读器,优于两个强大的QA系统,使用深度神经网络模型:DrQA和BERTserini,分别为24.46%和6.28%。从三个系统上获得的结果,我们分析了问题类型的QA系统的性能的影响。
2022-08-13 cs.CL
A non-hierarchical attention network with modality dropout for textual response generation in multimodal dialogue systems
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Tencent Cloud Xiaowei(腾讯云小微)
现有的基于文本和图像的多模态对话系统使用传统的分层递归编码器-解码器(HRED)框架,其具有用于对话语表示进行建模的话语级编码器和用于对上下文表示进行建模的上下文级编码器。尽管这些研究取得了很好的效果,但仍然面临以下挑战:(1)文本特征和视觉特征之间的交互不够细粒度。(2)上下文表示不能提供上下文的完整表示。为了解决上述问题,我们提出了一个非层次的注意力网络与模态辍学,放弃了HRED框架,并利用注意力模块编码每个话语和建模的上下文表示。为了评估我们提出的模型,我们在一个公共的多模态对话数据集上进行了全面的实验。自动和人工评估表明,我们提出的模型优于现有的方法,并达到最先进的性能。
2021-10-20 cs.CL
Sentiment Classification in Bangla Textual Content: A Comparative Study
Cognitive Insight Limited(认知洞察有限公司);Qatar Computing Research Institute, HBKU(卡塔尔计算研究所,卡塔尔 Hamad Bin Khalifa University)
情感分析已被广泛用于了解我们对社会和政治议程的看法或对产品的用户体验。它是自然语言处理的核心和研究的热点之一。然而,对于像孟加拉语这样的低资源语言来说,一个突出的挑战是缺乏资源。另一个重要的限制,在目前的文献孟加拉,是缺乏可比的结果,由于缺乏一个明确的训练/测试分裂。在这项研究中,我们探索了几个公开可用的情感标记数据集,并使用经典和深度学习算法设计了分类器。在我们的研究中,经典算法包括SVM和随机森林,深度学习算法包括CNN,FastText和基于transformer的模型。我们比较这些模型的模型性能和时间资源的复杂性。我们的研究结果表明,基于transformer的模型(之前没有针对Bangla进行过探索)优于所有其他模型。此外,我们创建了一个加权列表的词典内容的基础上,每类的效价得分。然后,我们分析了数据集中每个类的高显著性条目的内容。为了重现性,我们公开了数据分割和排名词典列表。所提出的结果可以用于未来的研究作为基准。
2020-11-19 cs.CL cs.IR cs.LG
Automatic Paper Summary Generation from Visual and Textual Information
Waseda University(早稻田大学);National Institute of Advanced Industrial Science and Technology (AIST)(产业技术综合研究所);Waseda Research Institute for Science and Engineering(早稻田大学科学与工程研究院)
由于最近人工智能(AI)研究的蓬勃发展,包括计算机视觉(CV),这些领域的研究人员已经无法跟上呈指数级增长的手稿数量。针对这种情况,本文提出了论文摘要生成(PSG)任务,使用一种简单但有效的方法来自动生成一个学术论文摘要从原始PDF数据。我们通过结合基于视觉的监督构件检测器和基于语言的无监督重要句子提取器实现了PSG,它适用于一种训练格式的手稿。我们给出了简单的基于视觉的组件提取能力的定量评价,和定性评价,我们的系统可以提取视觉项目和句子,有助于理解。通过我们的PSG处理后,2018年计算机视觉和模式识别(CVPR)会议接受的979份手稿可用。据信,该方法将为研究人员提供一个更好的方式来保持与重要的学术论文。
2018-11-16 cs.AI cs.CL cs.CV
"Honey, Tell Me What's Wrong", Global Explanation of Textual Discriminative Models through Cooperative Generation
IRISA;IMATAG;Inria(法国国家信息与自动化研究所)
本文提出首个无需输入数据集的全局模型无关文本解释方法 Therapy,通过协作生成符合分类器分布的文本,在数据缺失场景下仍能有效揭示模型行为并优于依赖输入样本的方法。
2023-10-27 cs.CL cs.LG
TEAL: Tokenize and Embed ALL for Multi-modal Large Language Models
WeChat AI, Tencent Inc.(腾讯微信人工智能)
提出TEAL方法,将任意模态输入离散化为token序列并映射到联合嵌入空间,使冻结的LLM能以自回归方式执行多模态理解与生成任务,在多模态理解上取得显著提升。
2024-01-04 cs.AI cs.CL
NAPG: Non-Autoregressive Program Generation for Hybrid Tabular-Textual Question Answering
Zhengzhou University(郑州大学);DFKI(德国人工智能研究中心);Saarland University(萨尔大学);Tianjin University(天津大学)
本文提出非自回归程序生成框架NAPG,独立生成完整程序元组,解决自回归解码的错误传播和暴露偏差,在混合表格-文本问答中显著提升准确率和速度,达到新最先进性能。
2023-10-13 cs.CL
Teaching Large Language Models Number-Focused Headline Generation With Key Element Rationales
School of Computing Technologies, RMIT University(RMIT大学计算技术学院)
本文提出基于主题、实体和数值推理(TEN)的思维链框架,通过教师LLM生成推理监督数据来微调学生LLM,以提升数字标题生成的文本质量与数值准确性。
2025-02-05 cs.CL cs.LG
MemWeaver: A Hierarchical Memory from Textual Interactive Behaviors for Personalized Generation
State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China(认知智能国家重点实验室,中国科学技术大学)
MemWeaver通过构建分层记忆模型,利用文本交互行为捕捉用户兴趣的时间演变和语义关系,实现深度个性化内容生成。
2026-01-26 cs.CL
Approaches to Semantic Textual Similarity in Slovak Language: From Algorithms to Transformers
Department of Applied Informatics(应用信息系);Faculty of Mathematics, Physics and Informatics(数学、物理与信息学系);Comenius University(科梅尼乌斯大学)
本文探讨了斯洛伐克语语义文本相似性方法,比较了传统算法、机器学习模型和第三方工具,揭示了不同方法的优劣权衡。
2026-02-04 cs.CL
LightKGG: Simple and Efficient Knowledge Graph Generation from Textual Data
DSA,HKUST(GZ)(香港科技大学(广州))
LightKGG利用小规模语言模型,通过上下文集成图提取和拓扑增强关系推理两项创新,实现低资源环境下高效准确的知识图谱生成,弥合自动提取与实际部署的差距。
2025-10-27 cs.CL
Forging Time Series with Language: A Large Language Model Approach to Synthetic Data Generation
IBM Research Europe(IBM欧洲研究院)
SDForger通过大语言模型生成高质量多变量时间序列,利用文本条件化实现高效合成数据生成及多模态建模。
2025-11-03 cs.AI cs.CL
An Image is Worth One Word: Personalizing Text-to-Image Generation using Textual Inversion
Tel-Aviv University(特拉维夫大学);NVIDIA(英伟达)
文本到图像模型提供了前所未有的自由,通过自然语言指导创作。然而,目前还不清楚如何行使这种自由,以产生特定的独特概念的图像,修改其外观,或组成新的角色和新的场景。换句话说,我们会问:我们如何使用语言引导的模型来把我们的猫变成一幅画,或者根据我们最喜欢的玩具来想象一个新产品?在这里,我们提出了一个简单的方法,允许这种创造性的自由。只使用用户提供的概念的3-5个图像,如对象或样式,我们学习通过冻结的文本到图像模型的嵌入空间中的新“单词”来表示它。这些“话”可以组成自然语言句子,以直观的方式指导个性化创作。值得注意的是,我们发现的证据表明,一个单一的词嵌入是足够的捕捉独特的和不同的概念。我们将我们的方法与广泛的基线进行比较,并证明它可以更忠实地描绘各种应用程序和任务的概念。我们的代码、数据和新词将在以下网址提供:https://textual-inversion.github.io
2022-08-02 cs.CL cs.CV cs.GR
DoCoGen: Domain Counterfactual Generation for Low Resource Domain Adaptation
Technion - Israel Institute of Technology(以色列理工学院)
自然语言处理(NLP)算法已经非常成功,但在应用于非分布示例时仍然很困难。在本文中,我们提出了一个可控的生成方法,以处理这个领域自适应(DA)的挑战。给定一个输入文本示例,我们的DoCoGen算法生成一个域反事实文本示例(D-con)-它在所有方面都与原始文本相似,包括任务标签,但其域被更改为所需的域。重要的是,DoCoGen只使用来自多个领域的未标记示例进行训练-不需要NLP任务标签或文本示例及其领域反事实的平行对。我们表明,DoCoGen可以生成由多个句子组成的连贯的反事实。我们使用DoCoGen生成的D-cons分别在20和78个DA设置中增强情感分类器和多标签意图分类器,其中源域标记数据很少。我们的模型优于强基线,并提高了最先进的无监督DA算法的准确性。
2022-03-05 cs.AI cs.CL
Good, Better, Best: Textual Distractors Generation for Multiple-Choice Visual Question Answering via Reinforcement Learning
Arizona State University(亚利桑那州立大学);Emory University(埃默里大学)
近年来,多项选择问题越来越受到研究者和用户的关注。随着自动构建大规模多项选择VQA数据的需求不断增长,我们引入了一种新的任务,称为文本干扰生成VQA(DG-VQA),专注于生成具有挑战性但有意义的干扰,给出上下文图像,问题和正确答案。DG-VQA任务的目的是在没有地面实况训练样本的情况下生成干扰项,因为这些资源很少可用。为了解决DG-VQA无监督,我们提出了Gobbet,一个基于强化学习(RL)的框架,利用预先训练的VQA模型作为替代知识库,以指导分心物生成过程。在Gobbet中,预先训练的VQA模型作为RL设置中的环境,为输入的多模态查询提供反馈,而神经干扰素生成器作为代理采取相应的行动。我们建议使用现有的VQA模型的性能下降的指标的质量产生的干扰。另一方面,我们通过数据增强实验展示了生成的干扰项的实用性,因为当AI模型应用于不可预测的开放域场景或安全敏感的应用程序时,鲁棒性越来越重要。我们进一步进行手动案例研究的因素,为什么分心产生的Gobbet可以愚弄现有的模型。
2022-04-18 cs.CL cs.CV
Are Multilingual Models the Best Choice for Moderately Under-resourced Languages? A Comprehensive Assessment for Catalan
Barcelona Supercomputing Center(巴塞罗那超级计算中心)
多语言语言模型是一个关键的突破,因为它们大大减少了资源不足语言的数据需求。尽管如此,语言特定模型的优越性已经被证明可以访问大量数据的语言。在这项工作中,我们专注于加泰罗尼亚语的目的是探讨在何种程度上一个中等规模的单语语言模型是最先进的大型多语言模型的竞争力。为此,我们:(1)建立一个干净,高质量的文本加泰罗尼亚语语料库(CaText),迄今为止最大的(但只有以前在单语语言模型中工作的通常大小的一小部分),(2)训练加泰罗尼亚语(BERTA)的基于transformer的语言模型,以及(3)在多种设置中设计彻底的评估,包括一系列完整的下游任务,即,词性标记,命名实体识别和分类、文本分类、问答和语义文本相似性,大多数相应的数据集都是从头创建的。结果是一个新的基准,加泰罗尼亚语语言理解基准(CLUB),我们将其作为开放资源与干净的文本语料库,语言模型和清理管道一起发布。使用最先进的多语言模型和仅在维基百科上训练的单语模型作为基线,我们始终观察到我们的模型在任务和设置中的优越性。
2021-07-16 cs.CL
Fine-tuning of lightweight large language models for sentiment classification on heterogeneous financial textual data
International Business School, Zhejiang University(浙江大学国际商务学院);Center for Data Science, Zhejiang University(浙江大学数据科学中心);Centre for Statistics, Georg-August-Universität Göttingen(哥廷根大学统计中心)
本研究探讨了轻量级开源大语言模型在异构金融文本数据上的情感分类微调效果,发现Qwen3 8B和Llama3 8B在有限数据下表现优异。
2025-11-30 cs.AI cs.CL
Time-aware Prompting for Text Generation
University of Michigan(密歇根大学)
在本文中,我们研究了将时间戳,如文件创建日期,到生成系统的影响。研究了两种类型的时间感知提示:(1)在自然语言句子中编码文档时间戳的文本提示;以及(2)将时间戳转换为连续向量的线性提示。为了探索对未来数据点的外推,我们进一步引入了一个新的数据到文本生成数据集TempWikiBio,它包含了来自英文维基百科的超过400万个按时间顺序排列的传记文章修订版,每个修订版都与结构化的个人资料配对。通过TempWikiBio上的数据到文本生成,内容传输数据集上的文本到文本生成以及XSum上的摘要,我们表明编码器上的线性提示和文本提示提高了所有数据集的生成质量。根据人类评估和敏感性分析,尽管在测试从较晚时间提取的数据时性能下降较少,但线性提示更多地关注非时间信息,并且对给定的时间戳不太敏感。同时,文本提示建立了给定时间戳和输出日期之间的关联,从而在输出中产生更多的实际时间信息。
2022-11-03 cs.CL
LLM4SFC: Sequential Function Chart Generation via Large Language Models
Bosch Research(博世研究)
LLM4SFC通过大语言模型生成可执行的顺序功能图,实现图形与文本PLC语言的高效转换。
2025-12-07 cs.CL
Attend and select: A segment selective transformer for microblog hashtag generation
Beihang University(北京航空航天大学);University of Montreal(蒙特利尔大学);CENCERT/CC(国家计算机网络应急技术处理协调中心/国家互联网应急中心)
主题标签生成的目的是从微博帖子中生成简短和非正式的主题标签,其中标记或短语形成主题标签。这些标记或短语可以源自主要的碎片文本片段(例如,段)在原始文本中并被分成不同的段。然而,传统的序列到序列生成方法很难从不同的文本粒度中过滤出次要信息,并且不善于选择关键标记。因此,它们在生成更浓缩的主题标签方面是次优的。在这项工作中,我们提出了一个修改后的基于transformer的生成模型,增加了一个段选择过程的原始编码和解码阶段。片段选择阶段基于一种新的片段选择机制(SSM),对全局文本、本地片段和令牌的不同文本粒度进行建模,有助于生成精简的主题标签。具体来说,它首先关注主要的语义片段,然后通过选择关键的标记将源文本中的不连续片段转换为一系列主题标签。对这两个数据集的广泛评估表明,我们的方法的优越性与显着改善的提取和生成基线。代码和数据集可在https://github.com/OpenSUM/HashtagGen上获得。
2022-09-26 cs.AI cs.CL cs.IR
PPL-MCTS: Constrained Textual Generation Through Discriminator-Guided MCTS Decoding
CNRS(法国国家科学研究中心);IRISA(法国信息与随机系统研究所);Univ. Rennes 1(雷恩第一大学);IMATAG
基于Transformers的大语言模型(LM)允许生成合理的长文本。在本文中,我们将探讨如何在解码时进一步控制这一代,以满足某些限制(例如无毒,传达某些情感,使用特定的写作风格等)。不需要微调LM。准确地说,我们正式约束生成树的探索过程中指导下的一个约束,表明如何以及相关的序列尊重的约束。除了比微调LM更容易和更便宜地进行训练之外,该方法还允许更精细和动态地应用约束。我们提出了几种原始的方法来搜索这棵生成树,特别是蒙特卡罗树搜索(MCTS),它提供了理论上的保证的搜索效率,但也更简单的方法的基础上重新排序的不同序列的池使用的candidscores。这些方法进行评估,自动和基于人类的指标,两种类型的约束和语言:审查极性和情绪控制在法语和英语。我们发现,歧视引导的MCTS解码达到国家的最先进的结果,而不必调整的语言模型,在任务和语言。我们还表明,其他建议的解码方法的基础上重新排名可以真正有效的时候,鼓励所产生的命题之间的多样性。
2022-05-04 cs.CL
Graph-Guided Textual Explanation Generation Framework
ScaDS.AI, TU Dresden(ScaDS.AI,德累斯顿工业大学);University of Copenhagen(哥本哈根大学);University of Mannheim(曼海姆大学);University of Technology Nuremberg(纽伦堡工业大学)
针对自然语言解释(NLE)忠实性不足的问题,提出G-Tex图引导文本解释生成框架,通过提取高亮解释经图神经网络编码引导生成,显著提升NLE忠实性与整体质量。
2025-03-20 cs.CL