Combining Retrieval-Augmented Text Generation with LLMs for Reading Content Recommendations
Institute of Computer Science, Warsaw University of Technology(计算机科学学院,华沙技术大学)
提出结合检索增强生成(RAG)与大型语言模型的系统,通过四个模块实现个性化阅读内容生成,实验表明RAG将相关性和接地性提升26-35个百分点。
2026-06-16 cs.AI cs.IR
Emotional RAG LLMs: Reading Comprehension for the Open Internet
AI Virtual Assistant (AVA) Lab, Georgia Institute of Technology(人工智能虚拟助理实验室,佐治亚理工学院);Wand AI;Invoca
针对现实RAG应用中互联网文本语气多样导致下游任务困难的挑战,本文提出了一个情感化数据集、一个情感翻译模型以及一种基于提示的方法,以提升LLMs对检索文本的语用理解能力。
2025-06-29 cs.AI cs.CL cs.IR
Open-Retrieval Conversational Machine Reading
Chinese University of Hong Kong(香港中文大学);Salesforce Research(Salesforce研究院)
在对话式机器阅读中,系统需要解释自然语言规则,回答高级问题,如“我可以获得VA医疗福利吗?“,并提出后续澄清问题,这些问题的答案是回答原始问题所必需的。然而,现有的作品假设规则文本提供给每个用户的问题,这忽略了在实际情况下的必要的检索步骤。在这项工作中,我们提出并调查了一个开放的检索设置的会话机器阅读。在开放式检索环境中,相关规则文本是未知的,使得系统需要从规则文本集合中检索与问题相关的证据,并以会话的方式根据检索到的多个规则文本回答用户的高级问题。我们提出了MUDERN,一个多通道话语感知蕴涵推理网络,通过话语分割提取规则文本中的条件,进行多通道蕴涵推理,直接回答用户的问题,或问澄清后续问题,以查询更多的信息。在我们创建的OR-ShARC数据集上,MUDERN实现了最先进的性能,大大优于现有的单通道对话机器阅读模型以及新的多通道对话机器阅读基线。此外,我们还进行深入分析,为这种新环境和我们的模型提供新的见解。
2021-11-25 cs.AI cs.CL cs.LG
Decoding Open-Ended Information Seeking Goals from Eye Movements in Reading
Faculty of Data and Decision Sciences, Technion - Israel Institute of Technology(数据与决策科学学院,技术离子-以色列理工学院)
本研究首次通过阅读中的眼动数据自动解码开放性信息寻求目标,开发了多模态LLM模型并展示了在目标选择和文本重构上的显著成果。
2026-03-02 cs.AI cs.CL
ReadBench: Measuring the Dense Text Visual Reading Ability of Vision-Language Models
Artificial Intelligence and Intelligent Information Systems, University of Trier(人工智能与智能信息系统,特里尔大学);German Research Center for Artificial Intelligence (DFKI), Trier(德国人工智能研究中心(DFKI),特里尔)
ReadBench是一个新基准,通过将文本上下文转为图像来评估VLMs的密集文本阅读能力,发现长文本性能显著下降,而分辨率影响甚微。
2025-05-25 cs.AI cs.CL cs.CV
Read Beyond the Lines: Understanding the Implied Textual Meaning via a Skim and Intensive Reading Model
Wuhan University(武汉大学);Alibaba Group(阿里巴巴集团);Sun Yat-sen University(中山大学);Indiana University Bloomington(印第安纳大学伯明顿分校)
文本的非字面解释由于其高度的上下文敏感性和大量的比喻性语言的使用,很难被机器模型理解。在这项研究中,受人类阅读理解的启发,我们提出了一个新颖,简单,有效的深层神经框架,称为略读和精读模型(SIRM),用于找出隐含的文本意义。建议的SIRM包括两个主要部分,即略读部分和精读部分。从略读组件中快速提取N-gram特征作为略读(整个)信息,略读组件是几个卷积神经网络的组合。一个精读组件,使本地(句子)和全球(段落)表示,它封装了当前的嵌入和上下文信息与密集的连接的分层调查。更具体地,上下文信息包括上述近邻信息和略读信息。最后,除了正常的训练损失函数,我们采用了对抗性的损失函数作为对略读部分的惩罚,以消除噪音信息所产生的特殊比喻词在训练数据。为了验证所提出的架构的有效性,鲁棒性和效率,我们进行了广泛的比较实验上的讽刺基准和工业垃圾邮件数据集的隐喻。实验结果表明:(1)该模型在参数规模和训练速度方面优于现有的最新解决方案,具有可比的参数规模和训练速度;(2)SIRM在参数大小敏感性方面具有更好的鲁棒性;(3)与SIRM的切除和添加变体相比,最终框架足够有效。
2020-01-16 cs.AI cs.CL
Conversing by Reading: Contentful Neural Conversation with On-demand Machine Reading
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
虽然神经会话模型在学习如何产生流利的反应方面是有效的,但它们的主要挑战在于知道该说什么才能使会话内容丰富且不空洞。我们提出了一种新的端到端的方法来实现内容丰富的神经会话,该方法联合建模响应生成和按需机器阅读。其核心思想是为会话模型提供动态的相关长文本作为外部知识的来源。该模型执行问答式的阅读理解对这个文本在每个会话的转折,从而允许更集中的外部知识的整合比以前的方法。为了支持对基于知识的会话的进一步研究,我们引入了一个新的基于外部网页的大规模会话数据集(2.8M回合,7.4M句子的接地)。人工评估和自动化指标都表明,与以前的各种方法相比,我们的方法会产生更有内容的响应,从而提高了所生成输出的信息量和多样性。
2019-06-07 cs.AI cs.CL cs.LG
A Vietnamese Dataset for Text Segmentation and Multiple Choices Reading Comprehension
Institute for Artificial Intelligence, VNU University of Engineering and Technology(人工智能研究所,越南工程大学);Faculty of Information Technology, VNU University of Engineering and Technology(信息技术学院,越南工程大学)
针对越南语缺乏文本分割和阅读理解资源的问题,构建了VSMRC数据集,包含约1.6万文档和1.6万问答对,实验证明多语言模型mBERT优于单语模型,可用于其他低资源语言。
2025-06-19 cs.AI cs.CL
ARTH: Algorithm For Reading Text Handily -- An AI Aid for People having Word Processing Issues
Harcourt Butler Technological Institute(哈考特·巴特勒技术学院);Indian Institute of Technology, Kanpur(印度理工学院坎普尔分校)
该项目的目标是解决有字处理问题的人所面临的主要问题之一,如创伤或轻度精神残疾。ARTH是Algorithm for Reading Handily的缩写。ARTH是一套自我学习的算法,它是一种智能的方式,可以满足“毫不费力地阅读和理解文本”的需求,并根据每个用户的需求进行调整。研究项目分两步进行。在第一步中,该算法尝试使用聚类算法基于两个特征(音节数量和使用频率)来识别文本中存在的难词。在对聚类进行分析之后,该算法根据它们的难度级别来标记这些聚类。在第二步中,算法与用户交互。它旨在通过自动生成的测验来测试用户对文本的理解能力和他/她的词汇水平。该算法根据分析的结果,识别出用户难以识别的聚类。感觉到的难词的含义显示在它们旁边。“ARTH”技术的重点是在那些词汇量差或有任何字处理问题的人中恢复阅读的乐趣。
2021-01-23 cs.AI cs.CL
Reading-strategy Inspired Visual Representation Learning for Text-to-Video Retrieval
Zhejiang Gongshang University(浙江工商大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);Huazhong University of Science and Technology(华中科技大学);Renmin University of China(中国人民大学)
本文的目的是文本到视频检索的任务,在给定的查询的形式,一个自然语言的句子,它被要求检索的视频语义相关的给定的查询,从大量的未标记的视频。这项任务的成功取决于跨模态表示学习,它将视频和句子投影到公共空间中进行语义相似度计算。在这项工作中,我们专注于视频表示学习,文本到视频检索的重要组成部分。受人类阅读策略的启发,本文提出了一种基于视觉表示学习的视频表示方法,该方法包括两个分支:预览分支和强化阅读分支。预览分支旨在简要捕获视频的概述信息,而精读分支旨在获得更深入的信息。此外,精读分支知道由预览分支捕获的视频概览。这样的整体信息被发现是有用的精读分支提取更细粒度的功能。在三个数据集上进行了广泛的实验,我们的模型RIVRL在TGIF和VATEX上实现了新的最先进的水平。此外,在MSR-VTT上,我们使用两个视频特征的模型显示出与使用七个视频特征的最先进模型相当的性能,甚至优于在大规模HowTo 100 M数据集上预训练的模型。
2022-03-03 cs.AI cs.CV cs.MM
ContextSpeech: Expressive and Efficient Text-to-Speech for Paragraph Reading
The Chinese University of Hong Kong(香港中文大学);Microsoft(微软)
针对现有TTS系统在长文本朗读中忽略跨句上下文、计算成本高的问题,本研究提出ContextSpeech系统,通过内存缓存循环机制、层级文本语义和线性化自注意力,在保障效率的同时提升了段落朗读的语音质量与韵律表现力。
2023-10-07 cs.AI cs.CL eess.AS
TransformLLM: Adapting Large Language Models via LLM-Transformed Reading Comprehension Text
School of Mathematical Sciences(数学科学学院);Tel Aviv University(特拉维夫大学);Department of Electrical Engineering(电气工程系);The Faculty of Engineering(工程学院);Bar Ilan University(巴伊兰大学)
本研究提出TransformLLM方法,通过LLM将原始数据转为阅读理解文本,基于Phi-2和Mistral-7B-v0.1用5亿多法律token持续预训练出两款法律大模型,性能超越资源消耗更大的模型,该方法可推广至多领域预训练。
2024-10-28 cs.AI cs.CL cs.LG
Simulation-based Optimization for Augmented Reading
National University of Singapore(新加坡国立大学);City University of Hong Kong(香港城市大学);Aalto University(艾尔沃斯大学)
本文提出基于模拟的优化方法,通过资源理性模型实现可解释且可扩展的增强阅读设计,结合离线和在线优化流程提升文本用户界面的适应性和个性化能力。
2026-02-26 cs.AI cs.HC
Knowledge Guided Text Retrieval and Reading for Open Domain Question Answering
University of Washington(华盛顿大学);Princeton University(普林斯顿大学);Facebook AI Research(Facebook人工智能研究院);Allen Institute for AI(艾伦人工智能研究所)
我们介绍了一种方法,开放域的问答(QA)检索和阅读的通道图,其中顶点是文本和边缘的通道表示的关系,来自外部的知识库或同现在同一篇文章。我们的目标是通过使用知识引导的检索来找到比文本匹配方法更相关的段落,以提高覆盖率,并通过允许更好的知识引导融合相关段落的信息来提高准确性。我们的图检索方法扩展了一组种子关键字检索通道通过遍历知识库的图结构。我们的阅读器扩展了基于BERT的架构,并通过传播相关段落及其关系的信息来更新段落表示,而不是孤立地阅读每个段落。在三个开放域QA数据集(WebQuestions,Natural Questions和TriviaQA)上的实验显示,与非图形基线相比,性能绝对提高了2-11%。我们的方法在每种情况下都达到或超过了最先进的水平,而无需使用昂贵的端到端培训制度。
2020-04-13 cs.AI cs.CL
Reading Between the Lines: Deconfounding Causal Estimates using Text Embeddings and Deep Learning
本文提出利用文本嵌入和深度学习方法,通过减少偏倚来解耦因果估计,验证了深度学习在处理高维自然语言数据时的有效性。
2026-01-04 cs.AI
Large Language Models Implicitly Learn to See and Hear Just By Reading
Department of Electrical Engineering Stanford University Stanford, CA 94305, USA(电气工程系 斯坦福大学)
本文发现仅在文本上训练的自回归大语言模型能隐式获得图像和音频理解能力,并在多个音频与图像分类数据集上验证了利用文本权重激活内部回路即可完成多模态任务,无需从头训练。
2025-09-23 cs.AI cs.CL cs.CV
LLaVA-Read: Enhancing Reading Ability of Multimodal Language Models
Adobe Research(奥多比研究院);University at Buffalo(布法罗大学)
针对多模态语言模型在图像密集文本理解上的局限,提出采用双视觉编码器与视觉文本编码器的LLaVA-Read模型,在文本丰富图像理解任务中超越现有方法,证明高效视觉文本编码器的重要性。
2024-07-27 cs.AI cs.CV
How to Engage Your Readers? Generating Guiding Questions to Promote Active Reading
ETH Zürich(苏黎世联邦理工学院);ETH AI Center(ETH人工智能中心)
该研究提出了GuidingQ数据集,包含1万个文内问题,通过分析其特征并探索语言模型生成方法,发现生成的高质量问题能有效提升读者的记忆与理解,效果接近人工编写。
2024-07-29 cs.AI cs.CL
AdaLoGN: Adaptive Logic Graph Network for Reasoning-Based Machine Reading Comprehension
Nanjing University(南京大学)
最近的机器阅读理解数据集,如ReClor和LogiQA,需要对文本进行逻辑推理。传统的神经模型不足以进行逻辑推理,而符号推理不能直接应用于文本。为了应对这一挑战,我们提出了一种神经符号的方法,预测答案,通过一个图表示文本单元之间的逻辑关系的消息。它采用了自适应逻辑图网络(AdaLoGN),自适应地推断逻辑关系,以扩展图形,本质上,实现神经和符号推理之间的相互和迭代增强。我们还实现了一种新的子图到节点的消息传递机制,以增强上下文选项的交互回答多项选择题。我们的方法在ReClor和LogiQA上显示出有希望的结果。
2022-03-16 cs.AI cs.CL cs.NE
Reading and Acting while Blindfolded: The Need for Semantics in Text Game Agents
Princeton University(普林斯顿大学);Microsoft Research(微软研究院)
基于文本的游戏模拟世界,并使用自然语言与玩家进行交互。最近的工作将它们用作自主语言理解代理的测试平台,其动机是理解单词或语义的含义是人类在这些世界中理解,推理和行动的关键组成部分。然而,目前还不清楚人工代理在多大程度上利用文本的语义理解。为此,我们进行实验,系统地减少语义信息量的学习代理。令人惊讶的是,我们发现,即使在完全没有语言语义的情况下,代理也能够获得高分,这表明目前流行的实验设置和模型可能设计得很差,无法理解和利用游戏文本。为了弥补这一不足,我们提出了一个逆动态解码器来规范表示空间,并鼓励探索,这表明在包括Zork I在内的几个游戏上的性能有所改善。我们讨论了我们的研究结果的影响,设计未来的代理具有更强的语义理解。
2021-04-29 cs.AI cs.CL
Exploration and Exploitation of Victorian Science in Darwin's Reading Notebooks
Indiana University(印第安纳大学);Xi’an Jiaotong University(西安交通大学);Carnegie Mellon University(卡内基梅隆大学);Santa Fe Institute(圣塔菲研究所)
在资源分布不确定的环境中进行搜索,需要在利用过去的发现和进一步勘探之间进行权衡。这延伸到信息搜寻,知识寻求者在深度阅读和研究新领域之间转换。为了研究这个决策过程,我们研究了当代最著名的科学家之一查尔斯·达尔文的阅读选择。从他按时间顺序组织的阅读期刊中列出的书籍全文,我们生成主题模型,以量化他的本地(文本到文本)和全球(文本到过去)的阅读决策使用Kullback-Liebler分歧,认知验证,信息理论的相对惊喜的措施。达尔文的行为从早期的开发转向后来的探索,寻求相对于以前时代而言异常高水平的认知惊喜,而不是一种与纯粹的开发策略相对应的最小化模式。这些变化,检测到一个无监督的贝叶斯模型,与他的职业生涯中的主要知识时代的定性奖学金和达尔文自己的自我评论确定。我们的方法使我们能够比较他的消费文本与他们的出版顺序。我们发现达尔文的消费比文化的生产更具探索性,这表明在渐进的社会变革之下是对个人综合和发现的探索。我们的定量方法通过测试个人和集体行为之间以及短期和长期消费选择之间的相互作用的框架来推进认知搜索的研究。这种新颖的应用主题建模来表征个人阅读补充了广泛的集体科学行为的研究。
2017-02-02 cs.AI cs.CL cs.CY
Machine Reading with Background Knowledge
Carnegie Mellon University(卡内基梅隆大学)
能够自动理解自然语言文本的智能系统对于包括移动电话语音助理、计算机视觉和机器人技术在内的许多人工智能应用是重要的。理解语言通常是将新的信息融入先前获得的世界观。然而,许多机器阅读系统仅依赖于文本来推断其含义。在本文中,我们追求一种不同的方法;机器阅读方法,利用背景知识,以促进语言理解。为此,我们开发了两种方法:第一种方法解决介词短语连接歧义。它在半监督机器学习算法中使用背景知识,该算法从标记和未标记的数据中学习。这种方法在两个数据集上对强基线产生最先进的结果;第二种方法从复合名词中提取关系。我们的复合名词分析的知识感知方法准确地提取关系,并显着优于基线,不利用背景知识。
2016-12-16 cs.AI cs.CL
Reading Industrial Inspection Sheets by Inferring Visual Relations
TCS Research(塔塔咨询服务公司研究院);BITS Pilani(比尔拉科学技术学院皮拉尼校区)
记录重型工厂设备中的故障的传统模式是经由手工标记的检查表,其中机器工程师在机器的纸轮廓上手动标记故障机器区域。多年来,记录了数百万份此类检查表,但这些表中的数据仍然无法访问。然而,随着行业走向数字化,并意识到故障数据对机器健康监测的潜在价值,这些手工标记的检查记录的数字化有越来越大的推动力。为了实现这种数字化,我们提出了一种新的视觉管道,将最先进的深度学习模型与领域知识和低级视觉技术相结合,然后推断视觉关系。我们的框架是强大的存在下,静态和非静态背景的文件中,在机器模板图的变化,非结构化形状的图形对象被识别和手写文本的笔画的变化。建议的管道采用了胶囊和空间Transformer网络为基础的分类器,准确的文本阅读,和定制的CTPN网络的文本检测,除了混合技术的箭头检测和对话云删除。我们已经测试了我们的方法在一个真实世界的数据集的50个检查表的大型集装箱和锅炉。结果在视觉上很吸引人,流水线在文本检测和文本阅读方面分别达到了87.1%和94.6%的准确率。
2018-12-11 cs.AI cs.CL cs.CV
Learning to Ask: Neural Question Generation for Reading Comprehension
Cornell University(康奈尔大学);Shanghai Jiao Tong University(上海交通大学)
本文研究了阅读理解中从篇章中自动生成句子的问题。我们引入了一个基于注意力的序列学习模型的任务,并研究了编码句子与段落级信息的效果。与以前的所有工作相比,我们的模型不依赖于手工制作的规则或复杂的NLP管道;相反,它是通过序列到序列学习的端到端可训练的。自动评估结果表明,我们的系统显着优于国家的最先进的基于规则的系统。在人类评估中,我们的系统生成的问题也被评为更自然(即,语法性、流畅性)和更难回答(就句法和词汇与原文的分歧以及回答所需的推理而言)。
2017-04-29 cs.AI cs.CL
Speed Reading Tool Powered by Artificial Intelligence for Students with ADHD, Dyslexia, and Short Attention Span
Universiti Teknologi Malaysia(马来西亚理工大学)
针对阅读障碍、多动症及注意力不集中学生,提出用云托管大语言模型与自适应排版结合的人工智能工具,通过向Gemini API请求实时生成摘要,接受多种文件输入,优化可读性,经Flask框架部署,显著提升阅读速度与理解能力。
2026-07-28 cs.AI cs.CL