Taming the Beast: Learning to Control Neural Conversational Models
The Hong Kong University of Science and Technology(香港科技大学)
本文研究了基于深度学习的端到端生成式对话系统在面向任务和聊天场景下的可控性。特别地,我们研究了控制生成对话系统的不同方面,包括控制风格和主题以及不断添加和组合对话技巧。自第一个对话系统商业化以来的三十年中,这种系统的基本架构基本上保持不变,由四个流水线基本组件组成,即自然语言理解(NLU)、对话状态跟踪(DST)、对话管理器(DM)和自然语言生成(NLG)。对话管理器是模块化系统的关键组成部分,它控制响应的内容和风格。该模块通常按规则编程,并设计为高度可控和易于扩展。随着强大的“深度学习“架构的出现,端到端生成式对话系统被提出来优化整体系统性能并简化训练。然而,这些系统不能像模块化对话管理器那样容易地控制和扩展。这是因为使用了单个神经系统,其通常是大型的预训练语言模型(例如,GPT-2),因此难以通过手术改变期望的属性(例如,风格、主题等)。更重要的是,不可控的对话系统会产生攻击性甚至有毒的反应。因此,本论文主要研究面向任务和聊天场景的端到端生成式对话系统的可控方法。在整个章节中,我们描述了1)如何控制聊天模型的风格和主题,2)如何持续控制和扩展面向任务的对话系统,以及3)如何组合和控制多技能对话模型。
2021-08-24 cs.AI cs.CL cs.LG
Benchmarking Natural Language Understanding Services for building Conversational Agents
Heriot-Watt University(赫瑞-瓦特大学);The University of New South Wales(新南威尔士大学);Emotech North LTD(北英莫科技有限公司)
我们最近看到了几个公开可用的自然语言理解(NLU)工具包的出现,它们将用户的话语映射到结构化但更抽象的对话行为(DA)或意图规范,同时使这个过程对外行开发人员来说是可访问的。在本文中,我们提出了一些最流行的NLU服务的第一个广泛覆盖的评估和比较,在一个大型的,多域(21个域)的25 K用户话语数据集上,我们已经收集并注释了意图和实体类型规范,并将作为本次提交的一部分发布。结果表明,在Intent分类方面,Watson的表现明显优于其他平台,即Dialogflow、LUIS和Rasa;尽管这些平台的表现也很好。有趣的是,在实体类型识别方面,Watson由于其精度较低而表现得更差。同样,Dialogflow、LUIS和Rasa在这项任务上表现良好。
2019-03-26 cs.CL cs.LG
Bootstrapping Conversational Agents With Weak Supervision
IBM Watson(IBM沃森);IBM Research AI(IBM研究院人工智能部门)
当今市场上的许多会话代理遵循标准的机器人开发框架,该框架需要训练意图分类器来识别用户输入。创建一组合适的训练样本的需求通常是开发过程中的瓶颈。在许多情况下,代理开发人员可以访问历史聊天日志,这些日志可以提供大量的训练样本。然而,用数十到数百个意图标记它们的成本通常会阻止充分利用这些聊天日志。在本文中,我们提出了一个框架称为\textit{search, label, and propagate}(SLP)的引导意图从现有的聊天日志使用弱监督。该框架通过使用搜索引擎查找示例,将数小时到数天的标记工作减少到几分钟的工作,然后依靠数据编程方法自动扩展标签。我们报告的用户研究,显示积极的用户反馈,这种新的方法来建立对话代理,并证明了使用数据编程自动标记的有效性。虽然该系统是为训练会话代理而开发的,但该框架在显着减少训练文本分类器的标记工作方面具有更广泛的应用。
2018-12-14 cs.AI cs.CL
Data Distillation for Controlling Specificity in Dialogue Generation
Stanford University(斯坦福大学)
人们在不同的情况下说话的具体程度不同。取决于他们的知识、对话者、情绪等。会话代理应该具有这种能力,并且知道什么时候应该具体,什么时候应该笼统。我们提出了一种方法,使一个神经网络-基于会话代理这种能力。我们的方法涉及在\emph{data distillation}和模型训练之间交替:删除与上一轮训练的模型最常产生的响应最接近的训练样本,然后在剩余数据集上重新训练模型。用不同程度的数据提炼训练的对话生成模型表现出不同程度的特异性。然后,我们训练一个强化学习系统,用于在这个生成模型池中进行选择,为给定的输入选择最佳的特异性水平。与未经蒸馏训练的原始生成模型相比,除了根据上下文适当调整特异性外,所提出的系统还能够生成更有趣和更高质量的响应。我们的研究构成了更广泛方法的一个具体案例,该方法涉及从单个数据集训练多个子系统,这些数据集通过希望建模的特定属性的差异来区分。我们表明,从这样一组子系统,可以使用强化学习来构建一个系统,在测试时将其输出量身定制为不同的输入上下文。
2017-02-22 cs.CL
When is ACL's Deadline? A Scientific Conversational Agent
Technische Universität Darmstadt(达姆施塔特工业大学)
我们的会话代理UKP-ATHENA帮助NLP研究人员查找和探索科学文献,识别相关作者,计划或后处理会议访问,并使用基于自然语言输入和响应的统一界面准备论文提交。UKP-ATHENA为我们快速发展的研究领域提供了新的访问路径,其科学信息量巨大,周转时间长。UKP-ATHENA的响应连接了来自多个异构来源的信息,研究人员目前不得不一个接一个地手动探索。与搜索引擎不同,UKP-ATHENA维护对话的上下文,以便有效地访问论文,研究人员和会议的信息。我们的架构由多个组件和参考实现组成,可以通过新的技能和领域轻松扩展。我们基于用户的评估表明,UKP-ATHENA已经以37%的信息覆盖率响应了45%的定义意图的不同配方。
2019-11-23 cs.CL
Building a Conversational Agent Overnight with Dialogue Self-Play
Google AI(谷歌人工智能)
我们提出了机器对机器(M2M),一个框架相结合的自动化和众包,以快速引导端到端的对话代理在任意领域的目标为导向的对话。M2M仅通过任务模式和来自对话系统开发人员的API客户端扩展到新任务,但它也可以定制以满足特定于任务的交互。与用于数据汇集的绿野仙踪方法相比,M2M实现了显著对话流的更大多样性和覆盖率,同时保持了个体话语的自然性。在第一阶段中,模拟的用户机器人和领域不可知的系统机器人进行对话,以详尽地生成对话“大纲”,即模板话语及其语义解析的序列。在第二阶段,人群工作者提供对话的上下文重写,使话语更自然,同时保留其意义。整个过程可以在几个小时内完成。我们提出了一个新的语料库的3,000对话跨越2个领域收集与M2M,并提出与流行的对话数据集的表面形式和对话流的质量和多样性的比较。
2018-01-15 cs.AI cs.CL
CompCQR: Compositional Query Generation for Training-Free Conversational Search
Seoul National University(首尔大学);LG AI Research(LG AI研究院)
针对对话式搜索中查询歧义与检索器不对齐问题,提出免训练的组合式查询生成方法CompCQR,以最少LLM调用生成大量查询并构建高质量文档集,在四个基准上MRR相对提升高达22.5%。
2026-09-15 cs.AI cs.CL
Hierarchical Multi-Task Natural Language Understanding for Cross-domain Conversational AI: HERMIT NLU
Heriot-Watt University(赫瑞-瓦特大学)
我们提出了一种新的神经架构,用于口语对话系统中的广泛覆盖的自然语言理解。我们开发了一个分层的多任务架构,它提供了句子含义的多层表示(即,对话行为和框架式结构)。该架构是自我注意力机制和BiLSTM编码器的层次结构,随后是CRF标记层。我们描述了各种各样的实验,表明我们的方法在用对话行为和框架语义注释的数据集上获得了有希望的结果。此外,我们证明了它对不同的、公开可用的NLU数据集的适用性,该数据集注释了特定领域的意图和相应的语义角色,提供了比RASA、Dialogflow、LUIS和Watson等最先进的工具更高的整体性能。例如,我们在Rasa、Dialogflow和LUIS上的实体标记F分数平均提高了4.45%。
2019-10-02 cs.CL
Efficiently Aligned Cross-Lingual Transfer Learning for Conversational Tasks using Prompt-Tuning
Salesforce Research(赛富时研究院);Salesforce AI Research(赛富时人工智能研究院)
该研究构建了含105种语言、单语约33万话语的跨语言对话数据集XSGD,提出基于提示调优的对齐方法,结合NLI分类器在对话任务的跨语言迁移中取得优于主流大模型的效果,尤其适配低资源少样本场景。
2024-01-27 cs.AI cs.CL
How Reliable is Your Simulator? Analysis on the Limitations of Current LLM-based User Simulators for Conversational Recommendation
School of Computer Science and Technology, Beijing Jiaotong University(北京交通大学计算机科学与技术学院);Key Laboratory of Big Data & Artificial Intelligence in Transportation(Beijing Jiaotong University), Ministry of Education(教育部交通大数据与人工智能重点实验室(北京交通大学))
本文分析了基于LLM的对话式推荐用户模拟器的局限性,发现数据泄露、对话历史质量影响及单模板控制困难等问题,并提出SimpleUserSim策略以提升推荐效果。
2024-03-25 cs.AI
$τ^2$-Bench: Evaluating Conversational Agents in a Dual-Control Environment
Sierra(Sierra公司);University of Toronto(多伦多大学);Vector Institute(Vector研究所)
本文提出 $τ^2$-Bench,通过 Telecom 双控 Dec-POMDP、组合任务生成器和高保真用户模拟器,评估对话智能体在共享环境中的推理、沟通与协调能力。
2025-06-09 cs.AI cs.CL
Stateful Guardrails for Multi-Turn LLM Systems: A Conversational Risk Accumulation Framework
College of Medicine and Public Health, Flinders University(弗林德斯大学医学与公共卫生学院)
研究多轮大语言模型系统的对话风险累积问题,提出会话层CRA框架,跟踪三个轨迹信号,提供评分方法,发布多个基准测试集及评估协议,重点在于分布内会话评分,为大语言模型安全防护提供新方法。
2026-07-23 cs.AI cs.CL
Graph Meets LLM: A Novel Approach to Collaborative Filtering for Robust Conversational Understanding
Amazon Alexa AI(亚马逊Alexa人工智能部门)
本文提出协同查询重写方法,通过构建用户反馈交互图并利用多跳遍历和LLM增强索引,以处理未见查询,提升对话系统的稳健性。
2023-06-19 cs.AI cs.IR cs.LG
Criterion Validity of LLM-as-Judge for Business Outcomes in Conversational Commerce
本文通过两项研究探讨了LLM作为评判者在对话商业结果中的标准效度,发现评价维度和权重设计影响显著,需通过转换驱动的重新加权来改进。
2026-03-11 cs.AI cs.CL
Structured Context and High-Coverage Grammar for Conversational Question Answering over Knowledge Graphs
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);Google Research(谷歌研究院)
我们使用神经语义解析方法来解决大知识图谱上弱监督会话问答的问题。我们引入了一种新的逻辑形式(LF)语法,可以在图形上对各种查询进行建模,同时保持足够简单以有效地生成监督数据。我们基于Transformer的模型采用类似JSON的结构作为输入,使我们能够轻松地将知识图谱和会话上下文结合起来。这种结构化的输入被转换为嵌入列表,然后被馈送到标准的注意力层。我们验证了我们的方法,无论是在语法覆盖率和LF执行的准确性,两个公开可用的数据集,CSQA和ConvQuestions,都在维基数据接地。在CSQA上,我们的方法将覆盖范围从$80\%$增加到$96.2\%$,并将LF执行精度从$70.6\%$增加到$75.6\%$。在ConvQuestions上,我们在最先进的技术方面取得了有竞争力的结果。
2021-09-01 cs.CL
Logarithmic Scores, Power-Law Discoveries: Disentangling Measurement from Coverage in Agent-Based Evaluation
本文通过960次实验展示基于代理的评估在Turing式验证中与人类评分无差异,发现评分与独特问题发现之间存在对数与幂律的分离,揭示了发现空间的幂律分布特性。
2026-10-14 cs.AI cs.CL cs.HC
Generative Support Realignment for Cross-Domain Offline Reinforcement Learning
Ulsan National Institute of Science and Technology, UNIST(乌山国立科学技术研究院,UNIST)
本文提出TCE框架,通过目标对齐生成扩展状态覆盖,有效缓解领域差异,提升跨领域离线强化学习性能。
2026-09-30 cs.AI cs.LG
Deploying a Retrieval based Response Model for Task Oriented Dialogues
Amazon(亚马逊)
工业环境中面向任务的对话系统需要具有高会话能力,易于适应不断变化的情况并符合业务约束。本文描述了一个3步的过程来开发一个会话模型,满足这些标准,并可以有效地扩展到一个大的响应候选人的排名。首先,我们提供了一个简单的算法来半自动地从历史对话中创建一个高覆盖率的模板集,而无需任何注释。其次,我们提出了一个神经架构,将对话上下文和适用的业务约束编码为配置文件功能,用于对下一轮进行排名。第三,我们描述了一个两阶段的学习策略,自我监督训练,然后通过人在环平台收集的有限数据进行监督微调。最后,我们描述了离线实验,并提出了部署我们的模型与人在循环与现场客户在线交谈的结果。
2022-10-25 cs.CL
Amory: Building Coherent Narrative-Driven Agent Memory through Agentic Reasoning
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Amazon(亚马逊)
Amory通过增强代理推理构建连贯的叙事驱动记忆,提升长期对话代理的推理性能与响应效率。
2026-01-09 cs.AI cs.CL
Chat-Based Support Alone May Not Be Enough: Comparing Conversational and Embedded LLM Feedback for Mathematical Proof Learning
Carnegie Mellon University(卡内基梅隆大学);The University of Hong Kong(香港大学)
研究评估了GPTutor系统对大学离散数学课程的影响,发现对话式反馈单独使用可能无法有效提升考试成绩,而嵌入式反馈与学习表现相关性较低。
2026-03-31 cs.AI cs.CY cs.HC
ConvCodeWorld: Benchmarking Conversational Code Generation in Reproducible Feedback Environments
Snowflake AI Research(Snowflake AI研究院);Seoul National University(首尔大学)
提出ConvCodeWorld基准,模拟9种交互式代码生成场景并组合编译、执行和语言反馈,评估LLM性能,发现反馈质量显著影响结果,弱模型可借反馈超越强模型单轮表现。
2025-02-27 cs.AI cs.CL cs.SE
AMUSED: A Multi-Stream Vector Representation Method for Use in Natural Dialogue
Samsung Research Institute(三星研究院);Carnegie Mellon University(卡内基梅隆大学);Stony Brook University(石溪大学)
提出多流深度学习架构AMUSED,融合上下文、句法和外部知识生成统一嵌入,在下一句预测任务上显著提升,并用于构建经专家验证的检索式对话代理。
2019-12-04 cs.AI cs.CL cs.LG
Crossing the Conversational Chasm: A Primer on Natural Language Processing for Multilingual Task-Oriented Dialogue Systems
University of Cambridge(剑桥大学);University of Würzburg(维尔茨堡大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);PolyAI Limited(PolyAI有限公司)
在面向任务的对话(ToD)中,用户与人工智能体进行对话以完成具体任务。虽然这项技术代表了人工智能的核心目标之一,并且一直是越来越密集的研究和开发工作的重点,但它目前仅限于几个狭窄的领域(例如,食物订购、机票预订)和少数几种语言(例如,英文、中文)。这项工作提供了一个广泛的概述现有的方法和资源,在多语言的ToD作为一个切入点,这一令人兴奋的和新兴的领域。我们发现,阻止创建真正的多语言ToD系统的最关键因素是缺乏大多数语言的数据集用于培训和评估。事实上,为模块化系统的每个组件或数据饥渴的端到端系统获取注释或人工反馈是昂贵且繁琐的。因此,多语言ToD的最新方法主要依赖于(零或Few-Shot)从资源丰富的语言(几乎完全是英语)的跨语言迁移,无论是通过机器翻译还是多语言表示。这些方法目前只适用于类型相似的语言和具有平行/单语语料库的语言。另一方面,由于缺乏语言多样性的基准(特别是对于自然语言生成和端到端评估),它们在这些边界之外的有效性值得怀疑或难以评估。为了克服这一限制,我们在ToD管道的组件和其他NLP任务之间进行了比较,这可以激发低资源场景下的学习解决方案。最后,我们列出了多语言对相关领域(如语音和以人为本的评估)带来的额外挑战,并指出了未来的发展方向,有望进一步扩大当前ToD系统的语言覆盖范围和对话能力。
2022-05-26 cs.CL
ARdena: Scenario-driven control of real-time LLM agents
Faculty of Applied Mathematics and Informatics, University of Osijek Croatia(奥西耶克大学应用数学与信息学院,克罗地亚);Meet Intelligent Innovations LLC(Meet智能创新有限责任公司)
研究如何在实时交互环境中控制大语言模型智能体行为,提出分层场景驱动的LLM控制框架,通过结构化提示实现运行时行为控制,在ARDena中实现该框架并评估,结果显示场景驱动提示能有效控制LLM智能体。
2026-07-28 cs.AI
MCP-DPT: A Defense-Placement Taxonomy and Coverage Analysis for Model Context Protocol Security
Old Dominion University(老道明大学)
本文提出MCP-DPT框架,分析模型上下文协议的安全性,识别防御点并揭示架构不匹配导致的安全漏洞。
2026-04-08 cs.AI cs.CR
SMA: Who Said That? Auditing Membership Leakage in Semi-Black-box RAG Controlling
Sun Yat-Sen University(孙中山大学);Nanyang Technological University(南洋理工大学);University of Chinese Academy of Science(中国科学院大学);Zhongguancun Academy(中关村学院);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
本研究针对半黑盒RAG控制中的成员泄露问题,提出首个源感知成员审计SMA,通过零阶优化归因估计机制与跨模态归因技术,实现生成内容的细粒度来源归因,为复杂生成系统的数据来源审计提供新视角。
2026-08-18 cs.AI
Hybrid AI for Responsive Multi-Turn Online Conversations with Novel Dynamic Routing and Feedback Adaptation
OCI, Oracle America Inc.(Oracle美洲公司);OCI, Oracle India(Oracle印度公司)
本文提出一种结合RAG与基于意图预设回复的混合框架,通过动态路由和反馈自适应机制,在多轮对话中实现95%准确率与180ms低延迟的平衡,有效解决了企业级对话AI的多样化查询、高延迟和幻觉等挑战。
2025-06-25 cs.AI
Beyond Domain APIs: Task-oriented Conversational Modeling with Unstructured Knowledge Access Track in DSTC9
Amazon Alexa AI(亚马逊Alexa AI);National Taiwan University(国立台湾大学)
面向任务的对话系统的大多数先前工作被限制到域API的有限覆盖,而用户经常具有未被API覆盖的域相关请求。这一挑战路径旨在通过整合外部非结构化知识源来扩大面向任务的对话系统的覆盖范围。我们定义了三个任务:知识寻求转向检测,知识选择和知识接地响应生成。我们介绍了三个任务的数据集和神经基线模型。挑战赛共收到来自24支参赛队伍的105份参赛作品。在评估结果中,集成方法与不同的大规模预训练语言模型取得了很高的性能,提高了知识选择能力和更好的泛化到看不见的数据。
2021-02-04 cs.CL
Automated test generation to evaluate tool-augmented LLMs as conversational AI agents
Zendesk
针对工具增强型LLM作为对话式AI智能体评估难的问题,提出带中间图约束的自动化测试生成流水线及客服场景数据集ALMITA,验证了现有模型在完整对话处理上的不足,方法可跨领域通用。
2024-10-10 cs.AI cs.CL cs.LG
Edina: Building an Open Domain Socialbot with Self-dialogues
我们介绍了爱丁堡大学的社交机器人Alexa,用于亚马逊Alexa Prize竞赛。Repla是一个会话代理,其响应通过我们称之为自我对话的创新新技术利用从Amazon Mechanical Turk(AMT)收集的数据。在这些对话中,一个AMT工作者扮演对话中的两个参与者。这样的对话是令人惊讶的自然,有效地收集和反映相关和/或趋势的主题。这些自对话为生成神经网络提供训练数据,并为匹配评分组件使用的软规则提供基础。软规则对用户话语的每一个匹配与一个置信度得分,我们显示是强烈的答复质量的指示,允许这个组件进行自我审查,并有效地与其他组件集成。Edina的完整架构具有基于规则的系统,可退回到匹配分数,退回到生成式神经网络。因此,我们的混合数据驱动方法解决了严格基于规则的方法的覆盖范围限制和缺乏严格机器学习方法的保证。
2017-09-28 cs.AI cs.CL
SparkMe: Adaptive Semi-Structured Interviewing for Qualitative Insight Discovery
Stanford University(斯坦福大学)
SparkMe通过多智能体LLM实现适应性半结构化访谈,提升访谈效用并挖掘更丰富的职业特定洞察。
2026-11-03 cs.AI cs.CY cs.HC
Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications
Lumytics
本文提出了一种自动化自我测试框架,通过五个实证基础的维度(任务成功率、研究环境保持、P95延迟、安全通过率和证据覆盖)实现基于证据的发布决策(PROMOTE/HOLD/ROLLBACK),并通过长期案例研究评估了该框架在多代理对话AI系统中的有效性。
2026-05-21 cs.AI cs.SE
Entertaining and Opinionated but Too Controlling: A Large-Scale User Study of an Open Domain Alexa Prize System
University of California Santa Cruz(加州大学圣克鲁兹分校)
会话系统通常专注于功能性任务,如安排约会或创建待办事项列表。相反,我们设计和评估SlugBot(SB),这是2018年AlexaPrize的8个半决赛选手之一,其目标是支持休闲开放域社交互动。这种新颖的应用程序需要广泛的主题覆盖和参与互动技能。我们开发了一种新的技术方法来满足这种苛刻的情况,通过众包新颖的内容,并引入基于讲故事和游戏的有趣的对话策略。我们在2018年8月收集了超过10,000个对话,作为Alexa Prize竞赛的一部分。我们还进行了实验室随访定性评价。总体而言,所有用户都认为SB具有中等吸引力;对话平均为3.6分钟,涉及26个用户回合。然而,用户对不同的会话子类型的反应非常不同。讲故事和游戏得到了积极的评价;这些被视为具有可预测的互动结构的娱乐性。相比之下,搜索和一般的聊天引起覆盖问题;在这里,用户发现很难推断SB可以理解的主题,这些对话被视为过于系统驱动。理论和设计的影响表明,远离会话系统,只是提供事实信息。未来的系统应该设计成有自己的观点和个人故事来分享,SB提供了一个我们如何实现这一点的例子。
2019-08-13 cs.CL cs.HC
Learning Optimal Antenna Tilt Control Policies: A Contextual Linear Bandit Approach
KTH Royal Institute of Technology(瑞典皇家理工学院);Ericsson Research(爱立信研究院)
控制蜂窝网络中的天线倾斜对于在网络覆盖和容量之间达到有效的折衷是必要的。在本文中,我们设计的算法学习最佳的倾斜控制策略,从现有的数据(在所谓的被动学习设置)或从数据主动生成的算法(主动学习设置)。我们将此类算法的设计形式化为上下文线性多臂强盗(CL-MAB)中的最佳策略识别(BPI)问题。手臂表示天线倾斜更新;上下文捕获当前网络条件;奖励对应于性能的改善,混合覆盖范围和容量;目标是以给定的置信水平识别近似最优策略(将上下文映射到具有最大奖励的手臂的函数)。对于CL-MAB在主动和被动的学习设置,我们推导出信息理论的下限所需的样本数量的任何算法返回一个近似最优的政策与给定的确定性水平,并设计算法实现这些基本限制。我们将我们的算法应用到蜂窝网络中的远程电跟踪(RET)优化问题,并表明它们可以产生最佳的倾斜更新策略,使用更少的数据样本比天真的或现有的基于规则的学习算法。
2022-01-06 cs.LG
TD3 with Reverse KL Regularizer for Offline Reinforcement Learning from Mixed Datasets
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院);Macquarie University(麦考瑞大学)
我们考虑一个离线强化学习(RL)设置,其中代理需要从通过推出多个行为策略收集的数据集中学习。这种设置存在两个挑战:1)由于不同行为策略引起的动作覆盖的变化,优化RL信号和行为克隆(BC)信号之间的最佳权衡在不同状态上变化。以前的方法无法通过仅控制全局权衡来处理这一点。2)对于给定的状态,不同行为策略生成的动作分布可能有多种模式。许多以前的方法中的BC正则化器是均值寻求的,导致在模式中间选择分布外(OOD)动作的策略。在本文中,我们通过使用自适应加权的反向Kullback-Leibler(KL)发散作为基于TD 3算法的BC正则化器来解决这两个挑战。我们的方法不仅用每个状态的权重来权衡RL和BC信号(即,在具有窄动作覆盖的状态上进行强BC正则化,反之亦然),而且由于反向KL的模式搜索特性,还避免了选择OOD动作。从经验上讲,我们的算法可以优于现有的离线RL算法在MuJoCo运动任务与标准的D4 RL数据集,以及混合数据集,结合标准数据集。
2022-12-05 cs.AI cs.LG stat.ML
Leveraging Twitter for Low-Resource Conversational Speech Language Modeling
University of Washington(华盛顿大学)
在涉及会话语音的应用中,数据稀疏性是构建更好的语言模型的限制因素。我们提出了一种简单的,独立于语言的方法,可以快速从Twitter中收集大量数据,以补充与该领域更紧密匹配的较小训练集。这些技术导致四种低资源语言的困惑显着减少,即使这些语言在Twitter上的存在相对较小。我们还发现,Twitter的文本是更有用的学习词类比域中的文本,使用这些词类导致进一步减少困惑。此外,我们介绍了一种方法,使用社会和文本信息,优先级的下载队列在Twitter的爬行。这最大化了可以收集的有用数据的数量,影响了困惑度和词汇覆盖率。
2015-04-09 cs.CL
Conversational Question Answering on Heterogeneous Sources
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
本文提出端到端流水线CONVINSE,通过结构化表示统一融合知识库、文本和表格异构源证据生成答案,并发布首个异构源对话问答基准ConvMix,实验证明其优于现有基线。
2023-06-30 cs.CL cs.IR
Who Are You Behind the Screen? Implicit MBTI and Gender Detection Using Artificial Intelligence
Sharif University of Technology(谢里夫理工大学)
本文利用 Telegram 对话数据微调 RoBERTa,从语言模式隐式识别 MBTI 与性别,人格分类准确率达 86.16%,性别分类达 74.4%。
2025-03-14 cs.AI cs.CL
Toward Safe and Human-Aligned Game Conversational Recommendation via Multi-Agent Decomposition
Roblox Corporation(Roblox公司);University of Cambridge(剑桥大学)
MATCHA通过多智能体框架提升游戏对话推荐的安全性与人本对齐,实现更精细的个性化和更强的对抗防御能力。
2026-02-25 cs.CL cs.HC cs.IR
From Transcripts to AI Agents: Knowledge Extraction, RAG Integration, and Robust Evaluation of Conversational AI Assistants
Amity Research and Application Center (ARAC)(阿米蒂研究与应用中心)
本文提出了一种端到端框架,通过历史通话记录构建和评估对话式AI助手,利用知识提取和RAG整合提升事实准确性和鲁棒性。
2026-01-26 cs.CL
INSURE-Dial: A Phase-Aware Conversational Dataset & Benchmark for Compliance Verification and Phase Detection
AIMon Labs(AIMon实验室)
INSURE-Dial是一个面向合规验证和阶段检测的相位感知对话数据集与基准,通过相位结构化标注和两个新评估任务提升语音代理的合规性评估能力。
2026-02-24 cs.CL
When Patients Cut In: Extending Clinical Conversational AI Safety to Interruptions
Ufonia Limited(乌福尼亚有限公司);Newcastle University(纽卡斯尔大学)
该研究针对临床对话AI未考虑患者打断的问题,调整重叠类别为三种操作类型,测试四种LLM配置,发现竞争型FAQ打断下所有模型均出现信息覆盖失败,提出需按单元评估打断鲁棒性。
2026-09-01 cs.CL
LLaVA-Med: Training a Large Language-and-Vision Assistant for Biomedicine in One Day
Microsoft(微软)
本文提出LLaVA-Med,通过PubMed Central图表-说明数据、GPT-4自指令数据和课程学习微调通用视觉-语言模型,在15小时内训练出生物医学多模态对话助手,并在部分VQA指标上达到最优。
2023-06-01 cs.CL cs.CV
Towards Stable and Personalised Profiles for Lexical Alignment in Spoken Human-Agent Dialogue
Centre for Language Studies, Centre for Language and Speech Technology, Radboud University,Nijmegen, The Netherlands(语言研究所以及语言与语音技术中心,拉德堡德大学,尼姆egen,荷兰);Behavioural Science Institute, Radboud University, Nijmegen, The Netherlands(行为科学研究所,拉德堡德大学,尼姆egen,荷兰)
本研究针对人机对话中的词汇对齐问题,探讨了如何构建稳定且个性化的词汇画像,发现基于10分钟转录语音的紧凑画像在性能与数据效率上达到最佳平衡。
2025-11-04 cs.CL cs.HC
Knowledge Access Beats Model Size: Memory Augmented Routing for Persistent AI Agents
vLLM Semantic Router Project(vLLM语义路由器项目);MBZUAI;McGill University(麦吉尔大学);Mila;AMD;Red Hat(红帽)
本文提出利用对话记忆提升AI代理效率,通过轻量模型结合检索信息,使小模型在用户特定查询中表现优于大模型,证明知识访问比模型规模更重要。
2026-03-24 cs.CL