SaFeRDialogues: Taking Feedback Gracefully after Conversational Safety Failures
Facebook AI Research(脸书人工智能研究院)
当前的开放域会话模型很容易以不适当的方式进行交谈。从对话伙伴给出的对话反馈中进行在线学习是模型改进和适应的有希望的途径,以便产生更少的这些安全故障。然而,目前最先进的模型往往会对反馈做出防御性或遗忘性的反应。这会造成不愉快的体验,并且可能会阻止对话伙伴在未来提供反馈。这项工作提出了SaFeRDialogues,一个任务和数据集的优雅的会话反馈有关安全故障的反应。我们收集了一个包含10k个对话的数据集,这些对话展示了安全故障、反馈信号以及确认反馈的响应。我们展示了如何对这个数据集进行微调,从而使人类评分员认为更有可能导致文明对话,而不会牺牲友好性或一般对话能力。
2022-05-05 cs.AI cs.CL
Conversational Recommendation: A Grand AI Challenge
University of Klagenfurt(克拉根福大学);Hong Kong Baptist University(香港浸会大学)
动画化身,看起来和说话都像人类,是人工智能系统未来的标志性愿景。通过许多科幻电影,我们熟悉了与这些虚拟人物交谈的想法,就好像他们是人类一样。今天,我们越来越多地谈论像苹果Siri这样的机器,例如,向他们要天气预报然而,当被要求提供建议时,例如,对于要去的餐馆来说,这种设备的局限性很快变得明显。他们不会参与谈话来找出我们可能更喜欢的东西,他们通常不会为他们推荐的东西提供解释,他们可能很难记住一分钟前说过的话。会话式推荐系统有望解决这些限制。在本文中,我们回顾了构建此类系统的现有方法,我们今天观察到的发展,哪些挑战仍然存在,以及为什么对话式机器人的发展代表了人工智能的下一个重大挑战之一。
2022-03-17 cs.AI cs.HC cs.IR
Agents Thinking Fast and Slow: A Talker-Reasoner Architecture
Google DeepMind(谷歌DeepMind)
本文提出 Talker-Reasoner 智能体架构,将交谈与多步推理规划分离,类比人类快慢思考系统,提升了模块化与响应速度,并在睡眠辅导场景中验证了其有效性。
2024-10-10 cs.AI cs.CL cs.LG
Let the LLMs Talk: Simulating Human-to-Human Conversational QA via Zero-Shot LLM-to-LLM Interactions
University of Amsterdam(阿姆斯特丹大学);The Chinese University of Hong Kong(香港中文大学)
本文提出零样本 LLM-to-LLM 师生交互框架以模拟 CQA,并从问答质量、问题差异及阅读理解基准等方面验证 GPT-4 生成对话的有效性。
2023-12-05 cs.AI cs.CL cs.IR
TAVID: Text-Driven Audio-Visual Interactive Dialogue Generation
Korea Advanced Institute of Science and Technology(韩国科学技术院);Carnegie Mellon University(卡内基梅隆大学)
TAVID通过统一框架同步生成交互面部和对话语音,实现音频视觉多模态对话生成。
2025-12-23 cs.AI cs.CV eess.AS
If the Sources Could Talk: Evaluating Large Language Models for Research Assistance in History
Concordia University(康考迪亚大学);University of British Columbia(不列颠哥伦比亚大学)
该研究通过向量嵌入增强大型语言模型,使其能辅助历史学家分析定制语料库,在问答和数据提取任务上优于传统搜索界面,且可处理训练数据之外的档案。
2023-10-16 cs.AI cs.IR
Evaluating Large Language Models as Generative User Simulators for Conversational Recommendation
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文提出一种包含五项任务的评估协议,用于衡量大型语言模型在对话式推荐中模拟人类行为的准确度,揭示其与人类行为的偏差,并探索通过模型选择和提示策略减少偏差的方法。
2024-03-25 cs.AI cs.CL cs.IR
EgoSpeak: Learning When to Speak for Egocentric Conversational Agents in the Wild
Yonsei University(延世大学);NCSOFT Corporation(NCsoft公司)
针对对话智能体真实场景语音发起预测难题,提出整合四项核心能力的第一人称流式预测框架EgoSpeak,构建YT-Conversation预训练数据集,实验证明其性能优于现有基线,验证了多模态输入与上下文长度的重要性。
2025-02-17 cs.AI cs.CV
Designing a Dashboard for Transparency and Control of Conversational AI
Harvard University(哈佛大学);Google Research(谷歌研究院)
针对对话式LLM黑盒缺乏透明度的问题,提出端到端原型TalkTuner,通过仪表板实时展示并控制内部用户模型,帮助用户揭露偏见并增强控制感。
2024-10-14 cs.AI cs.CL cs.HC
Automatic Generation of Chatbots for Conversational Web Browsing
Politecnico di Milano(米兰理工大学);LIRIS – University of Claude Bernard Lyon 1(里昂第一大学);University of News South Wales(新南威尔士大学)
在本文中,我们描述了从一个配备了简单的、机器人特定的HTML注释的网站中生成聊天机器人的基础。这种方法是我们所说的会话式网页浏览的一部分,即,基于对话的、自然语言与网站的交互。其目标是使用户能够通过“与网站交谈”而不是通过使用键盘和鼠标操作图形UI来使用通过呈现的UI访问的内容和功能。聊天机器人在用户和网站之间进行调解,代表用户操作其图形UI,并通知用户交互状态。我们描述了概念词汇表和注释格式,支持会话中间件和技术,以及能够通过Amazon Alexa提供会话式Web浏览体验的演示的实现。
2020-10-21 cs.AI cs.CY
Neural Generation Meets Real People: Towards Emotionally Engaging Mixed-Initiative Conversations
Stanford NLP(斯坦福自然语言处理实验室)
我们将开放域对话代理Chirpy Cardinal作为2019年Alexa Prize竞赛的研究平台。构建一个开放领域的社交机器人,与真实的人交谈是具有挑战性的-这样的系统必须满足多种用户期望,如广泛的世界知识,对话风格和情感联系。我们的社交机器人按照用户的要求与他们互动-优先考虑他们的兴趣、感受和自主权。因此,我们的社交机器人提供了一个响应式的、个性化的用户体验,能够明智地谈论各种各样的话题,也能同情地谈论日常生活。神经生成在实现这些目标中起着关键作用,为我们的对话和情感基调提供了支柱。在比赛结束时,Chirpy Cardinal以3.6/5.0的平均评分进入决赛,平均对话持续时间为2分16秒,90%的持续时间超过12分钟。
2020-09-05 cs.AI cs.CL
A Multimodal Conversational Agent for Tabular Data Analysis
ITMO University(ITMO大学)
Talk2Data是一种多模态对话代理,通过语音和文本交互实现表格数据分析,结合LLM、ASR、代码生成和TTS技术,提供多轮对话和可验证计算。
2025-11-23 cs.AI cs.HC cs.IR
Talking to Your Data: Exploring Embodied Conversation as an Interface for Personal Health Reflection
Department of Computer Science, ETH Zurich(苏黎世联邦理工学院计算机科学系)
提出一种通过具身对话代理与可穿戴健康数据交互的新范式,采用双代理设计(观察者提取统计特征,呈现者以“口语化统计”沟通),通过模拟自我用户研究(N=5)与传统仪表盘对比,评估感知理解、行动具体性和认知转变。
2026-06-17 cs.AI cs.HC
Talk Freely, Execute Strictly: Schema-Gated Agentic AI for Flexible and Reproducible Scientific Workflows
Intellegens, The Studio(Intellegens工作室);Cavendish Laboratory(卡文迪许实验室)
本文提出基于模式的代理AI,通过分离对话和执行权限,解决科学工作流中灵活性与确定性的权衡问题。
2026-03-06 cs.AI cs.LG cs.MA
Intelligent Conversational Android ERICA Applied to Attentive Listening and Job Interview
Graduate School of Informatics(信息学研究科);Kyoto University(京都大学)
随着智能手机助手和智能扬声器中的口语对话系统(SDS)的成功,许多通信机器人被开发和商业化。与设计为人机界面的传统SDS相比,由于拟人化和物理存在,与机器人的交互被期望以更接近于与人交谈的方式进行。对话的目标或任务可能不是信息检索,而是对话本身。为了实现人类级别的“长而深”的对话,我们开发了一个智能对话机器人ERICA。我们为ERICA设置了几个社交互动任务,包括倾听,工作面试和快速约会。为了允许自发的、增量的多个话语,基于TRP(transition-relevance place)预测来实现鲁棒的话轮转换模型,并且基于时间帧预测而不是基于IPU的预测来生成各种反向通道。我们已经实现了一个开放域的注意听系统,部分重复和详细的问题,重点词以及评估反应。它已经与40名高级人员进行了评估,进行了5-7分钟的对话,没有对话中断。还将其与WOZ设置进行了比较。我们还实现了一个面试系统,一组基本问题,然后动态生成详细的问题。还对学生进行了评估,显示出有希望的结果。
2021-05-02 cs.AI cs.CL cs.RO
Why LLMs Give In: Conversational Factors and Reasoning Behind Medical Sycophancy
Virginia Tech(弗吉尼亚理工大学);Shanghai Tongren Hospital, Shanghai Jiao Tong University School of Medicine(上海交通大学医学院附属同仁医院);Emory University(埃默里大学)
研究发现医学谄媚是对话属性而非模型属性,通过5个开放权重模型和500个MedQuAD问题的120万次试验,揭示了对话因素对医学谄媚的影响及思维链轨迹的解释。
2026-09-01 cs.AI cs.CL
Dialoging Resonance: How Users Perceive, Reciprocate and React to Chatbot's Self-Disclosure in Conversational Recommendations
Columbia University(哥伦比亚大学);University of California, Davis(加州大学戴维斯分校)
使用聊天机器人提供推荐越来越受欢迎。推荐聊天机器人的设计主要是通过关注推荐内容本身来采取以信息为中心的方法。有限的关注是如何社会联系和关系策略,如聊天机器人的自我披露,可能会影响用户的感知和接受的建议。在这项工作中,我们设计、实现和评估了一个社交聊天机器人,它能够执行三个不同级别的自我披露:事实信息(低)、认知观点(中)和情感(高)。在评估中,我们招募了372名参与者与聊天机器人就两个主题进行对话:电影和COVID-19体验。在每个主题中,聊天机器人都会进行简短的谈话,并提出与主题相关的建议。参与者被随机分配到四个实验条件下,聊天机器人使用事实,认知,情感和适应策略来执行自我披露。通过训练文本分类器来实时识别用户的自我披露水平,自适应聊天机器人可以动态地将其自我披露与用户表现出的披露水平相匹配。我们的研究结果表明,当推荐聊天机器人在整个对话中始终显示情感时,用户会以更高级别的自我披露作为回报。聊天机器人的情感披露也导致了对机器人的更高的互动享受和更积极的人际感知,培养了更强的人与聊天机器人的关系,从而提高了推荐的有效性,包括更高的接受推荐的倾向。我们讨论了所获得的理解和影响,未来的设计。
2022-11-10 cs.AI cs.CL
CoVoMix: Advancing Zero-Shot Speech Generation for Human-like Multi-talker Conversations
Shanghai Jiao Tong University(上海交通大学);Microsoft(微软公司)
CoVoMix提出一种零样本多说话人多轮对话语音生成模型,通过离散令牌流与流匹配声学模型生成混合梅尔频谱图,再经HiFi-GAN合成波形,实现类人自然对话。
2024-12-15 cs.AI cs.CL cs.LG
Synthetic Dialogue Dataset Generation using LLM Agents
Macquarie University(麦考瑞大学);Deakin University(迪肯大学);The University of Melbourne(墨尔本大学)
针对普通用户难以为自身问题构建线性规划模型的痛点,提出利用两个LLM智能体分别模拟用户与对话助手生成合成对话数据集的方法,经多维度评估验证对话质量良好,相关资源与基线模型已对外开放。
2024-01-30 cs.AI cs.CL
Modeling What-to-ask and How-to-ask for Answer-unaware Conversational Question Generation
Institute for Infocomm Research (I2R), A*STAR(新加坡科技研究局资讯通信研究院(I2R));Nanyang Technological University, Singapore(新加坡南洋理工大学);Salesforce AI(赛富时人工智能研究院);ByteDance(字节跳动);University of California, Santa Barbara(加州大学圣巴巴拉分校)
针对答案未知型对话式问题生成中“问什么”与“怎么问”的挑战,提出两阶段框架SG-CQG,结合语义图选推理依据、显式控制问题类型,并提出多样性评估指标Conv-Distinct,实现当前最优性能。
2023-05-04 cs.AI cs.CL
Echoing: Identity Failures when LLM Agents Talk to Each Other
Salesforce AI Research(Salesforce AI研究)
研究发现LLM代理在相互对话中出现身份失败现象,即回声,通过实验表明回声率高达70%,并提出结构化响应作为缓解措施。
2026-03-03 cs.AI
Do We Talk to Robots Like Therapists, and Do They Respond Accordingly? Language Alignment in AI Emotional Support
Department of Computer Science;Technology, University of Cambridge Cambridge UK;Technology, University of Cambridge
本研究通过对比机器人与人类治疗师的对话数据,发现90.88%的机器人披露可映射到人类治疗聚类,表明两者在主题和语义上高度对齐,机器人有潜力辅助心理健康干预。
2025-06-19 cs.AI cs.CL cs.HC
Generating Usage-related Questions for Preference Elicitation in Conversational Recommender Systems
University of Stavanger(斯塔万格大学);Google UK(英国谷歌)
本文提出通过询问物品用途的隐式问题来获取对话式推荐系统中的用户偏好,并构建了众包标注数据集及四个问题生成模型,验证了该方法在有限数据下的有效性。
2025-04-08 cs.AI cs.CL cs.IR
InterroLang: Exploring NLP Models and Datasets through Dialogue-based Explanations
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Saarland Informatics Campus(萨尔兰信息学园区);Technische Universität Berlin(柏林工业大学)
本文提出InterroLang,通过适配TalkToModel框架至NLP领域并添加自由文本理性化等操作,支持用户以对话方式探索模型与数据集,并在三项NLP任务上验证其泛化性,用户研究表明对话式解释比一次性解释更有效。
2023-10-23 cs.AI cs.CL cs.HC