A Practical Approach for Building Production-Grade Conversational Agents with Workflow Graphs
Kakao
针对LLM概率特性导致的灵活对话与服务约束冲突,本文提出基于工作流图的电商对话智能体实践方案,通过详细优化策略弥合学术与工业应用差距,实现可扩展、可控且可靠的AI智能体框架。
2025-05-29 cs.AI cs.CL
Conversational Ontology Alignment with ChatGPT
Kansas State University(堪萨斯州立大学)
本文通过将 ChatGPT 的朴素对话输出与 OAEI 2022 会议赛道结果对比,评估其在本体对齐任务中的适用性、效率及优缺点。
2023-08-18 cs.CL
The Battle of LLMs: A Comparative Study in Conversational QA Tasks
Vellore Institute of Technology(韦洛尔理工学院);Illinois Institute of Technology(伊利诺伊理工学院)
本研究比较评估了ChatGPT、GPT-4、Gemini、Mixtral和Claude在多个对话式问答语料库上的表现,通过计算和对比评估分数,揭示了各模型的整体性能及易出错领域,为改进提供了参考。
2024-05-28 cs.AI cs.CL
An Integrative Survey on Mental Health Conversational Agents to Bridge Computer Science and Medical Perspectives
University of Pennsylvania(宾夕法尼亚大学);New York University(纽约大学)
本文通过PRISMA框架系统综述了534篇跨计算机科学与医学的心理健康对话智能体论文,揭示了两领域在方法上的差异,并提出促进跨学科发展的建议。
2023-10-25 cs.AI cs.CL
Building Trust in Conversational AI: A Comprehensive Review and Solution Architecture for Explainable, Privacy-Aware Systems using LLMs and Knowledge Graph
CeADAR - Ireland’s Centre for Applied AI, University College Dublin(爱尔兰应用人工智能中心CeADAR、都柏林大学学院)
本文综述150余个LLM并提出LLMXplorer,进而设计融合知识图谱与LLM、支持RBAC的可解释隐私感知对话式AI架构,经真实AI新闻数据验证。
2023-08-13 cs.AI cs.CL
A Desideratum for Conversational Agents: Capabilities, Challenges, and Future Directions
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本综述提出对话智能体的期望目标,从推理、监控、控制三维度分析LLM驱动智能体,指出评估、长期推理、自我进化等关键研究方向,推动迈向AGI。
2025-04-07 cs.AI cs.CL
Evaluating Large Language Models as Generative User Simulators for Conversational Recommendation
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文提出一种包含五项任务的评估协议,用于衡量大型语言模型在对话式推荐中模拟人类行为的准确度,揭示其与人类行为的偏差,并探索通过模型选择和提示策略减少偏差的方法。
2024-03-25 cs.AI cs.CL cs.IR
Detecting Harmful Online Conversational Content towards LGBTQIA+ Individuals
Michigan State University(密歇根州立大学)
在线讨论、小组讨论、讨论页编辑等,经常包含有害的会话内容即,仇恨言论、死亡威胁和攻击性语言,特别是针对某些人口群体的语言。例如,识别为LGBTQIA+社区和/或BIPOC(黑人,土著人,有色人种)成员的个人在网上遭受虐待和骚扰的风险更高。在这项工作中,我们首先介绍了一个真实世界的数据集,这将使我们能够研究和理解有害的在线会话内容。然后,我们进行了一些探索性的数据分析实验,以从数据集中获得更深入的见解。我们稍后描述了我们用于检测有害的在线反LGBTQIA+对话内容的方法,最后,我们实现了两个基线机器学习模型(即,支持向量机和逻辑回归),并微调3个预训练的大语言模型(BERT、RoBERTa和Hate BERT)。我们的研究结果验证了大语言模型在检测在线反LGBTQIA+会话内容检测任务上可以实现非常有前途的性能。
2022-06-15 cs.CL
Ruffle&Riley: Insights from Designing and Evaluating a Large Language Model-Based Conversational Tutoring System
Carnegie Mellon University(卡内基梅隆大学);Texas A&M University(德克萨斯农工大学);Ariel University(阿里尔大学)
本文提出了一种基于LLM的对话辅导系统Ruffle&Riley,通过AI辅助内容编写和双智能体自动化脚本编排实现自由对话,用户研究表明其能提升参与度但短期学习收益与阅读活动无显著差异。
2024-04-26 cs.CL
AI Conversational Interviewing: Transforming Surveys with LLMs as Adaptive Interviewers
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);University of Mannheim(曼海姆大学);University of Oxford(牛津大学)
本研究通过随机对照实验验证了用大型语言模型替代人类访谈者进行对话式访谈的可行性,发现AI访谈在数据质量上与传统方法相当且具备可扩展性优势,并提出了实施建议。
2025-03-12 cs.AI cs.CL cs.HC
PersonaLens: A Benchmark for Personalization Evaluation in Conversational AI Assistants
University of Edinburgh(爱丁堡大学);Amazon(亚马逊);University College London(伦敦大学学院)
针对现有对话AI个性化评估基准的不足,研究提出综合基准PersonaLens,含多样用户画像与专用LLM智能体,实验发现当前LLM助手个性化能力差异显著,为相关系统发展提供参考。
2025-06-11 cs.AI cs.CL cs.LG
WaveMind: Towards a Conversational EEG Foundation Model Aligned to Textual and Visual Modalities
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
针对EEG配对数据模态错配阻碍跨模态学习的问题,研究提出将EEG与对应模态映射到统一语义空间,并构建首个跨任务EEG指令微调数据集WaveMind-Instruct-338k,开发的WaveMind模型兼具高分类准确率与多任务对话能力。
2025-09-26 cs.AI cs.CL cs.LG
Dialogue Agents 101: A Beginner's Guide to Critical Ingredients for Designing Effective Conversational Systems
Indraprastha Institute of Information Technology, Delhi(德里因德拉普拉斯信息技术学院);Adobe(奥多比公司);Indian Institute of Technology, Delhi(德里印度理工学院)
本文为从业者从零设计对话智能体提供关键要素综述,并提出统一数据集UNIT以整合多任务,促进统一基础模型构建。
2024-05-23 cs.AI cs.CL
On the Robustness of Dialogue History Representation in Conversational Question Answering: A Comprehensive Study and a New Prompt-based Method
Technion - Israel Institute of Technology(以色列理工学院);Google Research(谷歌研究院)
大多数在会话问答(CQA)中对会话历史建模的工作都报告了一个通用CQA基准测试的单一主要结果。虽然现有的模型在CQA排行榜上显示出令人印象深刻的结果,但仍不清楚它们是否对设置(有时是更现实的设置),训练数据大小(例如从大到小)和域的变化具有鲁棒性。在这项工作中,我们设计并进行了第一次大规模的鲁棒性研究的历史建模方法CQA。我们发现,高基准分数并不一定转化为强大的鲁棒性,各种方法可以在不同的设置下表现得非常不同。配备从我们的研究的见解,我们设计了一种新的基于统计的历史建模方法,并证明其强大的鲁棒性在各种设置。我们的方法受到现有方法的启发,这些方法突出了文章中的历史答案。然而,我们不是通过修改段落标记嵌入来突出显示,而是直接在段落文本中添加文本提示。我们的方法简单,易于插入到几乎任何模型中,并且非常有效,因此我们建议将其作为未来模型开发人员的起点。我们还希望我们的研究和见解将提高人们对以稳健性为中心的评估的重要性的认识,除了获得高排行榜分数之外,还将带来更好的CQA系统。
2022-12-28 cs.AI cs.CL cs.LG
Large Language Models as Zero-Shot Conversational Recommenders
University of California, San Diego(加州大学圣地亚哥分校);Netflix Inc.(奈飞公司);Cornell University(康奈尔大学)
本研究构建了目前最大的公开真实世界对话推荐数据集,实证发现零样本大语言模型在对话推荐任务上性能超越现有微调模型,并通过分析探究了其表现优异的机制,为未来对话推荐系统设计提供方向。
2023-08-19 cs.AI cs.IR
VocalBench: Benchmarking the Vocal Conversational Abilities for Speech Interaction Models
Shanghai Jiao Tong University(上海交通大学);Ant Group(蚂蚁集团)
VocalBench通过24000个精心挑选的语音实例,评估语音交互模型在语义质量、语音性能、对话能力和鲁棒性方面的表现,揭示当前模型的共同挑战并推动下一代语音交互系统的发展。
2026-01-13 cs.CL
TAMUSA-Chat: A Domain-Adapted Large Language Model Conversational System for Research and Responsible Deployment
Texas A&M University–San Antonio(德克萨斯A&M大学-圣安东尼奥分校);Utah Valley University(犹他谷大学)
TAMUSA-Chat是一个面向研究和负责任部署的领域适应大型语言模型对话系统,通过监督微调、检索增强生成和系统化评估方法,解决机构环境中的关键挑战。
2026-02-14 cs.AI cs.CL cs.LG
Dialogic Pedagogy for Large Language Models: Aligning Conversational AI with Proven Theories of Learning
本文综述LLM对话代理在教育中的应用,结合维果茨基、苏格拉底和劳里拉德理论,提出通过提示设计和RAG对齐教学法,弥合理论与实践的差距。
2025-06-24 cs.AI cs.CL cs.HC
Improving Conversational Recommendation Systems' Quality with Context-Aware Item Meta Information
Columbia University(哥伦比亚大学);University of California, Davis(加州大学戴维斯分校)
会话式推荐系统(CRS)通过从对话历史中推断用户偏好,提供准确的推荐并生成适当的响应来与用户互动。以前的CRS使用基于知识图谱(KG)的推荐模块,并将KG与语言模型集成以用于响应生成。虽然基于KG的方法被证明是有效的,但仍有两个问题有待解决。首先,基于KG的方法忽略了会话背景中的信息,而仅仅依赖于实体关系和词袋来推荐项目。第二,它需要大量的工程工作来维护模型域特定关系的KG,从而导致更少的灵活性。在本文中,我们提出了一个简单而有效的架构,包括一个预先训练的语言模型(PLM)和一个项目元数据编码器。编码器学习将项目元数据映射到可以反映对话上下文中的语义信息的嵌入。然后,PLM将语义对齐的项目嵌入与对话上下文一起使用,以生成高质量的建议和响应。我们的模型不是用KG建模实体关系,而是通过直接将每个项目转换为嵌入来降低工程复杂性。在基准数据集ReDial上的实验结果表明,我们的模型在推荐和响应生成任务上都获得了最先进的结果。
2021-12-15 cs.AI cs.CL cs.IR
ToolSandbox: A Stateful, Conversational, Interactive Evaluation Benchmark for LLM Tool Use Capabilities
Apple(苹果公司)
针对LLM工具使用能力评估缺乏全面性的问题,提出ToolSandbox基准,包含有状态工具执行、工具间隐式依赖、在线策略对话评估等特性,揭示开源与专有模型性能差距及复杂任务挑战,为工具使用LLM能力评估提供新方法。
2025-04-16 cs.AI cs.CL cs.LG
"What's Up, Doc?": Analyzing How Users Seek Health Information in Large-Scale Conversational AI Datasets
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Duke University(杜克大学);University of Washington(华盛顿大学);Google(谷歌)
本文通过构建包含11K真实对话的HealthChat-11K数据集,并结合临床医生驱动的分类体系,系统分析了用户在大规模对话式AI中寻求健康信息的行为模式与风险,揭示了上下文缺失、情感行为及诱导性提问等问题,为改进LLMs的医疗支持能力提供依据。
2025-09-20 cs.AI cs.CL cs.CY
Conversational AI as a Coding Assistant: Understanding Programmers' Interactions with and Expectations from Large Language Models for Coding
Khoury College of Computer Sciences, Northeastern University(东北大学科里计算机科学学院)
本研究调研程序员使用LLM驱动的对话式编程助手的模式、认知与策略,梳理了工具的优劣势与用户拒绝使用的原因,提出设计准则,为该类工具融入软件开发流程提供参考。
2025-03-14 cs.AI cs.HC
IntellAgent: A Multi-Agent Framework for Evaluating Conversational AI Systems
Plurai(普卢瑞(Plurai))
IntellAgent是一个开源多智能体框架,通过图建模和模拟生成合成基准,提供细粒度诊断,全面评估对话式AI系统性能并识别优化方向。
2025-01-19 cs.AI cs.CL cs.LG
A Survey of Conversational Search
University of Montreal, Canada(蒙特利尔大学);Renmin University of China(中国人民大学)
本文综述对话式搜索这一新兴范式,涵盖其关键模块、大语言模型的整合、实际应用与评估,并展望未来研究方向。
2025-08-05 cs.CL cs.IR
Curriculum-Driven Edubot: A Framework for Developing Language Learning Chatbots Through Synthesizing Conversational Data
Columbia University(哥伦比亚大学);Zhejiang University(浙江大学);University of Science and Technology of China(中国科学技术大学)
本文提出 Curriculum-Driven EduBot 框架,从教材提取主题并用 LLM 合成对话、微调开源模型,实验表明其在课程引导和适配英语水平方面优于 ChatGPT。
2024-08-03 cs.CL
FlowKV: Enhancing Multi-Turn Conversational Coherence in LLMs via Isolated Key-Value Cache Management
The Hong Kong University of Science and Technology(Guangzhou)(香港科技大学(广州))
FlowKV提出多轮隔离的KV缓存管理机制,仅压缩最新轮次新生成的KV对,避免旧上下文重复压缩,从而缓解灾难性遗忘,显著提升多轮对话的指令遵循与用户偏好保持。
2025-10-08 cs.CL
VCB Bench: An Evaluation Benchmark for Audio-Grounded Large Language Model Conversational Agents
School of Artificial Intelligence, Wuhan University(武汉大学人工智能学院);Tencent AI Lab(腾讯AI实验室)
针对现有音频语言模型基准局限,提出VCB Bench,基于真实人类语音构建,从指令跟随、知识理解、鲁棒性三个角度评估,揭示性能差距并指明改进方向,提供评估框架。
2026-07-07 cs.CL cs.SD
Impact of Multimodal and Conversational AI on Learning Outcomes and Experience
Georgia Institute of Technology(佐治亚理工学院);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究比较了三种生物学学习方法,发现多模态对话式AI在学习成果和体验上表现最佳,但文本仅对话式AI虽易用但效果最差,揭示了认知负荷理论下的学习效果与感知之间的差异。
2026-04-02 cs.AI cs.HC
Can LLMs Infer Conversational Agent Users' Personality Traits from Chat History?
ETH Zurich, Switzerland(苏黎世联邦理工学院,瑞士)
研究探讨了大语言模型能否从用户与对话代理的交互中推断出人格特质,通过分析ChatGPT日志数据,发现模型在多个案例中能以高于随机水平的准确率推断出性格特质,揭示了与对话代理交互带来的隐私风险。
2026-03-31 cs.AI cs.CL cs.CR
Mitigating Conversational Inertia in Multi-Turn Agents
College of Computer Science and Technology, Zhejiang University, Hangzhou, China(浙江大学计算机科学与技术学院);University of Rochester, Rochester, NY, USA(罗切斯特大学)
本文研究了多轮代理中对话惯性问题,提出通过上下文偏好学习来校准模型偏好,以减少惯性并提升性能。
2026-05-18 cs.AI cs.LG
Impact of Decoding Methods on Human Alignment of Conversational LLMs
Birla Institute of Technology and Science, Pilani(比拉理工与科学学院(皮拉尼));National University of Singapore(新加坡国立大学);NUS Center for Trusted Internet and Community(新加坡国立大学可信互联网与社区中心);Department of Communications and New Media, National University of Singapore(新加坡国立大学传播与新媒体系)
本文研究了Beam Search、Top K Sampling和Nucleus Sampling等解码方法对LLM与人类对话对齐的影响,提出了内容、风格和心理测量导向的新衡量标准,发现较少beam数和较低P值对齐效果更好,且任务导向与开放式数据集表现不同。
2024-07-28 cs.CL
Conversational Complexity for Assessing Risk in Large Language Models
University of Cambridge(剑桥大学);Spanish National Research Council(西班牙国家研究委员会);Universitat Politècnica de València(瓦伦西亚理工大学);Leverhulme Centre for the Future of Intelligence(勒沃休姆未来智能中心);Center for Automation and Robotics(自动化与机器人中心);Valencian Research Institute for Artificial Intelligence(瓦伦西亚人工智能研究所)
针对大型语言模型(LLMs)对话交互中的有害输出风险,提出对话长度(CL)和对话复杂度(CC)指标量化获取有害信息的对话努力,通过参考LLM近似CC并分析红队数据集,为LLM安全提供基于危害路径算法复杂度的新视角。
2024-11-29 cs.AI cs.CL cs.IT
CLARITY: A Framework and Benchmark for Conversational Language Ambiguity and Unanswerability in Interactive NL2SQL Systems
Oracle Corporation(Oracle公司)
CLARITY框架通过多维度歧义和用户行为生成NL2SQL基准,揭示现有系统在复杂歧义下的性能下降,强调需增强歧义检测与解决能力。
2026-04-24 cs.CL
Applying General Turn-taking Models to Conversational Human-Robot Interaction
KTH Royal Institute of Technology(瑞典皇家理工学院)
针对人机交互系统话轮转换不自然的问题,首次将TurnGPT和VAP两种通用话轮模型结合使用,无需领域微调,经39人参与的实验验证,该系统更受偏好且能减少响应延迟与打断。
2025-01-15 cs.CL cs.RO
Exploring the Impact of Personality Traits on Conversational Recommender Systems: A Simulation with Large Language Models
Chinese University of Hong Kong(香港中文大学);National University of Singapore(新加坡国立大学);Singapore Management University(新加坡管理大学);Hong Kong Baptist University(香港浸会大学);Huazhong University of Science and Technology(华中科技大学)
针对人格特质对对话推荐系统结果的影响问题,提出基于LLM的人格感知用户模拟系统PerCRS,通过带定制化人格的用户智能体与具说服能力的系统智能体模拟真实交互,实验验证LLMs可生成符合特质的用户响应并推动系统动态调整策略,为该领域提供实证见解。
2025-04-09 cs.CL cs.HC
Interplay: Training Independent Simulators for Reference-Free Conversational Recommendation
University College London(伦敦大学学院);University of Sheffield(谢菲尔德大学);Missouri University of Science and Technology(密苏里科技大学)
本文提出一种无参考模拟框架,通过训练两个独立的LLM分别扮演用户和推荐系统,生成更真实多样化的对话数据,提升推荐系统质量与可扩展性。
2026-03-19 cs.AI cs.IR
Leveraging Large Language Models for Patient Engagement: The Power of Conversational AI in Digital Health
IBM T. J. Watson Research Center(IBM TJ沃森研究中心);Morehouse School of Medicine(莫尔豪斯医学院);Cleveland Clinic Foundation(克利夫兰诊所基金会);Queen’s University(女王大学);Red Hat(红帽公司)
本文概述LLMs在医疗保健中促进患者参与的应用,通过四个案例展示其处理非结构化对话数据的能力,讨论伦理考量与最佳实践,强调需跨社区合作实现其在数字健康中的安全有效应用。
2024-06-19 cs.AI
Lexara: A User-Centered Toolkit for Evaluating Large Language Models for Conversational Visual Analytics
Tableau Research, Salesforce(Tableau研究机构,Salesforce)
Lexara是一种以用户为中心的评估工具包,用于评估对话式可视化分析中的大型语言模型,通过多格式输出的可解释指标和交互式工具帮助用户进行模型和提示选择。
2026-03-06 cs.AI cs.HC
Scaling CS1 Support with Compiler-Integrated Conversational AI
University of New South Wales(新南威尔士大学)
本文提出编译器集成的对话式AI工具DCC Sidekick,利用编译器错误上下文生成编程错误解释,并通过大规模CS1课程使用数据验证了其在扩展编程教育支持方面的有效性与可扩展性。
2024-07-22 cs.AI cs.CY cs.SE
Beyond Single Labels: Improving Conversational Recommendation through LLM-Powered Data Augmentation
School of Computer Science, Fudan University(复旦大学计算机科学学院)
针对对话式推荐中的假阴性问题,提出基于LLM语义检索与相关性过滤的数据增强框架及两阶段训练策略,在基准数据集上显著提升推荐性能。
2025-07-30 cs.AI cs.IR
Conversational Text Extraction with Large Language Models Using Retrieval-Augmented Systems
School of Computer Engineering, Kalinga Institute of Industrial Technology(卡林加工业技术学院计算机工程学院)
本文提出基于 RAG 与 LLM 的 PDF 对话式文本提取系统,通过句子嵌入向量检索和上下文生成高亮相关段落,并取得具有竞争力的 ROUGE 表现。
2025-01-16 cs.CL cs.IR
ReCQR: Incorporating conversational query rewriting to improve Multimodal Image Retrieval
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院)
本文提出ReCQR任务,通过构建多轮对话查询重写数据集,提升多模态图像检索的准确性和用户查询建模能力。
2026-01-19 cs.AI cs.IR cs.LG
Conversational Exploration of Literature Landscape with LitChat
University of Electronic Science and Technology of China(电子科技大学);University of Exeter(埃克塞特大学);University of Glasgow(格拉斯哥大学)
针对“大文献”时代传统人工综述不可行且LLM存在幻觉和上下文限制的问题,提出交互式对话文献智能体LitChat,通过集成数据驱动工具实现自动查询解释、检索、知识图谱构建和数据挖掘,为用户提供基于证据的文献全景探索能力。
2025-05-25 cs.CL cs.IR cs.LG
Anticipating User Needs: Insights from Design Fiction on Conversational Agents for Computational Thinking
Northern Arizona University(北亚利桑那大学);Universidade Federal Fluminense(弗卢米嫩塞联邦大学)
本文通过九位教师参与的设计虚构会议,探索了面向计算思维教学的genAI对话智能体应具备的逐步引导和个性化调整能力,为未来辅导型对话智能体的实现提供设计见解。
2024-06-13 cs.AI cs.HC
Towards Building Economic Models of Conversational Search
University of Strathclyde(思克莱德大学);University of Amsterdam(阿姆斯特丹大学)
在文献中已经提出了各种概念和描述性的对话式搜索模型-虽然有用,但它们并没有提供对代理和用户之间的交互如何根据不同交互的成本和收益而变化的见解。在本文中,我们开发了两个经济模型的会话搜索模式的基础上,以前观察到的会话搜索会话,我们称之为:反馈第一,代理人问澄清问题,然后提出的结果,反馈后,代理人提出的结果,然后问后续问题。我们的模型表明,给出/请求的反馈量取决于其在提高初始或后续查询的效率和提供所述反馈的相对成本。这个对话式搜索的理论框架提供了一些见解,可以用来指导和通知对话式搜索代理的发展。然而,需要实证工作来估计参数,以便针对给定的会话搜索设置进行预测。
2022-01-21 cs.AI cs.CL cs.IR
Insightful Assistant: AI-compatible Operation Graph Representations for Enhancing Industrial Conversational Agents
Technical University of Darmstadt(达姆施塔特工业大学)
语音控制助手的进步为进入消费者市场铺平了道路。对于专业或工业用途,由于数据的复杂性较高,可能的基于AI的操作和请求,这些助手的功能太有限或太耗时。针对这些缺陷,本文提出了洞察助理-一个管道概念,基于一种新的操作图表示,从检测到的意图。使用一组预定义的语义注释(可执行)函数,操作图的每个节点都被分配给一个函数执行。除了基本操作之外,这样的功能可以包含基于人工智能(AI)的操作(例如,异常检测)。然后根据类型和提取的用户偏好以自动化的方式将结果可视化给用户。我们进一步收集了一个独特的869个请求的众包集,每个请求都有四个不同的预期可视化变量,用于工业数据集。在此数据集上对我们的概念验证原型进行的评估显示了其可行性:对于具有不同变体的简单(复杂)请求检测,其准确率高达95.0%(74.5%),对于数据/用户自适应可视化,其top3准确率高达95.4%。
2020-07-25 cs.AI cs.CL cs.IR
Graphically Speaking: Unmasking Abuse in Social Media with Conversation Insights
INRIA(法国国家信息与自动化研究所);Sciences Po(巴黎政治学院);Télécom Paris(巴黎电信学院)
提出利用图神经网络将社交媒体对话建模为图以捕获上下文,系统研究图表示与上下文窗口配置,显著提升滥用语言检测的F1分数。
2025-04-02 cs.AI cs.CL cs.LG
Adapting from Downturns: Prediction of Long-Term Conversational-Skill Development in Mental-Health Crisis Counselors
Cornell University(康奈尔大学);Crisis Text Line(危机文本线)
本研究针对心理健康危机志愿者咨询师,提出预测其长期对话技能发展的任务,通过识别其对话困难时刻及后续调整方式,构建的咨询师适应方法比基线方法更优。
2026-09-07 cs.AI cs.CL cs.CY
From Lived Experience to Insight: Unpacking the Psychological Risks of Using AI Conversational Agents
School of Interactive Computing, Georgia Institute of Technology(交互计算学院,佐治亚理工学院);Purdue University(普渡大学);Microsoft Research(微软研究院);Microsoft(微软);Microsoft AI(微软人工智能);University of Toronto(多伦多大学)
本研究通过调查283名有心理健康亲身体验者及专家研讨会,提出了一种聚焦AI对话代理心理风险的新分类法,包含19种AI行为、21种负面心理影响和15种用户情境,并构建了多路径情景框架以理解其复杂交互,为开发更安全的AI代理提供了设计建议。
2025-05-29 cs.AI cs.CY cs.HC
From Black Boxes to Conversations: Incorporating XAI in a Conversational Agent
University of Marburg(马尔堡大学);University of Duisburg-Essen(杜伊斯堡-埃森大学);University of Mannheim(曼海姆大学)
本研究将XAI融入包含自然语言理解与生成组件的对话代理,通过扩展XAI问题库理解用户需求,并系统调研文献提供对应的解释方法清单,以实现关于机器学习模型的自然对话。
2024-07-22 cs.AI cs.CL