KASER: Knowledge-Aligned Student Error Simulator for Open-Ended Coding Tasks
University of Massachusetts(马萨诸塞大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
KASER通过强化学习方法,结合代码相似性、错误匹配和预测多样性,提升大语言模型对学生错误的模拟与预测能力,实验表明其在代码和错误预测及错误覆盖方面优于基线方法。
2026-05-17 cs.AI cs.CL cs.CY
Automated Creativity Evaluation of Language Models Across Open-Ended Tasks
Raffles Institution(莱佛士书院);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);Lee Kong Chian School of Medicine, Nanyang Technological University(南洋理工大学李光前医学院);Centre of AI in Medicine (C-AIM), Nanyang Technological University(南洋理工大学人工智能医学中心)
提出一种领域无关的自动化框架,通过语义熵和检索式多智能体评估,量化LLM在开放式任务中的发散与收敛创造力,并在问题解决、研究构思和创意写作三个领域验证其有效性。
2026-06-11 cs.AI cs.CL
Odysseus Navigates the Sirens' Song: Dynamic Focus Decoding for Factual and Diverse Open-Ended Text Generation
State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University(多媒体信息处理国家重点实验室,计算机科学学院,北京大学)
针对LLM开放式生成中事实性与多样性难以平衡的问题,提出即插即用的动态聚焦解码方法DFD,利用跨层分布差异自适应调整解码焦点,无需额外数据即可显著提升文本生成的事实性与多样性。
2025-05-28 cs.CL
Optimizing Diversity and Quality through Base-Aligned Model Collaboration
University of Chicago(芝加哥大学);University of Southern California, Information Sciences Institute(南加州大学信息科学研究所);University of California, Davis(加州大学戴维斯分校)
提出基座对齐模型协作框架(BACo),在推理时通过令牌级路由策略动态结合基座LLM与其对齐版本,以单次前向传递同时提升生成多样性和质量。
2026-06-01 cs.AI cs.CL cs.LG
When 1+1 Backfires: Rethinking Relevance-Diversity Balancing for Sample-Aware Visual Token Reduction
State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所人工智能安全国家重点实验室);University of Chinese Academy of Sciences(中国科学院大学);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
该研究针对视觉语言模型的视觉令牌压缩,提出样本感知的SAVER框架,通过几何意图先验推断样本特定的相关性-多样性权重,在推理时实现平衡,以更少令牌保留高性能且可泛化。
2026-10-14 cs.AI
Rainbow Teaming: Open-Ended Generation of Diverse Adversarial Prompts
Meta;University College London(伦敦大学学院);University of Oxford(牛津大学)
针对现有对抗性提示识别方法领域局限、多样性不足等问题,提出名为Rainbow Teaming的黑盒方法,通过开放式搜索生成多样有效的对抗提示,攻击成功率超90%,生成提示可迁移性强,还可用于提升模型安全性及拓展至多领域应用。
2024-12-11 cs.AI cs.CL cs.LG
GuessingGame: Measuring the Informativeness of Open-Ended Questions in Large Language Models
University of Cincinnati(辛辛那提大学)
提出GuessingGame协议,通过两个信息增益指标衡量LLM开放式提问质量,实验表明高IG显著提升效率,且能指导提示策略改进弱模型性能。
2025-09-23 cs.AI cs.CL
Writing as a testbed for open ended agents
Google DeepMind(谷歌DeepMind)
本文以写作为测试平台,研究LLMs作为自主协作共同作者的潜力,分析三个模型的动作多样性、人类对齐和迭代改进能力,并建立基准框架,以应对开放式任务的挑战。
2025-03-25 cs.AI cs.CL cs.HC
Exploring and Controlling Diversity in LLM-Agent Conversation
The University of Tokyo(东京大学)
针对LLM智能体长期模拟中对话多样性下降的问题,提出基于注意力得分的自适应提示词剪枝方法APP,可通过单参数λ灵活调控对话多样性,兼容现有方法,并揭示了提示词各组件对多样性的影响规律。
2025-10-01 cs.AI cs.CL
An Empirical Study On Contrastive Search And Contrastive Decoding For Open-ended Text Generation
University of Cambridge(剑桥大学)
在这项研究中,我们实证比较了两个最近提出的解码方法,即对比搜索(CS)和对比解码(CD),开放式文本生成。自动评估结果表明,虽然CS表现不如CD的MAUVE指标,它大大超过CD的多样性和一致性指标。更值得注意的是,在三个不同领域的广泛的人类评估表明,人类注释者普遍更喜欢CS而不是CD,具有相当大的优势。MAUVE和人类评价之间的矛盾结果表明,MAUVE并不能准确地反映人类的偏好。因此,我们呼吁研究界为开放式文本生成开发更好的评估指标。为了确保我们工作的可重复性,我们在https://github.com/yxuansu/Contrastive_Search_versus_Contrastive_Decoding上开放了所有代码、评估结果以及人工注释。
2022-11-19 cs.CL
Event Transition Planning for Open-ended Text Generation
The University of Hong Kong(香港大学);Tencent AI Lab(腾讯人工智能实验室);Shandong University(山东大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
开放式文本生成任务,如对话生成和故事完成,需要模型在有限的先前上下文下生成连贯的延续。这些任务的开放性给当今的神经自回归文本生成器带来了新的挑战。尽管这些神经模型擅长产生类似人类的文本,但它们很难安排给定事实和可能的后续事件之间的因果关系和关系。为了弥合这一差距,我们提出了一种新的两阶段的方法,明确安排随后的事件在开放式文本生成。我们的方法可以被理解为一个专门训练的粗到细的算法,其中一个事件过渡规划器提供了一个“粗糙”的情节骨架和文本生成器在第二阶段细化骨架。在两个开放式文本生成任务上的实验表明,该方法有效地提高了生成文本的质量,特别是在一致性和多样性方面。代码可在以下网址获得:\url{https://github.com/qtli/EventPlanforTextGen}。
2022-04-20 cs.CL
Language Model Evaluation in Open-ended Text Generation
The University of Melbourne(墨尔本大学)
尽管当前最先进的语言模型在众多的自然语言处理任务中取得了令人印象深刻的结果,但它们仍然不能解决在开放式文本生成中产生重复、枯燥甚至有时不一致的文本的问题。研究通常将此问题归因于最大似然训练目标,并通过使用随机解码方法或改变训练目标来提出替代方法。然而,仍然缺乏一致的评估指标来直接比较这些解决方案的有效性。在这项工作中,我们研究了不同的评价指标,已提出的机器生成的文本的质量,多样性和一致性进行评估。在此基础上,本文提出了一种实用的评估语言模型的流水线,并研究了如何利用不同的辅助训练目标来提高模型在各个维度上的性能。
2021-08-08 cs.CL cs.LG
Are LLMs becoming similarly creative? Evidence from three years of models
Duke University(杜克大学)
本文通过分析三年间的LLM在Infinity-Chat100和替代用途任务上的表现,发现LLM创造性输出多样性随时间显著下降,存在同质化趋势,需关注其对人机协同创作中人类能动性的影响。
2026-08-21 cs.AI cs.CL cs.CY
AutoEvoEval: An Automated Framework for Evolving Close-Ended LLM Evaluation Data
Sun Yat-sen University(中山大学)
针对现有 LLM 评估基准静态且缺乏系统控制的问题,提出基于进化的框架 AutoEvoEval,引入 22 种原子操作和多轮组合,实验证明其能有效揭示模型在对抗扰动下的鲁棒性不足。
2025-06-30 cs.AI cs.CL
GUARD: Glocal Uncertainty-Aware Robust Decoding for Effective and Efficient Open-Ended Text Generation
Henan University(河南大学);Department of Statistics, LMU Munich(慕尼黑大学统计系);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);CISPA Helmholtz Center for Information Security, Saarbrücken(萨尔布吕肯亥姆霍尔兹信息安全中心);University of California, San Diego(加州大学圣地亚哥分校)
针对开放式文本生成中LLM输出连贯性与多样性难平衡、现有解码策略超参数依赖且计算成本高的问题,提出融合全局与局部不确定性的自适应解码方法GUARD,兼具效果与效率优势。
2025-09-03 cs.CL
S-Agents: Self-organizing Agents in Open-ended Environments
Fudan University(复旦大学);School of Data Science, Fudan University(复旦大学数据科学学院)
针对开放式环境中现有智能体协作依赖固定工作流、缺乏灵活组织结构的问题,受人类组织行为启发提出的S-Agents系统,通过智能体树、沙漏架构和非阻塞协作实现自主协调,在Minecraft环境的建造与资源收集任务中验证了有效性。
2024-09-13 cs.AI cs.MA
Evaluating the Diversity and Quality of LLM Generated Content
University of Pennsylvania(宾夕法尼亚大学);New York University(纽约大学);UC Berkeley(伯克利大学)
本文提出有效语义多样性测量框架,发现偏好微调模型在质量阈值下具有更高多样性,且小模型在固定预算内更高效生成独特内容。
2026-02-26 cs.AI cs.CL
Improving Open-Ended Text Generation via Adaptive Decoding
Shanghai Jiao Tong University(上海交通大学)
本研究提出自适应解码机制,通过基于熵的置信度指标动态确定候选词元集,在平衡生成多样性与连贯性的同时提升了文本质量与模型推理能力。
2024-06-03 cs.CL
The Hyperfitting Phenomenon: Sharpening and Stabilizing LLMs for Open-Ended Text Generation
RISE Research Institutes of Sweden(瑞典RISE研究机构);Google DeepMind(谷歌DeepMind);PwC Sweden(普华永道瑞典分部);Uppsala University(乌普萨拉大学)
本文发现对预训练LLM在极小数据集上进一步微调至近零损失(称为超拟合)能显著提升开放式文本生成的长序列质量,贪心解码甚至优于Top-P采样,且不同于Grokking和双下降现象。
2025-02-26 cs.AI cs.CL
Towards Open-Ended Discovery for Low-Resource NLP
McGill University(麦吉尔大学);Mila Quebec AI Institute(魁北克人工智能研究所);École de technologie supérieure (ÉTS)(高等技术学院)
本文呼吁转向互动性语言发现,通过人机协作动态学习低资源语言,推动参与式共适应学习。
2026-02-08 cs.AI cs.CL
Adaptive Contrastive Search: Uncertainty-Guided Decoding for Open-Ended Text Generation
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出自适应对比搜索解码策略,通过模型每一步的估计不确定性引导自适应退化惩罚,在提升文本生成创造性与多样性的同时保持连贯性和高质量。
2024-10-21 cs.CL cs.LG stat.ME
Coherence-Aware Distributional Evaluation of Open-Ended Text Generation
New York University(纽约大学);Center for Data Science, NYU Shanghai(上海纽约大学数据科学中心);Georgia Institute of Technology(佐治亚理工学院)
针对开放文本生成评估忽略全局连贯性的问题,提出连贯性感知的分布指标CHORD,利用冻结LLM隐状态和RBF-MMD检测多种连贯性失败,实验证明其优于现有基线并与人类判断高度一致。
2026-09-30 cs.AI cs.CL
Towards Better Open-Ended Text Generation: A Multicriteria Evaluation Framework
Department of Statistics, LMU Munich(统计学系,慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
针对开放式文本生成评估中多指标权衡的难题,提出基于偏序的基准方法与新汇总指标,实现解码策略的可靠排序与模型选型指导,且公开相关资源。
2025-06-17 cs.CL cs.LG
Group-Aware Reinforcement Learning for Output Diversity in Large Language Models
Amazon(亚马逊)
针对大语言模型模式崩溃导致输出多样性不足的问题,提出群体感知策略优化(GAPO)方法,通过群体级奖励学习提升多样性,在多基准任务上保持准确性且增强响应多样性。
2025-11-16 cs.AI cs.CL cs.LG
LLM-Driven E-Commerce Marketing Content Optimization: Balancing Creativity and Conversion
University of Houston(休斯顿大学);University of Southern California(南加州大学);Duke University(杜克大学);Washington University in St. Louis(圣路易斯华盛顿大学)
本文提出一种整合提示工程、多目标微调和后处理的LLM框架,用于生成兼顾创意与转化的电商营销文案,并通过A/B测试验证其提升点击率12.5%和转化率8.3%的效果。
2025-06-03 cs.AI cs.CL cs.IR
Learning Personalized Alignment for Evaluating Open-ended Text Generation
Carnegie Mellon University(卡内基梅隆大学);Meta AI;UC Berkeley(加州大学伯克利分校)
针对传统开放式文本生成评估指标与人类判断相关性弱、难适配多样偏好的问题,提出可解释的个性化评估框架PerSE,基于13B LLaMA-2实现,在相关性、准确率及领域迁移性上均优于GPT-4。
2024-10-04 cs.CL
Trading Off Diversity and Quality in Natural Language Generation
Google Brain(谷歌大脑);Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学);OpenAI
对于开放式的语言生成任务,例如讲故事和对话,选择正确的解码算法对于控制生成质量和多样性之间的权衡至关重要。然而,目前对于哪种解码程序是最好的,甚至对于比较它们的标准,还没有达成共识。我们解决这些问题,铸造解码作为一个多目标优化问题,旨在同时最大限度地提高响应质量和多样性。我们的框架使我们能够沿着整个质量多样性频谱进行第一次大规模的解码方法评估。我们发现,当多样性是一个优先级时,所有方法的性能都相似,但当质量被视为更重要时,最近提出的核采样(Holtzman等人2019)优于所有其他评估的解码算法。我们的实验也证实了“似然陷阱”的存在,这是一种反直觉的观察,即高似然序列往往质量低得令人惊讶。我们利用我们的研究结果来创建和评估一个算法称为\emph{selective sampling},它可跟踪近似全局归一化温度采样。
2020-04-22 cs.CL
Large Language Models as In-context AI Generators for Quality-Diversity
Imperial College London(帝国理工学院)
提出In-context QD框架,利用大型语言模型的上下文生成能力,通过少样本和多样本提示结合QD档案中的质量多样示例,在多个QD领域和参数规模下显著提升解决方案组合的创新性和搜索效率。
2024-06-05 cs.AI cs.LG cs.NE
Adaptive Negative Reinforcement for LLM Reasoning:Dynamically Balancing Correction and Diversity in RLVR
Sardar Vallabhbhai National Institute of Technology (SVNIT)(萨达尔·瓦拉布希·尼尔马伊技术学院)
本文提出自适应负强化方法,通过时间依赖调度函数动态平衡纠正与多样性,提升大语言模型推理能力。
2026-05-08 cs.AI cs.LG
MMReason: An Open-Ended Multi-Modal Multi-Step Reasoning Benchmark for MLLMs Toward AGI
Nanyang Technological University(南洋理工大学);Tsinghua University(清华大学);Baidu Inc.(百度公司);University of California(加州大学);University of Science and Technology of China(中国科学技术大学)
针对现有基准在评估长链推理方面的不足,本文提出MMReason基准,通过多领域多难度的开放式问题、多模型投票过滤及三元评分机制,全面精确评估多模态大语言模型的多步推理能力。
2025-06-30 cs.AI cs.CL cs.CV
The Price of Format: Diversity Collapse in LLMs
University of California, San Diego(加州大学圣迭戈分校)
本研究揭示指令微调LLM中结构化模板导致“多样性崩溃”,即输出语义趋同;实验表明格式一致性对结构敏感任务重要,但结构令牌抑制多样性,需设计多样性感知提示。
2025-05-25 cs.AI cs.CL cs.LG
Balancing Domestic and Global Perspectives: Evaluating Dual-Calibration and LLM-Generated Nudges for Diverse News Recommendation
Grouplens Research, University of Minnesota(群体Lens研究,明尼苏达大学);Northwestern University(西北大学)
本研究提出双校准算法和LLM生成提示,通过五周实验验证其在提升新闻推荐多样性中的效果,发现算法提示提升多样性,而LLM提示影响因人而异,用户兴趣和相关性提升显著。
2026-03-06 cs.AI cs.HC cs.IR
D5P4: Partition Determinantal Point Process for Diversity in Parallel Discrete Diffusion Decoding
IMT Atlantique, Lab-STICC, UMR CNRS 6285(IMT阿提拉克大学,Lab-STICC,UMR CNRS 6285);Sony Europe Ltd. Stuttgart Technology Center, EUREC(索尼欧洲有限公司,斯图加特技术中心,EUREC)
提出D5P4波束解码方法,利用分区行列式点过程在离散扩散模型中选择中间序列,平衡质量与多样性,无需外部验证器。
2026-06-05 cs.AI cs.LG
Surveying the Effects of Quality, Diversity, and Complexity in Synthetic Data From Large Language Models
Georgia Tech(佐治亚理工学院);Cornell University(康奈尔大学);University of Limerick(利默里克大学);Sakana AI;SynthLabs;Reka AI;Stanford University(斯坦福大学);Eleuther AI;IBM;Cohere for AI Community;University of Bologna(博洛尼亚大学);Cognizant AI Labs
本文从质量、多样性和复杂性(QDC)构成评估 LLM 合成数据生成算法,揭示三者对分布内外泛化的作用及质量—多样性权衡,并据此分类算法、指导自我改进。
2024-12-09 cs.AI cs.CL cs.LG
Modality-Balancing Preference Optimization of Large Multimodal Models by Adversarial Negative Mining
University of Maryland, College Park(马里兰大学学院 park)
提出模态平衡偏好优化(MBPO)框架,通过对抗负挖掘和在线验证奖励结合GRPO,解决大型多模态模型的模态不平衡问题,提升视觉-语言任务性能并减少幻觉。
2025-10-08 cs.AI cs.CL cs.CV
Noise Steering for Controlled Text Generation: Improving Diversity and Reading-Level Fidelity in Arabic Educational Story Generation
American University of Sharjah(阿联酋沙迦美国大学)
本文探讨了噪声引导方法在生成阿拉伯语早期阅读评估故事中的应用,通过对比不同策略发现内部表示扰动比输出层面的随机性更适用于受约束的教育内容生成。
2026-05-02 cs.CL
Diversity Collapse in Multi-Agent LLM Systems: Structural Coupling and Collective Failure in Open-Ended Idea Generation
National University of Singapore(国立新加坡大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
研究探讨了多智能体系统在开放性创意生成中多样性崩溃的原因,揭示了结构耦合导致的集体失败,强调了在设计创意任务时保持独立性和分歧的重要性。
2026-04-21 cs.AI cs.CL cs.MA
Balancing Effect of Training Dataset Distribution of Multiple Styles for Multi-Style Text Transfer
University of Minnesota(明尼苏达大学)
本文研究训练数据风格分布对多风格文本迁移模型的影响,通过启发式方法构建伪平行数据并用边际与联合分布平衡数据集,证明平衡数据能更有效地控制多种风格。
2023-05-24 cs.CL
The Stable Entropy Hypothesis and Entropy-Aware Decoding: An Analysis and Algorithm for Robust Natural Language Generation
Mila(米拉研究所);McGill University(麦吉尔大学);DeepMind(深度思维);Meta AI
最先进的语言生成模型在应用于开放式生成问题(如文本补全、故事生成或对话建模)时可能会退化。这种退化通常表现为不连贯、缺乏词汇多样性、自我重复或从上下文中复制。在本文中,我们假设“类人”代通常位于一个狭窄的和几乎平坦的熵带,这些熵边界的违反与退化行为。我们的实验表明,这种稳定的窄熵区存在于模型,任务和域中,并证实了这一假设,即违反这一区域与退化相关。然后,我们使用这种洞察力,提出了一个熵感知解码算法,尊重这些熵的界限,从而减少退化,更多的上下文,和“类人”的语言生成在开放式文本生成设置。
2023-02-14 cs.CL
Diversity Combining for Multi-Path LLM Reasoning
University of Technology Sydney(悉尼科技大学);The University of Sydney(悉尼大学);CSIRO(澳大利亚联邦科学与工业研究组织);ELLIS Institute Finland(芬兰ELLIS研究所);University of Turku(图尔库大学)
将多路径LLM推理视为无线通信中的多样性合并问题,证明多数投票为最优,提出自适应K规则,在5个模型12个基准上保留96%-103%准确率。
2026-10-28 cs.AI
Controllable Open-ended Question Generation with A New Question Type Ontology
University of Michigan(密歇根大学)
我们研究较少探索的任务,产生开放式的问题,通常回答多个句子。我们首先定义了一个新的问题类型本体,区分细致入微的性质的问题比广泛使用的问题的话。基于新的本体,对具有4,959个问题的新数据集进行了标记。然后,我们提出了一个新的问题类型感知的问题生成框架,增强了语义图表示,共同预测问题的焦点和产生的问题。在此框架的基础上,我们进一步使用范例和自动生成的模板,以提高可控性和多样性。在两个新收集的大规模数据集上的实验表明,我们的模型比基于自动度量的竞争性比较提高了问题质量。人类评委也对我们的模型输出在可回答性、范围覆盖率和整体质量方面进行了高度评价。最后,我们的模板模型变体可以产生具有增强的可控性和多样性的问题。
2021-07-01 cs.CL
An Analysis of the Effects of Decoding Algorithms on Fairness in Open-Ended Language Generation
Amazon Alexa AI(亚马逊Alexa人工智能部门);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Information Sciences Institute, University of Southern California(南加利福尼亚大学信息科学研究所)
一些先前的工作已经表明,语言模型(LM)可以生成包含有害的社会偏见和刻板印象的文本。虽然解码算法在确定LM生成的文本的属性中起着核心作用,但它们对生成的公平性的影响尚未研究。本文系统地分析了解码算法对LM公平性的影响,并分析了公平性、分集和质量之间的权衡。在开放式语言生成中,我们使用$p$、$k$和温度解码算法的实验表明,随着解码算法的超参数的变化,人口统计组之间的公平性显著变化。值得注意的是,输出更多样化文本的解码算法也会输出更多具有负面情绪和关注的文本。我们提出了几个调查结果,并提供了公平性评估和解码算法的公平性以及质量和多样性的优化解码细节的标准化报告的建议。
2022-10-07 cs.AI cs.CL cs.LG
Where You Inject Diversity Matters: A Unified Framework for Diverse Generation
UNC Chapel Hill(北卡罗来纳大学教堂山分校);University of Washington(华盛顿大学)
提出统一框架,通过多样性源和传输分数衡量测试时多样化生成方法,并基于此提出全自动规范级方法,在五个开放任务中提升输出多样性且保持质量。
2026-06-09 cs.CL
ShinkaEvolve: Towards Open-Ended And Sample-Efficient Program Evolution
Sakana AI
ShinkaEvolve是一个开源框架,通过亲本采样、新颖性拒绝采样和赌博机集成选择,实现样本高效的程序进化,在圆形填充、数学推理等任务上达到最先进性能。
2025-09-17 cs.CL cs.LG
REAL Sampling: Boosting Factuality and Diversity of Open-Ended Generation via Asymptotic Entropy
Amazon AGI Foundations(亚马逊AGI基础研究部)
本文提出 REAL 采样,利用不同规模 LLM 外推渐近熵并通过 THF 模型预测幻觉风险,以自适应调整 top-p 阈值,从而同时提升开放式生成的事实性与多样性。
2024-06-11 cs.CL cs.LG
DPWriter: Reinforcement Learning with Diverse Planning Branching for Creative Writing
Renmin University of China(中国人民大学);Kuaishou Technology(快手科技)
DPWriter通过多样化规划分支方法提升创造性写作的输出多样性,同时保持生成质量。
2026-01-14 cs.AI cs.CL
D2 Pruning: Message Passing for Balancing Diversity and Difficulty in Data Pruning
University of North Carolina Chapel Hill(北卡罗来纳大学教堂山分校)
D2剪枝通过图上的消息传递联合优化数据多样性与难度,实现高效核心集选择,在高达70%剪枝率下超越现有方法,并提升多模态数据过滤效果。
2023-10-11 cs.AI cs.CL cs.CV
Large language model as user daily behavior data generator: balancing population diversity and individual personality
Department of Electronic Engineering, Tsinghua University(电子工程系,清华大学)
针对日常行为预测中的数据隐私与可用性问题,提出BehaviorGen框架,利用大型语言模型生成合成行为数据,兼顾群体多样性与个体个性,在移动性和手机使用预测中最高提升18.9%。
2025-05-23 cs.CL cs.IR cs.LG
MoPS: Modular Story Premise Synthesis for Open-Ended Automatic Story Generation
Shanghai AI Laboratory(上海人工智能实验室);Fudan University(复旦大学);Shanghai Jiao Tong University(上海交通大学)
MoPS 通过模块化分解故事前提并分阶段自动合成,解决了现有前提来源多样性差、质量不均和扩展成本高的问题,生成的前提及扩展故事在多样性、吸引力、完整性和原创性上均优于现有方法。
2024-06-09 cs.CL
A Systematic Characterization of Sampling Algorithms for Open-ended Language Generation
Massachusetts Institute of Technology(麻省理工学院);New York University(纽约大学)
本文研究了自回归语言模型中被广泛采用的祖先抽样算法,这在文献中没有被广泛研究。我们使用质量多样性(Q-D)权衡调查三个流行的采样算法(top-k,核和回火采样)。我们专注于开放式语言生成的任务。我们首先表明,现有的采样算法具有类似的性能。在仔细检查了不同采样算法定义的变换后,我们确定了它们之间共享的三个关键属性:熵减少,顺序保持和斜率保持。为了验证所确定的属性的重要性,我们设计了两组新的采样算法:一组中,每个算法满足所有三个属性,和一组中,每个算法违反至少一个属性。我们将它们的性能与现有的采样算法进行比较,发现违反所确定的属性可能会导致急剧的性能下降,如Q-D权衡所测量的。另一方面,我们发现,满足这些属性的采样算法集与现有的采样算法表现相当。我们的数据和代码可在https://github.com/moinnadeem/characterizing-sampling-algorithms上获得
2020-09-15 cs.AI cs.CL cs.LG
The Homogenization Problem in LLMs: Towards Meaningful Diversity in AI Safety
Independent Researcher(独立研究者)
本文探讨了大语言模型中同质化问题,提出通过编码价值观系统来促进多样性,通过实验揭示性别偏见并引入xeno-reproduction概念以缓解同质化。
2026-07-08 cs.AI cs.CL cs.CY
Distributional Open-Ended Evaluation of LLM Cultural Value Alignment Based on Value Codebook
KAIST(韩国科学技术院)
提出DOVE框架,通过率失真变分优化构建价值码本,利用不平衡最优传输度量分布对齐,解决LLM文化价值评估中的构造-组成-上下文挑战。
2026-06-08 cs.AI cs.CL cs.CY
Gacha Decoding: Eliciting Diverse Generations Through Instruction Following
University of Washington(华盛顿大学);Meta Superintelligence Labs(Meta超级智能实验室)
Gacha Decoding通过将多样性视为指令遵循问题,结合外部随机数生成器,在推理时激发多样化生成,显著提升多样性并发现新模式,逆转了多样性与模型能力的矛盾。
2026-10-02 cs.AI cs.CL
ExpertGenQA: Open-ended QA generation in Specialized Domains
University of California Riverside(加州大学河滨分校)
本文提出ExpertGenQA协议,结合少样本学习与结构化主题及风格分类生成专业领域QA对,在保持高主题覆盖率的同时提升效率,并显著改善下游检索模型的top-1准确率。
2025-03-04 cs.CL cs.IR