Generative AI floods and dilutes the market for books
Stony Brook University（纽约州立大学石溪分校）；Columbia Law School（哥伦比亚法学院）；University of Michigan（密歇根大学）；MIT Initiative on the Digital Economy（麻省理工学院数字经济倡议）
研究通过对亚马逊上自出版小说检测，发现含大量AI文本书籍占书目比重大但销售占比小，其达商业规模且重塑市场，单本销售收入下降，还影响不同类型书籍及畅销书语言借鉴情况，结果关乎版权侵权合理使用抗辩的市场效应问题。
2026-08-04 cs.AI cs.CL cs.CY
ORBIT: Preserving Foundational Language Capabilities in GenRetrieval via Origin-Regulated Merging
Johns Hopkins University（约翰霍普金斯大学）；Google DeepMind（谷歌DeepMind）；Google（谷歌）
ORBIT通过跟踪模型权重距离并使用加权平均策略，在生成检索微调中减少模型漂移，有效保留语言基础能力。
2026-05-12 cs.CL cs.IR cs.LG
FinNLI: Novel Dataset for Multi-Genre Financial Natural Language Inference Benchmarking
University of Oxford（牛津大学）；JPMorgan AI Research（摩根大通人工智能研究院）
本文提出金融自然语言推理基准数据集FinNLI，含21,304对样本，评估显示领域迁移降低性能，LLMs最高宏F1为78.62%，暴露金融推理弱点。
2025-04-22 cs.AI cs.CL cs.LG
A Multimodal Classifier Generative Adversarial Network for Carry and Place Tasks from Ambiguous Language Instructions
National Institute of Information and Communication Technology（信息通信技术研究所）
本文研究了一种多模态语言理解方法，用于家用服务机器人的搬运和放置任务。我们解决的情况下，模棱两可的指令，也就是说，当目标区域没有指定。例如，“把牛奶和谷物放在一边”是一个自然的指令，其中考虑到日常生活中的环境，目标区域存在模糊性。传统上，该指令可以从对话系统中消除歧义，但是以时间和繁琐的交互为代价。相反，我们提出了一个多模态的方法，其中的指令是使用机器人的状态和环境上下文消歧。我们开发了多模态分类器生成对抗网络（MMC-GAN）来预测不同目标区域的可能性，考虑到机器人的物理限制和目标杂波。与仅使用指令或简单的深度神经网络的基线方法相比，我们的方法MMC-GAN显著提高了准确性。
2018-06-11 cs.CL cs.RO
The Effects of Incremental Instruction Delivery on Language-Model Creative Writing
SGT UNIVERSITY（SGT大学）；University of Dhaka（达卡大学）；NED University of Engineering and Technology（NED工程技术大学）；Metea Valley High School（米蒂亚谷高中）
本研究通过160个创意写作任务和960个匹配对，发现增量指令交付降低约束遵循度并损害结构连贯性，提出创意完整性度量，表明交互式系统需评估要求的连贯整合。
2026-09-29 cs.CL
Automatic Evaluation of Generative Models with Instruction Tuning
University of British Columbia（不列颠哥伦比亚大学）；Vector Institute for AI（向量人工智能研究所）
本文提出基于指令微调的学习型评估度量，并构建跨多种NLG任务和评估标准的人类判断数据集HEAP，验证了该方法在自动评估中的有效性及多任务联合训练的增益。
2023-10-30 cs.CL cs.LG
Multimodal Sequential Generative Models for Semi-Supervised Language Instruction Following
The University of Tokyo（东京大学）
能够遵循语言指令的智能体预计在各种情况下都是有用的，例如导航。然而，训练基于神经网络的智能体需要大量成对的轨迹和语言。本文提出了使用多模态生成模型的半监督学习的指令遵循任务。该模型学习成对数据的共享表示，并通过该表示重构未成对数据来实现半监督学习。将模型应用于序列到序列任务（包括指令遵循）的关键挑战是学习可变长度多模态数据的共享表示并纳入注意力机制。为了解决这些问题，本文提出了一种新的网络架构，以吸收多模态数据的序列长度的差异。此外，为了进一步提高性能，本文展示了如何将基于生成模型的方法与现有的半监督方法（称为说话者跟随模型）相结合，并提出了一个正则化项，可以使用不成对的轨迹来改进推理。在BabyAI和R2 R环境下的实验结果表明，该方法利用非配对数据提高了指令遵循的性能，并将R2 R环境下说话人跟随模型的性能提高了2 ~ 4%.
2022-12-29 cs.AI cs.CL cs.LG
Generative Representational Instruction Tuning
Contextual AI（康泰克斯人工智能公司）；The University of Hong Kong（香港大学）；Microsoft Corporation（微软公司）
本文提出生成式表示指令微调（GRIT），通过指令区分任务训练大型语言模型同时处理生成与嵌入任务，在多项基准上达到先进水平并无性能损失地统一两类任务，显著加速检索增强生成。
2025-03-03 cs.AI cs.CL cs.LG
Extracting Arguments, Not Just Classifying Them: Instruction-Tuned LLMs for Generative Component Detection
CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）；I3S（I3S实验室）
本文提出ITFACD，利用指令微调的大语言模型将论元组件检测重构为生成任务，直接从文本识别论元，在标准基准上超越现有系统，展示了生成式方法的潜力。
2026-09-22 cs.AI cs.CL
Finetuning Generative Large Language Models with Discrimination Instructions for Knowledge Graph Completion
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；National Institute of Healthcare Data Science, Nanjing University（南京大学国家卫生健康数据科学研究院）
本文提出微调框架DIFT，通过轻量级模型获取候选实体并利用判别指令微调LLM进行选择，结合截断采样和KG嵌入注入，有效避免锚定错误并提升知识图谱补全性能。
2024-07-23 cs.AI cs.CL
Let's Fuse Step by Step: A Generative Fusion Decoding Algorithm with LLMs for Robust and Instruction-Aware ASR and OCR
MediaTek Research（联发科研究）
本研究提出即插即用的生成式融合解码（GFD）框架，通过字节级似然计算适配不同模型词元空间，将LLM集成到ASR与OCR系统中，在中英基准上优于级联方法，还可迁移LLM上下文学习能力，实现感知指令的自适应ASR，WER最高降17.7%。
2025-06-11 cs.AI cs.CL
ChatPLUG: Open-Domain Generative Dialogue System with Internet-Augmented Instruction Tuning for Digital Human
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
ChatPLUG通过互联网增强指令微调构建中文开放域对话系统，融合知识、个性、记忆与共情能力，在自动和人工评估中优于现有系统，并已部署至实际应用。
2023-05-15 cs.CL
It's All in The [MASK]: Simple Instruction-Tuning Enables BERT-like Masked Language Models As Generative Classifiers
本文提出ModernBERT-Large-Instruct模型，通过简单指令微调利用MLM头实现生成式分类，零样本性能优于同类LLM，微调后匹配或超越传统分类头方法，为仅编码器模型在下游任务的应用提供新方向。
2025-02-10 cs.AI cs.CL
Generative Language-Grounded Policy in Vision-and-Language Navigation with Bayes' Rule
RIKEN AIP（理化学研究所先进智能项目中心）；Center for Data Science, New York University（纽约大学数据科学中心）；Department of Computer Science, Courant Institute, New York University（纽约大学库朗研究所计算机科学系）
视觉和语言导航（VLN）是一种任务，其中智能体体现在现实的3D环境中，并遵循指令到达目标节点。虽然大多数以前的研究已经建立和研究了一个歧视性的方法，我们注意到，事实上有两种可能的方法来建立这样一个VLN代理：歧视性\textit{and}生成。在本文中，我们设计和研究生成语言为基础的政策，它使用语言模型来计算分布在所有可能的指令，即所有可能的序列的词汇令牌给定的行动和过渡的历史。在实验中，我们表明，所提出的生成方法优于判别方法在房间-2-房间（R2 R）和房间-4-房间（R4 R）数据集，特别是在看不见的环境。我们进一步表明，生成策略和判别策略的组合在R2 R数据集中实现了接近最先进的结果，这表明生成策略和判别策略捕获了VLN的不同方面。
2020-10-08 cs.CL
Revisiting Compositional Generalization Capability of Large Language Models Considering Instruction Following Ability
Nara Institute of Science and Technology（奈良科学技術大學）
本研究提出Ordered CommonGen基准，通过有序覆盖率同时评估LLMs的组合泛化与指令遵循能力，发现LLMs存在顺序偏见且最强者覆盖率仅约75%，需改进。
2025-06-18 cs.AI cs.CL
Generative AI translations in high-stakes emergency messaging
Universitat Rovira i Virgili（罗维拉-威尔吉利大学）；University of Melbourne（墨尔本大学）
本研究探讨生成式AI在高风险应急消息翻译中的应用，实验表明特定语篇提示可提升翻译的可理解性与可操作性，但人工修订与责任承担仍不可或缺。
2026-10-07 cs.CL
Simulating Students with Large Language Models: A Review of Architecture, Mechanisms, and Role Modelling in Education with Generative AI
Institute for Computer Research University of Alicante（计算机研究所阿利坎特大学）
本文综述了利用大型语言模型模拟学生行为在教育中的应用，探讨了其在学习者建模、教学评估和教师培训中的潜力与挑战。
2025-11-08 cs.AI cs.CL cs.CY
Pretrained Generative Language Models as General Learning Frameworks for Sequence-Based Tasks
Dell Technologies（戴尔科技）
本研究提出利用小型预训练生成语言模型作为通用学习框架，通过指令微调在化学信息学任务上达到接近最先进性能，克服了从零训练的资源挑战。
2024-02-08 cs.AI cs.CL cs.LG
ICE-GRT: Instruction Context Enhancement by Generative Reinforcement based Transformers
AML Group, Bytedance Inc.（字节跳动有限公司 AML 组）
本文提出ICE-GRT模型，通过基于PPO的RLHF技术，在保持通用能力的同时提升特定领域任务的深度和分析能力，实现SOTA性能。
2024-01-04 cs.CL
How Important is Domain Specificity in Language Models and Instruction Finetuning for Biomedical Relation Extraction?
University of Kentucky, Lexington, KY USA（肯塔基大学）
本文在四个生物医学关系抽取数据集上比较通用与生物医学预训练LM及不同指令微调来源，发现通用模型通常更优，而少量生物医学指令微调即可取得与通用指令微调相近的收益。
2025-07-25 cs.CL
Cookbook: A framework for improving LLM generative abilities via programmatic data generating templates
Stanford University（斯坦福大学）
本研究提出Cookbook程序化数据生成框架，通过Python模板生成非人工/LLM的指令训练数据，可提升单任务准确率最高52.7点，多任务上Mistral-7B微调后在GPT4ALL套件中7B级模型平均最优。
2024-10-07 cs.CL cs.LG
InstructAudio: Unified speech and music generation with natural language instruction
Tianjin University（天津大学）；Kuaishou Technology（快手科技）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
InstructAudio通过自然语言指令统一语音和音乐生成，实现多任务学习和跨模态对齐。
2025-11-23 cs.AI cs.CL cs.SD
Jais and Jais-chat: Arabic-Centric Foundation and Instruction-Tuned Open Generative Large Language Models
Inception（Inception（机构名））；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Cerebras Systems（Cerebras系统公司）
本文提出并开源 130 亿参数的 Jais 与 Jais-chat 阿拉伯语中心大模型，基于 GPT-3 仅解码器架构，在阿英及代码语料上训练，显著提升阿拉伯语知识与推理能力。
2023-09-29 cs.AI cs.CL cs.LG
Cendol: Open Instruction-tuned Generative Large Language Models for Indonesian Languages
HKUST（香港科技大学）；AI Singapore（新加坡人工智能研究院）；IndoNLP（印尼自然语言处理组织）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；KAIST（韩国科学技术院）；Bloomberg（彭博公司）；Institut Teknologi Bandung（万隆理工学院）
针对低资源印尼语言大模型质量不足的问题，研究推出多架构多规模的印尼语指令微调模型Cendol，在多样任务上提升20%性能，提出词汇适配提升效率，并验证预训练安全性可跨语言迁移。
2024-07-08 cs.CL
StableLLaVA: Enhanced Visual Instruction Tuning with Synthesized Image-Dialogue Data
Tencent（腾讯）；University of Technology Sydney（悉尼科技大学）；Nanyang Technological University（南洋理工大学）；Zhejiang University（浙江大学）；Beijing Jiaotong University（北京交通大学）
提出StableLLaVA方法，利用ChatGPT和文本到图像生成模型同步合成图像-对话数据用于视觉指令微调，缓解领域偏差，在多个多模态基准上取得最优结果。
2023-12-28 cs.CL cs.CV cs.LG
Advancing Generative AI for Portuguese with Open Decoder Gervásio PT*
University of Lisbon（里斯本大学）
本研究以LLaMA 2 7B为基础，结合新建的葡萄牙语指令数据集训练出开源指令微调解码器Gervásio PT*，刷新葡萄牙语神经解码SOTA，支持消费级硬件运行，可用于研究与商业场景。
2024-03-05 cs.CL
BeLink: Biomedical Entity Linking Meets Generative Re-Ranking
University of Milan（米兰大学）；University of Chicago（芝加哥大学）
本文提出了一种基于生成模型的重新排序方法，通过指令微调提高生物医学实体链接的效率和准确性，在多个基准测试中实现了3%-24%的链接准确率提升，同时减少了推理时间。
2026-05-21 cs.AI cs.CL cs.IR
Aya Model: An Instruction Finetuned Open-Access Multilingual Language Model
Cohere For AI；Brown University（布朗大学）；Cohere；Cohere For AI Community（Cohere For AI 社区）；Carnegie Mellon University（卡内基梅隆大学）；MIT（麻省理工学院）
本文提出Aya，一个支持101种语言的大规模多语言生成式指令微调模型，覆盖超50%低资源语言，在多数任务上优于mT0和BLOOMZ且覆盖语言数翻倍，并开源了模型与指令数据集。
2024-02-12 cs.CL
Is ChatGPT a Good Teacher Coach? Measuring Zero-Shot Performance For Scoring and Providing Actionable Insights on Classroom Instruction
Stanford University（斯坦福大学）
本文提出评分、识别教学亮点与错失机会、给出可操作建议三项任务，评估ChatGPT零样本指导小学数学课堂的能力，发现其反馈相关但缺乏新颖性与洞察力。
2023-06-05 cs.AI cs.CL
Instruction Finetuning for Leaderboard Generation from Empirical AI Research
Leibniz University of Hannover（汉诺威莱布尼茨大学）；TIB（德国科技信息图书馆）
本研究提出用预训练大语言模型的指令微调方法自动从AI论文中提取四元组以生成研究排行榜，使用FLAN-T5模型提升信息抽取效果，为结构化知识表示提供新方案。
2024-08-19 cs.CL
Walia-LLM: Enhancing Amharic-LLaMA by Integrating Task-Specific and Generative Datasets
Saarland University（萨尔兰大学）；Instituto Politécnico Nacional（墨西哥国立理工学院）；Lelapa AI；AIMS（非洲数学科学研究所）；Carnegie Mellon University（卡内基梅隆大学）；Debre Markos University（德布雷马尔科斯大学）；Universität Hamburg（汉堡大学）；Masakhane NLP；Ethio NLP
本文通过整合任务特定与生成式数据集编译Amharic指令微调数据集，对LLaMA-2-Amharic模型进行微调，提升了其在各项NLP任务中的表现，并开源相关资源以促进低资源语言研究。
2024-04-29 cs.CL
RecipeGPT: Generative Pre-training Based Cooking Recipe Generation and Evaluation System
Singapore Management University（新加坡管理大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
在过去的几年里，由于大量的在线烹饪食谱，人们对烹饪食谱自动生成的兴趣一直在稳步增长。我们提出RecipeGPT，一种新的在线配方生成和评价系统。该系统提供两种文本生成模式：（1）根据给定的食谱标题和配料生成指令;（2）根据食谱标题和烹饪指令生成配料。其后端文本生成模块包括一个生成的预训练语言模型GPT-2，该模型在大型烹饪食谱数据集上进行了微调。此外，配方评估模块允许用户方便地检查所生成的配方内容的质量并存储结果以供将来参考。RecipeGPT可以在https://recipegpt.org/上在线访问。
2020-03-05 cs.CL cs.IR cs.LG
Persian MusicGen: A Large-Scale Dataset and Culturally-Aware Generative Model for Persian Music
Sharif University of Technology（谢尔国立技术大学）；Independent Researcher（独立研究员）
本文提出首个大规模波斯音乐数据集，用于训练适应波斯音乐风格的生成模型，展示模型在文化语境下的适应性。
2026-05-14 cs.CL cs.SD
Diffusion Language Models Can Perform Many Tasks with Scaling and Instruction-Finetuning
ByteDance Research（字节跳动研究院）；Fudan University（复旦大学）
本文证明通过数据、规模和任务上的扩展，扩散语言模型能成为强大的语言学习者，并通过指令微调激发上下文学习能力，解决多种一般语言任务。
2025-02-24 cs.AI cs.CL cs.LG
TUTORING: Instruction-Grounded Conversational Agent for Language Learners
Yonsei University（延世大学）；Market Designers Inc.（Market Designers 公司）
在本文中，我们提出了辅导机器人，一个生成的聊天机器人训练的大规模的辅导学生对话的英语学习。为了模仿人类导师在语言教育中的行为，导师机器人利用各种教育指令和每个指令的理由作为导师响应生成的附加输入上下文。由于单个指令通常涉及多个对话回合以给予学生足够的口语练习，因此需要导师机器人监视和捕获当前指令何时应该保持或切换到下一个指令。为此，导师机器人不仅学习生成响应，而且通过多任务学习方案同时推断其教学动作和当前会话的进展。我们的辅导机器人是根据https://tutoringai.com上的非商业使用许可证部署的。
2023-02-24 cs.AI cs.CL
Why Instruction-Based Unlearning Fails in Diffusion Models?
University of Rochester（罗切斯特大学）；UCLA（加州大学洛杉矶分校）；UCSB（加州大学圣塔芭芭拉分校）
研究探讨了基于指令的反学习在扩散模型中的有效性，发现扩散模型在仅依赖自然语言反学习指令时无法有效抑制目标概念，揭示了提示级指令的局限性。
2026-04-02 cs.CL cs.CV
GEM: A Generative Embedding Model Bridging Reasoning and Retrieval
University of Glasgow（格拉斯哥大学）
针对传统检索器表层匹配导致的需求解读差距问题，提出生成式嵌入模型GEM，将推理与检索统一，在相关任务上性能优于基线，还可通过提示扩展测试时计算提升效果。
2026-08-17 cs.AI cs.CL cs.IR
Large Language Models' Internal Perception of Symbolic Music
本文通过让LLM从文本提示生成MIDI数据集并训练神经网络进行分类与旋律补全，揭示LLM能隐式编码基本音乐结构，同时指出其因缺乏显式音乐语境而存在局限。
2025-07-17 cs.AI cs.CL cs.LG
Grounded Language Understanding for Manipulation Instructions Using GAN-Based Classification
National Institute of Information and Communications Technology（国立信息与通信技术研究所）
本研究的目标任务是国内服务机器人（DSRs）接地语言理解。特别是，我们专注于指导理解的动词缺失的短句。这一任务对于构建通信的DSRs至关重要，因为操纵对于DSRs是必不可少的。现有的指令理解方法通常只从非基础知识中估计缺失的信息，因此，预测的动作是否是物理上可执行的还不清楚。在本文中，我们提出了一个接地的指令理解方法来估计适当的对象给定的指令和情况。我们扩展了生成对抗网络（GAN），并使用潜在表示构建了一个基于GAN的分类器。为了定量评估所提出的方法，我们已经开发了一个数据集的基础上，用于视觉QA的标准数据集。实验结果表明，该方法比基线方法得到更好的结果。
2018-01-16 cs.CL cs.HC cs.RO
Multi-Task Instruction Tuning via Data Scheduling for Low-Resource Arabic SpeechLLMs
Qatar Computing Research Institute（卡塔尔计算研究院）
本文研究了在资源受限环境下，通过数据调度优化多任务指令微调方法，提出AraMega-SSum用于训练和评估阿拉伯语中心的音频LLM，并比较了四种训练策略，发现两阶段TPC→ADS策略在任务平衡上表现最佳。
2026-07-08 cs.AI cs.CL cs.SD
Instructions as Backdoors: Backdoor Vulnerabilities of Instruction Tuning for Large Language Models
Harvard（哈佛大学）；UCLA（加利福尼亚大学洛杉矶分校）；USC（南加利福尼亚大学）；University of Wisconsin, Madison（威斯康星大学麦迪逊分校）；UC, Davis（加利福尼亚大学戴维斯分校）
本文揭示LLM指令微调的后门风险，证明仅约1000个恶意指令即可实现逾90%攻击成功率，并评估投毒迁移、指令迁移与持续微调抵抗性。
2024-04-03 cs.AI cs.CL cs.CR
Vision-and-Language Navigation Generative Pretrained Transformer
School of Artificial Intelligence and Automation（人工智能与自动化学院）；Huazhong University of Science and Technology（华中科技大学）
提出VLN-GPT，采用GPT2解码器建模轨迹序列以替代历史编码模块，结合模仿学习预训练和强化学习微调，在VLN数据集上超越现有编码器模型。
2024-05-27 cs.AI cs.CL cs.CV
