Semantic Scheduling for LLM Inference
University of California, Santa Barbara（加州大学圣芭芭拉分校）；University of British Columbia（不列颠哥伦比亚大学）；University of Washington, Seattle（华盛顿大学（西雅图））；EPFL（苏黎世联邦理工学院）；Rutgers University, New Brunswick（罗格斯大学新 Brunswick分校）；Microsoft（微软公司）
针对传统操作系统调度算法不考虑进程语义、无法优先处理紧急重要任务的问题，提出大语言模型请求的语义调度概念及最优时间复杂度调度算法，可最小化提示调度总等待时间，在医疗应急等时间敏感任务中具应用潜力。
2025-06-13 cs.AI cs.LG cs.OS
MAPS: Memory-Aware Predictive Scheduling Framework for Large Language Model Serving
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）；The International Joint Institute of Tianjin University, Tianjin University（天津大学国际联合学院）；Faculty of Digital Economics and Managements, Tianjin University of Finance and Economics（天津财经大学数字经济与管理学院）
针对分离式LLM服务中解码实例负载不均的问题，提出内存感知预测调度框架MAPS，通过设备辅助输出长度预测与不确定性校准实现安全调度，显著降低端到端延迟。
2026-09-15 cs.AI
Predictive Scheduling for Efficient Inference-Time Reasoning in Large Language Models
Harvard College（哈佛学院）；Harvard SEAS（哈佛工程与应用科学学院）
预测调度通过预运行轻量级预测器优化标记预算分配，提升大语言模型在推理任务中的准确性和效率。
2026-02-01 cs.AI
Investigating the Transferability of Code Repair for Low-Resource Programming Languages
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；University of Arizona（亚利桑那大学）
本文研究了代码修复蒸馏技术在高资源与低资源编程语言间的可迁移性，发现其效果具有语言依赖性，并揭示了推理能力与代码纠正能力间存在弱相关性。
2024-10-16 cs.AI cs.CL cs.LG
Hybrid Offline-online Scheduling Method for Large Language Model Inference Optimization
Tsinghua University（清华大学）
本文提出一种混合离线-在线调度方法，通过MIP建模、最小化完工时间装箱及在线抢占调度，提升LLM推理系统利用率至89.1%，并缩短推理时间。
2025-02-14 cs.AI cs.AR cs.DC
Agentic AI Home Energy Management System: A Large Language Model Framework for Residential Load Scheduling
Department of Industrial Economics and Technology Management, The Norwegian University of Science and Technology（工业经济学与技术管理系，挪威科学与技术大学）
电力部门的转型需要大幅提高住宅需求响应能力，但家庭能源管理系统（HEMS）的采用仍然受到用户交互障碍的限制，需要将日常偏好转化为技术参数。虽然大语言模型已被应用到能源系统作为代码生成器和参数提取器，没有现有的实现部署LLM作为自治协调器管理从自然语言输入到多设备调度的完整工作流。本文提出了一种代理人工智能HEMS，其中LLM自主协调多设备调度从自然语言请求到设备控制，实现最优调度没有例子演示。将一个协调器与三个专业代理相结合的分层架构使用ReAct模式进行迭代推理，实现动态协调，而无需硬编码工作流，同时集成Google日历进行上下文感知的截止日期提取。使用真实的奥地利日前电价对三个开源模型进行评估，发现了巨大的能力差异。Llama-3.3- 70 B成功地协调了所有场景中的所有设备，以匹配通过混合整数线性规划计算的成本最优基准，而其他模型实现了完美的单设备性能，但难以同时协调所有设备。渐进式提示工程实验表明，分析查询处理没有明确的指导仍然是不可靠的，尽管模型的一般推理能力。我们开源了完整的系统，包括编排逻辑，代理提示，工具和Web界面，以实现可重复性，扩展和未来的研究。
2025-10-30 cs.AI cs.MA cs.SY
On the Limitations of Language Targeted Pruning: Investigating the Calibration Language Impact in Multilingual LLM Pruning
Department of Computer Science, TU Dortmund University（图恩-多特蒙德大学计算机科学系）；Bonn-Aachen International Center for Information Technology, University of Bonn（波恩-亚琛国际信息科技中心，波恩大学）；Computer Science School, University of Sheffield（谢菲尔德大学计算机科学学院）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔人工智能与机器学习研究所）
本文针对多语言大语言模型剪枝场景，首次实证探究校准语言的影响，发现目标语言校准无法稳定提升下游性能，指出现有剪枝方法易丢失关键的语言无关特征。
2025-11-17 cs.AI cs.CL cs.LG
Automatic MILP Model Construction for Multi-Robot Task Allocation and Scheduling Based on Large Language Models
Huazhong University of Science and Technology（华中科技大学）；State Key Laboratory of Intelligent Manufacturing Equipment and Technology（智能制造装备与技术国家重点实验室）
针对多机器人任务分配调度中MILP建模依赖专家且生产数据需本地化的问题，提出融合本地LLM与领域知识库的自动建模框架，实现约束提取与代码生成。
2025-03-18 cs.AI cs.RO
TeleEval-OS: Performance evaluations of large language models for operations scheduling
针对电信运维调度领域缺乏大模型评估基准的问题，提出首个包含13个子任务、覆盖四个运维阶段的TeleEval-OS基准，将大模型能力分为四个层级，评测14款大模型后发现开源模型在特定场景表现更优。
2025-05-06 cs.AI cs.CL cs.PF
Equinox: Holistic Fair Scheduling in Serving Large Language Models
Shanghai Jiao Tong University（上海交通大学）；Cloud Computing Research Institute, China Telecom（云计算研究所，中国电信）；Stevens Institute of Technology（史蒂文斯理工学院）
Equinox通过双计数器框架和预测专家混合（MoPE）实现大语言模型服务的整体公平调度，在提升吞吐量、降低延迟的同时保持高GPU利用率和公平性。
2025-08-19 cs.AI cs.DC
On the Prospects of Incorporating Large Language Models (LLMs) in Automated Planning and Scheduling (APS)
University of South Carolina（南卡罗来纳大学）；New Mexico State University（新墨西哥州立大学）；University of Brescia（布雷西亚大学）；IBM Research（IBM研究院）
本文综述126篇论文，将LLM在自动规划与调度中的应用归纳为八类，指出其与传统符号规划器结合的神经符号方向最具潜力。
2024-01-20 cs.AI
Language Models for Business Optimisation with a Real World Case Study in Production Scheduling
Research Center for Data Analytics and Cognition（数据分析与认知研究中心）；College of Business and Law（商学院与法学院）
本文提出一个基于LLM的框架，通过微调成本高效的模型自动化商业优化中的问题建模，在生产调度和线性规划任务上生成准确建模，性能优于现有提示工程方法。
2025-04-22 cs.AI
Enhancing Inference Efficiency of Large Language Models: Investigating Optimization Strategies and Architectural Innovations
University College London（伦敦大学学院）
针对大型语言模型推理成本高昂的问题，本文实证研究模型压缩，发现跳过 Transformer LLM 后部注意力子层可使 Llama 2 7B 单 token 生成提速 21%，并提升多项基准性能。
2024-04-02 cs.AI cs.CL cs.LG
Guiding Large Language Models with Genetic Programming-Evolved Heuristic Knowledge for Dynamic Multi-Mode Project Scheduling
Centre for Data Science and Artificial Intelligence（数据科学与人工智能中心）；School of Engineering and Computer Science（工程与计算机科学学院）；Victoria University of Wellington（惠灵顿维多利亚大学）
本研究将遗传编程演化的调度规则知识反向转移，通过四种机制指导大语言模型决策，提升了调度性能、决策稳定性并降低 token 消耗。
2026-07-31 cs.AI cs.NE
Evaluating Large Language Models for Workload Mapping and Scheduling in Heterogeneous HPC Systems
Faculty of Mathematics and Computer Science, Georg-August-Universität Göttingen（数学与计算机科学学院，哥廷根乔治-奥古斯特大学）
本研究评估21个公开LLM在异构HPC工作负载映射调度任务上的表现，明确其组合优化推理能力边界，指出LLM更适合作为可解释决策副驾驶而非自主求解器。
2025-11-04 cs.AI cs.DC
Investigating the Development of Task-Oriented Communication in Vision-Language Models
Technion – Israel Institute of Technology（技术ion–以色列理工学院）；EPFL（苏黎世联邦理工学院）；University of California, Berkeley（加州大学伯克利分校）；Harvard University（哈佛大学）
研究视觉-语言模型在协作任务中发展以任务为导向的通信协议的潜力与风险
2026-01-28 cs.AI
ALISE: Accelerating Large Language Model Serving with Speculative Scheduling
University of Central Florida（中佛罗里达大学）
针对现有大语言模型服务先到先服务调度存在的队头阻塞等问题，本文提出ALISE框架，通过推测式调度、自适应内存管理与量化压缩技术，在相同延迟下较vLLM最高提升1.8-2.1倍吞吐量。
2024-10-31 cs.AI cs.PF
CoS: Towards Optimal Event Scheduling via Chain-of-Scheduling
针对基于事件的社交网络中事件调度的NP难问题，提出CoS框架，通过三阶段任务分解增强大语言模型并结合知识蒸馏实现自主调度，在真实数据集上兼具近最优有效性、高效率与可解释性，且域外零样本学习能力强。
2025-11-17 cs.AI
Investigating Information Inconsistency in Multilingual Open-Domain Question Answering
University of Maryland, College Park（马里兰大学帕克分校）
基于检索的开放域QA系统使用检索到的文档和对检索到的文档的答案跨度选择来找到最佳答案候选者。我们假设，多语言问答（QA）系统很容易出现信息不一致，当涉及到不同语言编写的文件，因为这些文件往往提供一个模型与不同的信息相同的主题。为了理解信息的可获得性偏差和文化影响的影响，我们分析了多语言开放域问答模型的行为，重点是检索偏差。我们分析如果不同的检索模型呈现不同的段落给定相同的问题在不同的语言上的TyDi QA和XOR-TyDi QA，两个多语言QA数据集。我们推测，跨语言文档的内容差异可能反映了文化差异和/或社会偏见。
2022-05-25 cs.AI cs.CL cs.IR
Automated Conversion of Static to Dynamic Scheduler via Natural Language
School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算与信息系统学院）
针对静态调度模型需专家修改且难应对环境扰动的问题，提出基于 RAG 的 RAGDyS，利用 LLM 依据自然语言约束自动生成动态调度代码。
2024-05-08 cs.AI cs.CL
Rocks, Pebbles and Sand: Modality-aware Scheduling for Multimodal Large Language Model Inference
IMDEA Software Institute（IMDEA软件研究所）；Universidad Politécnica de Madrid（马德里理工大学）
针对多模态大语言模型推理中资源需求差异大导致的延迟和内存问题，提出RPS-Serve调度器，通过动态优先级和老化机制实现高效资源利用，降低TTFT并提升响应性能。
2026-10-30 cs.AI cs.DC
Evaluating the Efficacy of LLM-Based Reasoning for Multiobjective HPC Job Scheduling
University of Tennessee, Knoxville\ Ridge National Laboratory Oak Ridge, TN USA；Argonne National Laboratory Lemont, IL USA；University of Southern California Los Angeles, CA USA；Oak Ridge National Laboratory Oak Ridge, TN USA；University of Tennessee, Knoxville\ Ridge National Laboratory；Argonne National Laboratory；University of Southern California；Oak Ridge National Laboratory
针对传统HPC作业调度方法难以同时优化多目标、适应性不足的问题，提出基于ReAct框架的LLM调度器，经多场景验证可平衡多目标但存在计算开销权衡，为相关研究提供新思路。
2025-09-03 cs.AI cs.DC
Automated Hybrid Reward Scheduling via Large Language Models for Robotic Skill Learning
National Engineering Laboratory for Big Data System Computing Technology（大数据系统计算技术国家工程实验室）
针对高自由度机器人技能学习中多奖励分量统一优化效率低的问题，提出基于大语言模型的自动化混合奖励调度框架AHRS，通过多分支价值网络动态调整各奖励分量权重，在多个任务上平均提升6.48%性能。
2025-05-05 cs.AI cs.RO
Unmasking the Shadows of AI: Investigating Deceptive Capabilities in Large Language Models
University College London（伦敦大学学院）
本研究批判性调查大型语言模型中的欺骗行为，分类四种欺骗类型并评估其社会影响，提出治理与教育应对策略。
2024-02-07 cs.AI cs.CL
Investigating Mechanisms for In-Context Vision Language Binding
CVIT, IIIT Hyderabad, India（计算机视觉研究所，印度海得拉巴印度理工学院）
本研究探究视觉语言模型（VLMs）中的图像-文本绑定机制，发现VLMs会为图像中对象的图像词元及其文本引用分配独特的Binding ID，从而实现上下文关联。
2025-05-28 cs.AI cs.CV
Investigating and Mitigating Object Hallucinations in Pretrained Vision-Language (CLIP) Models
East China Normal University（华东师范大学）；Fudan University（复旦大学）；Pazhou Laboratory（琶洲实验室）
本研究探究预训练视觉语言CLIP模型的物体幻觉问题，发现其单独使用也存在该问题，提出反事实数据增强方法缓解此问题，增强后的模型可作为视觉编码器减轻LVLM的物体幻觉。
2024-10-04 cs.AI cs.CV
Investigating Gender Stereotypes in Large Language Models via Social Determinants of Health
Nantes Université, École Centrale Nantes, CNRS, LS2N, UMR 6004（南特大学，中央理工学院，国家科学研究中心，LS2N，UMR 6004）；Nantes Université, CHU Nantes, Clinique des données, INSERM, CIC 1413（南特大学，南特大学医院，数据诊所，国家健康与医学研究院，CIC 1413）
本研究通过分析法语患者记录中的性别与社会健康决定因素的关系，揭示了LLM在性别决策中依赖嵌入刻板印象的现象，并提出评估SDoH因素相互作用以补充现有偏见评估方法。
2026-03-10 cs.AI cs.CL
Investigating cybersecurity incidents using large language models in latest-generation wireless networks
Orenburg State University（奥伦堡国立大学）
本研究针对最新一代无线网络的网络安全事件，通过微调大语言模型（LLM）、合成对抗样本等方法，实现数据投毒攻击的二元分类与检测，Gemma-7b模型表现最优，为网络安全事件调查与决策提供支持。
2025-04-14 cs.AI cs.CR
TempJail: Temporal Jailbreak Attack against Large Vision-Language Models via Subtitle Scheduling
University of Electronic Science and Technology of China（电子科技大学）；East China Normal University（华东师范大学）
TempJail是一种黑盒视频越狱框架，通过优化字幕时序调度攻击LVLMs，在四个模型和两个数据集上的攻击成功率优于基线。
2026-08-21 cs.AI cs.CL cs.CV
Watch Your Language: Investigating Content Moderation with Large Language Models
Stanford University（斯坦福大学）；UC San Diego（加州大学圣地亚哥分校）
本文评估了商用大型语言模型在基于规则的社区审核和有毒内容检测上的表现，发现GPT-3.5在规则审核中有效且LLM显著优于现有毒性分类器，但模型规模增大带来的收益有限。
2024-01-17 cs.AI cs.CL cs.CR
Investigating Constraint Programming and Hybrid Methods for Real World Industrial Test Laboratory Scheduling
TU Wien（维也纳技术大学）；Christian Doppler Laboratory for Artificial Intelligence and Optimization for Planning and Scheduling（克里斯蒂安·多普勒规划与调度人工智能与优化实验室）
本文针对工业测试实验室的资源约束调度难题，提出多种约束规划模型与基于CP的超大规模邻域搜索混合方法，经真实数据和生成算例验证，该方法在可行解和最优解求解上均优于精确方法及模拟退火启发式。
2024-08-14 cs.AI
Investigating the Monte-Carlo Tree Search Approach for the Job Shop Scheduling Problem
University of Liege（列日大学）
本研究探索蒙特卡洛树搜索（MCTS）解决大规模作业车间调度问题（JSSP）的潜力，提出多种MDP建模公式并引入新合成基准，实验证明MCTS优于约束规划方法。
2025-01-29 cs.AI math.OC
Scheduling Thoughts: Learning the Order of Thought in Diffusion Language Models
University of Maryland, College Park（马里兰大学帕克分校）；University of California, Los Angeles（加州大学洛杉矶分校）
提出自感知调度（SAS），通过策略优化学习扩散语言模型中的去掩码顺序，显著提升Sudoku和数学推理任务的生成质量。
2026-06-23 cs.AI cs.LG
An Agentic AI Framework with Large Language Models and Chain-of-Thought for UAV-Assisted Logistics Scheduling with Mobile Edge Computing
Nanyang Technological University（南洋理工大学）；Singapore Institute of Technology（新加坡理工学院）；Seatrium New Energy Laboratory（Seatrium 新能源实验室）；Ministry of Education (MOE) Tier 1（教育部 Tier 1）；Research Innovation and Enterprise (RIE) 2025 Industry Alignment Fund-Industry Collaboration Projects (IAF-ICP)（研究创新与企业 (RIE) 2025 行业对齐基金-行业合作项目 (IAF-ICP)）
本文提出结合大语言模型和链式推理的智能AI框架，用于解决无人机辅助物流调度中的混合调度问题，通过分层深度强化学习实现无人机路由和任务执行优化，提升物流效率与任务完成率。
2026-10-06 cs.AI cs.LG
Predictive Batch Scheduling: Accelerating Language Model Training Through Loss-Aware Sample Prioritization
Georgia Institute of Technology（佐治亚理工学院）
预测批量调度通过损失感知的样本优先级加速语言模型训练，利用轻量级预测器提升收敛速度，实现高效课程学习。
2026-02-19 cs.AI
Investigating Transferability in Pretrained Language Models
Stanford University（斯坦福大学）
语言模型预训练如何帮助迁移学习？我们考虑了一种简单的消融技术，用于确定每个预训练层对传输任务性能的影响。这种方法，部分重新初始化，涉及用随机权重替换预训练模型的不同层，然后在传输任务上微调整个模型并观察性能变化。该技术揭示了在BERT中，在下游GLUE任务上具有高探测性能的层对于这些任务的高精度来说既不是必要的也不是充分的。此外，为层使用预训练参数的好处随着微调数据集大小而显着变化：当数据丰富时提供巨大性能提升的参数可能在数据稀缺的设置中提供微不足道的好处。这些结果揭示了迁移学习过程的复杂性，突出了在冻结模型或单个数据样本上操作的方法的局限性。
2020-11-10 cs.AI cs.CL cs.LG
MAPS: Preserving Vision-Language Representations via Module-Wise Proximity Scheduling for Better Vision-Language-Action Generalization
Georgia Institute of Technology（佐治亚理工学院）
MAPS通过模块级接近调度优化VLA微调，提升视觉-语言-动作任务的泛化能力。
2025-11-25 cs.AI cs.CL cs.CV
Planning and Scheduling in Hybrid Domains Using Answer Set Programming
University of Arkansas at Pine Bluff（阿肯色大学松崖分校）
在本文中，我们提出了一个行动的回答集编程为基础的方法来解决规划和调度问题的混合域-域表现出离散和连续的行为。我们使用动作语言H表示域，然后将得到的理论转化为A-Prolog程序。通过这种方式，我们减少了寻找解决方案的问题，规划和调度问题的计算答案集的A-Prolog程序。我们从文献中引用了一个计划和调度的例子，并展示了如何在H。我们将展示如何将所得到的H理论转化为一个等价的A-Prolog程序。我们计算得到的程序使用的混合求解器称为EZCSP松散集成的约束求解器与答案集求解器的答案集。求解器允许我们推理实数上的约束，并计算复杂计划和调度问题的解决方案。结果表明，我们的方法可以适用于任何规划和调度问题的混合域。
2013-01-08 cs.AI
Improving Natural-Language Combinatorial-Optimization Accuracy in Resource-Constrained Language Models via Formal Abstractions
University of California, Berkeley（加州大学伯克利分校）
针对资源受限语言模型在自然语言组合调度中可行性不足的问题，提出神经符号框架SDDL，其在300实例调度子集上大幅提升小模型的可行调度准确率，逼近大模型性能
2026-09-11 cs.AI
Bringing Up a Bilingual BabyLM: Investigating Multilingual Language Acquisition Using Small-Scale Models
Stanford University（斯坦福大学）
本文通过训练小型语言模型，研究多语言习得机制，发现双语模型在两种语言上均表现良好，表明多语言输入对统计学习者无实质挑战。
2026-10-20 cs.AI cs.CL cs.LG
Investigating the Effect of Natural Language Explanations on Out-of-Distribution Generalization in Few-shot NLI
University of Chicago（芝加哥大学）
虽然神经模型在SNLI等数据集中表现出了很强的性能，但它们缺乏泛化分布外（OOD）的能力。在这项工作中，我们制定了一个少样本学习设置和检查的影响，自然语言解释对面向对象的推广。我们利用HANS数据集中的模板，并为每个模板构建模板化的自然语言解释。尽管生成的解释显示出与地面实况解释相比具有竞争力的BLEU分数，但它们未能提高预测性能。我们进一步表明，生成的解释往往产生幻觉的信息和错过的关键元素，表明标签。
2021-10-12 cs.AI cs.CL
Transcoders for Investigating Deception in Language Models
Home Team Science & Technology Agency (HTX)（新加坡内政部科技局）
研究用转码器分析语言模型欺骗行为，通过预训练转码器的Qwen3 - 4B模型构建归因图，经特征引导和电路分析识别相关特征字典，发现欺骗源于模型内部机制，凸显转码器在监测及检测语言模型安全漏洞方面的潜力。
2026-07-17 cs.AI
Investigating Math Word Problems using Pretrained Multilingual Language Models
School of Computing and Information Systems（计算与信息系统学院）；Singapore Management University（新加坡管理大学）
本文从跨语言和多语言的角度重新审视数学应用题。我们使用带有复制机制的序列到序列模型在预训练的多语言语言模型上构建我们的MWP求解器。我们比较了MWP求解器在跨语言和多语言场景中的表现。为了便于跨语言性能的比较，我们首先将大规模英语数据集MathQA作为中文数据集Math23K的对应数据。然后通过机器翻译和人工标注将几个英文数据集扩展为双语数据集。我们的实验表明，MWP求解器可能不会被转移到不同的语言，即使目标表达式具有相同的操作符集和常量。但是对于跨语言和多语言的情况，如果问题类型在源语言和目标语言上都存在，则可以更好地推广。
2022-11-13 cs.AI cs.CL
Investigating Language Model Capabilities to Represent and Process Formal Knowledge: A Preliminary Study to Assist Ontology Engineering
Université Côte d’Azur（法国滨海大学）；Inria（法国国家信息与自动化技术研究所）；CNRS（法国国家科学研究中心）；I3S（国际科学计算研究所）；Sophia Antipolis, France（法国索菲亚大学）；Data ScienceTech Institute (DSTI)（数据科学技术研究所）
本文探究将形式化方法引入小语言模型（SLMs）以提升推理能力，发现用紧凑逻辑语言替代自然语言在推理任务上仍能保持高性能，从而辅助本体工程。
2025-09-12 cs.AI
Investigating Lexical Sharing in Multilingual Machine Translation for Indian Languages
Saarland University（萨尔大学）；Inria（法国国家信息与自动化研究所）
本研究聚焦印度语言多语言机器翻译的词汇共享，探究数据采样与词表大小的性能权衡、音译对跨文字泛化的作用及对未见语言的泛化性，发现音译无明显提升，原文字训练的模型已具备跨文字鲁棒性。
2023-05-04 cs.AI cs.CL
Investigating the Impact of Personalized AI Tutors on Language Learning Performance
Stony Brook University（石溪大学）
本文通过准实验和配对样本t检验，研究34名学生在Santa和Duolingo等平台上使用个性化AI导师前后，其参与度、学业表现和满意度之间的关系。
2025-05-05 cs.AI cs.HC
Agentic-V2X: Small Language Model Agents for Deadline-Aware V2X Scheduling in 5G/6G Networks
Department of Informatics, University of Piraeus（比雷埃克斯大学信息学院）；Department of Informatics and Telecommunications, University of Peloponnese（希腊佩拉索斯大学信息与电信学院）
研究针对5G/6G网络中V2X调度，提出Agentic-V2X架构。小型本地部署语言模型生成策略，经验证后由轻量级控制器执行，评估多种策略，该架构能生成有效可执行策略，在多方面有竞争力，但非最佳。
2026-07-07 cs.AI cs.NI
A "Perspectival" Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, YouTube, and Wikipedia
Harvard University（哈佛大学）
该研究揭示Google、Wikipedia、YouTube及ChatGPT存在语言偏差现象，即不同语言搜索同一复杂话题会返回差异化的文化主导观点，形成无形文化壁垒，同时分析了该偏差的证据与社会影响。
2024-03-08 cs.AI cs.CL cs.CY
Investigating Masking-based Data Generation in Language Models
本文探究了基于掩码语言模型（MLM）的数据增强方法在自然语言处理下游任务中的更广泛应用，指出该技术能简单高效地提升模型性能。
2023-06-16 cs.AI cs.CL
What Changed? Investigating Debiasing Methods using Causal Mediation Analysis
University of Illinois-Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
以往的工作已经研究了去偏语言模型如何影响下游任务，具体来说，去偏技术如何影响任务绩效，以及去偏模型是否也在下游任务中做出公正的预测。然而，我们还没有很好地理解的是，为什么去偏置方法对下游任务有不同的影响，以及去偏置技术如何影响语言模型的内部组件，即，神经元层和注意力在本文中，我们分解的内部机制，去偏置语言模型相对于性别的因果中介分析理解的影响，去偏置方法的毒性检测作为一个下游任务。我们的研究结果表明，需要测试不同偏差度量的去偏方法的有效性，并关注模型某些组件的行为变化，例如，前两层语言模型和注意力头。
2022-06-01 cs.AI cs.CL
Investigating the Capabilities and Limitations of Machine Learning for Identifying Bias in English Language Data with Information and Heritage Professionals
University of Edinburgh（爱丁堡大学）；Inria Bordeaux（波尔多信息与自动化研究院）
本文重新构建 ML 偏见问题，通过创建模型识别英语数据中的偏见而非消除它，并与信息与遗产专业人员合作评估，揭示了 ML 识别偏见的局限性，提出扩展 ML 公平性方法的混合研究路径。
2025-04-01 cs.AI cs.CL cs.CY
Online Operator Design in Evolutionary Optimization for Flexible Job Shop Scheduling via Large Language Models
School of Computer Science, Guangdong University of Technology（广东工业大学计算机科学学院）；Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系）
本文通过大语言模型实现进化优化中的在线运算符设计，提升EAs的效率和适应性。
2026-01-22 cs.AI cs.NE
gComm: An environment for investigating generalization in Grounded Language Acquisition
Indian Institute of Science（印度科学学院）
gComm是朝着开发一个强大的平台迈出的一步，以促进在更具挑战性和现实的环境中进行接地语言习得的研究。它包括一个2-d网格环境，一组代理（通过通信信道连接的固定扬声器和移动侦听器）暴露在部分可观察设置中的连续任务阵列中。解决这些任务的关键在于智能体开发语言能力，并利用它们来有效地探索环境。说话者和收听者可以访问以不同模态提供的信息，即，说话者的输入是包含目标和任务规范的自然语言指令，而收听者的输入是其网格视图。每个人都必须依靠对方来完成分配的任务，然而，他们可以实现相同目标的唯一方法是开发和使用某种形式的通信。gComm提供了几种工具，用于研究不同形式的通信并评估其泛化。
2021-05-16 cs.AI cs.CL
Adapting to the Low-Resource Double-Bind: Investigating Low-Compute Methods on Low-Resource African Languages
Lelapa AI（莱拉帕人工智能公司）；Luleå University of Technology（吕勒奥理工大学）；Lanfrica（兰弗里卡）；Instituto Politécnico Nacional（墨西哥国立理工学院）；USC Information Sciences Institute（南加州大学信息科学研究所）；University of California, Davis（加州大学戴维斯分校）；New Mexico State University（新墨西哥州立大学）；Technical University of Munich（慕尼黑工业大学）；University of Porto（波尔图大学）；ML Collective（机器学习集体）；University of Toronto（多伦多大学）；University of Dayton（代顿大学）；McGill University（麦吉尔大学）；Mila Quebec AI Institute（米拉魁北克人工智能研究所）
许多自然语言处理（NLP）任务使用大量预先训练的语言模型，这在计算上是昂贵的。然而，获得高计算资源增加了非洲语言数据稀缺的问题，构成了对这些语言的研究实验的真正障碍。在这项工作中，我们探讨了低计算方法的适用性，如语言适配器在这种低资源的双重绑定的上下文中。我们打算回答以下问题：语言适配器是否允许那些受数据和计算双重约束的人实际构建有用的模型？通过对非洲语言的微调实验，我们评估了它们作为低资源非洲NLP的成本效益方法的有效性。仅使用免费的计算资源，我们的研究结果表明，语言适配器实现了相当的性能，大量的预训练语言模型，这是沉重的计算资源。这为进一步试验和探索语言适配器的全部功能打开了大门。
2023-03-29 cs.AI cs.CL
