Extended pipeline for content-based feature engineering in music genre recognition
RWTH Aachen University(亚琛工业大学);University of Florence(佛罗伦萨大学)
我们提出了一个特征工程管道的音乐信号特征的建设,用于设计一个监督模型的音乐流派识别。其关键思想是扩展传统的两步提取和分类过程,添加独立的阶段,不再组织在瀑布方案。整个系统是通过遍历各个阶段之间的回溯箭头和循环来实现的。为了给一个紧凑和有效的表示的功能,标准的早期时间整合与其他选择和提取阶段相结合:一方面,选择最有意义的特征的基础上的信息增益,另一方面,包括这个子集的功能,由自动编码器确定的非线性相关性。在GTZAN数据集上进行的实验结果表明,这种方法对模型在分类任务中的性能有明显的贡献。
2018-05-12 cs.LG cs.SD eess.AS
LlamaDuo: LLMOps Pipeline for Seamless Migration from Service LLMs to Small-Scale Local LLMs
Electronics and Telecommunications Research Institute(电子电信研究院);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);Hugging Face
提出LLMOps流水线LlamaDuo,通过服务LLM生成的合成数据集多轮微调小规模本地模型,实现从云端服务LLM到本地小模型的知识与能力无缝迁移,确保在隐私或离线等受限环境下的服务连续性。
2025-05-30 cs.AI cs.DC cs.LG
Multi-level Diagnosis and Evaluation for Robust Tabular Feature Engineering with Large Language Models
Computer Science and Engineering Korea University(计算机科学与工程韩国大学)
提出多层次诊断与评估框架,从关键变量、关系和决策边界值三方面考察LLM表格特征工程的鲁棒性,发现其跨数据集差异显著,高质量特征可将少样本预测提升最高10.52%。
2025-09-20 cs.AI cs.LG
Can LLMs Replace Manual Annotation of Software Engineering Artifacts?
University of California, Davis(加州大学戴维斯分校);IBM Research(IBM研究院);Singapore Management University(新加坡管理大学);University of Stuttgart(斯图加特大学)
本文研究用大语言模型替代软件工程评估中昂贵的人类标注,通过在多个标注任务上验证LLM与人类评分者一致性接近,并提出模型间一致性和置信度作为选择依据,为混合评估奠定基础。
2025-02-04 cs.HC cs.LG cs.SE
On-Premise SLMs vs. Commercial LLMs: Prompt Engineering and Incident Classification in SOCs and CSIRTs
AI Horizon Labs, Federal University of Pampa (UNIPAMPA)(AI Horizon实验室,帕尔马联邦大学);Max Planck Institute for Informatics (MPI)(信息研究所马克斯·普朗克研究院)
本研究对比本地部署开源小模型与商用专有大模型的安全事件分类性能,基于真实匿名事件数据集测试五种提示工程技术效果,验证开源模型在隐私、成本与数据主权上的优势。
2025-11-18 cs.AI cs.CR cs.LG
Introducing HALC: A general pipeline for the systematic and reliable construction of prompts for automated coding with LLMs in the computational social sciences
提出HALC通用流程,系统构建提示词以实现LLM可靠编码,经超三百万次请求验证,适用于多种任务与数据集。
2026-09-09 cs.AI cs.CL cs.LG
Physics-Informed Causal MDPs for Sequential Constraint Repair in Engineering Simulation Pipelines
Beijing JiaoTong University(北京交通大学)
本文提出PI-CMDP框架,通过因果识别、压缩和估计三步流程,在工程仿真流水线中实现高效的约束修复,提升修复成功率并减少故障率。
2026-04-20 cs.AI cs.LG
Governing Cloud Data Pipelines with Agentic AI
IEEE Senior Member, USA(IEEE高级会员,美国);Independent Researcher, USA(独立研究者,美国);Albertsons, USA(Albertsons公司,美国);Amtrak, USA(Amtrak公司,美国);Cato, USA(Cato公司,美国)
本文提出Agentic Cloud Data Engineering,通过智能体AI实现云数据管道的治理,显著提升恢复效率、降低成本并减少人工干预。
2025-12-24 cs.DC cs.LG
LLMs in Coding and their Impact on the Commercial Software Engineering Landscape
School of Engineering, Computing, \& the Built Environment Edinburgh Napier University, Scotland WWW home page: https://www.napier.ac.uk
本文探讨LLM编码工具在商业软件工程中的主流化及其风险,提出标记审查、私有部署、合规和谄媚测试等策略,以平衡速度与安全准确性。
2025-06-19 cs.AI cs.LG cs.SE
MedFeat: Model-Aware and Explainability-Driven Feature Engineering with LLMs for Tabular Prediction
Microsoft Research(微软研究院);University of Oxford(牛津大学)
提出MedFeat框架,利用模型感知和特征重要性信号迭代引导LLM生成针对性特征,在临床表格预测中平均提升超10%。
2026-10-02 cs.AI cs.LG
Adversarial Suffix Filtering: a Defense Pipeline for LLMs
Department of Computer Science and Technology(计算机科学与技术系)
本文提出轻量、模型无关的 ASF 输入预处理流水线,通过检测并过滤对抗性后缀,在黑盒与白盒设置下将先进攻击成功率降至 4% 以下,且基本不影响正常能力。
2025-05-14 cs.CR cs.LG
Optimization through In-Context Learning and Iterative LLM Prompting for Nuclear Engineering Design Problems
Blue Wave AI Labs(蓝波人工智能实验室);Purdue University(普渡大学)
本研究提出利用大型语言模型通过迭代提示进行优化,应用于核工程中的沸水反应堆燃料栅格设计,无需调参,且能超越传统元启发式方法。
2025-03-25 cs.LG physics.comp-ph
SWE-Lancer: Can Frontier LLMs Earn $1 Million from Real-World Freelance Software Engineering?
OpenAI
本文推出 SWE-Lancer 基准,包含 1,400 多项总价值 100 万美元的真实自由软件工程任务,涵盖独立工程与管理决策,评估发现前沿 LLM 仍无法解决多数任务,并开源了评估工具以促进 AI 经济影响研究。
2025-05-29 cs.LG cs.SE
Tracing the Heart: An Evidence-Linked Pipeline for Heart-Failure Feature Engineering
Nimblemind(宁敏德(音译));Singapore University of Technology and Design(新加坡科技设计大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Florida International University(佛罗里达国际大学);University of California Los Angeles(加利福尼亚大学洛杉矶分校);Rutgers University Newark(罗格斯大学纽瓦克分校);Rutgers Institute for Health Health Care Policy and Aging Research(罗格斯大学健康、医疗保健政策与老龄化研究所);Robert Wood Johnson Medical School(罗伯特·伍德·约翰逊医学院);Rutgers Health(罗格斯医疗)
该研究针对心力衰竭EHR特征工程瓶颈,开发了nMAS管道,经500条虚拟记录验证,可提升HFrEF和HFpEF表型分析的AUROC,为自动化可审核特征工程提供了可行方案。
2026-08-07 cs.AI cs.LG
Combating Toxic Language: A Review of LLM-Based Strategies for Software Engineering
本文综述了基于大语言模型的软件工程中对抗有毒语言的策略,评估了检测、预处理和缓解方法,并通过实验验证了LLM重写在减少毒性中的有效性。
2026-01-20 cs.LG cs.SE
A Theoretical Framework for Prompt Engineering: Approximating Smooth Functions with Transformer Prompts
Rutgers University(罗格斯大学);Stanford University(斯坦福大学);Harvard University(哈佛大学)
本文提出一个理论框架,证明Transformer在精心设计的提示下可模拟虚拟神经网络,从而以任意精度逼近光滑函数,并为多种提示工程技术提供理论依据,凸显LLMs作为智能体的潜力。
2025-03-26 cs.LG stat.ML
Large Language Models Engineer Too Many Simple Features For Tabular Data
University of Freiburg(弗赖堡大学);ELLIS Institute Tübingen(图宾根ELLIS研究所)
本文发现LLMs在表格数据特征工程中偏向加法等简单算子而忽略复杂算子,提出通过检测算子频率异常来发现偏见,并在27个数据集上验证该偏见会损害预测性能,呼吁采取缓解措施。
2025-07-15 cs.AI cs.LG
SkipPipe: Partial and Reordered Pipelining Framework for Training LLMs in Heterogeneous Networks
University of Neuchatel(纳沙泰尔大学);TU Delft(代尔夫特理工大学)
针对异构网络中的LLM训练,提出SkipPipe部分流水线框架,通过阶段跳过与路径调度减少训练时间,保持收敛,实验显示迭代时间最多降低55%。
2025-02-27 cs.DC cs.LG
Towards Full Pipeline FP8 Reinforcement Learning for LLMs
University of Wisconsin Madison(威斯康星大学麦迪逊分校)
针对全流水线FP8强化学习训练不稳定性问题,提出校准裁剪动态方法对齐FP8裁剪边界与BF16分布,消除熵激增并恢复性能。
2026-09-22 cs.AI cs.LG
ML Engineering Agents - A Data Management Perspective
TU Berlin(柏林工业大学)
本教程介绍MLE智能体的基础,结合程序合成与迭代优化,指出其在数据管理等方面的开放挑战,强调数据库社区的研究机遇并附实践环节。
2026-10-14 cs.DB cs.LG cs.SE
Be Fair! Can Machine Learning Engineering Agents Adhere to Fairness Constraints?
BIFOLD & TU Berlin(BIFOLD与柏林技术大学);New York University(纽约大学)
本文研究机器学习工程代理在自动化ML管道开发中能否满足公平性约束,通过黑色素瘤分类实验发现代理生成的管道在预测质量和公平性上均低于人工基线。
2026-06-03 cs.DB cs.LG
Enhancing Pipeline-Based Conversational Agents with Large Language Models
Accenture GmbH(埃森哲有限责任公司);University of Bremen(不来梅大学);Lloyds Banking Group(劳埃德银行集团)
本文研究在设计和运营阶段利用LLM增强基于流水线的对话智能体,提出混合方法以兼顾LLM能力与现有系统隐私及集成保障。
2023-09-07 cs.AI cs.CL cs.LG
Harnessing Multi-Agent LLMs for Complex Engineering Problem-Solving: A Framework for Senior Design Projects
Information Technology University(信息技术大学);Zayed University(扎耶德大学);University of Oxford(牛津大学);Qatar University(卡塔尔大学)
本文提出一个多智能体大语言模型框架,通过不同专家视角的LLM智能体协同、协商与提示工程模拟人类工程团队,以支持工程专业学生的高年级设计项目并提升复杂问题解决能力。
2025-01-02 cs.AI cs.CL cs.LG
Investigating Bias: A Multilingual Pipeline for Generating, Solving, and Evaluating Math Problems with LLMs
HTW Berlin University of Applied Sciences(柏林应用科学大学)
本文提出多语言流水线生成、解决和评估数学问题,发现英语解决方案质量优于阿拉伯语,揭示语言偏差问题。
2025-12-03 cs.AI cs.CL cs.LG
ProteinEngine: Empower LLM with Domain Knowledge for Protein Engineering
Johns Hopkins University(约翰斯·霍普金斯大学);Shanghai Jiao Tong University(上海交通大学);Macquarie University(麦考瑞大学)
针对大语言模型缺乏专业知识难以应用于蛋白质工程的问题,提出以人为中心的平台ProteinEngine,通过API集成工具并为LLM分配三类角色,经用户研究验证可提升相关任务中深度学习的可靠性与精准性。
2024-04-21 cs.AI cs.LG q-bio.BM
Multilingual Prompt Engineering in Large Language Models: A Survey Across NLP Tasks
New York University, CIMS(纽约大学);Cleveland State University(克利夫兰州立大学)
本文综述多语言提示工程,按任务分类39种提示技术,分析覆盖约250种语言的36篇论文及30项NLP任务,并总结LLM、SoTA方法与跨语系资源差异。
2025-05-16 cs.AI cs.CL cs.LG
Pipeline Analysis for Developing Instruct LLMs in Low-Resource Languages: A Case Study on Basque
Orai NLP Technologies(奥赖自然语言处理技术公司)
本文分析了在低资源语言巴斯克语下开发指令LLM的流水线,通过持续预训练、指令微调与人类偏好对齐,使模型NLU提升12分、指令遵循提升24分,并在100亿参数以下类别中达到SOTA。
2024-12-18 cs.AI cs.CL cs.LG
Leveraging Large Language Models with Chain-of-Thought and Prompt Engineering for Traffic Crash Severity Analysis and Inference
College of Engineering(工程学院);University of Georgia(佐治亚大学)
本文将事故严重程度推断建模为分类任务,利用模板叙述、CoT 与领域提示工程评估 GPT-3.5-turbo 及 LLaMA3 模型,证明 LLaMA3-70B 与 CoT 提示可显著提升推理性能。
2024-08-04 cs.AI cs.CL cs.LG
Position Engineering: Boosting Large Language Models through Positional Information Manipulation
Microsoft Research(微软研究院)
本文提出位置工程方法,仅通过调整提示中的位置信息而非修改文本来引导大语言模型,并在RAG和ICL场景中验证其显著优于基线。
2024-10-22 cs.AI cs.CL cs.LG
Agentic Data Engineering for LLMs: System Design and a Controlled Empirical Study
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Alibaba Group(阿里巴巴集团);Peking University(北京大学)
该研究提出智能体数据工程(ADE)框架,让智能体利用实验反馈开发数据工程策略,在四项任务中较通用基线实现最高13.34%的绝对提升,验证了AI4AI在LLM数据工程中的有效性。
2026-10-14 cs.AI cs.CL cs.LG
UniCrop: A Universal, Multi-Source Data Engineering Pipeline for Scalable Crop Yield Prediction
Cardiff University, School of Mathematics, CF24 4AG UK.;Cardiff University, School of Computer Science \& Informatics, CF24 4AG UK
UniCrop通过自动化多源环境数据处理,提供了一种通用的数据工程框架,用于提高作物产量预测的可扩展性和准确性。
2026-01-04 cs.AI cs.LG eess.IV
Evaluating Prompt Engineering Techniques for Accuracy and Confidence Elicitation in Medical LLMs
Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院);Ontario Tech University(安大略理工大学);Iran University of Medical Sciences(伊朗医科大学)
本文评估了156种提示工程配置对5个医疗LLM的准确性与置信度获取的影响,发现Chain-of-Thought虽提升准确性但易致过度自信,表明高风险医疗任务需同时关注准确性与不确定性校准。
2025-05-29 cs.AI cs.CL cs.CY
The Meta-Prompting Protocol: Orchestrating LLMs via Adversarial Feedback Loops
Zhejiang University(浙江大学)
元提示协议通过对抗反馈循环构建可编程自优化系统,解决LLM在关键任务中的确定性保证问题。
2025-12-17 cs.AI cs.CL cs.LG
Wordflow: Social Prompt Engineering for Large Language Models
Georgia Tech(佐治亚理工学院)
针对非专业人士难以开展提示工程的问题,研究提出社会化提示工程范式,并开发开源社会化文本编辑器Wordflow,支持普通用户协作设计、分享提示词及本地私密运行大语言模型,助力提升非专业用户与大语言模型的交互体验。
2024-01-25 cs.AI cs.CL cs.HC
Beyond Prompt Engineering: Robust Behavior Control in LLMs via Steering Target Atoms
Zhejiang University(浙江大学);Tencent(腾讯);National University of Singapore(新加坡国立大学);NUS-NCS Joint Lab(新加坡国立大学NCS联合实验室)
本文提出引导目标原子(STA)方法,通过隔离和操纵解耦知识组件实现大语言模型的精确行为控制,实验证明其在对抗场景下具有更强的鲁棒性和灵活性,并成功应用于大型推理模型的精确推理控制。
2025-06-03 cs.AI cs.CL cs.CV