SwissNYF: Tool Grounded LLM Agents for Black Box Setting
IIT (BHU)（印度理工学院（瓦拉纳西））
针对不可逆API等黑盒环境下的工具规划难题，提出利用LLM程序合成能力的TOPGUN方法及配套的SwissNYF套件，确保方案在实施前得到验证，提升复杂API交互的有效性。
2024-02-15 cs.AI cs.CL
OTTER: A Red-Teaming System for Toxicity-Evading Jailbreak Prompt Optimization
National Chengchi University, Taipei, Taiwan（国立中正大学，台北，台湾）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出OTTER系统，通过替换少量令牌解耦表面毒性与对抗意图，在四个GPT模型上将平均攻击成功率从7.0%提升至84.0%，并首次量化分析毒性-绕过关系。
2026-06-23 cs.CL cs.CR
A Comparative Benchmark of a Moroccan Darija Toxicity Detection Model (Typica.ai) and Major LLM-Based Moderation APIs (OpenAI, Mistral, Anthropic)
CRIA (Centre de Recherche en Intelligence Artificielle)（CRIA（人工智能研究中心））；Université du Québec à Montréal (UQAM)（蒙特利尔魁北克大学）
本文对Typica.ai的摩洛哥达里贾语毒性检测模型与OpenAI、Mistral、Anthropic三家主流LLM审核API进行对比基准测试，发现Typica.ai在文化特定有害内容检测上表现更优，证明文化适应模型对低资源语言内容审核的重要性。
2025-05-05 cs.CL
SGM: Safety Glasses for Multimodal Large Language Models via Neuron-Level Detoxification
The University of Tokyo（东京大学）；National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学（SOKENDAI））
SGM通过神经层面的净化技术，有效降低多模态大语言模型的毒性，同时保持生成流畅性和推理能力。
2026-09-01 cs.AI cs.CL
ToxSearch: Evolving Prompts for Toxicity Search in Large Language Models
Rochester Institute of Technology（罗切斯特技术研究所）
提出ToxSearch，一种黑盒演化框架，通过同步稳态循环演化提示来测试大型语言模型的安全性，并分析不同操作符的行为及跨模型迁移性。
2026-01-24 cs.AI cs.CL cs.NE
Toxicity in ChatGPT: Analyzing Persona-assigned Language Models
Princeton University（普林斯顿大学）；The Allen Institute for AI（艾伦人工智能研究所）；Georgia Tech（佐治亚理工学院）
本文系统评估了ChatGPT超五十万次生成内容，发现分配特定人设会使其毒性最高增加6倍，并揭示模型对特定实体存在固有歧视性偏见，呼吁改进AI安全机制。
2023-04-11 cs.AI cs.CL cs.LG
Towards Inclusive Toxic Content Moderation: Addressing Vulnerabilities to Adversarial Attacks in Toxicity Classifiers Tackling LLM-generated Content
Center for Data Science, New York University（纽约大学数据科学中心）；Queen Mary University of London（伦敦大学女王学院）
针对LLM生成内容的有害性分类器易受对抗攻击的问题，提出基于机制可解释性的方法识别并抑制脆弱电路，提升模型鲁棒性并揭示人口统计学层面的公平性差距。
2026-09-29 cs.CL
Black-Box Inference of LLM Architectural Properties with Restrictive API Access
Carnegie Mellon University（卡内基梅隆大学）；Pittsburgh Supercomputing Center（匹兹堡超级计算中心）
针对当前商业LLM API仅返回单logit且禁止logit偏置的限制，提出NightVision方法，通过新型公共集提示技术和首令牌时间测量，估计隐藏维度、深度和参数数量，在32个开源模型上验证了可行性。
2026-07-03 cs.AI cs.CL cs.CR
Fine-Tuning Pre-trained Language Models to Detect In-Game Trash Talks
Graduate School, Polytechnic University of the Philippines（菲律宾理工大学研究生院）；School of Engineering, Computer and Library Studies, Holy Cross College, Philippines（菲律宾圣十字学院工程、计算机与图书馆研究学院）；University of the East, Caloocan, Metro Manila, Philippines（菲律宾马尼拉大都会卡洛奥坎东方大学）
本研究利用DOTA 2游戏聊天数据微调BERT和GPT-3等预训练语言模型，有效检测游戏内的恶劣言论与垃圾话，验证了其在应对在线仇恨言论方面的潜力。
2024-03-19 cs.CL cs.LG
AlienLM: Alienization of Language for API-Boundary Privacy in Black-Box LLMs
提出AlienLM，通过词汇级双射将文本转化为异化语言，在仅使用API的情况下减少明文暴露，平均保留81%以上的性能，且恢复攻击成功率低于0.22%。
2026-07-03 cs.CL cs.CR
TrojLLM: A Black-box Trojan Prompt Attack on Large Language Models
University of Central Florida（中佛罗里达大学）；Indiana University Bloomington（印第安纳大学布卢明顿分校）；Samsung Research America（三星美国研究院）
本文提出TrojLLM黑盒框架，通过触发器发现和渐进式木马投毒算法生成通用隐蔽触发器及可迁移投毒提示，实现对GPT-3.5/GPT-4等LLM API的恶意操纵并揭示安全风险。
2023-10-31 cs.AI cs.CL cs.CR
Estimating the Black-box LLM Uncertainty with Distribution-Aligned Adversarial Distillation
School of Computer Science and Technology, Tianjin University, China（天津大学计算机科学与技术学院）；School of Future Technology, Tianjin University, China（天津大学未来技术学院）；Georgia Tech Shenzhen Institute, Tianjin University, China（Georgia Tech深圳研究院）；School of Artificial Intelligence, Tianjin University, China（天津大学人工智能学院）
本文提出DisAAD方法，通过生成-判别架构引导轻量级代理模型学习黑盒LLM的输出分布高质量区域，从而有效估计其不确定性。实验表明，即使代理模型仅占目标LLM大小的1%，也能实现可靠的不确定性量化。
2026-05-07 cs.CL
CrossTune: Black-Box Few-Shot Classification with Label Enhancement
National University of Singapore（新加坡国立大学）；The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳））
提出CrossTune，一种无需提示搜索的黑盒少样本分类方法，通过标签增强交叉注意力网络建模文本与标签描述语义相关性，利用ChatGPT生成数据并切换机制过滤，在七个基准上平均提升5.7%。
2024-03-19 cs.CL
PRCA: Fitting Black-Box Large Language Models for Retrieval Question Answering via Pluggable Reward-Driven Contextual Adapter
Ping An Technology (Shenzhen) Co., Ltd., China（平安科技（深圳）有限公司）；New York University（纽约大学）；University of Maryland（马里兰大学）
本文提出可插拔奖励驱动上下文适配器PRCA，以黑盒方式将大语言模型适配到检索式问答框架中，通过强化学习精炼检索信息，在三个数据集上实现最高20%的性能提升。
2023-10-23 cs.CL
MiniLLM: On-Policy Distillation of Large Language Models
The CoAI Group, Tsinghua University（清华大学CoAI小组）；Microsoft Research（微软研究院）
MiniLLM通过反向KLD和在线策略优化，实现了对大语言模型的有效蒸馏，提升小型模型的生成质量和校准性能。
2026-01-31 cs.AI cs.CL
Predicting the Performance of Black-box LLMs through Follow-up Queries
Carnegie Mellon University（卡内基梅隆大学）
本文通过后续查询预测黑盒大语言模型性能，利用响应概率训练可靠预测器，有效区分模型正确性及对抗性影响。
2025-11-29 cs.CL cs.LG
Beyond Indistinguishability: Measuring Extraction Risk in LLM APIs
Emory University（埃默里大学）；University of Virginia（弗吉尼亚大学）
本文提出$(l, b)$-不可提取性作为衡量LLM API提取风险的新标准，通过定义提取风险上界并实验证明其在不同模型中的有效性，为模型训练、API访问和解码配置提供缓解指南。
2026-04-20 cs.CL cs.CR cs.LG
DYNASHIELD: A Black-Box Moving Target Defense for LLMs via Dynamic Decoding Customization
Michigan State University（密歇根州立大学）
DYNASHIELD是一种无需访问模型内部或重新训练的黑盒LLM防御框架，通过动态定制解码配置降低了4种越狱攻击的成功率，同时保持响应质量且开销极小。
2026-10-28 cs.CL cs.CR
Student Surpasses Teacher: Imitation Attack for Black-Box NLP APIs
The University of Melbourne（墨尔本大学）；Monash University（莫纳什大学）；Sony AI（索尼人工智能）；ANU（澳大利亚国立大学）；Data61 CSIRO（联邦科学与工业研究组织数据61研究所）
机器学习即服务（MLaaS）已经吸引了数百万用户使用其出色的大规模模型。尽管这些服务以黑盒API的形式发布，但其背后的宝贵模型仍然容易受到模仿攻击。最近，一系列的工作表明，攻击者设法窃取或提取受害者的模型。尽管如此，以前被盗的模型都无法超越原始的黑盒API。在这项工作中，我们进行无监督的领域自适应和多受害者集成，以显示攻击者可能会超过受害者，这是超越以前的理解模型提取。在基准数据集和真实世界的API上进行的大量实验验证了模仿者可以成功地在传输域上超越原始黑盒模型。我们认为我们的工作是模仿攻击研究的一个里程碑，特别是在NLP API上，因为卓越的性能可能会影响API提供商的防御甚至发布策略。
2022-09-04 cs.CL cs.CR cs.LG
Merlin's Whisper: Enabling Efficient Reasoning in Large Language Models via Black-box Persuasive Prompting
Department of Computing, The Hong Kong Polytechnic University（香港理工大学计算机系）；Sea AI Lab（Sea AI实验室）；Peking University（北京大学）
本文提出Whisper框架，通过黑盒说服提示减少大语言模型（LRM）的推理过程中的token使用量，同时保持性能，展示了在多个基准测试中显著的token减少效果。
2026-05-17 cs.CL cs.LG
PAL: Proxy-Guided Black-Box Attack on Large Language Models
UC Berkeley（加州大学伯克利分校）；New York University（纽约大学）
本文提出PAL，首个在纯黑盒查询设置下基于优化的LLM攻击方法，利用代理模型和专为现实API设计的损失函数，在GPT-3.5-Turbo上实现84%攻击成功率，并提出了GCG++和RAL基线，助力LLM安全测试。
2024-02-15 cs.AI cs.CL cs.CR
Hierarchical Text Classification Using Black Box Large Language Models
Kyoto University, Kyoto, Japan（京都大学）；Anonymous Institute（匿名机构）
本研究探索使用黑盒大型语言模型进行层次文本分类，比较三种提示策略在零样本和少样本下的效果，发现少样本提升准确性，且DH策略在深层层次上优于传统模型，但成本更高。
2025-08-06 cs.CL cs.LG
PSM: Prompt Sensitivity Minimization via LLM-Guided Black-Box Optimization
本文提出PSM框架，通过LLM引导的黑盒优化，利用SHIELD层减少系统提示泄露，提升LLM安全性和隐私保护。
2026-02-01 cs.CL cs.CR
BEACON: Behavioral Entropy Aggregation for Cross-Model Hallucination Detection in Large Language Models
LLM Lens
提出BEACON框架，通过多维度行为特征（语义熵、嵌入几何、思维链一致性、释义稳定性）的黑盒检测方法，在7个基准上达到0.8123 AUROC，优于现有方法。
2026-04-20 cs.AI cs.CL cs.LG
Mondrian: Prompt Abstraction Attack Against Large Language Models for Cheaper API Pricing
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
本文提出 Mondrian 提示抽象攻击，通过伪 API 代理并抽象用户查询，在保持模型效用和输出质量的同时将 token 长度减少 13%–23%，从而降低 LLM API 使用成本并实现非法获利。
2023-08-07 cs.CL cs.CR
Token Counts Are Not Model Lineage: A Frozen-Threshold Holdout Study of Black-Box LLM API Fingerprinting
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
本研究通过24对端点的冻结阈值保留实验，验证了Token计数一致性可作为共享分词栈的指纹，但否定其作为模型家族谱系独立必要测试的用途。
2026-09-01 cs.CL
Revisiting Text Ranking in Deep Research
The University of Edinburgh（爱丁堡大学）；University of Glasgow（格拉斯哥大学）
本文通过复现实验，从检索单元、流水线配置和查询特性三个角度评估文本排序方法在深度研究中的有效性，并提出Q2Q方法缓解查询不匹配问题。
2026-06-23 cs.AI cs.CL cs.IR
$k$NNProxy: Efficient Training-Free Proxy Alignment for Black-Box Zero-Shot LLM-Generated Text Detection
School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院）
本文提出$ k $NNProxy方法，利用$ k $NN语言模型检索机制作为领域适配器，实现无训练的代理对齐，提升黑盒零样本LLM生成文本检测的鲁棒性与效率。
2026-04-02 cs.CL
Exploiting Novel GPT-4 APIs
FAR AI；McGill University（麦吉尔大学）；MILA（MILA（魁北克人工智能研究所））；Jagiellonian University（雅盖隆大学）
本文对 GPT-4 API 的微调、函数调用和知识检索功能开展红队测试，揭示少量数据微调、任意函数调用及文档指令注入等新型灰盒攻击风险。
2024-08-04 cs.AI cs.CL cs.CR
Nautilus Compass: Black-box Persona Drift Detection for Production LLM Agents
Yiluo Technology Co., Ltd.（亿洛科技有限公司）
Nautilus Compass通过提示文本层的余弦相似度检测生产编码代理的人格漂移，无需调用LLM提取事实，实现高效且低成本的代理记忆层。
2026-05-11 cs.AI cs.CL cs.CR
Can LLMs Express Their Uncertainty? An Empirical Evaluation of Confidence Elicitation in LLMs
National University of Singapore（新加坡国立大学）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；The Hong Kong University of Science and Technology（香港科技大学）
本研究提出一个系统框架，通过提示策略、采样方法和聚合技术，在黑盒LLM中引导置信度，并在多个数据集和模型上评估，发现LLM过度自信，但所提策略可缓解，且与白盒方法差距小。
2024-03-17 cs.CL
Real-Time Trustworthiness Scoring for LLM Structured Outputs and Data Extraction
Cleanlab
本文提出CONSTRUCT，一种实时评估LLM结构化输出可信度的方法，通过评分帮助优先处理人类审核，支持复杂结构化输出，无需标注数据或定制模型部署。
2026-03-31 cs.CL cs.LG
Black-box Model Ensembling for Textual and Visual Question Answering via Information Fusion
Faculty of Computer Science, University of Vienna（维也纳大学计算机科学学院）；UniVie Doctoral School Computer Science, University of Vienna（维也纳大学UniVie计算机科学博士学院）；Department of Computer Science, Aarhus University（奥胡斯大学计算机科学系）；Faculty of Philological and Cultural Studies, University of Vienna（维也纳大学语文与文化研究学院）
本文提出InfoSel，一种数据高效的黑盒模型集成方法，通过信息融合动态选择最优模型，在文本和视觉问答任务上仅用1K训练数据即可提升F1分数最高达5.19%。
2024-12-17 cs.AI cs.CL
Lost in Moderation: How Commercial Content Moderation APIs Over- and Under-Moderate Group-Targeted Hate Speech and Linguistic Variations
TU Berlin（柏林工业大学）；Weizenbaum Institute for the Networked Society（魏岑鲍姆网络社会研究所）；Hertie School（赫蒂学院）；Center for Advanced Internet Studies (CAIS) gGmbH（高级互联网研究中心有限公司）；University of Wuppertal（伍珀塔尔大学）
本文提出审计黑盒NLP系统的框架，评估五种商业内容审核API，发现其过度审核合法言论且对隐性仇恨言论审核不足，建议提供商改进指导与透明度。
2025-03-03 cs.CL cs.HC
Explaining Black-Box Language Models: Learning to Optimize Linguistically-Structured Word Subsets
Korea University（高丽大学）
针对黑盒语言模型解释的三个关键需求（推理效率、黑盒兼容性、语言结构可解释性），提出一种通过强化学习选择信息性单词子集的方法，实现高效、无梯度且语言连贯的解释。
2026-06-07 cs.AI cs.CL
BSPA: Exploring Black-box Stealthy Prompt Attacks against Image Generators
Tsinghua University（清华大学）；RealAI；University of Chinese Academy of Sciences（中国科学院大学）
本文提出黑盒隐蔽提示攻击方法 BSPA，利用检索器模拟 API 用户并借助过滤器分数调整敏感词检索空间，无需访问模型内部即可生成隐蔽攻击提示，并构建 NSFWeval 数据集验证其对主流图像生成器的攻击效果与防御建议。
2024-02-23 cs.CL cs.CR cs.CV
Learned Hallucination Detection in Black-Box LLMs using Token-level Entropy Production Rate
Artefact Research Center（艺术研究中心）
本文提出一种基于令牌级熵产率的学习方法，用于在黑盒LLM中高效检测幻觉，通过单次生成过程提升问答系统响应的可信度。
2026-01-20 cs.AI cs.CL
Enhancing Black-Box Few-Shot Text Classification with Prompt-Based Data Augmentation
National University of Singapore（新加坡国立大学）；Institute of Infocomm Research (I2R), A*STAR（新加坡科技研究局资讯通信研究院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Kriston AI Lab（Kriston人工智能实验室）
本文提出BT-Classifier，在无法获取LLMs梯度的情况下，利用小模型基于提示的数据增强生成训练数据，将黑盒模型作为特征提取器训练分类器，显著优于现有黑盒少样本方法且媲美全模型微调。
2023-10-20 cs.CL
$k$NN-Adapter: Efficient Domain Adaptation for Black-Box Language Models
Princeton University（普林斯顿大学）；University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
在新领域上微调语言模型是领域自适应的标准实践。然而，当涉及到现代大规模语言模型（如GPT-3）时，它可能是不可行的，因为它只能通过API访问，因此很难访问模型的内部参数。在本文中，我们提出了$k$ NN适配器，一种方法，有效地适应这些黑盒大语言模型（LLM）到一个新的领域。$k$ NN适配器建立在检索增强的语言模型之上，并自适应地学习用来自由目标域数据组成的查询的检索结果来内插语言模型的输出。我们在四个不同领域的实验表明，$k$ NN适配器显着改善困惑，并在有限的LLM访问设置特别好。此外，我们表明，$k$ NN适配器是更有效的比微调时，训练数据的量是有限的。我们还发布了一个数据集，以鼓励进一步的研究。
2023-02-21 cs.CL
HQA-Attack: Toward High Quality Black-Box Hard-Label Adversarial Attack on Text
Dalian University of Technology（大连理工大学）；Peking University（北京大学）；The Pennsylvania State University（宾夕法尼亚州立大学）；Zhejiang Lab（之江实验室）
提出HQA-Attack框架，通过替换回原始词和同义词优化，在黑盒硬标签场景下生成高语义相似度、低扰动率的文本对抗样本，显著优于现有方法。
2024-02-02 cs.AI cs.CL
CombLM: Adapting Black-Box Language Models through Small Fine-Tuned Models
HiTZ Center, University of the Basque Country (UPV/EHU)（HiTZ中心，巴斯克大学（UPV/EHU））；Reka AI（Reka人工智能公司）
本文提出 CombLM 方法，通过微调小型白盒语言模型并在概率层面与大型黑盒语言模型结合，以极低计算成本实现领域适配，在多个任务上最高提升 9%。
2023-05-23 cs.CL
From Tokens to Semantics: Leveraging Complementary Signals for Hallucination Detection in Black-Box LLMs
BNY（纽约梅隆银行）
该研究针对黑盒大语言模型的幻觉检测问题，提出 TopK、CoCoA、Gated、Stacked 等方法，结合语义熵与 token 不确定性信号，在七个基准上开展评估，为不同场景提供了有效检测方案。
2026-09-09 cs.AI cs.CL
From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation
Karolinska Institutet（卡罗林斯卡医学院）；KTH Royal Institute of Technology（瑞典皇家理工学院）；Karolinska University Hospital（卡罗林斯卡大学医院）；University of Borås（布罗斯大学）
研究通过跨模型ASR分歧信号提高医疗文档审核效率，发现分歧区域可定位潜在不可靠文本，但需进一步验证临床准确性。
2026-03-02 cs.AI cs.CL cs.SD
CELDA: Leveraging Black-box Language Model as Enhanced Classifier without Labels
Seoul National University（首尔国立大学）；IntelliSys（智能系统研究所）
针对黑盒语言模型弱监督文本分类性能不足、鲁棒性差的问题，提出CELDA方法，通过提取伪标签数据集和训练轻量鲁棒模型，在无需访问模型内部和数据标签的情况下刷新弱监督文本分类SOTA，且通用性强可扩展。
2023-06-09 cs.CL
A System for Comprehensive Assessment of RAG Frameworks
R&D Department, Eustema S.p.A.（欧斯特玛股份有限公司研发部门）
本文提出SCARF，一个模块化、黑盒、端到端的RAG框架综合评估系统，支持多种部署配置并生成详细性能报告，用于真实场景下RAG应用的系统化基准测试与比较。
2025-04-10 cs.AI cs.CL cs.LG
