Bencher: Simple and Reproducible Benchmarking for Black-Box Optimization
Department of Computer Science, Lund University(隆德大学计算机科学系);DBtune
提出模块化黑盒优化基准框架Bencher,通过RPC接口隔离各基准的虚拟环境以解耦执行与优化逻辑,支持Docker/Singularity部署,实现80个基准的轻量级可复现评估。
2025-05-27 cs.LG
Reassessing the Validity of Spurious Correlations Benchmarks
Meta FAIR
本文针对虚假相关性基准结果不一致的问题,提出有效基准应满足的三项准则,发现部分基准缺乏评估意义、若干方法鲁棒性不足,并给出依据相似基准选择方法的方案。
2024-09-06 cs.LG
Resurrecting saturated LLM benchmarks with adversarial encoding
针对LLM基准饱和问题,通过配对问题、增加答案选项两种对抗编码改动,在三个基准上验证了其能降低强模型性能、提高基准上限并使其非饱和,为复活旧基准提供有效方法。
2025-02-10 cs.LG
Dataset Condensation with Latent Space Knowledge Factorization and Sharing
KAIST(韩国科学技术院);AITRICS
在本文中,我们介绍了一种新的方法,系统地解决数据集凝聚问题,在一个有效的方式,利用在一个给定的数据集的规律性。我们不是直接在原始输入空间中压缩数据集,而是假设数据集的生成过程,其中在紧凑的潜在空间中定义了一组可学习的代码,然后是一组微小的解码器,这些解码器将它们不同地映射到原始输入空间。通过互换地组合不同的代码和解码器,我们可以大大增加具有基本相同的参数计数的合成示例的数量,因为潜在空间的维数要低得多,并且因为我们可以假设尽可能多的解码器来捕获数据集中表示的不同风格,而成本可以忽略不计。这种知识分解允许以系统的方式在合成示例之间有效地共享信息,从而在压缩比和所生成的示例的质量之间提供更好的折衷。我们的实验表明,我们的方法在各种基准数据集(如SVHN,CIFAR10,CIFAR100和TinyImageNet)上实现了新的最先进的记录。
2022-08-21 cs.AI cs.LG
mil-benchmarks: Standardized Evaluation of Deep Multiple-Instance Learning Techniques
Department of Computer Science and Engineering(计算机科学与工程系);Wright State University(莱特州立大学)
多实例学习是弱监督学习的一个子集,其中标签被应用于实例集而不是实例本身。在标准假设下,一个集合是正的,只有在集合中至少有一个实例是正的。本文介绍了一系列由MNIST、Fashion-MNIST和CIFAR 10生成的多示例学习基准。这些基准测试测试标准、存在、不存在和复杂的假设,并为将来要分发的基准测试提供框架。我实现并评估了几个多实例学习技术对基准。此外,我用标签噪声评估了Noisy-And方法,并发现了不同数据集的混合结果。这些模型在TensorFlow 2.4.1中实现,并在GitHub上提供。这些基准可以从PyPi作为mil-benchmarks和GitHub上获得。
2021-05-04 cs.LG
Fast Symbolic Regression Benchmarking
Interdisciplinary Center for Scientific Computing, Heidelberg University, 69120 Heidelberg, Germany(科学计算跨学科研究中心,海德堡大学,69120海德堡,德国)
针对现有符号回归基准过度强调单一表达式恢复、依赖SymPy评估成功及未提前终止搜索的问题,引入可接受表达式列表和提前终止回调机制改进基准,基于SRSD问题测试两算法包,提升重发现率并降低计算开销。
2025-08-20 cs.LG
Dataset Condensation with Differentiable Siamese Augmentation
The University of Edinburgh(爱丁堡大学)
在许多机器学习问题中,大规模数据集已经成为训练最先进的深度网络的事实标准,但代价是沉重的计算负载。在本文中,我们专注于将大型训练集压缩成明显较小的合成集,这些合成集可用于从头开始训练深度神经网络,同时性能下降最小。从最近的训练集合成方法的启发,我们提出了微分暹罗增强,使有效地使用数据增强,以合成更多的信息合成图像,从而实现更好的性能时,训练网络与增强。在多个图像分类基准数据集上的实验表明,该方法在CIFAR10和CIFAR100数据集上取得了7%的改进,比现有方法有很大的提高.我们表明,只有不到1%的数据,我们的方法达到99.6%,94.9%,88.5%,71.5%的相对性能MNIST,时尚MNIST,SVHN,CIFAR10分别。我们还探索了我们的方法在持续学习和神经结构搜索中的应用,并显示出令人鼓舞的结果。
2021-06-10 cs.CV cs.LG
Loss-Curvature Matching for Dataset Selection and Condensation
KAIST(韩国科学技术院);Ewha Womans University(梨花女子大学)
在大型数据集上训练神经网络需要大量的计算成本。数据集缩减基于大型数据集选择或合成数据实例,同时最大限度地降低完整数据集的泛化性能下降。现有的方法在数据集约简过程中使用神经网络,因此模型参数成为保持约简后性能的重要因素。根据参数的重要性,本文提出了一种新的约简目标LCMat,它在模型参数空间上匹配原始数据集和约简数据集的损失曲率,而不是参数点。这个新的目标诱导一个更好的适应减少的数据集上的扰动参数区域比精确的点匹配。特别地,我们从局部参数区域中识别出损耗曲率间隙的最坏情况,并通过理论分析推导出这种最坏情况的可实现上界。我们在核心集选择和凝聚基准上的实验表明,LCMat比现有的基准具有更好的泛化性能。
2023-03-08 cs.AI cs.CV cs.LG
Dataset Condensation with Color Compensation
University of Chinese Academy of Sciences(中国科学院大学);Tsinghua University(清华大学);Hong Kong University of Science and Technology(香港科技大学);Hokkaido University(北海道大学)
针对数据集压缩中颜色信息被忽视的问题,提出DC3框架,通过颜色补偿增强压缩图像颜色多样性,提升表示学习,并在多个基准上超越现有方法。
2025-10-24 cs.AI cs.CV cs.LG
Elucidating the Design Space of Dataset Condensation
Mohamed bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学);Tsinghua University(清华大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
针对现有数据集浓缩方法计算成本高或设计空间次优的问题,本研究提出包含软类别感知匹配、学习率调度调整的EDC框架,在大小规模数据集上均实现SOTA性能。
2025-01-17 cs.AI cs.CV cs.LG
PRISM: Video Dataset Condensation with Progressive Refinement and Insertion for Sparse Motion
Korea AI Safety Institute, ETRI(韩国人工智能安全研究所,ETRI);KAIST(韩国科学技术院);NAVER AI Lab(NAVER AI实验室)
PRISM通过将视频视为统一的时空结构,解决视频处理计算成本高和时空依赖性难题,实现高效存储与复杂运动的保留。
2026-03-24 cs.AI cs.CV cs.LG
Why every GBDT speed benchmark is wrong
本文对梯度提升决策树算法的不同速度基准方法进行了全面的研究。我们展示了几种简单的基准测试方法的主要问题,解释了为什么速度基准测试是一项具有挑战性的任务,并为基准测试提供了一套合理的要求。
2018-10-24 cs.LG stat.ML
Benchmark Data Repositories for Better Benchmarking
University of California, Irvine(加州大学欧文分校)
针对机器学习基准测试研究中对数据存储库关注不足的问题,本文分析了基准数据存储库的格局与作用,梳理了其设计使用的考量因素,以优化机器学习基准测试实践。
2024-10-31 cs.DL cs.LG
Personalized Benchmarking with the Ludwig Benchmarking Toolkit
Stanford University(斯坦福大学)
跨领域和部署设置的机器学习模型的快速扩散已经引起了各种社区(例如,行业从业者)的出现,这些社区寻求跨个人价值的任务和目标对模型进行基准测试。不幸的是,这些用户无法使用标准基准测试结果来执行这种价值驱动的比较,因为传统基准测试基于单一目标(例如平均准确度)评估模型,并且无法促进控制混淆变量(例如计算预算)的标准化训练框架,从而难以进行公平比较。为了应对这些挑战,我们引入了开源的Ludwig Benchmarking Toolkit(LBT),这是一个个性化的基准测试工具包,用于在一组易于扩展的任务、深度学习模型、数据集和评估指标中运行端到端的基准测试研究(从超参数优化到评估)。LBT提供了一个可配置的界面,用于控制培训和定制评估,一个标准化的培训框架,用于消除混淆变量,并支持多目标评估。我们展示了LBT如何用于创建个性化的基准研究,并对7个模型和9个数据集的文本分类进行了大规模的比较分析。我们探讨了推理延迟和性能之间的权衡,数据集属性和性能之间的关系,以及预训练对收敛和鲁棒性的影响,展示了LBT如何用于满足各种基准测试目标。
2021-11-08 cs.AI cs.LG
YAHPO Gym -- An Efficient Multi-Objective Multi-Fidelity Benchmark for Hyperparameter Optimization
LMU Munich(慕尼黑大学)
在开发和分析新的超参数优化方法时,在精心策划的基准套件上进行经验评估和比较是至关重要的。在这项工作中,我们提出了一套新的具有挑战性的和相关的基准问题的动机理想的属性和要求,这样的基准。我们新的基于代理的基准测试集由14个场景组成,总共构成了700多个多保真度超参数优化问题,这些问题都可以实现多目标超参数优化。此外,我们的经验比较代理基准更广泛使用的表格基准,并证明后者可能会产生不忠实的结果HPO方法的性能排名。我们检查和比较我们的基准集合相对于定义的要求,并提出了一个单目标,以及一个多目标的基准套件,我们比较7个单目标和7个多目标优化在一个基准实验。我们的软件可以在[https://github.com/slds-lmu/yahpo_gym]上找到。
2022-07-30 cs.LG stat.ML
How Reliable is Language Model Micro-Benchmarking?
研究探讨了微基准测试在不同规模下的可靠性,发现需至少250个示例才能一致排序模型,随机抽样在某些情况下与现有方法相当。
2026-03-06 cs.CL cs.LG
Making Intelligence: Ethical Values in IQ and ML Benchmarks
AI Risk and Vulnerability Alliance(人工智能风险与脆弱性联盟);Capital One(第一资本)
本文指出ML基准与人类智能基准在结构上相似且均承载伦理价值,借鉴女性主义科学哲学论证基准创建需考虑并记录价值,并提出研究伦理建议。
2023-05-11 cs.CY cs.LG
A Critical Review of Causal Reasoning Benchmarks for Large Language Models
University of Oxford(牛津大学)
该综述梳理大语言模型因果推理基准的现状,指出多数基准可通过知识检索解答的问题,总结近期基准纳入干预/反事实推理的进展,提出有效基准应满足的标准,为基准设计与因果理解评估框架构建提供方向。
2024-07-10 cs.CL cs.LG
Improvements & Evaluations on the MLCommons CloudMask Benchmark
AI for Scientific Research;New York University(纽约大学)
本研究在纽约大学NYU Greene集群上对MLCommons科学云掩膜基准开展深度学习模型性能测试,更新了代码、确定了最优超参数下的最佳模型,给出了最高准确率及训练推理平均耗时,相关代码已开源且可供MLCommons后续使用。
2024-03-07 cs.DC cs.LG
Benchmarks Are Not Atomic: Composition-Aware LLM Evaluation using BenchHub
KAIST(韩国科学技术院);Yonsei University(延世大学);OnelineAI;Oracle(甲骨文公司)
本文提出BenchHub,一个动态的统一基准库,整合38个基准的303K问题并自动分类,支持灵活可定制的领域评估,揭示了模型在不同领域的性能差异,为推进LLM评估研究提供关键基础设施。
2026-10-14 cs.AI cs.CL cs.LG
Benchmarking Contemporary Deep Learning Hardware and Frameworks:A Survey of Qualitative Metrics
Southeast Missouri State University(东南密苏里州立大学);University of Arkansas at Little Rock(阿肯色大学小石城分校)
本文概述了基准测试原则、机器学习设备(包括GPU、FPGA和ASIC)以及深度学习软件框架。它还从框架的6度量方法和硬件平台的11度量方法的角度审查了这些技术的基准测试。由于MLPerf是一个与工业界和学术界合作的基准测试组织,并提供评估深度学习硬件设备上的训练和推理的深度学习基准测试,因此调查还提到了MLPerf基准测试结果、基准测试指标、数据集、深度学习框架和算法。我们总结了七个基准测试原则,主流AI设备的差异化特征,以及深度学习硬件和框架的定性比较。
2019-11-23 cs.DC cs.LG cs.PF
BenchAgents: Multi-Agent Systems for Structured Benchmark Creation
University of Amsterdam(阿姆斯特丹大学);Microsoft Research(微软研究院);UIUC(伊利诺伊大学香槟分校)
本文提出BenchAgents多智能体框架,利用LLM自动创建高质量评估基准,分解为规划、生成、验证和评估阶段,用于评估规划、约束满足和因果推理能力,并揭示模型差异。
2025-10-07 cs.AI cs.CL cs.LG
Risk Management for Mitigating Benchmark Failure Modes: BenchRisk
AI Verification and Evaluation Research Institute(人工智能验证与评估研究所);Responsible AI Collaborative(负责任人工智能协作组织);Polytechnique Montreal(蒙特利尔理工学院);Prediction Guard(预测卫士公司);Google(谷歌);Google Deepmind(谷歌DeepMind);Stanford University(斯坦福大学);Veraitech(维莱科技公司);University of Houston(休斯顿大学)
本文提出BenchRisk,一个基于NIST风险管理流程的元评估基准,通过分析26个基准测试识别57种失败模式及196种缓解策略,从五个维度评分以评估基准风险,帮助用户避免对LLM得出错误结论。
2025-10-24 cs.CY cs.LG cs.SE
Deprecating Benchmarks: Criteria and Framework
AI Standards Lab(AI标准实验室);Technical University of Munich(慕尼黑技术大学);Institute of Data Science(数据科学研究所);Digital Technologies(数字技术);Trajectory Labs(轨迹实验室)
针对前沿AI模型基准测试缺乏弃用指导的问题,提出弃用标准与框架,以促进严谨评估,惠及开发者、用户、治理方与政策制定者。
2025-07-08 cs.AI cs.CY cs.LG
Uncovering Competency Gaps in Large Language Models and Their Benchmarks
University of Zurich(苏黎世大学)
提出一种基于稀疏自编码器概念激活的新方法,自动发现模型在细粒度概念上的弱点(模型差距)和基准测试覆盖不平衡(基准差距),并通过内部表示评估和跨基准比较进行验证。
2026-05-29 cs.AI cs.CL cs.LG
Fine-Grained Benchmark Generation for Comprehensive Evaluation of Foundation Models
Vector Institute(Vector研究院);York University(约克大学)
本文提出了一种自动化基准生成框架,用于生成覆盖广泛、元数据丰富且抗污染的评估问题,从而提升基础模型的全面评估能力。
2026-05-12 cs.AI cs.CL cs.LG
Generative Benchmark Creation for Table Union Search
Northeastern University(东北大学)
本文提出用生成式 AI 模型自动创建表并集搜索基准,构建了包含可并集与不可并集但相关表对的新基准,并证明该基准比人工基准更具挑战性,能支持更细粒度的假阳性与假阴性分析。
2023-08-07 cs.CL cs.DB cs.LG
This is the way: designing and compiling LEPISZCZE, a comprehensive NLP benchmark for Polish
Wroclaw University of Science and Technology(弗罗茨瓦夫理工大学);Poznan University of Technology(波兹南理工大学)
计算和数据的可用性训练越来越大的语言模型增加了对LM训练的真实进度进行基准测试的鲁棒方法的需求。近年来,英语标准化基准取得了重大进展。诸如GLUE、SuperGLUE或KILT之类的基准测试已经成为比较大语言模型的事实标准工具。随着对其他语言复制GLUE的趋势,KLEJ基准已经为波兰语发布。在本文中,我们评估了低资源语言的基准测试的进展。我们注意到,只有少数几种语言有这样全面的基准。我们还注意到,资源丰富的英语/中文和世界其他地区的基准评估任务数量存在差距。在本文中,我们介绍了LEPISZCZE(波兰语中的glew,中世纪英语中胶水的前身),这是一个新的,全面的波兰NLP基准,具有各种各样的任务和高质量的基准操作。我们在设计LEPISZCZE时考虑到了灵活性。包含新模型、数据集和任务尽可能简单,同时仍然提供数据版本控制和模型跟踪。在基准测试的第一次运行中,我们基于波兰语的五个最新LM测试了13个实验(任务和数据集对)。我们使用来自波兰基准的五个数据集,并添加了八个新的数据集。作为本文的主要贡献,除了LEPISZCZE之外,我们还提供了在创建波兰语基准时学到的见解和经验,作为为其他低资源语言设计类似基准的蓝图。
2022-11-23 cs.CL cs.IR cs.LG
From Crowdsourced Data to High-Quality Benchmarks: Arena-Hard and BenchBuilder Pipeline
UC Berkeley(加州大学伯克利分校)
本文提出自动化基准策展流水线BenchBuilder,利用LLMs从众包数据中提取高质量开放式提示,并发布包含500个提示的Arena-Hard-Auto基准,以20美元成本实现98.6%的人类偏好相关性和3倍的模型区分度。
2024-10-14 cs.AI cs.CL cs.LG
Identifying the Context Shift between Test Benchmarks and Production Data
MIT Media Lab(麻省理工学院媒体实验室)
机器学习模型在生产数据上通常很脆弱,尽管在基准数据集上实现了高精度。传统上,基准数据集有两个目的:首先,基准提供了一个标准,机器学习研究人员可以在此基础上比较不同的方法,其次,基准提供了一个现实世界的模型,尽管不完美。测试基准(以及模型训练所依据的数据)的不完整性阻碍了机器学习的鲁棒性,实现了快捷学习,并使模型系统地容易在分布外和不利扰动的数据上出错。单个静态基准数据集和生产数据集之间的不匹配传统上被描述为数据集偏移。为了澄清如何解决测试基准和生产数据之间的不匹配,我们引入上下文转移来描述底层数据生成过程中语义上有意义的变化。此外,我们确定了三种方法来解决上下文转移,否则会导致模型预测错误:首先,我们描述了人类的直觉和专家知识如何识别模型系统失败的语义上有意义的特征,其次,我们详细说明了动态基准测试-其重点是捕获数据生成过程-如何通过确证来促进概括性,第三,我们强调,澄清模型的局限性可以减少意外的错误。稳健的机器学习专注于超越基准的模型性能,因此,我们考虑了三个模型生物领域-面部表情识别,deepfake检测和医疗诊断-以强调基准任务中的隐含假设如何导致实践中的错误。通过密切关注上下文的作用,研究者可以设计更全面的基准,减少上下文转换错误,并增加概括性。
2022-09-22 cs.AI cs.HC cs.LG
Benchmarking Benchmark Leakage in Large Language Models
Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Generative AI Research Lab (GAIR)(生成式人工智能研究实验室)
针对大型语言模型中基准数据集泄露问题,提出基于 Perplexity 和 N-gram accuracy 的检测流水线,揭示 31 个 LLMs 在数学推理中的测试集误用现象,并建议通过“Benchmark Transparency Card”提升透明度。
2024-04-29 cs.AI cs.CL cs.LG
DLBricks: Composable Benchmark Generation to Reduce Deep Learning Benchmarking Effort on CPUs (Extended)
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IBM T. J. Watson Research Center(IBM T. J. 沃森研究中心)
在过去的几年里,深度学习(DL)模型被大量应用于各种任务,如图像分类、目标检测、机器翻译等。虽然DL模型为解决其他棘手的任务提供了机会,但它们的采用依赖于它们被优化以满足延迟和资源要求。设定基准是这一进程中的一个关键步骤,但由于缺乏具有代表性的最新基准套件而受到阻碍。DL模型的快速发展加剧了这一点。本文提出了DLBricks,一个可组合的基准生成设计,减少了开发,维护和运行DL基准的CPU上的工作。DLBricks将DL模型分解为一组唯一的可运行网络,并使用生成的基准测试的性能构建原始模型的性能。DLBricks利用了两个关键的观察结果:DL层是DL模型的性能构建块,并且层在DL模型内部和之间广泛重复。由于基准测试是自动生成的,并且基准测试时间最小化,DLBricks可以与最新的建议模型保持同步,从而减轻了选择代表性DL模型的压力。此外,DLBricks允许用户在基准测试套件中表示专有模型。我们使用$50$ MXNet模型在$4$代表性CPU系统上评估跨越$5$ DL任务的DLBrick。我们发现DLBricks为DL模型提供了准确的性能估计,并缩短了跨系统的基准测试时间(例如,在Amazon EC2 c5.xlarge上,$95\%$准确性范围内,以及高达$4.4\times$基准测试时间加速)。
2020-03-11 cs.LG cs.PF cs.SE
DQI: A Guide to Benchmark Evaluation
Arizona State University(亚利桑那州立大学)
“最先进的”模型A在基准B中超过人类,但在类似的基准C、D和E中失败。B有什么是其他基准没有的?最近的研究提供了答案:虚假的偏见。然而,开发A来解决基准测试B到E并不能保证它能解决未来的基准测试。为了实现一个“真正学习”底层任务的模型,我们需要量化连续基准之间的差异,而不是现有的二进制和黑盒方法。我们提出了一种新的方法来解决这个未充分探索的任务,量化基准的质量,推出一个数据质量指标:DQI。
2020-08-10 cs.CL cs.CV cs.LG
Biothreat Benchmark Generation Framework for Evaluating Frontier AI Models II: Benchmark Generation Process
Nemesys Insights, LLC(Nemesys洞察有限责任公司);Frontier Design Group, LLC(前沿设计集团有限责任公司)
本文提出生物威胁基准生成框架,通过三种方法生成细菌生物威胁基准数据集,用于评估前沿AI模型的生物安全风险。
2025-12-09 cs.AI cs.CY cs.ET
GC4NC: A Benchmark Framework for Graph Condensation on Node Classification with New Insights
Emory University(埃默里大学);Google Deepmind(谷歌DeepMind)
本文提出GC4NC基准框架,从性能、效率、隐私、去噪、NAS和可迁移性等维度系统评估节点分类的图压缩方法,揭示关键设计选择并提供新见解。
2026-11-03 cs.LG
HERALD: High-Fidelity Exemplar Retrieval with Adaptive Landmark Distillation for Heterophily-Aware Graph Condensation
Indian Institute of Science Education and Research Thiruvananthapuram(印度科学教育与研究学院蒂鲁文南特普拉姆分校)
HERALD提出无梯度图压缩框架,通过自适应地标蒸馏和异质性感知的节点评分与特征选择,在相同存储预算下生成高保真压缩图,在异质性图上匹配或超越现有方法。
2026-09-11 cs.LG
Simple Graph Condensation
Zhejiang University(浙江大学);Hangzhou City University(杭州城市大学)
提出SimGC框架,通过预训练SGC模型从输入层到预测层对齐压缩图与原始图,消除外部参数,实现高达10倍加速且性能与最先进方法相当。
2024-07-18 cs.AI cs.LG cs.SI
Dataset Condensation with Contrastive Signals
Seoul National University(首尔国立大学);NAVER AI Lab(NAVER人工智能实验室)
最近的研究表明,基于梯度匹配的数据集合成或数据集浓缩(DC)方法在应用于数据高效学习任务时可以实现最先进的性能。然而,在这项研究中,我们证明了现有的DC方法可以比随机选择方法更差时,任务无关的信息形成的训练数据集的重要组成部分。我们将此归因于类间对比信号的缺乏参与,这是由于类间梯度匹配策略造成的。为了解决这个问题,我们提出了数据集浓缩与对比信号(DCC)通过修改的损失函数,使DC方法,以有效地捕捉类之间的差异。此外,我们分析了新的损失函数的训练动态跟踪内核速度。此外,我们引入了一个双层预热策略来稳定优化。我们的实验结果表明,虽然现有的方法是无效的细粒度图像分类任务,所提出的方法可以成功地为相同的任务生成信息合成数据集。此外,我们证明了所提出的方法甚至在SVHN,CIFAR-10和CIFAR-100等基准数据集上也优于基线。最后,我们通过将其应用于持续学习任务,证明了所提出的方法的高适用性。
2022-06-16 cs.CV cs.LG
DCFL: Non-IID awareness Data Condensation aided Federated Learning
Jilin University(吉林大学)
提出DCFL,利用CKA分组客户端并采用非独立同分布感知的数据浓缩方法,通过共享组内浓缩数据、结合选择与增强策略,在保持隐私的同时有效缓解联邦学习中的非独立同分布问题,并在多个基准上取得竞争性能。
2023-12-21 cs.AI cs.CR cs.DC