Thought without systematicity? Evaluating reasoning models on rule induction tasks
Princeton University(普林斯顿大学)
本研究通过规则归纳任务评估推理模型的系统性,发现模型虽能解决原任务,但在结构等价变体上常失败,表明其行为缺乏系统性,难以稳健确立认知能力。
2026-09-15 cs.AI cs.CL cs.LG
Tape: A Cellular Automata Benchmark for Evaluating Rule-Shift Generalization in Reinforcement Learning
The University of Hong Kong(香港大学)
Tape通过隔离动态中的潜在规则转移,保持观测-动作接口不变,评估强化学习在分布外泛化中的表现,发现稳定/周期性/混沌规则间的显著异质性。
2026-04-20 cs.AI cs.LG
RuleSafe-VL: Evaluating Rule-Conditioned Decision Reasoning in Vision-Language Content Moderation
Beijing University of Posts and Telecommunications(北京邮电大学)
RuleSafe-VL通过构建93个基本规则和92种规则关系,评估视觉-语言内容审核中规则条件决策推理的诊断能力,发现规则关系恢复是主要瓶颈,最佳模型仅达到64.8 Macro-F1。
2026-05-08 cs.AI
Evaluating the Effectiveness of Data Augmentation for Emotion Classification in Low-Resource Settings
Columbia University(哥伦比亚大学)
本研究在低资源多标签情感分类任务中评估数据增强技术,发现 Back Translation 优于自编码器方法,且生成多个样本能进一步提升性能,验证了其在资源受限场景中的有效性。
2024-06-07 cs.AI cs.CL cs.LG
Application of Fuzzy Rule based System for Highway Research Board Classification of Soils
RV College of Engineering(RV工程学院);University Visveswaraya College of Engineering(维斯瓦拉亚大学工程学院)
基于模糊规则的模型是模仿人类思维方式和解决不确定性相关问题的有力工具,因为它允许可理解和可解释的规则库。本文的目的是研究的适用性模糊规则为基础的建模,以量化土壤分类的工程目的,定性考虑土壤指标的属性。公路研究委员会的分类系统被认为是说明一个模糊规则为基础的模型。利用三角函数对土壤指标属性进行模糊化,并计算模糊隶属度值。模糊算术运算符,然后施加到分类获得的成员值。采用模糊决策树分类算法,推导出模糊“若-则”规则,实现土壤分类的量化。该系统在MATLAB中实现。所获得的结果进行检查,并对实验室测试的结果测量所提出的模型的实施。
2020-05-10 cs.AI cs.LG
Preventing the Generation of Inconsistent Sets of Classification Rules
Federal University of São Carlos(圣保罗联邦大学);Department of Computer Science Federal University of São Carlos(圣保罗联邦大学计算机科学系)
近年来,对可解释分类模型的兴趣不断增长。改进基于规则的分类模型的可解释性的方法之一是使用规则集(无序集合),而不是规则列表(有序集合)。与集合相关的问题之一是,多个规则可能覆盖单个实例,但为它预测不同的类,因此需要冲突解决策略。在这项工作中,我们提出了两个算法,能够找到特征空间区域内的任何创建的规则将与现有的规则一致,防止出现不一致。我们的算法不生成分类模型,而是为了增强这样做的算法,例如学习分类器系统。这两种算法的描述和分析完全从理论的角度来看,因为我们还没有修改模型生成算法,将我们提出的解决方案。这项工作提出了新颖的冲突避免策略,而不是冲突解决策略。
2020-03-30 cs.AI cs.LG
Interpretable Two-level Boolean Rule Learning for Classification
Massachusetts Institute of Technology(麻省理工学院);IBM Thomas J. Watson Research Center(IBM托马斯·J·沃森研究中心)
本文提出了一种基于合取范式(CNF,即AND-of-OR)或析取范式(DNF,即OR-of-AND)的两级布尔规则的学习算法,旨在实现分类精度和规则简单性之间的良好平衡。提出了两种提法。第一种是整数规划,其目标函数是错误总数和规则中使用的特征总数的组合。我们推广了以前提出的线性规划(LP)松弛从一级到两级的规则。第二个公式取代0-1的分类误差与汉明距离从当前的两级规则的最接近的规则,正确分类的样本。基于这第二个配方,块坐标下降和交替最小化算法的开发。实验结果表明,两级规则的建模能力明显优于一级规则,基于汉明距离公式的两种算法总体上优于其他两级规则学习方法.一个建议的方法来二进制化任何分数值的LP松弛的最佳解决方案也被证明是有效的。
2015-11-23 cs.AI cs.LG
Beyond Instruction Following: Evaluating Inferential Rule Following of Large Language Models
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Xiaohongshu Inc AI Lab, AIGility Cloud Innovation(小红书AI实验室);Department of Computer Science and Engineering, Texas A&M University(德克萨斯农工大学计算机科学与工程学院)
本文提出RuleBench基准评估LLMs的推理规则遵循能力,并设计IRFT方法使LLMs从合成数据中学习抽象规则遵循能力并泛化到RuleBench。
2024-10-17 cs.AI cs.CL
Neural-based classification rule learning for sequential data
IBM France Lab(IBM法国实验室);Inria Saclay(法国国家信息与自动化研究所萨克雷分部);IBM Research(IBM研究院)
发现序列数据分类的可解释模式对于从基因组学到欺诈检测或更一般的可解释决策的各种领域都至关重要。在本文中,我们提出了一种新的微分完全可解释的方法,发现本地和全球的模式(即捕捉相对或绝对的时间依赖性)基于规则的二进制分类。它由一个卷积二进制神经网络与一个可解释的神经过滤器和训练策略的基础上动态强制稀疏。我们证明了该方法在合成数据集和开源肽数据集上的有效性和实用性。这种端到端可区分方法的关键在于,规则中使用的表达模式是与规则本身一起学习的。
2023-02-22 cs.AI cs.LG
Generation of Consistent Sets of Multi-Label Classification Rules with a Multi-Objective Evolutionary Algorithm
Universidade Federal de São Carlos(圣卡洛斯联邦大学);Universidade Federal de São Paulo(圣保罗联邦大学);University of Surrey(萨里大学)
多标签分类是指将一个实例同时分为两个或多个类别。这是一个非常具有挑战性的任务,目前在许多现实世界的应用,如分类的生物,图像,视频,音频和文本。最近,对可解释的分类模型的兴趣已经增长,部分是由于诸如通用数据保护条例之类的法规。在这种情况下,我们提出了一种多目标进化算法,生成多个基于规则的多标签分类模型,允许用户选择模型,提供不同的预测能力和可解释性之间的妥协。这项工作的一个重要贡献是,不同于大多数算法,通常生成模型的基础上列表(有序集合)的规则,我们的算法生成模型的基础上集(无序集合)的规则,增加可解释性。此外,通过在规则创建期间采用冲突避免算法,保证给定模型中的每个规则与同一模型中的每个其他规则一致。因此,不需要冲突解决策略,发展更简单的模型。我们在合成和真实世界的数据集上进行了实验,并将我们的结果与最先进的算法在预测性能(F-Score)和可解释性(模型大小)方面进行了比较,并证明我们最好的模型具有可比的F-Score和较小的模型大小。
2020-03-27 cs.AI cs.LG
Evaluating approval-based multiwinner voting in terms of robustness to noise
Aarhus University(奥胡斯大学);Computer Technology Institute “Diophantus”(“丢番图”计算机技术研究所);University of Patras(帕特雷大学)
基于批准的多赢家投票规则最近在计算社会选择文献中受到了广泛关注。这些规则汇总了批准选票,并决定了一个获胜的备选委员会。为了评估有效性,我们建议采用专门为批准投票和委员会量身定制的新噪声模型。这些模型将地面真相委员会作为输入,并返回随机的批准投票,这些投票被认为是对地面真相的噪声估计。基于批准的多赢家投票规则的最低鲁棒性要求是在应用于具有足够多的噪声投票的配置文件时返回基本事实。我们的研究结果表明,批准为基础的多赢家投票总是稳健的合理噪音。我们进一步完善这一发现,提出了一个层次的规则,他们是如何强大的噪音。
2020-11-07 cs.AI cs.GT
Neuro-symbolic Rule Learning in Real-world Classification Tasks
Imperial College London(帝国理工学院)
本文扩展了neural DNF模块以支持真实世界多分类和多标签任务,提出neural DNF-EO模型强制互斥性,在保持与神经网络相当性能的同时提供更好可解释性和可扩展性。
2023-03-29 cs.AI cs.LG
Evaluating Resilience of Encrypted Traffic Classification Against Adversarial Evasion Attacks
Carleton University(卡尔顿大学)
机器学习和深度学习算法可用于对加密的互联网流量进行分类。在存在针对学习算法的对抗攻击的情况下,加密流量的分类可能变得更具挑战性。在本文中,我们将重点研究不同规避攻击的有效性,并了解机器和深度学习算法的弹性。即,我们测试了C4.5决策树,K-最近邻(KNN),人工神经网络(ANN),卷积神经网络(CNN)和递归神经网络(RNN)。在我们的大多数实验结果中,与机器学习相比,深度学习对对抗性样本表现出更好的弹性。然而,攻击的影响因攻击类型而异。
2021-05-30 cs.AI cs.CR
Evaluating k-NN in the Classification of Data Streams with Concept Drift
Universidade Federal de Pernambuco(伯南布哥联邦大学);Pontifícia Universidade Católica do Paraná(巴拉那天主教大学)
数据流通常被定义为以高速连续流动的大量数据。此外,这些数据可能会受到数据分布变化的影响,称为概念漂移。鉴于上述所有原因,从流中学习通常是在线的,并且受到内存消耗和运行时的限制。虽然存在许多分类算法,但该领域发表的大多数作品都使用朴素贝叶斯(NB)和Hoeffding树(HT)作为实验中的基本学习器。本文提出了一种深入的评估k-最近邻(k-NN)作为候选分类数据流受到概念漂移。分析了k-NN的时间复杂度和两个主要参数,用于预测的最近邻的数量(k)和窗口大小(w)。我们比较了k-NN的不同参数值,并将其与NB和HT进行了对比,在许多数据集中都有和没有漂移检测器(RDDM)。我们制定并回答了10个研究问题,得出的结论是,k-NN是一个值得的候选数据流分类,特别是当运行时的约束不是太严格。
2022-10-06 cs.AI cs.LG
AgentRewardBench: Evaluating Automatic Evaluations of Web Agent Trajectories
McGill University(麦吉尔大学);Mila Quebec AI Institute(魁北克AI研究院);Google DeepMind(谷歌DeepMind);Canada CIFAR AI Chair(加拿大CIFAR人工智能 chair);Polytechnique Montréal(蒙特利尔理工学院);ServiceNow Research(ServiceNow研究)
提出AgentRewardBench基准,评估LLM评判员对网络代理轨迹的自动评估效果,发现现有基于规则的方法低估成功率,且无单一LLM在所有基准上表现最优。
2025-10-06 cs.AI cs.CL cs.LG
Pooling Attention: Evaluating Pretrained Transformer Embeddings for Deception Classification
Independent Researcher, USA(美国独立研究者);Independent Researcher, Japan(日本独立研究者)
本文通过评估预训练变换器嵌入在欺骗分类中的效果,发现BERT结合逻辑回归在LIAR数据集上表现最佳,证明了上下文自注意力编码的有效性。
2025-11-28 cs.AI cs.CL cs.LG
A Nested Genetic Algorithm for Explaining Classification Data Sets with Decision Rules
Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所(IPA));University of Stuttgart(斯图加特大学)
我们在本文中的目标是自动提取一组决策规则(规则集),最好地解释了分类数据集。首先,从在数据集上训练的一组决策树中提取大的决策规则集。规则集应简明、准确,具有最大的覆盖范围和最少的不一致性。这个问题可以被形式化为加权预算最大覆盖问题的修改版本,已知为NP-难。为了有效地解决组合优化问题,我们引入了一个嵌套的遗传算法,然后我们使用它来获得十个公共数据集的解释。
2022-08-23 cs.AI cs.LG cs.NE
ScoringBench: A Benchmark for Evaluating Tabular Foundation Models with Proper Scoring Rules
University of Stuttgart(斯图加特大学);Ludwig Maximilian University of Munich(慕尼黑路德维希-马克西米利安大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
ScoringBench通过多种适当评分规则评估表格回归模型,揭示了不同评分规则对模型排名的影响,强调了评分选择对模型部署的重要性。
2026-10-14 cs.AI
Rule2Text: A Framework for Generating and Evaluating Natural Language Explanations of Knowledge Graph Rules
University of Texas at Arlington(德克萨斯理工大学)
提出Rule2Text框架,利用大语言模型将知识图谱挖掘的逻辑规则转化为自然语言解释,通过人类评估和LLM-as-a-judge验证,微调开源模型显著提升解释质量。
2026-06-24 cs.AI cs.CL
Interpretable multiclass classification by MDL-based rule lists
Leiden University(莱顿大学)
最近,可解释分类器受到了数据采掘界越来越多的关注,因为它们本质上比更复杂的分类器更容易理解和解释。可解释的分类模型的示例包括决策树、规则集和规则列表。学习这样的模型通常涉及优化超参数,这通常需要大量的数据,并可能导致相对较大的模型。在本文中,我们考虑的问题,学习紧凑而准确的概率规则列表的多类分类。具体来说,我们提出了一种新的形式化的基础上概率规则列表和最小描述长度(MDL)的原则。这导致了几乎无参数的模型选择,自然允许权衡模型复杂性与拟合优度,从而有效地避免了过度拟合和超参数调整的需要。最后,我们介绍了Classy算法,该算法根据所提出的标准,greetly发现规则列表。我们的经验表明,Classy选择的小概率规则列表在预测性能和可解释性的结合方面优于最先进的分类器。我们表明,Classy是不敏感的唯一参数,即,候选集,以及训练集上的压缩与分类性能相关,验证了我们基于MDL的选择标准。
2019-10-31 cs.AI cs.LG stat.ML
Fair Decision Rules for Binary Classification
School of Operations Research and Information Engineering(运筹学与信息工程学院);Cornell University(康奈尔大学)
近年来,机器学习已经开始在大学招生、信贷和刑事判决等不同领域实现决策自动化。这些应用程序的社会敏感性,加上越来越多的监管限制,有必要对算法,是公平的和可解释的。在本文中,我们考虑的问题,建立布尔规则集的析取范式(DNF),一个可解释的二元分类模型,公平性约束。我们制定的问题作为一个整数规划,最大限度地提高分类精度与明确的限制两个不同的措施的分类奇偶性:平等的机会和均衡的赔率。列生成框架,与一个新的配方,用于有效地搜索指数许多可能的规则。当与更快的算法相结合时,我们的方法可以处理大型数据集。与其他公平和可解释的分类器相比,我们的方法能够找到满足更严格的公平概念的规则集,并在准确性方面进行适度的权衡。
2021-07-03 cs.AI cs.CY cs.LG
Evaluating Word Embeddings in Multi-label Classification Using Fine-grained Name Typing
New York University(纽约大学);LMU Munich(慕尼黑大学)
嵌入模型通常将每个单词与单个实值向量相关联,表示其不同的属性。因此,评估方法需要分析嵌入中这些属性的准确性和完整性。这需要对嵌入子空间进行细粒度分析。多标签分类是一种适当的方法。在给定词嵌入的情况下,提出了一种基于多标签分类的词嵌入评价方法。我们使用的任务是细粒度的名称类型:给定一个大型语料库,根据名称嵌入找到名称可以引用的所有类型。考虑到知识库中实体的规模,我们可以为这项任务构建与当前嵌入评估数据集互补的数据集:它们非常大,包含细粒度的类,并且允许直接评估嵌入,而不需要句子上下文等混淆因素
2018-07-18 cs.AI cs.CL
Evaluating the Correctness of Explainable AI Algorithms for Classification
Swansea University(斯旺西大学)
近年来,可解释的人工智能吸引了大量的研究关注,特征属性算法(在预测中计算“特征重要性”)变得越来越流行。然而,这些算法的有效性分析很少,因为在现有的数据集中没有“地面实况”来验证它们的正确性。在这项工作中,我们开发了一种方法来定量评估XAI算法的正确性,通过创建数据集与已知的解释地面真相。为此,我们专注于二进制分类问题。字符串数据集是使用从语法派生的形式语言构造的。一个字符串是正的,当且仅当满足某个属性。在一个肯定的字符串中作为解释基础真值的符号是解释的一部分,当且仅当它们有助于实现该属性。实验中使用了两种流行的特征属性解释器--局部可解释模型不可知解释(LIME)和SHapley加性解释(SHAP),结果表明:(1)分类准确率与解释准确率呈正相关;(2)SHAP比LIME提供更准确的解释;(3)解释准确率与数据集复杂度呈负相关。
2021-05-20 cs.AI
Harness-IF: Evaluating Instruction Following Across Instruction Surfaces in Coding Agents
Tsinghua University(清华大学);Peking University(北京大学)
本研究推出Harness-IF评估框架,引入AP-Acc指标区分编码智能体的指令合规与巧合,发现12个前沿模型在对抗先验规则上表现更差,且合并优先级不随提示深度变化。
2026-08-13 cs.AI
AI and the Law: Evaluating ChatGPT's Performance in Legal Classification
Gdansk University of Technology, Faculty of Electronics, Telecommunications and Informatics(格但斯克工业大学电子、电信与信息学院)
本研究填补波兰语语境下的研究空白,评估ChatGPT对波兰刑法案件的分类效果,发现其二元分类准确率极高且法律依据恰当,表明其可有效分析分类证据并为相关方及法律知识薄弱者提供支持。
2025-02-15 cs.AI cs.CL
Evaluating the Explainable AI Method Grad-CAM for Breath Classification on Newborn Time Series Data
RWTH Aachen University(亚琛工业大学);RWTH Aachen University Hospital(亚琛工业大学医院)
针对医学机器学习可解释性不足的问题,本文通过用户研究评估了可解释AI方法Grad-CAM在新生儿通气时间序列呼吸分类神经网络中的应用,揭示了实现透明度的难点及用户对更深入解释的需求。
2024-05-13 cs.AI cs.CY cs.LG
Transfer Learning for Wildlife Classification: Evaluating YOLOv8 against DenseNet, ResNet, and VGGNet on a Custom Dataset
Tribhuvan University(特里布万大学);Institute of Engineering (IOE) Pashchimanchal Campus(工程学院帕西曼查尔校区);Minnesota State University, Mankato(明尼苏达州立大学曼卡托分校)
本研究利用迁移学习在包含575张图像的自定义数据集上评估了DenseNet、ResNet、VGGNet和YOLOv8在野生动物分类中的性能,发现YOLOv8以97.39%训练准确率和96.50%验证F1分数优于其他模型,为自动化野生动物监测提供了高效方案。
2024-11-12 cs.AI cs.CV
The Reaction RuleML Classification of the Event / Action / State Processing and Reasoning Space
Reaction RuleML是一种通用、实用、紧凑且用户友好的XML序列化语言,用于反应规则家族。在本白皮书中,我们回顾了不同领域的事件/动作/状态处理和反应规则方法和系统的历史,定义了基本概念,并对事件、动作、状态处理和推理空间进行了分类,并讨论了相关的工作
2006-11-10 cs.AI
FALSIFYBENCH: Evaluating Inductive Reasoning in LLMs with Rule Discovery Games
University of Trento(特伦托大学);Free University of Bozen-Bolzano(博泽-博尔扎诺自由大学)
提出FALSIFYBENCH框架,基于Wason 2-4-6任务评估LLM在假设生成、证据收集和信念修正方面的归纳推理能力,发现推理模型优于指令微调模型,且主动寻求证伪的负测试策略是成功的关键。
2026-06-03 cs.AI
Comparison of different T-norm operators in classification problems
Shahid Bahonar University(沙希德·巴霍纳尔大学)
基于模糊规则的分类系统是用于模式分类问题的最流行的模糊建模系统之一。本文研究了在基于模糊规则的分类系统中应用九种不同的T-范数的效果。在最近的研究中,来自数据采掘领域的置信度和支持度的模糊版本已经被广泛地用于基于模糊规则的分类系统的构造中的规则选择和加权。为了计算这些优点,乘积通常被用作T范数。在本文中,不同的T-范数已被用于计算的信心和支持措施。因此,在规则选择和规则加权步骤(在构建基于模糊规则的分类系统的过程中)的计算通过采用这些T-范数进行修改。因此,计算中的这些变化导致改变基于规则的分类系统的总体准确性。在一些著名的数据集上的实验结果表明,在分类精度方面,采用Aczel-Alsina算子的性能最好,其次是Dubois-Prade算子,第三是Dombi算子。在实验中,我们使用了来自加州大学欧文分校机器学习库(UCI)的12个具有数值属性的数据集。
2012-08-09 cs.AI
Knowing the Rules, Applying the Rules: Evaluating Language Models on Traditional Chinese Bazi
Beijing Liuyi Guanhua Technology Co., Ltd.(北京六艺观华科技有限公司);State Key Laboratory of General Artificial Intelligence, BIGAI(通用人工智能全国重点实验室,北京通用人工智能研究院)
本研究通过3000道八字选择题评估六个语言模型,发现理论准确率普遍高于案例应用,差距达16.60-29.56个百分点,强调需进行任务特定评估而非依赖总体知识分数。
2026-10-06 cs.AI cs.CL
Evaluating Adversarial Robustness on Document Image Classification
Credit Agricole S.A(法国农业信贷银行)
针对现有对抗攻防研究多聚焦普通图像、较少涉及文档图像的问题,该研究将三类无目标对抗攻击应用于文档与自然数据,评估三种防御手段对两种模型在文档图像分类任务上的鲁棒性影响,填补了相关研究空白。
2023-05-01 cs.AI cs.CV
Computer-Assisted Creation of Boolean Search Rules for Text Classification in the Legal Domain
Université de Montréal(蒙特利尔大学);University of Pittsburgh(匹兹堡大学);Hofstra University(霍夫斯特拉大学)
本研究开发了CASE交互式环境辅助构建布尔搜索规则形式的可解释文本分类器,在4个法律领域数据集上对比多种机器学习方法,探讨了规则可解释性与模型性能间的权衡。
2021-12-10 cs.AI cs.CL cs.IR
Evaluating Unsupervised Text Classification: Zero-shot and Similarity-based Approaches
Technical University of Munich(慕尼黑工业大学);University of Twente(特文特大学)
该研究针对未见类别文本分类任务,系统性对比了基于相似度与零样本两类无监督方法,提出新型基线和Lbl2TransformerVec方法,验证了相似度类方法的优势及嵌入表示优化的增益。
2023-01-31 cs.AI cs.CL
CALRK-Bench: Evaluating Context-Aware Legal Reasoning in Korean Law
KAIST AI(韩国科学技术院人工智能学院);Law School, Ajou University(亚洲大学法学院);Department of Artificial Intelligence, Ajou University(亚洲大学人工智能系)
本文提出CALRK-Bench,一个基于韩国法律体系的情境感知法律推理基准,评估模型对法律规范时效性、案件法律信息充分性及法律判断变化原因的理解能力,实验表明大语言模型在这些任务上表现不佳。
2026-03-27 cs.AI cs.CL
Beyond Keywords: Evaluating Large Language Model Classification of Nuanced Ableism
University of California, San Diego(加州大学圣地亚哥分校);Cardiff University(卡迪夫大学)
本研究评估四个大语言模型识别针对自闭症个体的细微能力歧视的能力,发现它们依赖关键词匹配而忽视上下文,与人类标注者相比存在差距,并验证了二分类标注方案的适用性。
2025-05-26 cs.AI cs.CL
Evaluating Vision-Language Models for Zero-Shot Detection, Classification, and Association of Motorcycles, Passengers, and Helmets
Archbishop Mitty(大主教米蒂高中);University of California San Diego(加利福尼亚大学圣迭戈分校)
本文扩展 CVPR AI City Challenge 数据集,采用 OWLv2 与 CNN 级联的零样本方法检测摩托车、乘员位置及头盔佩戴状态,头盔检测平均精度达 0.5324。
2024-08-05 cs.AI cs.CV
An Exploration And Validation of Visual Factors in Understanding Classification Rule Sets
New York University(纽约大学)
规则集通常用于机器学习(ML)中,作为在需要透明度和可理解性的设置中传达模型逻辑的一种方式。规则集通常以基于文本的逻辑语句(规则)列表的形式呈现。令人惊讶的是,到目前为止,在探索视觉替代方案来呈现规则方面的工作有限。在本文中,我们探讨了设计规则的替代表示的想法,专注于一些视觉因素,我们认为有一个积极的影响规则的可读性和理解。然后,我们提出了一个用户研究探索其影响。结果表明,一些设计因素对读者处理规则的效率有很大影响,而对准确性的影响最小。这项工作可以帮助从业者在使用规则作为理解ML模型的通信策略时采用更有效的解决方案。
2021-09-19 cs.AI cs.HC
Evaluating Voice Command Pipelines for Drone Control: From STT and LLM to Direct Classification and Siamese Networks
Instituto de Informática (INF)(信息学研究所(INF));Universidade Federal de Goiás(戈亚斯联邦大学)
本文针对无人机语音控制需求,开发并对比了STT+LLM、直接语音到功能映射、Siamese网络三种语音命令流水线,从多维度评估其性能,为不同场景下的无人机语音控制方案选择提供参考。
2024-07-10 cs.AI cs.SD
Generalized proportional conflict redistribution rule applied to Sonar imagery and Radar targets classification
在这一章中,我们提出了两个应用在信息融合,以评估广义比例冲突重新分配规则中提出的\cite{Martin06a}一章。大多数情况下,组合规则只在简单的示例上进行评估。我们在这里研究不同的组合规则,并比较它们在决策方面的实际数据。事实上,在实际应用中,我们需要一个可靠的决策,而最终的结果才是最重要的。这里提出了两个应用:人类专家的意见的水下沉积物的声纳图像上描绘的融合和雷达目标识别的分类器融合。
2008-06-12 cs.AI cs.CV
Team QUST at SemEval-2025 Task 10: Evaluating Large Language Models in Multiclass Multi-label Classification of News Entity Framing
College of Information Science and Technology(信息科学与技术学院);College of Data Science(数据科学学院);Qingdao University of Science and Technology(青岛科技大学)
本文提出了一个专为事实核查声明检索设计的三阶段检索框架,通过候选检索、多模型重排序及加权投票确定最终结果,在SemEval-2025 Task 7的单语和跨语言赛道中分别取得第5名和第7名。
2025-06-12 cs.AI cs.CL
Evaluating the Effectiveness of Pre-Trained Audio Embeddings for Classification of Parkinson's Disease Speech Data
Centre for Language Studies, Radboud University(拉德堡德大学语言研究中心)
本文在NeuroVoz数据集上比较OpenL3、VGGish和Wav2Vec2.0预训练音频嵌入的PD语音分类效果,发现OpenL3整体最优,并揭示性别偏差与非典型语音误分类问题。
2025-06-02 cs.AI eess.AS
Evaluating the Diagnostic Classification Ability of Multimodal Large Language Models: Insights from the Osteoarthritis Initiative
Sichuan University(四川大学);West China Hospital(华西医院);The University of Arizona(亚利桑那大学)
研究发现,多模态大语言模型在医学图像分类中表现不佳,建议优先优化视觉编码器和数据集质量。
2026-01-05 cs.AI cs.CV eess.IV