Blind Exploration and Exploitation of Stochastic Experts
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们提出了盲探索和开发(BEE)算法,用于确定最可靠的随机专家的基础上,采用后验抽样,置信上限,经验Kullback-Leibler分歧,和最小最大方法的随机多臂土匪问题的配方。在无监督或盲目的框架中,由于无法获得来自真实状态的反馈,联合采样和咨询专家的意见取决于世界的隐藏和随机状态,这变得具有挑战性。我们提出了一个经验上可实现的衡量专家能力,可以推断瞬间只使用其他专家的意见。这种措施保留了真正的能力的顺序,从而使联合抽样和咨询的随机专家根据他们的意见动态变化的任务。从拟议的措施中得到的统计数据是即时可用的,允许盲目的探索-利用和无监督的意见聚合。我们讨论了缺乏监督如何影响BEE架构,依赖于UCB 1,KL-UCB,MOSS,IMED,和汤普森采样的渐近遗憾。我们展示了不同的BEE算法的性能经验,并将它们与标准或监督的同行进行比较。
2021-04-02 cs.LG eess.SP
Unfairness towards subjective opinions in Machine Learning
Delft University of Technology(代尔夫特理工大学);IBM Center for Advanced Studies(IBM高级研究中心);TU Delft(代尔夫特理工大学)
尽管学术界和工业界对机器学习(ML)有很高的兴趣,但与ML应用于现实生活问题相关的许多问题尚未得到解决。在这里,我们提出了一个限制,这是由于缺乏ML模型和数据集对特定应用的适应性。我们将不公平的新概念正式定义为排斥意见。我们提出了量化这种不公平的方法,并通过可视化帮助理解其原因。这些对基于ML的系统的功能的见解暗示了减轻不公平的方法。
2019-11-06 cs.CY cs.HC cs.LG
Unsupervised Opinion Aggregation -- A Statistical Perspective
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出无需真实标签、依据专家间一致性估计可靠性的无监督朴素贝叶斯观点聚合方法,并证明其渐近最优,可用于批量、在线及有限观点决策。
2023-08-20 cs.AI cs.LG eess.SP
Direct Uncertainty Prediction for Medical Second Opinions
Cornell University(康奈尔大学);Google Brain(谷歌大脑);UC Berkeley School of Public Health(加州大学伯克利分校公共卫生学院);Chicago Booth School of Business(芝加哥大学布斯商学院)
人类专家之间的分歧问题在机器学习和医学中都是普遍存在的。在医学上,这通常对应于医生对患者诊断的分歧。在这项工作中,我们证明了机器学习模型可以被训练为给可能导致高度专家分歧的数据实例提供不确定性分数。特别是,他们可以确定病人的情况下,将受益最大的医疗第二意见。我们的主要方法发现是,直接不确定性预测(DUP),训练模型直接从原始患者特征预测不确定性评分,比通过分类的不确定性更好,通过分类的两步过程训练分类器和后处理输出分布以给出不确定性评分。我们表明这两个理论结果,并在大规模的医学成像应用的广泛评价。
2019-05-29 cs.LG stat.ML
Learning Social Fairness Preferences from Non-Expert Stakeholder Opinions in Kidney Placement
Missouri University of Science and Technology(密苏里科技大学);Michigan State University(密歇根州立大学)
针对肾脏分配推荐系统的社会偏见问题,本文设计公平反馈众包调查,并提出基于 logit 公平反馈模型和社会反馈遗憾最小化的偏好学习算法,以验证接受率预测器的公平性。
2024-04-04 cs.HC cs.LG
Subjectivity Classification using Machine Learning Techniques for Mining Feature-Opinion Pairs from Web Opinion Sources
Jamia Millia Islamia(贾米亚·米利亚伊斯兰大学)
由于Web 2.0的蓬勃发展,网络意见来源正在迅速涌现,其中包含对客户和制造商都有用的宝贵信息。最近,基于特征的意见挖掘技术正在获得动力,其中客户评论被自动处理,用于挖掘产品特征和用户对它们的意见。然而,客户评论可能包含固执己见和事实的句子。事实内容的提取通过防止噪声和不相关的提取来提高挖掘性能。本文提出了一种结合监督机器学习和基于规则的方法从主观评论句中挖掘可行的特征-意见对的方法。在所提出的方法的第一阶段,监督机器学习技术被应用于分类的主观和客观的句子从客户评论。在下一阶段,实施基于规则的方法,该方法应用文本的语言和语义分析,从第一阶段后保留的主观句子中挖掘可行的特征-意见对。所提出的方法的有效性,建立通过实验对不同的电子产品的客户评论。
2013-12-25 cs.CL cs.IR cs.LG
Event Outcome Prediction using Sentiment Analysis and Crowd Wisdom in Microblog Feeds
Carnegie Mellon University(卡内基梅隆大学)
近年来,微博源的情感分析引起了人们的极大兴趣。目前的大部分工作集中在推文情感分类。但是,人们并没有做太多的工作来探索诸如twitter这样的社交网络微博中的大众观点(群体智慧)在预测选举辩论等特定事件的结果时的可靠性。在这项工作中,我们调查了群体智慧是否有助于预测此类结果,以及他们的观点是否受到该领域专家的影响。我们在多标签分类领域工作,对推文进行情感分类,并获得人群的意见。然后,这种学习到的情绪被用来预测事件的结果,例如:美国总统辩论获奖者,格莱美奖获奖者,超级碗获奖者。我们发现,在大多数情况下,群众的智慧确实与专家的智慧相匹配,而在他们不匹配的情况下(特别是在辩论的情况下),我们看到群众的意见实际上受到专家意见的影响。
2019-12-11 cs.CL cs.LG cs.SI
Opinion Spam Detection: A New Approach Using Machine Learning and Network-Based Algorithms
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
电子商务是经济增长最快的部分。在线评论在帮助消费者评估和比较产品和服务方面发挥着至关重要的作用。因此,虚假评论(意见垃圾)变得越来越普遍,对客户和服务提供商产生了负面影响。自动识别意见垃圾邮件发送者有很多原因,包括缺乏可靠的标记数据。这种限制排除了机器学习流水线的现成应用。我们提出了一种新的方法来分类的评论者作为垃圾邮件发送者或良性的,结合机器学习与消息传递算法,利用用户的图形结构,以弥补可能的标记数据的稀缺性。我们设计了一种新的方法来对训练步骤(主动学习)的标签进行采样,取代了典型的均匀采样。在来自Yelp.com的三个大型真实世界数据集上的实验表明,我们的方法优于最先进的主动学习方法以及使用更大的标记数据集进行训练的机器学习方法。
2022-05-26 cs.AI cs.LG
A Machine Learning Approach For Opinion Holder Extraction In Arabic Language
Cairo University(开罗大学);Faculty of Computers and Information, Cairo University(开罗大学计算机与信息学院)
意见挖掘旨在从大量可靠的文本中提取有用的主观信息。意见挖掘持有者识别是阿拉伯语中尚未考虑的任务。这个任务本质上需要对从句结构有深刻的理解。不幸的是,缺乏一个强大的,公开的,阿拉伯语解析器进一步复杂化的研究。本文提出了一个领先的研究阿拉伯语新闻独立于任何词法分析器的意见持有人提取。我们研究构建一个全面的功能集,以弥补缺乏解析结构的结果。建议的功能集是从英语以前的作品,再加上我们提出的语义场和命名实体功能调整。我们的特征分析是基于条件随机场(CRF)和半监督模式识别技术。不同的研究模型进行了评估,通过交叉验证实验达到54.03 F-措施。我们公开发布我们自己的研究成果语料库和词汇的意见挖掘社区,以鼓励进一步的研究。
2012-04-06 cs.IR cs.LG
Who Said What: Modeling Individual Labelers Improves Classification
Stanford University(斯坦福大学);Google Brain(谷歌大脑)
数据通常由许多不同的专家标记,每个专家只标记数据的一小部分,每个数据点由多个专家标记。这减少了单个专家的工作量,并且还对未观察到的地面实况进行了更好的估计。当专家意见不一致时,标准的方法是将大多数人的意见视为正确的标签,或者将正确的标签建模为分布。然而,这些方法没有利用关于哪个专家产生哪个标签的潜在有价值的信息。为了利用这些额外的信息,我们建议对专家进行单独建模,然后学习平均权重,以便以特定于样本的方式将它们组合起来。这使我们能够给予更可靠的专家更多的权重,并利用个别专家在对某些类型的数据进行分类时的独特优势。在这里,我们表明,我们的方法导致糖尿病视网膜病变的计算机辅助诊断的改进。我们还表明,我们的方法比Welinder和Perona(2010)以及Mnih和Hinton(2012)的竞争算法表现更好。我们的工作提供了一种创新的方法来处理无数的现实世界的设置,使用专家的意见来定义标签的培训。
2018-01-04 cs.CV cs.LG
Bayesian Classifier Fusion with an Explicit Model of Correlation
TU Darmstadt(达姆施塔特工业大学);Frankfurt Institute for Advanced Studies(法兰克福高等研究院);Goethe University Frankfurt(法兰克福歌德大学)
将多个分类器或专家的输出组合成单个概率分类是机器学习中的基本任务,具有从分类器融合到专家意见池的广泛应用。在这里,我们提出了一个分层贝叶斯模型的概率分类器融合的基础上,一个新的相关Dirichlet分布。该分布明确地对边缘狄利克雷分布的随机向量之间的正相关性进行建模,从而允许对基础分类器或专家之间的相关性进行明确建模。所提出的模型自然容纳经典的独立意见池和其他独立的融合算法的特殊情况。它是由不确定性减少和正确性的合成和真实世界的数据集融合评估。我们表明,由于不确定性降低的融合分类器的性能的变化可以是贝叶斯最优的,即使是高度相关的基础分类器。
2021-11-22 cs.AI cs.LG stat.ML
Multi-Agent Systems are Mixtures of Experts: Who Becomes an Influencer?
CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全中心);Faculty of Computer Science, University of Vienna(维也纳大学计算机科学系)
本文通过Friedkin-Johnsen意见动力学模型分析多智能体LLM协商机制,揭示输入依赖的FJ参数使系统成为专家混合,并探讨基于自信度、感知自信度和初始观点对齐的影响者形成机制。
2026-06-18 cs.LG cs.MA
Second Opinion Matters: Towards Adaptive Clinical AI via the Consensus of Expert Model Ensemble
Sully AI;Stanford University(斯坦福大学)
针对临床AI依赖单一模型的问题,提出基于专家模型集成的共识机制,模拟临床分诊与多学科决策,在多个医学基准上显著提升准确率与诊断性能。
2025-06-20 cs.AI cs.LG
Sentiment Analysis of Political Tweets for Israel using Machine Learning
LearnByResearch
情感分析是计算机科学领域的一个重要研究课题。随着信息技术和社交网络的加速发展,在网络应用程序或Twitter等社交媒体平台上产生了大量与评论文本相关的数据。因此,人们积极地开始扩散一般信息和与政治观点有关的信息,这成为分析公众反应的重要原因。大多数研究者使用社交媒体的细节或内容来分析和预测有关政治事件的公众舆论。本研究提出了一个分析研究,使用以色列政治Twitter数据来解释公众舆论对巴以冲突。使用支持向量分类器(SVC)、决策树(DT)和朴素贝叶斯(NB)等机器学习算法分析了以推文形式出现的种族群体和意见领袖的态度。最后,根据不同模型的实验结果进行了对比分析。
2022-04-12 cs.IR cs.LG
Optimizing Resources for On-the-Fly Label Estimation with Multiple Unknown Medical Experts
ICTEAM, UCLouvain(鲁汶大学ICTEAM);Machine Learning Group, Université Libre de Bruxelles(布鲁塞尔自由大学机器学习组);AI Lab, Vrije Universiteit Brussel(布鲁塞尔自由大学AI实验室);FARI Institute, Université Libre de Bruxelles - Vrije Universiteit Brussel(FARI研究所,布鲁塞尔自由大学-布鲁塞尔自由大学)
本文提出一种实时标注方法,支持在流数据中即时标注,无需先验知识,动态查询专家以提高准确性,减少标注开销。
2025-10-04 cs.LG
Convolutional Neural Network for emotion recognition to assist psychiatrists and psychologists during the COVID-19 pandemic: experts opinion
Mathematics Research Center (CIMAT)(数学研究中心);Tecnologico Nacional de México, Campus Culiacán(墨西哥国家技术学院库利亚坎校区)
介绍了一个为心理学家和精神病学家提供实时情绪识别的Web应用程序。COVID-19隔离期间的心理健康影响需要得到处理,因为社会正在受到情绪上的影响。人类的微表情可以描述真实的情感,可以通过卷积神经网络(CNN)模型捕获。但挑战是在一部分社会计算机性能差和互联网连接速度低的情况下实现它,即,提高了计算效率,减少了数据传输。为了验证计算效率的前提,我们比较了CNN架构的结果,收集了来自MobileNet、PeleeNet、扩展深度神经网络(EDNN)、基于初始的深度神经网络(IDNN)和我们提出的基于残差移动的网络模型(ResmoNet)的每秒浮点运算(FLOPS)、参数数(NP)和准确度。此外,我们比较训练模型的结果在主内存利用率(MMU)和响应时间,以完成情感(RTE)的识别。此外,我们设计了一个数据传输,包括原始数据的情绪和基本的病人信息。由心理学家和精神病学家使用系统可用性量表(SUS)和效用问卷对Web应用程序进行评估。ResmoNet模型生成的NP、FLOPS和MMU结果最少,只有EDNN在RTE中在0.01秒内克服了ResmoNet。对我们模型的优化影响了准确性,因此IDNN和EDNN分别比我们的模型准确0.02和0.05。最后,根据心理学家和精神病学家的说法,Web应用程序具有良好的可用性(73.8/100)和实用性(3.94/5)。
2021-09-23 cs.CV cs.LG eess.IV
Current Opinions on Memristor-Accelerated Machine Learning Hardware
The University of Hong Kong(香港大学);Huazhong University of Science and Technology(华中科技大学)
本文综述忆阻器加速机器学习硬件的现状与挑战,提出通过跨学科协同设计优化器件变异性、外围电路等关键问题,以推动边缘AI硬件发展。
2025-01-22 cs.AR cs.ET cs.LG
Opinion Mining on Offshore Wind Energy for Environmental Engineering
Montclair State University(蒙特克莱尔州立大学)
本文采用TextBlob、VADER和SentiWordNet三种机器学习模型对社交媒体数据进行情感分析,研究大众对海上风能的意见,并利用NLP技术与数据可视化工具展示结果,以支持智能治理与决策。
2024-09-22 cs.AI cs.CL cs.LG
(Re)Defining Expertise in Machine Learning Development
Google Research(谷歌研究院);University of Texas at Austin(德克萨斯大学奥斯汀分校)
领域专家通常以各种方式参与机器学习系统的开发,例如数据汇集和系统性能评估。与此同时,谁算“专家”,什么构成“专门知识”,并不总是明确界定。在这个项目中,我们对机器学习研究进行了系统的文献综述,以了解1)专业知识定义和识别的基础,以及2)专家在ML开发中扮演的角色。我们的目标是生成一个高级分类,以突出如何识别专家并参与ML研究的限制和机会。
2023-02-08 cs.LG
A Comparative Approach to Explainable Artificial Intelligence Methods in Application to High-Dimensional Electronic Health Records: Examining the Usability of XAI
可解释人工智能(XAI)是人工智能领域的一个新兴领域。它的目的是产生一个示范性的信任因素,这对于人类主体是通过沟通手段实现的,这是机器学习(ML)算法无法单独产生的,说明了一个额外的层产生支持模型输出的必要性。在接近医学领域时,我们可以看到在处理人类受试者的参与时出现了挑战,信任机器以帮助人类谋生的意识形态构成了一个道德难题-将信任作为人类专家接受机器决策的基础。本文的目的是应用XAI方法来证明可解释架构作为支持ML预测和人类专家意见的医疗领域的第三层的可用性,XAI方法在局部和全局层面上对给定模型输出的特征贡献进行可视化。本文中的工作使用XAI来确定对高维数据驱动问题的特征重要性,以告知领域专家可识别的趋势,并将模型不可知方法应用于ML算法。还提供了玻璃盒方法的性能指标,作为与表格数据的黑盒能力的比较。未来的工作将旨在产生一个用户研究使用指标来评估人类专家的可用性和意见的给定模型。
2021-03-08 cs.AI cs.CY cs.LG
Bayesian Inference for Correlated Human Experts and Classifiers
University of California, Irvine(加州大学欧文分校);GE HealthCare(GE医疗);Stripe
本文提出一个通用贝叶斯框架,通过联合潜在表示建模专家相关性,在利用预训练分类器概率估计的同时以最少人工查询实现高准确率预测,并在医学分类及CIFAR-10H、ImageNet-16H上验证了显著降低查询成本的效果。
2025-06-05 cs.AI cs.LG
Peirce in the Machine: How Mixture of Experts Models Perform Hypothesis Construction
Purdue University(普渡大学)
本文探讨了混合专家模型在假设构造中的表现,指出其函数容量优势,并通过实验验证其在归纳推理中的有效性。
2024-06-24 cs.AI cs.LG
Hybrid Machine Learning Model of Extreme Learning Machine Radial basis function for Breast Cancer Detection and Diagnosis; a Multilayer Fuzzy Expert System
Obuda University(欧布达大学)
乳房X线摄影术通常被用作检测乳腺癌的最常见的实验室方法,但与高成本和许多副作用相关。机器学习预测作为一种替代方法已经显示出有希望的结果。本文提出了一种基于多层模糊专家系统的乳腺癌检测方法,采用极端学习机(ELM)分类模型集成径向基函数(RBF)内核称为ELM-RBF,考虑威斯康星数据集。所提出的模型的性能进一步比较与线性SVM模型。该模型的RMSE、R2和MAPE分别为0.1719、0.9374和0.0539,优于线性支持向量机模型。此外,这两个模型的准确性,精密度,灵敏度,特异性,验证,真阳性率(TPR)和假阴性率(FNR)的标准进行了研究。与SVM模型相比,ELM-RBF模型对这些标准具有更好的性能。
2019-10-29 cs.CV cs.LG eess.IV
Operational thermal load forecasting in district heating networks using machine learning and expert advice
VITO(弗拉芒技术研究院);EnergyVille(能源城);NODA(NODA公司)
预测热负荷是控制区域供热和供冷系统的大多数优化解决方案的关键组成部分。最近的研究分析了一些数据驱动的方法应用于热负荷预测的结果,本文提出的结果相结合的收集这些个人的方法在一个专家系统。专家系统将以一种总是跟踪系统中最佳专家的方式组合多个热负荷预测。该解决方案的测试和验证,使用27个月的热负荷数据集,从位于瑞典Rottne的10栋住宅楼,以及从天气预报服务收到的室外温度信息。该专家系统由以下数据驱动方法组成:线性回归、极端随机树回归、前馈神经网络和支持向量机。所提出的解决方案的结果进行比较的结果的个别方法。
2017-10-17 cs.LG
An evolutionary origin of collective decision making in humans and machines
University of Pennsylvania(宾夕法尼亚大学);Shanghai Jiao Tong University(上海交通大学);Meiji University(明治大学)
本研究提出多层投票群体中集体智能进化的框架,证明单层投票无法解决非线性问题,并识别出“边际反馈”奖励结构,使群体通过个体模仿进化出等同于多层感知器的准确集体决策,为层级制度提供了进化解释。
2026-10-06 cs.LG physics.soc-ph q-bio.PE
Deep Learning for Opinion Mining and Topic Classification of Course Reviews
Florida Gulf Coast University(佛罗里达海湾海岸大学)
本文利用BERT、RoBERTa、XLNet等深度学习方法与传统模型对课程评价进行情感极性和主题分类对比,其中RoBERTa在情感分类上准确率达95.5%,SVM在主题分类上表现最佳,为教育机构分析课程反馈提供了实践指南。
2023-06-16 cs.CL cs.LG
Mixture of experts architectures for machine learning interatomic potentials
本文提出基于专家混合的MLIPs架构,通过非线性专家专业化提升模型性能,实现元素级路由的高效稳定模拟,并在多个基准测试中取得最佳精度。
2026-08-18 cs.LG physics.chem-ph physics.comp-ph
Forming Effective Human-AI Teams: Building Machine Learning Models that Complement the Capabilities of Multiple Experts
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);GESIS - Leibniz Institute for the Social Sciences(GESIS——莱布尼茨社会科学研究所)
机器学习(ML)模型越来越多地用于经常涉及与人类专家一起工作的应用领域。在这种情况下,当ML模型难以预测某些实例时,将其推迟到单个人类专家可能是有利的。虽然以前的工作集中在一个不同的人类专家的情况下,在许多现实世界的情况下,可能有几个人类专家具有不同的能力。在这项工作中,我们提出了一种训练分类模型的方法,以补充多个人类专家的能力。通过与分配系统一起联合训练分类器,分类器学会准确预测人类专家难以预测的实例,而分配系统学会将每个实例传递给最合适的团队成员-分类器或人类专家之一。我们评估我们提出的方法在多个实验中的公共数据集与“合成”专家和现实世界的医疗数据集注释多个放射科医生。我们的方法优于以前的工作,比最好的人类专家或分类器更准确。此外,它可以灵活地适应不同规模和不同专家多样性水平的团队。
2022-06-16 cs.AI cs.HC cs.LG
Understanding Human Judgments of Causality
Habitech Inc.(Habitech公司);Massachusetts Institute of Technology(麻省理工学院)
区分因果关系和相关性是机器学习中的一个主要问题,用于确定因果关系的理论工具仍在开发中。然而,人们通常会做出因果关系的判断,而且往往是正确的,即使是在不熟悉的领域。人类是如何做出这些判断的?本文通过将人类专家和非专家的性能与机器学习算法的性能进行比较,考察了人类专家和非专家归因因果关系的能力差异。我们使用Amazon Mechanical Turk(MTurk)收集人类判断,然后将人类受试者分为两组:专家和非专家。我们还根据卷积神经网络(CNN)模型的不同训练准备了专家和非专家机器算法。结果表明,人类专家的判断与在目标领域的大量示例上训练的“专家”CNN模型所做出的判断相似。人类非专家的判断类似于CNN模型的预测输出,该模型仅在MTurk指令期间使用的少量示例上进行训练。我们还分析了专家和非专家机器算法之间的差异,基于它们的神经表示来评估性能,从而深入了解人类专家和非专家的认知能力。
2019-12-19 cs.AI cs.LG
Memory-efficient NLLB-200: Language-specific Expert Pruning of a Massively Multilingual Machine Translation Model
NAVER LABS Europe(NAVER LABS欧洲);University of Amsterdam(阿姆斯特丹大学)
本文提出一种专家剪枝方法,可在不微调的情况下移除NLLB-200中多达80%的专家,翻译质量损失可忽略,使54.5B参数模型能在单块32GB GPU上推理,并能识别语言特定专家。
2023-07-07 cs.AI cs.CL cs.LG