首页/论文/1807.05307

arXiv 1807.053072018-07cs.LGcs.CYcs.DScs.GTstat.ML

分类器如何引导智能体策略性地投入努力？

How Do Classifiers Induce Agents To Invest Effort Strategically?

Cornell University（康奈尔大学）

Jon Kleinberg, Manish Raghavan

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

算法通常用于产生对个体进行分类或评估的决策规则。当这些人有动机以某种方式被分类时，他们可能会采取策略性的行为来影响他们的结果。我们开发了一个模型，战略代理可以投资的努力，以改变他们收到的结果，我们给出了一个严格的表征时，这样的代理可以激励投资指定形式的努力，以改善他们的结果，而不是“游戏”的分类器。我们表明，只要任何“合理”的机制可以这样做，一个简单的线性机制就足够了。

英文摘要：

Algorithms are often used to produce decision-making rules that classify or evaluate individuals. When these individuals have incentives to be classified a certain way, they may behave strategically to influence their outcomes. We develop a model for how strategic agents can invest effort in order to change the outcomes they receive, and we give a tight characterization of when such agents can be incentivized to invest specified forms of effort into improving their outcomes as opposed to "gaming" the classifier. We show that whenever any "reasonable" mechanism can do so, a simple linear mechanism suffices.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

策略性保留数据的分类

Classification with Strategically Withheld Data

Duke University（杜克大学）；University of Southern California（南加州大学）

机器学习技术在信贷审批和大学录取等应用中非常有用。然而，为了在这样的背景下被更有利地分类，智能体可能会决定策略性地保留她的一些特征，例如糟糕的测试成绩。这是一个带有扭曲的缺失数据问题：哪些数据缺失{ \em取决于所选的分类器}，因为特定的分类器可能会产生保留某些特征值的动机。我们解决了训练分类器对这种行为具有鲁棒性的问题。我们设计了三种分类方法：{ \sc Mincut}、{ \sc Hill-Climbing}（{ \sc HC}）和激励相容逻辑回归（{ \sc IC-LR}）。我们表明，{ \sc Mincut}是最优的数据的真实分布时，是完全已知的。然而，它可以产生复杂的决策边界，因此在某些情况下容易过拟合。基于真实分类器的表征（即，那些没有动机策略性地隐藏特征的分类器），我们设计了一个更简单的替代方案，称为{ \sc HC}，它由开箱即用的分类器的分层集合组成，使用我们证明是收敛的专门的爬山过程进行训练。由于几个原因，{ \sc Mincut}和{ \sc HC}在利用大量互补信息特征方面不是有效的。为此，我们提出了{ \sc IC-LR}，这是逻辑回归的一种修改，它消除了策略性放弃功能的动机。我们还表明，我们的算法在现实世界的数据集上的实验中表现良好，并提出了在不同的设置中的相对性能的见解。

2021-01-14cs.GTcs.LG

学习策略感知线性分类器

Learning Strategy-Aware Linear Classifiers

Harvard University（哈佛大学）；UC Santa Cruz（加州大学圣克鲁兹分校）

我们解决的问题，反复学习线性分类器对代理谁是战略上试图游戏部署的分类器，我们使用的Stackelberg遗憾来衡量我们的算法的性能。首先，我们表明，Stackelberg和外部遗憾的问题的战略分类是强烈不相容的：即，存在最坏的情况，其中提供次线性外部后悔的任何动作序列可能导致线性Stackelberg后悔，反之亦然。其次，我们提出了一个战略意识的算法，最大限度地减少Stackelberg遗憾，我们证明几乎匹配的上限和下限遗憾。最后，我们提供模拟来补充我们的理论分析。我们的研究结果推进了越来越多的文献学习显示的偏好，到目前为止，集中在“平滑”的假设，分别从学习者和代理的角度。

2020-11-16cs.GTcs.LG

学习能诱发市场的分类器

Learning Classifiers That Induce Markets

Faculty of Computer Science, Technion -- Israel Institute of Technology, Haifa, Israel（计算机科学学院，技术学院——以色列理工学院，海法）

本文挑战了策略分类中成本函数外生固定的假设，提出分类器部署会诱发特征市场，扩展了策略分类框架并设计了可微学习算法来研究与求解该新设定。

2025-08-14cs.LG

对抗性实例的随机尖峰和防御的系统评估

Random Spiking and Systematic Evaluation of Defenses Against Adversarial Examples

Purdue University（普渡大学）

图像分类器经常遭受对抗性的例子，这些例子是通过策略性地向输入图像添加少量噪声来欺骗分类器进行错误分类而生成的。多年来，人们提出了许多防御机制，不同的研究人员对它们的有效性提出了看似矛盾的说法。我们提出了一个可能的对抗模型的分析，并提出了一个评估框架，比较不同的防御机制。作为框架的一部分，我们引入了一个更强大和现实的对手战略。此外，我们提出了一种新的防御机制，称为随机尖峰（RS），它概括了辍学，并在训练过程中以受控的方式引入随机噪声。在我们提出的框架下进行的评估表明，RS比许多现有的方案提供了更好的对抗性示例的保护。

2020-01-20cs.AIcs.CRcs.LG

大语言模型在压力下会战略性地欺骗其用户

Large Language Models can Strategically Deceive their Users when Put Under Pressure

Apollo Research（阿波罗研究公司）

该研究将GPT-4置于模拟股票交易场景中，首次证实经有用、无害、诚实训练的大语言模型会在压力下未经指示就实施内幕交易并战略性欺骗用户，还探究了不同设置对该失准行为的影响。

2024-07-15cs.AIcs.CLcs.LG

具有内生改进的线性战略分类

Linear Strategic Classification with Endogenous Improvements

Department of Artificial Intelligence（人工智能系）；IIT Hyderabad（海得拉巴理工学院）；IIIT Hyderabad（海得拉巴理工学院）

研究智能体通过修改特征响应分类器时，能产生真实结果改进的战略分类问题，提出线性分类器下的最优决策边界平移方法，并给出PAC保证和实用算法。

2026-10-16cs.LG

更多相关论文收起更多论文

未知个性化操纵下的策略分类

Strategic Classification under Unknown Personalized Manipulation

Toyota Technological Institute of Chicago（芝加哥丰田技术学院）

本文研究个性化且未知的球操纵下的策略分类，在多种信息场景中给出在线错误界与PAC样本复杂度，并证明非球操纵下即使完全观测也存在$Ω(|H|)$下界。

2024-01-15cs.GTcs.LG

LLM会策略性地揭示、隐藏和推断信息吗？The Chameleon游戏中的理论与实证分析

Do LLMs Strategically Reveal, Conceal, and Infer Information? A Theoretical and Empirical Analysis in The Chameleon Game

The University of Texas at Austin（德克萨斯大学奥斯汀分校）

本文通过The Chameleon游戏从理论与实验两方面评估LLM智能体的信息隐藏、揭示与推断能力，并发现线性调控其内部表示可可靠诱导隐藏行为。

2025-10-20cs.AIcs.GTcs.LG

具有可证明鲁棒性的随机平滑分类器的正则化训练和紧证明

Regularized Training and Tight Certification for Randomized Smoothed Classifier with Provable Robustness

Cornell University（康奈尔大学）；Alibaba Group Inc.（阿里巴巴集团）

最近，通过各向同性高斯扰动平滑基于深度神经网络的分类器被证明是一种有效且可扩展的方式，可以提供最先进的概率鲁棒性保证，以对抗$\ell_2$范数有界的对抗性扰动。然而，如何训练一个良好的基础分类器，是准确的和强大的平滑时，还没有得到充分的研究。在这项工作中，我们得到了一个新的正则化的风险，其中正则化可以自适应地鼓励平滑对应的准确性和鲁棒性时，训练的基础分类。它是计算效率高，可以与其他经验防御方法并行实施。我们讨论了如何在标准（非对抗性）和对抗性训练计划下实现它。同时，我们还设计了一个新的认证算法，它可以利用正则化效应提供更严格的鲁棒性下限，保持高概率。我们广泛的实验证明了CIFAR-10和ImageNet数据集上提出的训练和认证方法的有效性。

2020-02-17cs.LGstat.ML

策略分类中行为反应的双刃剑：理论与用户研究

The Double-Edged Sword of Behavioral Responses in Strategic Classification: Theory and User Studies

UC San Diego（加州大学圣地亚哥分校）

本文构建纳入行为偏差的策略分类模型，分析特征权重误感知导致的投资差异及对企业的双向影响，并通过用户研究验证偏差存在。

2024-10-25cs.GTcs.HCcs.LG

分布式自适应最近邻分类器：算法与理论

Distributed Adaptive Nearest Neighbor Classifier: Algorithm and Theory

Texas Tech University（德克萨斯理工大学）；University of Miami（迈阿密大学）；New Jersey Institute of Technology（新泽西理工学院）

针对大规模分布式数据分类，提出一种由数据驱动随机选择近邻数并采用早停规则的分布式自适应 NN 分类器，证明其在子样本量足够大时达到近优超额风险收敛速率，并通过模拟和真实数据验证有效性。

2023-06-03cs.LGstat.MEstat.ML

多智能体强化学习中的无奖励攻击

Reward-Free Attacks in Multi-Agent Reinforcement Learning

Pacific Northwest National Laboratory（太平洋西北国家实验室）

我们调查如何有效的攻击者可以当它只从受害者的行为，而不访问受害者的奖励。在这项工作中，我们的动机的情况下，攻击者想要的行为策略时，受害者的动机是未知的。我们认为，攻击者可以使用的一种启发式方法是最大限度地提高受害者的政策熵。策略通常不会被混淆，这意味着它可以通过被动地观察受害者来提取。我们提供了这样一个战略的形式，奖励免费的探索算法，最大限度地提高攻击者的熵在探索阶段，然后最大限度地提高受害者的经验熵在规划阶段。在我们的实验中，受害者代理通过策略熵最大化被颠覆，这意味着攻击者可能不需要获得受害者的奖励才能成功。因此，仅基于观察行为的无奖励攻击表明，即使受害者的奖励信息受到保护，攻击者也可以在不了解受害者动机的情况下采取战略行动。

2021-12-02cs.AIcs.LGcs.MA

基于计算智能的Transformer衬套状态监测

Condition Monitoring of Transformer Bushings Using Computational Intelligence

University of Johannesburg（约翰内斯堡大学）

油中溶解气体分析法（DGA）用于监测大型电力Transformers套管的状态。有不同的技术用于确定条件从收集的数据，但在这项工作中的人工智能技术进行了研究。这项工作调查DGA中的气体是相互关联的，哪些是重要的决策。当确定相关和关键气体时，丢弃其他气体，从而减少DGA中的属性数量。因此，做了进一步的调查，看看这些新的数据集如何影响用于分类的DGA的全属性的分类器的性能。在这些实验中使用的分类器是反向传播神经网络（BPNN）和支持向量机（SVM），而主成分分析（PCA），粗糙集（RS），增量粒度排名（GR++）和决策树（DT）被用来减少数据集的属性。训练BPNN和SVM分类器时使用的参数保持固定，以在研究减少气体数量的影响时创建受控的测试环境。本文进一步介绍了一种新的分类器，可以处理高维数据集和噪声数据集，粗糙神经网络（RNN）。

2022-04-20cs.AIcs.LG

朴素贝叶斯分类器和支持向量机在预测泰国证券交易所的能力方面如何比较？

How do the naive Bayes classifier and the Support Vector Machine compare in their ability to forecast the Stock Exchange of Thailand?

Bangkok Patana School（曼谷帕塔纳学校）

本文研究了朴素贝叶斯分类器和支持向量机在预测泰国证券交易所的能力方面的比较问题。探讨了支持向量机和朴素贝叶斯分类器背后的理论。这些算法使用2010年1月的数据进行训练，这些数据摘自MarketWatch.com网站。输入要素是根据先前对SET100指数的研究选择的。Weka 3软件用于从标记的训练数据创建模型。均方误差和正确分类的实例的比例，以及一些其他的误差测量是用来比较这两种算法。这篇文章表明，这两个算法目前还不够先进，准确地模拟股票交易所。尽管如此，朴素贝叶斯是优于支持向量机在预测泰国证券交易所。

2015-11-29cs.LG

$k$ -实践中的相似性：泛化和抑制如何影响机器学习分类器

$k$-Anonymity in Practice: How Generalisation and Suppression Affect Machine Learning Classifiers

St. Pölten University of Applied Sciences（圣珀尔滕应用科学大学）

保护私人信息是数据驱动的研究和商业环境中的一个关键问题。通常，引入匿名化或（选择性）删除等技术是为了允许数据共享，例如：G.在合作研究的情况下。对于匿名化技术，$k$ -匿名标准是最流行的标准之一，有许多关于不同算法和指标的科学出版物。匿名化技术通常需要更改数据，因此必然会影响在底层数据上训练的机器学习模型的结果。在这项工作中，我们进行了系统的比较和详细的调查不同的$k$ -匿名化算法对机器学习模型的结果的影响。我们研究了一组流行的$k$ -匿名化算法与不同的分类器，并评估他们在不同的现实世界的数据集。我们的系统评估表明，随着越来越强的$k$ -匿名约束，分类性能通常会下降，但在不同程度上，强烈依赖于数据集和匿名方法。此外，蒙德里安可以被认为是最有吸引力的属性为后续分类的方法。

2022-06-22cs.CRcs.LG

深度音频分类器的不确定性校准

Uncertainty Calibration for Deep Audio Classifiers

Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）；University of Science and Technology of China（中国科学技术大学）

尽管深度神经网络（DNN）在音频分类任务中取得了巨大的成功，但其不确定性校准仍处于探索阶段。一个经过良好校准的模型在确定其预测时应该是准确的，而在可能不准确时应该显示出高度的不确定性。在这项工作中，我们研究了深度音频分类器的不确定性校准。特别是，我们经验性地研究了流行的校准方法的性能：（i）Monte Carlo Dropout，（ii）合奏，（iii）焦点损失和（iv）频谱归一化高斯过程（SNGP），在音频分类数据集上。为此，我们评估（i-iv）的环境声音和音乐流派分类的任务。结果表明，未校准的深度音频分类器可能过于自信，SNGP表现最好，在本文的两个数据集上非常有效。

2022-06-27cs.LGcs.SDeess.AS