Truthful Data Acquisition via Peer Prediction
我们考虑为机器学习或统计估计购买数据的问题。数据分析师有预算从多个数据提供商购买数据集。她没有任何测试数据可用于评估所收集的数据,并且可以仅基于所收集的数据集向数据提供者分配付款。我们在标准贝叶斯范式和两种情况下考虑这个问题:(1)数据只收集一次;(2)数据被重复收集,每天的数据都独立于同一分布。对于这两种设置,我们的机制保证,如实报告自己的数据集始终是一个均衡,采用技术从同行预测:支付每个供应商之间的互信息,他报告的数据和其他供应商的报告数据。根据数据分布情况,这些机制还可以阻止可能导致预测不准确的误报。我们的机制还保证了第一种设置中某些基本分布和第二种设置中所有分布的个人合理性和预算可行性。
2020-10-29 cs.GT
Dominantly Truthful Multi-task Peer Prediction with a Constant Number of Tasks
在参与者被问到多个类似的可能是主观的多项选择问题的设置中(例如,你喜欢熊猫快递吗?你喜欢Chick-fil-A吗?Y/N),设计了一系列的同伴预测机制来激励诚实报告,其中一些实现了显性真实性:说真话是一种显性策略,并在一定的温和条件下严格优于其他"非排列策略"。然而,一个主要问题阻碍了这些机制的实际使用:它们要求参与者执行无限数量的任务。当参与者执行有限数量的任务时,这些机制只能实现近似的主导真实性。存在一个占主导地位的真实的多任务同行预测机制,只需要有限数量的任务仍然是一个悬而未决的问题,可能有一个负面的结果,即使有充分的先验知识。本文回答了这个问题,提出了一种新的机制,基于确定性的互信息机制(DMI机制),这是占主导地位的真实任务的数量至少是2C和参与者的数量至少是2。C是每个问题的选择数(对于二元选择题,C = 2)。除了激励诚实的报告外,DMI-Mechanism还可以转换为信息评估规则,当至少有3个参与者时,该规则可以识别高质量的信息而无需验证。据我们所知,DMI-Mechanism是第一个适用于有限数量任务的主要真实机制,而不是一个小的恒定数量的任务。
2019-11-01 cs.GT econ.TH
Stochastically Dominant Peer Prediction
DIMACS, Rutgers University(罗格斯大学DIMACS研究中心);University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
本文提出随机占优真实性机制,以增强同伴预测机制的诚实性,通过二元彩票评分和新机制在保持敏感度的同时提高效率。
2026-03-20 cs.AI cs.GT
Sequential Peer Prediction: Learning to Elicit Effort using Posted Prices
同行预测机制经常被用来在没有地面事实验证的情况下从人群工作者那里获得真实的贡献。最近,这种类型的机制已经发展到激励努力,除了真实的启发。在本文中,我们研究了一个顺序的同行预测问题,数据请求者希望动态地确定奖励水平,以优化工人的信息质量和总的预期支付之间的权衡。在这个问题中,工人有同质的专业知识和异构的成本,为施加努力,都是未知的请求者。我们提出了一个连续的标价机制,动态学习工人的贡献,并激励努力工作和真实的报告的最佳奖励水平。我们发现:(1)在我们的机制中,工作者根据非退化阈值策略付出努力,然后如实报告,这是一个均衡,每个工作者都能获得最高的效用;(2)我们的学习机制w.r.t.提供最优报酬(价格)的上限为$\tilde{O}(T^{3/4})$,其中$T$是学习范围。我们进一步展示了我们的学习方法的力量时,工人的报告不一定遵循博弈论的均衡。
2016-12-02 cs.GT
Peer Prediction for Learning Agents
对等预测是指当无法直接验证所获得的信息时,从人类代理中获取信息的机制的集合。它们被设计成一个博弈论均衡,每个人都如实地透露自己的私人信息。这个结果在代理是贝叶斯的假设下成立,并且他们每个人都在所有任务中采用固定的策略。然而,在许多领域中观察到人类代理在顺序设置中表现出学习行为。在本文中,我们探讨了动态的顺序同行预测机制时,参与者是学习代理。我们首先表明,没有后悔的概念,单独的代理的学习算法不能保证收敛到真实的战略。然后,我们专注于一个家庭的学习算法的策略更新只依赖于代理的累积奖励,并证明代理的策略在流行的相关协议(CA)机制收敛到真实的报告时,他们使用这个家庭的算法。这个算法族不一定是无遗憾的,但包括几个熟悉的无遗憾学习算法(例如乘法权重更新和跟随扰动领导者)作为特例。对该算法族中的几种算法以及该算法族之外的$ε$ -贪心算法的仿真结果表明,该算法在CA机制中收敛于真实策略。
2022-10-27 cs.GT
Truthfulness Despite Weak Supervision: Evaluating and Training LLMs Using Peer Prediction
Center for Human-Compatible Artificial Intelligence(兼容人类的人工智能中心);University of California, Berkeley(加州大学伯克利分校)
通过同伴预测方法,利用弱监督提升大语言模型的真实性,有效对抗欺骗并增强评估可靠性。
2026-01-28 cs.AI cs.CL cs.GT
Peer Prediction with Heterogeneous Tasks
同伴预测是一种在无法验证响应质量的环境中促进用户贡献信息的方法。在多任务对等预测中,来自多个任务的用户的报告用于对贡献进行评分。本文扩展了相关协议(CA)的多任务同行预测机制,允许从用户的报告是异构的任务,每个与不同的分布响应。动机来自于想要引出关于城市中的地方的用户生成的内容,其中任务不同,因为地方和关于地方的问题不同。我们证明了广义CA机制在弱条件下是真实的,这意味着它对用户投入精力和获取信息是严格有益的,并且真实的报告是投入精力时的最佳策略,也是一个均衡。我们证明了该机制具有良好的激励性能时,来自谷歌本地指南的用户报告的分布模拟测试。
2017-10-06 cs.GT
Truthful Information Elicitation from Hybrid Crowds
假设一个决策者想通过从人群中获取和聚集信息来预测明天的天气。决策者如何激励群众如实报告他们的信息?许多真实的同行预测机制已经提出了同质代理,其类型来自相同的分布。然而,在许多情况下,人口是一个混合人群的不同类型的代理人与不同形式的信息,决策者既没有任何个人的身份,也没有在人群中的每种类型的代理人的比例。忽视主体间的异质性可能导致信息效率低下,从而导致决策的次优。在本文中,我们提出了第一个框架,从混合人群的信息获取,和两个机制,激励代理如实报告他们的信息。第一种机制通过线性变换将两种机制结合起来,第二种机制基于互信息。通过这两种机制,决策者可以从混合群体中收集高质量的信息,并学习代理人的专业知识。
2021-07-21 cs.GT
Peer Truth Serum: Incentives for Crowdsourcing Measurements and Opinions
现代决策工具基于对大量数据的统计分析,这些数据通常是通过查询多个个体来收集的。我们考虑通过众包进行数据汇集,在众包中,独立和自私的代理人,非专家,报告测量结果,如传感器读数,意见,如产品评论,或对人类智能任务的回答。由于信息的准确性与获得信息的努力呈正相关,因此自利的代理人倾向于报告低质量的数据。因此,有必要采取奖励措施,以支付努力的成本,同时阻止随意报告。我们提出了一种新的激励机制,称为同行真理血清,鼓励真实和准确的报告,表明它是唯一的机制,以满足理想的属性的组合。
2017-04-18 cs.GT
Peer-to-Peer Electricity Market Analysis: From Variational to Generalized Nash Equilibrium
我们考虑一个参与P2P能源交易的产消者网络,在与邻居的交易中具有差异化的价格偏好,我们分析了两种市场设计:(i)集中式市场,用作基准,其中全球市场运营商优化节点之间的流量(交易),本地需求和灵活性激活,以最大化系统的整体社会福利;(ii)分布式对等市场设计,其中本地能源社区中的产消者自私地优化其交易、需求和灵活性激活。我们首先将P2P市场的解刻画为一个变分均衡,并证明了该变分均衡集与市场设计的社会福利最优解集(i)是一致的。我们给出了几个结果,有助于理解在均衡或最优的行业结构。我们的特点的网络线路拥塞和可再生能源浪费的影响下,这两种设计的偏好。我们提供了一个简化的例子,我们给出了所有可能的广义均衡的集合,这使得能够给出一个近似的价格ofanarchy。我们提供了一个更现实的例子,它依赖于IEEE 14节点网络,我们可以模拟不同的优惠价格下的交易。我们的分析表明,特别是偏好有很大的影响的行业结构,但一个均衡(变)是最佳的。
2018-12-05 cs.GT math.OC
Privacy Impact on Generalized Nash Equilibrium in Peer-to-Peer Electricity Market
我们考虑一个点对点的电力市场,代理人持有他们可能不想分享的私人信息。该问题被建模为一个非合作的通信游戏,它采取的形式是一个广义纳什均衡问题,其中代理商确定他们的随机报告与其他市场参与者共享,同时预期的形式对等市场均衡。在非合作博弈中,每个代理决定报告的确定性部分和随机部分,使得(a)报告的确定性部分与真实隐私信息之间的距离是有界的,并且(b)隐私损失随机变量的期望是有界的。这允许每个代理更改其隐私级别。我们刻画了博弈均衡的特征,证明了变分均衡的唯一性,并给出了隐私价格的封闭表达式。此外,我们提供了一个封闭形式的表达式来衡量包含随机噪声和确定性偏离代理的真实值所造成的隐私保护的影响。数值例子上的14总线IEEE网络。
2021-01-18 cs.GT math.OC
Information Gathering with Peers: Submodular Optimization with Peer-Prediction Constraints
我们研究了一个问题,从多个数据提供者,需要激励提供准确的信息的最佳信息收集。这个问题出现在许多依赖于众包数据集的现实世界应用程序中,但其中获取数据的过程是昂贵的。这种场景的一个值得注意的例子是人群感知。为此,我们制定的最佳信息收集的问题作为最大化的子模块化功能的预算约束下,其中的预算表示的总预期支付给数据提供商。与现有的方法相反,我们将我们的支付基于对准确性和真实性的激励,特别是{ \em peer-prediction}方法,该方法将每个选定的数据提供者与其最佳同行进行评分,同时确保最低预期支付高于给定阈值。我们首先表明,手头的问题是很难近似在一个常数因子,不依赖于支付函数的属性。然而,对于给定的拓扑和分析性质的情况下,我们构造了两个贪心算法,分别称为PPCGreedy和PPCGreedyIter,并建立理论界上的性能w.r.t.最佳解决方案。最后,我们使用一个现实的人群感知测试平台来评估我们的方法。
2017-11-24 cs.GT
Isotonic Mechanism for Exponential Family Estimation in Machine Learning Peer Review
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of Pennsylvania(宾夕法尼亚大学);Princeton University(普林斯顿大学)
本文将保序机制扩展到指数族分布,利用作者指定的投稿排名增强机器学习会议同行评审,证明了该机制的激励相容性和估计优越性,并通过ICML 2023数据验证了其效果。
2025-02-11 cs.GT cs.LG econ.TH
A Budget Feasible Peer Graded Mechanism For IoT-Based Crowdsourcing
我们开发和扩展了最近的一系列工作的机制设计异构任务分配问题的“众包”。我们考虑的预算市场由多个任务请求者和多个物联网设备作为任务执行者组成;每个任务请求者都被赋予一个单独的任务以及公开的预算。此外,每个物联网设备都有执行任务的成本和质量的估值,这是私有的。在这种情况下,目标是为每个任务选择物联网设备的子集,使得总支付在预算的分配配额内,同时达到阈值质量。为了确定物联网设备的未知质量,我们利用了对等分级的概念。在本文中,我们精心设计了一个真实的预算可行机制;即针对调查中的问题的TUBE-TAP,这也使我们能够获得有关物联网设备质量的真实信息。进行模拟,以衡量我们提出的机制的功效。
2018-10-17 cs.GT
Mutual Evaluation and Supervision without Peers
Stanford University(斯坦福大学)
本文提出一种无需同侪的相互评估与监督机制,通过批评者规则和条件独立复制实现真实报告激励,产生无偏信息分数,并分析策略性影响。
2026-09-18 cs.GT cs.IT math.IT
The Square Root Agreement Rule for Incentivizing Truthful Feedback on Online Platforms
The University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of California Berkeley(加州大学伯克利分校)
在电子商务平台上获得产品或服务评价的一个主要挑战是,在缺乏可核查性的情况下,如何获得提供信息的答复。本文提出了平方根一致性规则(SRA):一种简单的奖励机制,激励对此类平台上的客观评价做出真实的回应。在这种机制中,只有当她的答案与她的同伴的答案相匹配时,代理才能获得评价的奖励,其中该奖励与答案的受欢迎程度指数成反比。该指数被定义为经验频率的平方根,在该经验频率下,任何两个执行相同评估的代理在平台上操作的类似实体的评估中就特定答案达成一致。因此,很少同意的答案比同意相对更常见的答案获得更高的奖励。我们发现,在许多任务制度下,真实的均衡SRA是严格的支付优势,在大类的自然均衡,可能会出现在这些设置,从而增加其通过的可能性。虽然存在实现这种保证的其他机制,但它们要么对响应分布施加额外的假设,这些假设通常不满足客观评估,要么只有当每个代理执行大量的评估并承诺对每个评估使用相同的策略时,它们才会激励真实的行为。SRA是第一个已知的激励机制,满足这种保证,而不施加任何这样的要求。此外,我们的实证研究结果表明,在存在轻微的主观性或观察偏差的反应,SRA的激励属性的鲁棒性。这些特性使得SRA对于管理基于奖励的激励计划(例如,回扣、折扣、信誉分数等)在在线平台上。
2022-02-24 cs.AI cs.GT cs.MA
It Takes Two: A Peer-Prediction Solution for Blockchain Verifier's Dilemma
针对区块链验证者因成本缺乏诚实验证动机的困境,本文提出拜占庭鲁棒的对等预测框架,设计单阶段贝叶斯真实机制,无需真实值即可激励验证者诚实验证,增强区块链等系统的安全性与稳健性。
2025-08-20 cs.CR cs.GT
A Truth Serum for Sharing Rewards
我们研究一个问题,一组代理人必须决定如何联合奖励应该在他们之间共享。我们关注的是每个代理收到的份额取决于其同行对其代理对群体贡献的主观意见的设置。为此,我们引入了一种机制,以引起和汇总主观意见,以及确定代理人的股份。所提出的机制背后的直觉是,每个相信其他人说实话的代理人都有其预期份额最大化的程度,它被同行很好地评估,并且如实地报告其意见。在代理人是贝叶斯决策者和底层人口足够大的假设下,我们证明了我们的机制是激励兼容的,不平衡的,和易处理的。我们还提出了策略,使这一机制的合理性和公平性。
2013-05-22 cs.GT
Ex-Ante Truthful Distribution-Reporting Mechanisms
本文针对拍卖者不知买家真实价值分布的事前分布报告场景,提出阈值增强机制和 Peer-Max 机制,在保证事前激励相容的同时实现先验无关的收入近似最优,并给出匹配的收入上界及多单位扩展。
2025-07-05 cs.GT econ.TH
Incentive-Compatible Recovery from Manipulated Signals, with Applications to Decentralized Physical Infrastructure
Harvard(哈佛大学);Columbia University(哥伦比亚大学);a16z crypto(a16z加密部门)
本文提出首个刻画从不可信源获取不可验证信息的形式化模型,建立源可识别性条件并构造严格真实机制,证明其唯一均衡性,并将结果应用于 DePIN 中的位置证明和带宽证明。
2025-03-10 cs.ET cs.GT cs.LG
Incentive-Aligned Multi-Source LLM Summaries
Harvard University(哈佛大学);Google Research(谷歌研究)
本文提出TTS框架,通过激励对齐提升多源摘要的事实准确性与稳健性,同时保持流畅性。
2026-02-25 cs.AI cs.CL cs.GT
Crowdsourced Outcome Determination in Prediction Markets
Duke University(杜克大学);Microsoft Research(微软研究院)
预测市场是一个有用的手段,聚集有关未来事件的信息。为了发挥作用,市场需要一个可信的实体,最终将验证真实的结果。受最近引入的去中心化预测市场的启发,我们引入了一种机制,该机制允许由一组仲裁者的投票决定结果,这些仲裁者本身可能持有市场的股份。尽管存在潜在的利益冲突,我们得出的条件下,我们可以激励仲裁者使用从市场费用筹集的资金来实现同行预测机制,如实投票。最后,我们研究了什么参数值可以用于我们的机制在现实世界中的实现。
2016-12-14 cs.AI cs.GT
Equilibrium Selection in Information Elicitation without Verification via Information Monotonicity
同伴预测机制是一种从自利主体那里获得私有的、不可变的信息的机制-形式上讲,告知真值是该机制的严格贝叶斯纳什均衡。原始的同伴预测机制有两个主要的局限性:(1)该机制必须知道代理人信号的“共同先验”;(2)存在额外的不受欢迎和不真实的均衡,这些均衡通常比说实话的均衡具有更大的预期收益。一系列结果成功地削弱了已知的共同先验假设。然而,平衡多重性问题仍然是一个挑战。在本文中,我们解决上述两个问题。在一个共同的先验存在,但不知道的机制设置,我们表明(1)一般的负面结果适用于一个大类的机制,表明说实话永远不能支付严格更多的期望比一组特定的均衡,代理人串通“重新标记”的信号,并告诉真相后,重新标记的信号;(2)提供一种机制,该机制没有关于共同先验的信息,但在该机制中,讲真话的预期支付与任何重新标记均衡一样多,并且支付严格高于任何其他对称均衡;(3)此外,在我们的机制中,如果代理人的数量足够大,那么说实话的报酬与任何接近“重新标记”均衡的均衡类似,并且严格地比任何不接近重新标记均衡的均衡都要高。
2016-03-24 cs.GT
Sample Complexity of Peer Prediction
Columbia University(哥伦比亚大学);University of Colorado Boulder(科罗拉多大学博尔德分校);Northwestern University(西北大学)
该研究刻画了同伴预测中互信息无偏估计量的样本复杂度,确定了不同样本量下唯一的互信息,提出了DMI的改进估计量,还发现提前停止估计量可降低方差及存在可在少于三个样本内估计的互信息。
2026-08-18 cs.GT cs.IT math.IT
An Information Theoretic Framework For Designing Information Elicitation Mechanisms That Reward Truth-telling
在信息无法被验证的情况下,我们提出了一个简单而强大的信息理论框架-互信息范式-用于信息获取机制。我们的框架支付每个代理之间的互信息的措施,她的信号和同行的信号。我们要求互信息测量具有这样一个关键性质,即对两个随机变量的任何“数据处理”都会减少它们之间的互信息。我们确定这样的信息措施,推广香农互信息。我们的互信息范式克服了两个主要的挑战,在信息获取没有验证:(1)如何激励努力,避免代理串通报告随机或相同的反应(2)如何激励代理谁相信他们是少数如实报告。借助于我们发现的信息测度,(1)我们使用该范式设计了一个新的机制族,其中说真话是一个主导策略,任何其他策略都会降低每个代理人的期望支付(在多问题、无细节、最小设置中,问题数量很大);(2)我们通过提供对现有机制的统一理论理解来展示我们框架的多功能性-同行预测[Miller 2005],贝叶斯真理血清[Prelec 2004],和Dasgupta和Ghosh [2013]--通过将它们映射到我们的框架中,以便可以很容易地重建这些现有机制的理论结果。我们还给出了一个不可能的结果,在一定意义上说明了我们的框架的最优性。
2018-01-17 cs.GT
Crowdsourced Judgement Elicitation with Endogenous Proficiency
众包现在被广泛用于用一些非专家的综合评价取代专家权威的判断,应用范围从对在线内容进行评级和分类到通过同行评分评估大规模开放在线课程中的学生作业。在直接监测不可行的情况下,一个关键问题是激励“人群”中的代理人努力做出良好的评价,并如实报告他们的评价。这导致了一个新的家庭的信息引出问题与不可观察的地面真相,代理的熟练程度-概率,她正确地评估潜在的地面真相-是内生地决定了她的战略选择多少努力投入到任务中。我们的主要贡献是一个简单的,新的,二进制信息引出多个任务的机制时,代理有内生profitness,具有以下属性:(i)最大努力,其次是真实的报告观察是一个纳什均衡。(ii)这是所有代理人都有最大收益的均衡,即使代理人有不同的最大收益,可以使用混合策略,并且可以为每个任务选择不同的策略。我们的信息启发机制只需要最小的界限先验,要求代理只报告自己的评价,并不需要任何条件上的分歧数量的代理报告每个任务,以实现其激励属性。我们的机制背后的主要思想是使用存在的多个任务和评级,以确定和惩罚低努力协议:该机制奖励代理同意一个“参考”评分员的任务,但也惩罚盲目的协议减去一个统计术语设计,使代理获得奖励,只有当他们把努力投入到他们的意见。
2013-03-04 cs.GT
Buying Private Data without Verification
我们考虑的问题,设计一个调查,从一个隐私敏感的人口聚集不可验证的信息:分析师希望计算一些总的统计数据从每个成员的人口持有的私人位,但不能验证参与者在他的调查报告的位的正确性。人口中的个体是具有隐私成本的策略代理人,\ie,他们不仅考虑了他们期望从机制中获得的支付,而且考虑了他们的隐私成本,这些隐私成本来自机制的结果-计算的统计数据以及支付-以确定他们的效用。当个体战略性地决定是否参与和是否如实报告他们的敏感信息时,分析师如何设计支付方案以获得对总体统计数据的准确估计?我们设计了一个差分私人同行预测机制,支持准确估计的人口统计作为贝叶斯-纳什均衡的设置,代理人有明确的偏好隐私。该机制需要关于比特$b_i$的边缘先验分布的知识,但不需要关于成本$c_i$的边缘分布的全部知识,而是仅需要近似的上限。我们的机制保证$ε$ -差分隐私每个代理$i$对任何对手谁可以观察到的统计估计输出的机制,以及支付给$n-1$其他代理$j\neq i$。最后,我们表明,通过对每个代理的隐私成本函数进行稍微更结构化的假设,随着代理数量的差异,运行调查的成本将由$0$承担。
2014-04-24 cs.CR cs.DS cs.GT