在Gitcoin Grants中大规模遏制对抗行为

基于社区的算法政策制定框架

本帖分享了我们在 Gitcoin 奖助第 9 轮中的社会和技术行为的最新发现，并提出了一个基于社区的政策制定框架，用于半自动化系统。 这些过程需要 Gitcoin 社区的帮助，以继续测试、迭代和改善“去中心化”的基于社区的资助方法，如 Gitcoin 奖助中的二次募集。

Gitcoin 奖助第 9 轮的捐赠量激增，超过以往轮次，共计 168,000 笔捐赠，总额达 138 万美元，其中包括 50 万美元的二次匹配资金，令人振奋！在这一轮中，我们还看到了可疑行为的增加，以及可能由机器人协调的自动恶意共谋和 Sybil 攻击的开始。在本文中，我们将介绍一个四步框架，以识别和防止这些对抗行为，并阐明该框架如何涉及 Gitcoin 社区的帮助。

总体而言，这是关于系统设计的文章。与任何区块链启用的治理系统一样，社会和技术动态都在发挥作用。我们处于复杂人机系统政策制定的早期阶段，作为社区资助机制的早期实验，我们需要在其代码和人类治理流程的两方面进行迭代性建设和改进。

一个展示 Gitcoin 奖助轮次全景的系统图。在本文中，我们重点关注“资助轮次评审过程”（紫色框）。

本节解释了我们在第 9 轮中看到的攻击类型。我们深入探讨了一些可能被视为对抗性行为的具体例子，并涉及到为何维持人类审核者在定义、检测、评估和制裁这些行为的主观输入是 Grants 过程有效生态系统的重要性。

Twitter Embed

Not found

Twitter Widget Iframe

与往轮相比，我们在许多资助中见到了大量的垃圾微捐赠。Gitcoin 社区中的一些人指出，这可能是在试图最大化对未来空投的曝光，而这些空投是在第 8 轮后由几家独立组织发放，旨在奖励加密慈善家并增加他们的代币分配。由于这种激励类型复杂了我们对这些捐赠者的“意图”的理解，使他们从支持自己认为重要的项目转变为试图最大化经济回报，我们可能希望通过所提议的框架来减少这种行为，以维护生态系统的长期健康。

此处的系统设计问题是：我们如何在 Gitcoin 奖助轮次中定义、检测和缓解对抗性行为，以追求为以太坊公共物品提供资助的目标？

缓解对抗性行为的四步框架

鉴于在第 9 轮中目睹的新捐赠行为，Gitcoin 团队一直在与 BlockScience 和代币工程社区的数据科学家和系统架构师紧密合作，以识别可复制的过程，从而将合法的资助与来自垃圾邮件和机器人的捐赠分开。下面介绍的四步框架是一个迭代方法，旨在提高对这些不良行为的检测和缓解的复杂性。

1. 定义 — 确定 Gitcoin 社区认为哪些行为是对抗性及不当的，是缓解这些行为的首要要求（而不仅仅是 Gitcoin 团队）。这有点类似于 Ostrom 的第一原则，即对可接受行为的“明确界定界限”。
2. 检测 — 一旦对抗性行为被定义，我们就需要建立检测方法，在其发生时能够捕捉到。检测方法将包括人类和算法的审核者，从基于社区的报告（“看到什么就说什么”）到基于数据科学的可疑资助或贡献模式的标记。
3. 评估 — 在被标记后，我们需要人类评估，以判断该检测到的违规是否为合法行为，还是值得制裁的行为。正如之前的文章所指出，看似攻击的行为往往是合法的资助活动，反之亦然。对于那些算法标记的议题，确实需要人类判断。这是社会技术系统的人机动态的一部分。
4. 制裁 — 渐进制裁可以适当地应用于经过确认的恶行上。同样，依据 Ostrom 的原则，某些行为的制裁需要与系统和/或社区规范的违规情况相称。

如前所述，这是一个政策制定的方法；这是一套用于决策什么是和不是半自动化系统中可接受行为的思想和步骤。上述框架正在由 BlockScience 团队进行扩展，并基于现有的算法政策的工作。接下来，我们将应用这个框架来分析 Gitcoin 第 9 轮中发生的情况。

召开 Gitcoin 社区委员会

Gitcoin 团队正在召集一个社区管理者委员会，以收集多样化的反馈来定义和制裁 Grants 生态系统中的不可接受行为。也会通过 Twitter 和 Discord 向更广泛的社区征求反馈。如果你对参与讨论感兴趣，请在以上平台联系。

该委员会过程将与半监督机器学习管道相结合，以利用“机器人学习”方法来检测攻击者。（这意味着我们利用机器学习来扩大人类标记事物的有限能力）。与标准机器学习相比，这可以充分利用生态系统中可用的知识和数据资源。结果是更准确、透明、公平和灵活的算法，同时也更能适应突发的变化和发展。

这些讨论的意图是，让该攻击缓解框架的配置向比核心 Gitcoin 团队更广泛的利益相关者社区开放。这是逐步减少 Gitcoin 生态系统中集中控制措施的一部分。适当的人类干预和强有力的社区参与对社会技术系统的正常运作至关重要——并非一切都需要被自动化，而已自动化的部分也应该谨慎处理。 公共物品系统，如 Gitcoin，不可避免地是社会技术的。从 人工智能伦理 和算法公平性中可以吸取许多教训，来自一些我们研究贡献者的关于社会中算法的 ongoing work。目标是在需要自动化政策系统中让人参与的透明、可获取、具体的政策。

社区委员会不是一个集中力量，而是一个自愿社区成员的联盟——成员是那些愿意为社区投入时间和精力的人。该小组负责对对抗性行为的定义和制裁达成广泛但粗略的共识。Gitcoin 社区管理委员会成员已根据以下标准被 Gitcoin 团队邀请：

1. 在过去积极提供反馈
2. 在过去积极提供资助
3. 表达出在自己不相信的 Gitcoin 政策上进行深思熟虑 / 建设性反驳的意愿。

这个过程旨在在持续迭代和改进中，在志愿者社区的帮助下进行一个有效的开放源代码社区资助实验。接下来，我们将一步步详细说明这一框架。值得注意的是，我们绝不希望暗示这一发现、开发和改进过程以任何方式使 Gitcoin 奖助的结果失效。所进行的过程如下所示：

1. 定义对抗性行为：共谋、Sybil 攻击及其他

定义本身是棘手的，因为某些词汇在不同领域的意义不同。还需克服关于什么是“可接受”的规范基础的假设，因为 Gitcoin 社区决定了这些定义的主观基础。

正如之前的一篇文章所指出的，共谋是难以定义的，因为有时协调但诚实的行为可能看起来像攻击。通常，意图是可接受协调与不可接受共谋之间的关键差异。鉴于在数万个这样的贡献图中测量每笔资助和捐赠的意图的困难，反而需要定义出看似共谋的行为模式，以便相应地设置合适的检测和标记算法来处理它们。

我们预计所有参与 Grants 生态系统的社区在某种程度上都会协调资金支持他们的资助，但我们需要确保参与者的短期需求与 Grants 生态系统的长期可持续性相一致。

我们如何定义可接受的贡献行为需要涉及到 Gitcoin 社区，因为你毕竟是 Grants 生态系统中最大的利益相关者。对于以太坊公共物品资助社区，什么是可接受的，什么是不可接受的捐赠行为？ 机器人和自动化在将来的 Grants 平台中应扮演怎样的角色？这些问题将由委员会和更广泛的 Gitcoin 社区深思熟虑。

Gitcoin 奖助第 8 轮数据的邻里子图，展示了一部分完整贡献图中的资助和捐赠。

2. 通过数据科学检测对抗性行为

在定义了我们希望在 Gitcoin 奖助生态系统中缓解的行为类型之后，缓解这些攻击方式的下一步是检测它们的发生。在此步骤中，我们可以使用许多不同的工具，从社区报告到监控可疑资助或捐赠者行为的算法。

让我们看一个可疑捐赠模式的例子，其中某人向 10 个资助每笔捐赠少于一美元，所有这些资助似乎都有可能进行空投。我们可以考虑几种选项：

捐赠者是个机器人—— 这个选项呈现了多种需要讨论的问题，因为不仅机器人最可能是一个 Sybil 账户，我们还需要理解自动捐赠在 Grants 生态系统中的使用，以及我们是否选择允许机器人参与。

捐赠者是个 Sybil 账户—— 通过创建多个向同一资助捐赠的新账户，导致该公式高估了资助获得的匹配资金。这种攻击将违反 Gitcoin 生态系统的规则，需要相应的制裁。

捐赠者是一个正在努力生活的真实个体—— 也许捐赠者真的是一个希望支持未来有可能给予空投的有机 web3 项目的真实个体。作为一个低收入者，面对仅能捐赠微小金额给这些资助，这样使他们看起来像是机器人攻击。难道这不是我们正在试图保护和提升的声音——通过二次募款?

一个闭环、半监督、以数据驱动的方法，用于定义、检测、评估和制裁捐赠。这是上述四步政策过程的示例架构。

乍一看，我们的许多检测策略和算法可能会误将无辜的资助和捐赠者标记为恶意，因为它们的模式偶尔相似。但这并不是坏事。由于一开始就要定义共谋的困难，生态系统得益于有积极的标记机制来捕捉潜在的不法分子，并依靠人类评估者的判断所下的适当宽容。 在下一部分中，我们将展示这一过程是如何在实践中运作的。

通过调整 ML 管道中标记模型的灵敏度/特异性，社区可以选择积极对待攻击者（更敏感）或最小化误报标记（更特异性）。

3. 评估被标记的行为

检测后是评估被标记的资助和捐赠。由于评估被标记的资助具有高度的主观性，这一阶段最好由能够理解特定情况下的背景的人来处理。 这组审核员的任务是判断被标记的事件是否违反了 Grants 生态系统的条款与条件，或者它们只是原生社区以类似攻击向量的方式协调（如之前的帖子所探讨）。

我们必须在这一阶段保持谨慎，以遵循系统的目标。由于二次募款的意图是从本质上放大在财务上少数的贡献者的声音，我们必须意识到这些贡献者可能因相似的数据轨迹而被视为机器人或攻击者：例如，向孤立的本地项目进行的小额捐赠或共享设备或账户。

在评估阶段，审核员有几个方面需要考虑。首先，他们可以查看被标记资助的创造者。其意图如何？他们参与了什么其他行为？他们是否在索取捐赠的回报？他们的数据迹象是否表明他们在一个 Sybil 环中？其次，他们可以考虑被标记贡献者的意图。尽管这些模式看起来像是机器人，但一系列小额捐赠是否可能是来自善意捐赠者的合法贡献的原因？

在此时，由于讨论的数据敏感性，Gitcoin 团队能够通过评估被标记的行为来引导 Gitcoin 生态系统的最佳利益，但他们对渐进式去中心化的兴趣可能为通过 Gitcoin 平台的未来机制逐步纳入更多社区输入提供机会。在经过适当排序的被标记交易列表后，框架的下一个阶段是对确认的违法者施加渐进制裁。

4. 确定适当的制裁

在 Grants 生态系统中，我们可以以多种方式制裁不当行为。同样，我们需要 Gitcoin 社区的反馈来确定针对不同行为的适当制裁。如 Ostrom 的原则所示，管理共同资源（如 Gitcoin 匹配资金）“渐进制裁”应根据违规的严重性而加重。例如，违规者是机器人还是重复违规者？

一些规模化制裁的示例可以包括：

• 高严重性 — 从平台上移除资助或捐赠。在明显违反 Gitcoin T&Cs的情况下可以使用。
• 中等严重性 — 允许捐赠通过，但将小额/垃圾捐赠合并到一个帐户中，以减少对 QF 匹配的影响。可以用于中和边缘共谋尝试，通过减少对社区匹配资金的耗竭。
• 低严重性 — 允许捐赠和匹配，但清理贡献数据以过滤掉机器人捐赠和垃圾攻击，不使其接受空投。可以用于允许捐赠和匹配，但从可能的未来空投中去除垃圾账户，以便在未来遏制这种行为。

制裁是责任和追索的必要步骤，需要透明地与参与者沟通，以设定清晰的社区边界，并允许参与者在被确定为适当的决策空间中选择他们的行为。同样，这是一个主观和迭代的实践。在这里，先例得以设定，适当的定义变为规范，并融入系统的规则以及社区的规范和行为之中。

Gitcoin 团队正在协调一组社区管理者，为制裁过程提供关键意见，以确保社区需求在未来的新政策决策中得到满足。最终，这种输入是维护一个良好运作的、真实中立的 web3 奖助平台，为公共物品提供资助的关键。

Gitcoin 社区如何提供帮助！

计算机系统使得更可持续、多元和高效的人类组织成为可能。尽管算法是基于代码的，但最终它们由人机结合构成。这意味着政策制定过程（即限制决策如何进行的过程）不仅仅针对代码，而且也包括适当的人类参与，对于系统的可持续运作至关重要。该过程正在进行中。以下是你参与的几种方式：

• 看到什么？就说什么！ 社区监测不良行为是关键！如果你注意到向你的资助来了一些可疑捐赠，比如很多来自你不认识的人的小额捐款，或者出于奇怪原因取消了大额捐赠？请在 Gitcoin discord grant-help channel 或通过 @GitcoinDisputes Twitter account 记录一下。
• 帮助我们使用 Rawl’s Veil of Ignorance 决定适当的 Grants 政策。 我们需要你的输入，以设计一种对所有人都公平的 Grants 政策，而不管这些决定如何直接影响你的资助收入。可信的中立性要求我们制定公正的政策（定义、检测、评估、制裁），不受个人资助收入结果的偏见。

Gitcoin 将很快发布一份第 9 轮治理简报，供社区审阅。欢迎大家在 twitter 和 gov.gitcoin.co 论坛中发表评论。

与关于这项激动人心的研究保持联系：

Gitcoin: twitter.com/gitcoin

BlockScience: twitter.com/block_science

本文由 Jeff Emmett、Kelsie Nabben、Danilo Lessa Bernardineli 和 Michael Zargham 撰写，感谢 Kevin Owocki、Disruption Joe 和 Matthew Carano 的重要见解和反馈。

• 原文链接： medium.com/block-science...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～