Nous Research与Psyche:开源、去中心化的AI革命

OAK 发布于 2025-01-30 阅读 91

Nous Research是一个开源AI研究团体,近期在Solana上推出Psyche平台,旨在通过分布式基础设施实现AI模型的协作训练。Psyche利用其DisTrO框架将带宽需求降低1000-10000倍,并支持动态节点添加和故障容忍。平台采用半许可模式,未来将转向完全无需许可。Psyche还计划集成去中心化推理和强化学习,以持续改进模型。此外,Nous Research还开发了Hermes 3模型、Forge API和Nous Chat等产品,致力于推动开源和去中心化AI的发展。

发布于 2025 年 1 月 29 日

Nous Research 与 Psyche:开源、去中心化的 AI 革命

MakeOAK Research 优选来源

Nous Research,一个由人工智能研究人员和开发者组成的集体,刚刚宣布在 Solana 上推出 Psyche。以下是关于这个新去中心化平台以及 Nous Research 其他产品的概述。


注:有趣的是,本文部分内容使用 Nous Research 的 Hermes 模型撰写,我们通过 Nous Chat 界面使用了该模型。


什么是 Nous Research?

Nous Research 是一个由人工智能研究人员和开发者组成的集体,围绕一个共同的愿景形成:优先开发开源模型,并推广分布式、去中心化的系统,使这些技术更易获取。

目前,大多数 AI 模型和软件都是专有的,这意味着代码属于开发它的公司。尽管有一些推动开源的倡议,特别是 Meta 支持的,但这种势头可能会停滞,使整个开源社区依赖于完全中心化的解决方案。

Nous Research 旨在进行 AI 模型训练、微调和推理的基础研究,使这些技术更易获取,而不依赖于中心化的公司。

Nous Research 并非以传统公司的形式构建。它是一群研究人员、开发者和 AI 爱好者,最初通过 Discord 服务器或 Reddit 建立联系,然后联合起来开展更雄心勃勃的计划。该项目已筹集 520 万美元,并最近获得了著名 a16z 基金的资助,作为其开源 AI 资助计划的一部分。

Nous Research 拥有多项重要产品和创新(下文将进一步讨论),包括:

  • Hermes 3:一个优化过的语言模型,比竞争对手更高效、偏差更少。
  • DisTrO:一个用于通过全球分布的 GPU 进行分布式 AI 模型训练的框架。
  • Forge API:一个结合多个模型的 API,以获得更丰富、更多样的结果。
  • Nous Chat:一个用户界面,用于简化 Hermes 3 的体验。
  • Nous Psyche:最新举措,旨在 Solana 上实现协作式 AI 训练的民主化。

Nous Psyche:Solana 上的协作式 AI 训练

2025 年 1 月 27 日,Nous Research 宣布推出 Nous Psyche,标志着其在实现 AI 模型训练和推理民主化使命中迈出了新的一步。Nous Psyche 是一个基于分布式基础设施构建的去中心化平台,旨在让任何人都能参与训练尖端的 AI 模型。

去中心化训练网络

Psyche 的第一阶段利用了 Nous DisTrO,这是一个分布式训练框架,允许各种类型的 GPU 协作参与 AI 模型训练。Solana 区块链在协调参与者贡献方面发挥着核心作用,确保训练任务的完整性和可追溯性。

Psyche 的一个关键方面是其容错性和灵活性。在初始测试中,Nous Research 证明了可以在训练期间动态添加新的计算节点,并且系统可以容忍单个节点的故障,而不会中断整体过程。

最初,Psyche 网络是半许可的,这意味着计算提供者必须得到 Nous Research 的批准。长期目标是过渡到完全无需许可的网络,任何人都可以参与模型训练。

去中心化推理与强化学习

尽管 Psyche 的第一阶段主要关注协作式模型训练,但第二阶段将引入更易于访问的推理基础设施和高级强化学习方法。

开发复杂 AI 模型的一个主要挑战是让它们具备自主改进推理的能力。Psyche 旨在集成分布式强化学习方法,其中推理是训练过程的一个组成部分。这种架构与训练和推理分开处理的传统方法根本不同。

通过这种方法,Nous Research 计划直接在 Psyche 上预训练、微调并提供其未来的语言模型。该系统将为模型建立持续改进的过程,同时确保 AI 进步的即时传播。

使用 Nous DisTrO 进行优化

Psyche 建立在 Nous DisTrO 之上,这是 Nous Research 最先进的开发成果之一。该技术显著降低了带宽需求并优化了 GPU 通信。在一次大规模测试中,DisTrO 实现了:

  • 与传统解决方案相比,带宽减少因子达到 1,000 倍到 10,000 倍。
  • 消除了昂贵的硬件互连需求,同时保持了高性能。
  • 系统稳健,成功完成了超过 11,000 个训练步骤,并且动态添加新节点可提高训练速率而不影响稳定性。

DisTrO 的开发由该领域一些最具影响力的研究人员领导,包括 Diederik P. Kingma,他是 OpenAI 的联合创始人,也是 Adam 优化算法的合著者,该算法广泛应用于现代 AI 模型训练。

Solana 的角色与 Psyche 的经济模型

Nous Research 最具战略性的决策之一是在 Solana 上实施 Psyche,Solana 是一个以低交易成本和可扩展性著称的网络。根据 @0xElonMoney 的一篇文章,Psyche 网络运行着一个激励系统,根据参与度奖励贡献者:

  • 模型训练奖励:提供计算能力的参与者收到 Token 作为其贡献的交换。
  • 验证与监控奖励:为确保网络完整性,验证机制允许参与者验证他人贡献的质量。
  • 不诚实行为的惩罚:惩罚系统会减少未能满足协议要求的节点(例如,提交错误数据)的奖励。

虽然尚未宣布官方 Token,但 Nous Research 很可能会实施一个 Token 来激励贡献者并维护 Psyche 生态系统。此外,在 Venice 的 VVV Token 发布文档中,提到了“为 Psyche Token 的推出”而进行的分配。

去中心化 AI 开发的转折点?

借助 Psyche,Nous Research 不仅仅是在改进现有模型——它旨在从根本上重塑 AI 的训练和分发方式。该项目引入了一个去中心化基础设施,可以:

  • 减少对大型数据中心的依赖,使 AI 模型训练更易获取。
  • 鼓励协作方式,使研究人员、公司和个人都能为模型改进做出贡献。
  • 确保对审查和监管限制的抵御能力,利用分布式和自主网络。

Nous Research 计划将 Psyche 集成到整个生态系统中,包括直接在网络上托管未来的 Hermes 模型。这包括 Hermes 3 及其后续版本,它们将使用 Psyche 的分布式基础设施进行微调和改进。

Psyche 的未来还可能涉及集成多模态模型,能够处理文本、图像和视频,以及在游戏、模拟和自主 AI Agent 中的应用。

通过在 Solana 上将开源 AI、分布式基础设施和基于 Token 的经济激励相结合,Nous Psyche 可能成为去中心化 AI 生态系统中最雄心勃勃的项目之一。

Nous Research 的其他产品

→ 关于 Nous Research 的更多信息,请查看 我们贡献者 Victor (@victor_crypto_) 的完整视频

Hermes 3

Nous Research 最引人注目的发展之一是 Hermes 3,这是一个从 Llama 3(Meta 开发的模型)优化而来的语言模型家族。通过高级微调,Nous Research 增强了模型的几个关键方面,包括推理能力、指令遵循和长上下文保持。

与由中心化公司开发的主流模型不同,Hermes 3 被设计为在其响应中偏差更小、更中立。Nous Research 通过发布与其他 LLM(如 Claude 和 GPT)的比较来突出这一特性,证明 Hermes 3 不会人为地过滤某些主题,并尊重用户请求而不进行意识形态扭曲。

它的成功不仅限于研究。Hermes 3 现在是下载量最大的开源模型之一(超过 5000 万次下载),为 X(原 Twitter)、Discord、Telegram 等平台上很大一部分 AI Agent 提供动力。

Hermes 3 的训练是与 Lambda Labs 合作进行的,该模型可通过 Hugging Face 获取,供希望将其集成到应用程序中的研究人员和开发者使用。


DisTrO

Nous Research 还开发了 DisTrO(分布式互联网训练),这是一个协作训练框架,能够以去中心化的方式使用分布在全球的 GPU 对 AI 模型进行预训练和微调。

训练 AI 模型的主要挑战在于需要巨大的计算资源,这些资源通常集中在少数大公司拥有的数据中心中。DisTrO 提供了一种更开放的替代方案,允许在分布式基础设施上训练 AI 模型,而无需昂贵的高带宽互连。

DisTrO 的性能通过训练一个 150 亿参数的模型进行了大规模测试,使用了 Oracle、Northern Data、Lambda Labs、Crusoe Cloud 和 Andromeda Cluster 提供的 GPU。该实验展示了几个重大突破:

  • 带宽使用量压缩了 1,000 到 10,000 倍,使得使用标准互联网连接就能进行训练。
  • 容错性:系统可以适应中断而不影响整体训练过程。
  • 可扩展性:可以动态添加新的计算节点以加速训练,而不会损失稳定性。

DisTrO 背后的算法称为 DeMo(解耦动量优化),是与 OpenAI 联合创始人、Adam 优化算法合著者 Diederik P. Kingma 共同开发的。Adam 是深度学习中使用最广泛的算法之一。

注:DisTrO 是 Nous Psyche 的技术基础,但其用途远远超出这个项目。它代表了协作式机器学习和 AI 开放科学的重大进步。


Forge API

Nous Research 的另一个关键项目是 Forge API,这是一个编排多个 AI 模型以增强生成响应质量的 API。Forge API 不是依赖单个 LLM,而是采用模型混合方法,其中多个专门模型协同工作以提供更精确和细致的结果。

具体来说,Forge API 能够:

  • 结合 Hermes 3、GPT、Claude 或 Gemini 等模型以增强整体性能。
  • 定义 AI Agent 链,其中多个模型交互以解决复杂任务。
  • 通过根据上下文动态选择最合适的模型来优化响应。

这种多模型方法显著提高了 AI 系统的稳健性和效率,特别是在高级研究、信息综合和决策分析等应用中。


Nous Chat

Nous Research 最近推出了 Nous Chat,这是一个旨在与 Hermes 3 轻松交互的界面,类似于 ChatGPT 或 HuggingChat。

以前,用户必须下载并在自己的机器上运行模型,或通过合作伙伴平台访问它。有了 Nous Chat,现在可以通过简化的 Web 界面轻松访问 Hermes 3。

Nous Chat 以其几个特点脱颖而出:

  • 极简流畅的界面,灵感来自早期计算机终端。
  • 直接访问 Hermes 3-70B,响应过滤极少。
  • 预定义的提示类别,允许用户探索各种 AI 应用(分析、创意写作、问题解决等)。

与 OpenAI 或 Anthropic 的解决方案不同,Nous Chat 不收集用户数据,并始终致力于 Nous Research 倡导的隐私优先、开源理念。

模拟器

Nous Research 还在探索交互式和沉浸式 AI 概念,特别是通过模拟器。

这些 AI 系统旨在复制动态自主环境,模型可以通过直接与环境交互来学习。一些正在进行的实验包括:

  • TEE:X(Twitter)上的一个 AI Agent,能够证明其真正的自主性。
  • God & Satan:两个备受关注的 X 账户,以前由个人管理。它们现在正在被训练和微调,以成为完全自主的 AI 驱动实体,生成内容并与之互动。
  • “世界模拟器”:一个旨在模拟复杂 AI 驱动场景的项目,包括社会和经济动态。

结论

Nous Research 已将自己确立为去中心化人工智能领域最雄心勃勃的集体之一。当 OpenAI、Anthropic 和 Google 等科技巨头凭借数十亿美元资金和中心化基础设施取得进展时,Nous Research 正在开辟自己的道路,其驱动力是激进的开放源代码愿景和计算资源的共享。

借助 Nous Psyche,该团队旨在使 AI 模型训练变得像早期加密货币挖矿一样易于访问。如果该项目充分发挥其潜力,它可能会重塑 AI 格局,让研究人员、开发者和日常用户都能在模型开发中发挥积极作用。

但有一个问题仍然存在:这种方法能否与大型科技公司的优化能力竞争?未来将告诉我们,去中心化和开放协作是否能为超级计算机集群和闭源模型提供可行的替代方案。

在 Twitter 上分享path 在 Telegram 上分享

相关文章

  • 原文链接: oakresearch.io/en/analys...
  • 登链社区 AI 助手,为大家转译优秀英文文章,如有翻译不通的地方,还请包涵~

相关文章

0 条评论