Nosana的新方向:AI推断

  • nosana
  • 发布于 2024-08-07 20:24
  • 阅读 12

Nosana宣布将重心从CI/CD服务转向为AI推理提供GPU计算网格。他们意识到CI/CD市场的竞争激烈,并尝试通过提供一个去中心化的平台来解决开发者的锁定问题。新的方向将改善GPU支持和便捷的上手体验,目标是让AI用户获得更灵活的GPU访问,同时让硬件拥有者赚钱。

今天,我们很高兴分享关于 Nosana 未来的重要更新。在经过仔细考虑后,我们决定放弃 CI/CD 服务。相反,Nosana 现在将专注于提供一个用于 AI 推理的大规模 GPU 计算网格。

到目前为止的旅程

两年前,我们开始了一项使命,旨在解决软件开发者在发布代码时面临的痛苦依赖和锁定问题。我们的解决方案 Nosana,旨在作为一个去中心化的自动化提供者,聚合计算硬件供任何开发者自由使用,创建一个市场,让每个人都可以将他们的机器与运行 CI/CD 管道的开发者连接起来。一年半后,我们成功地建立了这个计算平台。有十多个项目每天都在使用它来开发、构建和测试他们的软件。然而,我们开始注意到在 CI/CD 市场获得牵引力的挑战。

CI/CD 的挑战

尽管我们采取了创新的方法,但 CI/CD 市场并没有提供我们所寻求的牵引力。大多数人认为 CI/CD 是一个“解决过的问题”,即使新工具提供了优越的去中心化解决方案,他们也不愿意迁移。有趣的是,我们的一个竞争对手达成了相同的结论,并分享了他们关于 CI/CD 市场细微差别的见解和他们的转变。事实证明,仅仅是去中心化并不足以让开发者离开他们每天呆以习惯使用的工具。我们尝试开发一个足够熟悉的平台,以便于开发者轻松入门,但这并不足够。开发者不想花太多时间学习一个新符号系统的复杂性,以便使用一个套餐只有一半功能的产品。这是一个很大的要求,我们发现大多数开发者不愿意投资学习如何使用我们的平台,即使我们尽力让它对他们易于使用。

AI 领域的机会

Nosana 的创始人一直站在人工智能研究的最前沿。过去几年中,我们见证了 AI 领域的创新,如 Alpha Go 和 Hugging Face 的生成器,预示着未来即将发生的变革。近一年前,OpenAI 发表的“大型语言模型” ChatGPT 标志着行业的重大飞跃。在它发布之后,开源 AI 模型迅速发展,需求也急速上升。GPU 是这些技术的基石。赋予你在喜欢的视频游戏中呈现美丽图形的能力,同样也使得训练和与 ChatGPT 交互成为可能。当公司们开始训练和运行这些新模型时,GPU 变得日益稀缺和昂贵。大型企业已经购入未来两年的库存以满足他们的需求,因制造业无法跟上突然增加的 GPU 需求。

同时,许多属于玩家、矿工和高端设备用户的 GPU 大多未得到充分利用。GPU 基准数据表明,许多使用案例并不需要市场上最新、最强大的 GPU。消费者级 GPU 不仅提供高可用性,还能与主要云服务供应商相比,提供更多的每美元推理量。

Nosana 的新方向

这正是 Nosana 构建的目标:一个去中心化市场用以匹配硬件和需求。为 CI/CD 建立的 Nosana 计算引擎具有灵活性,足以运行 GPU 工作负载。在几个小时内,我们能够将一些 GPU 连接到 Nosana 集群,并使用 AI 工作负载运行演示。所有的技术要素都存在;我们正在为不同的客户准备相同的产品。

会有什么变化?

随着我们将焦点转向建立 Nosana GPU 网格,我们将在今年年底之前停止对 CI/CD 平台的支持。但是,这并不意味着它会变得过时。现有的 CI/CD 工作负载将继续运行,只要有某人托管一个兼容的计算节点和连接器。这证明了我们最初的使命:没有锁定,完全自由。接下来,我们的新使命是将现有 GPU 连接到增长的需求。那么,这看起来会是什么样子?

GPU 支持与简易上手

首先,我们将开始为 Nosana 节点推出 GPU 支持,使你能够在你的机器上运行 GPU 任务。我们还在原型设计新方法,使在你的机器上运行 GPU 工作负载变得更容易。这其中有几个要素。首先,如前所述,我们将扩展可以在 Nosana 网络上运行的各种计算任务。首先关注的任务是需要 GPU 的工作,比如 AI 推理。你将不再需要支付使用 OpenAI API 进行推理的费用;你可以选择要使用的模型,Nosana 将为你连接一个模型。

所以现在,你也可以运行较小的计算任务,而不是整个管道。我们已经创建了一个 Nosana SDK,使我们和你更容易地将 Nosana 集成到我们每天使用的应用程序中。这包括 Nosana CLI 工具,它将允许你通过一个简单的命令向 Nosana 网络发布计算任务。顺应这一新方向,我们还将建立 Nosana Explorer,使进入 Nosana 上不同类型的计算任务变得更容易。

在这个旅程中,我们意识到安装和运行 Nosana 节点软件对于用户来说可能具有挑战性。我们相信,我们已经找到了一种创新解决方案,并正在进行原型设计。想象一下,通过浏览器托管一个节点就像访问一个 URL 并连接你的钱包以在网络上托管你的机器一样简单!通过利用 WebAssembly 等技术,我们的目标是创造出网页上最简单的 GPU 节点入门体验。

我们对这一新方向感到兴奋,并期待很快分享更多更新。

关于 Nosana

Nosana 是一个开源云计算市场,专注于 AI 推理。我们的使命很简单:以较低的成本,使 GPU 计算更加可及。该平台有两个主要目标:为 AI 用户提供灵活的 GPU 访问,并允许 GPU 拥有者通过租赁他们的硬件赚取被动收入。

通过提供经济实惠的 GPU 功率,Nosana 使 AI 用户能够在没有高昂硬件投资的情况下更快地训练和部署模型,所有这一切都由 $NOS 代币提供支持。以低廉的价格访问计算,或成为 Nosana.io 的计算供应商。

网站 | 文档 | 推特 | Discord | Telegram | 领英

  • 原文链接: nosana.medium.com/nosana...
  • 登链社区 AI 助手,为大家转译优秀英文文章,如有翻译不通的地方,还请包涵~
点赞 0
收藏 0
分享
本文参与登链社区写作激励计划 ,好文好收益,欢迎正在阅读的你也加入。

0 条评论

请先 登录 后评论
nosana
nosana
江湖只有他的大名,没有他的介绍。