Arweave 存储技术是 Web 3.0 演进实践中的终局选择吗?

  • PermaDAO
  • 更新于 2023-08-18 11:05
  • 阅读 1226

如果说语言是人类跨种族沟通的媒介,那文字则是历史生命的跨时空延长。人类一直探寻记载文字的技术,随着近30年互联网与区块链技术的应用发展,存储技术也一起演进发展,如今存储已成为 Web 应用架构的基础,成为解决区块链不可能三角问题绕不开的话题。

<!--StartFragment-->

<!--EndFragment-->

Web3 正在加速发展,Arweave 作为基础设施将被更多的开发者采用,创造一个全新的、更加丰富多彩的生态系统。 PermaDAO 正是为此而建立起来的共建者社区。所有参与的人都能在这里找到自己的角色来贡献 Arweave 生态,任何关于 Arweave 的提案与任务都可以发布于此,并得到整个社区的支持与回馈。 加入PermaDAO,建设 Web3! 作者:Denzii @ Contributor of PermaDAO

审阅:Mic’s May @ Contributor of PermaDAO


如果说语言是人类跨种族沟通的媒介,那文字则是历史生命的跨时空延长。人类一直探寻记载文字的技术,随着近30年互联网与区块链技术的应用发展,存储技术也一起演进发展,如今存储已成为 Web 应用架构的基础,成为解决区块链不可能三角问题绕不开的话题。

本文从梳理 Web 演进过程探寻存储技术变化,通过 Web 2.0 和 Web 3.0 阶段产品架构分析,认识到去中心化存储技术是未来,进而对 Web 3.0 阶段几种去中心化存储技术对比发现,基于 Arweave 存储技术的存储共识范式(SCP)、微服务架构思想而来的新型区块链三层工程应用,或许是实现 Web 3.0 产品规模应用的终局模式。

Web 演进阶段及产品应用架构

存储技术与互联网一同演进发展,存储介质由最原始的石头、竹子、甲骨、贝壳、绸布、纸……到如今的数字化、电子化介质,而随着技术应用及产品形态变化,存储技术不仅是单一的静态数据记录,而更多往大数据、安全、链上等方向发展。

Web 1.0

1991年到2004年,互联网 Web 1.0 ,产品以门户网站或信息展示宣传为主,仅包含超链接的一些静态内容,还没有 CSS 、动态链接、交互留言等功能,但 Web 1.0 的出现已拓展了人们了解世界的视野,此阶段的典型应用代表有新浪、网易、搜狐等网站。

在 Web 1.0 阶段,信息是单向流动,只能读取,不能互动,以展示内容为主!数据存储技术,电脑单机本地存储,但也有软盘等移动类存储方式。

Web 2.0

2004年至今是互联网 Web 2.0 时代,各应用产品不仅可以浏览网页刷视频,还能留言点赞与创作者互动,实现信息双向流动,打通了互联网背后人与人的互动与联系,让“关系就是生产力”有了商业落地。

在 Web 2.0 阶段,信息是双向流动,可读可写,多维互动,以打通关系为主!产品有如 Facebook 、微信、抖音等巨头一家独大。

该阶段的数据存储以 HTTP 请求方式去访问中心化“ WEB Server ”,所有数据存储在由公司控制的集中式服务器上,存在中心化服务器易受停电、人为及不可抗力摧毁的致命缺点,以及数据用户权的问题。

<!--StartFragment-->

<!--EndFragment--> 图片来源:https://zhuanlan.zhihu.com/p/462956817#:~:text=Web1.0:Yahoo、新浪,中介化的价值互联 图片说明:Web 2.0 时代所有数据存储在集中式的服务器上

Web 2.0 应用的实现架构

在 Web 2.0 阶段,传统互联网产品实现架构分前端、后端和数据库三部分。

  • 前端:是我们通过终端打开的应用页面,可直接体验和使用的窗口,比如图片、按钮、输入框等;
  • 后端:是运行在当地或云端服务器上的业务逻辑实现,是对数据进行处理并返回结果至前端的过程;
  • 数据库:是将数据进行存储的地方,一般是服务器或云端 ECS / AWS等 。

<!--StartFragment-->

<!--EndFragment--> 图片来源:https://www.preethikasireddy.com/post/the-architecture-of-a-web-3-0-application 图片说明:Web 2.0 阶段产品及应用的典型实现架构

Web 2.0 的架构实现简单,应用和数据都建立在 Web Server 上,硬件上实现是 Servers / ECS / AWS ,有鲜明特点:

  1. 中心化。应用程序和数据存储都在中心化服务器上,这一切都源自应用开发公司——一个中心化组织,所以这虽带来应用高效的优点,也存在主客观停机的巨大风险,以及中心化数据被超授权滥用和牟利的问题。
  2. 应用友好。人们在无需搞清楚存储的细节和实现,就能丝滑操作和享受各种应用给我生活带来的便捷。
  3. 数据主权。数据存储在中心化的服务器或者 ECS / AWS 上,带来中心化组织作恶的机会(在 WEB 2.0 阶段存储实际以 to B 为主),数据不属于个人自己而被第三方平台为所欲为。

Web 3.0

Web 3.0 要去建立一个去中心化且安全可靠的互联网,人们可以在其中安全地交换金钱和信息,而无需依赖中心化的中间商或大型公司。 Web 3.0 与将数据存储在单个数据库或云服务器的 Web 2.0 不同, Web 3.0 应用程序运行在区块链或点对点节点(服务器),采用去中心化思想,用户数据通过钱包或私钥来控制使数据主权回归用户。

在 Web 3.0 阶段,一切以数据安全和用户权为主,往智能化、可编程方向发展,区块链、物联网和人工智能等技术得到极大促进,以太坊等区块链项目悄然升起,数据存储技术往区块链、分布式的方向发展,诞生基于文件或数据流的去中心化存储技术探索。

虽然 Web 3.0 可能还需要时间去达到广泛的应用阶段,但是随着新领地的不断演进以及老秩序中频繁数据霸权事件的促进, Web 3.0 一定会加速到来。所以说,数据已成为现在最有价值的产业之一,而数据的未来一定离不开分布式存储

Web 3.0 应用的实现架构

相比 Web 2.0 的产品架构前端没有变,但后端和数据库部署到链上而不是中心化服务器。 Web 3.0 没有实体的 Web 服务器( Web Sever ),一切都是基于区块链上的去中心化状态机来展开,所谓状态机,可理解为一种维护和更新网络程序状态的虚拟机器,而其实体就是互联网中的各个分散接入的节点/矿机。通过智能合约实现逻辑处理,通过 IPFS 或者上链进行数据存储。前端程序部署或托管在去中心化的 IPFS 或 SWARM 上去抗审查并实现与用户的交互。

<!--StartFragment-->

<!--EndFragment-->

图片来源:https://www.preethikasireddy.com/post/the-architecture-of-a-web-3-0-application 图片说明:Web 3.0 阶段产品及应用的典型实现架构

  • 核心实现——区块链模块。最核心的当属架构最下面的区块链模块,承担了数据库+后端的职责,数据存储在链上,智能合约对数据进行处理。
    • 接入网络—— Provider 。通过 Provider 而无需自建节点加入区块链网络,实现前端与区块链上的数据和代码进行交互,实现对网络状态的读取操作,从而实现上链。
    • 数据读写——Singer 。签名是使用私钥对写入操作进行验证核查,从而授权区块链进行数据操作。 Metamask 既是 Provider,也是 Singer 。
    • 数据存储—— IPFS / Swarm 。全部链上存储数据和代码可行但成本太高,所以才有了链下存储的优化方案:使用去中心化的链下存储,如 IPFS 或 Swarm。
    • 数据查询——Graph 。使用 The Graph 实现智能合约索引、事件和函数调用的监听和处理,并实现链上数据查询的低延迟。
    • 扩容——侧链 / L2 。使用侧链(如 Polygon ,一条与主链相连接的次级区块链)和 L2 二层( Optimistic Rollups 和 zkRollups 两种路线)技术来解决以太坊扩容以及 gas 费高的问题。

Web 4.0

2023年7月11日,欧盟委员会通过了名为《 Web 4.0 和虚拟世界的倡议:在下一次技术转型中领先》的新战略,在该战略中欧盟提出关于 Web 4.0 的定义:

一种利用先进的人工智能和环境智能、物联网、可信区块链交易、虚拟世界和XR(混合现实)技术,使虚拟世界与现实世界能够完全融合并相互交流,从而创造出身临其境的体验,最终无缝连接虚拟世界与现实世界的方式。

2023年北京市科学技术委员会和中关村科技园区管理委员会提出的《北京市互联网3.0创新发展白皮书(2023)》中提出:

互联网3.0范畴包括了虚拟融合的高沉浸式感观体验和虚实贯通的经济活动体验,涵盖了元宇宙和 Web3.0 的内涵,其概念正是体现了人类活动和经济形态的由实向虚、以虚赋实、虚实融合这一发展趋势。

Web 4.0 将允许数字世界和真实物体、环境整合,并增强人与机器之间交互,可以说 Web 3.0 的核心是区块链技术,更关注数据的去中心化和用户主权,而 Web 4.0 就是将区块链技术融入到更广泛的技术和应用环境中,去创建一个开放、安全、值得信赖、公平和包容的数字环境,去开辟一个虚实结合的人类生产生活新场景。

互联网的演进史围绕数据展开的。无论是 Web 1.0 的数据展示、 Web 2.0 的数据交互或者 Web 3.0 的数据主权,甚至到 Web 4.0 的多场景数据虚实融合应用,都是以数据为根本、为原点;在这过程中,是存储技术让数据有了生命和长度,没有数据一切都是虚无,而没有了存储,一切历史就没刻度,而没有分布式存储一切不可永存

Web3.0 的存储实现探索

Web 2.0 和 Web 3.0 的产品架构存在去中心化的根本不同,虽然将应用程序代码和数据直接存储在区块链在技术上是可行的,但在现实应用存在如成本、效率、用户体验等方面的问题。目前广义所说的 NFT 上链并没有存在区块链上,要实现存储数据的可用好用链下存储是必走之路。

存储分类

区块链上的数据存储分三种:

  • 链上存储:区块链是一个不可变的数字交易账本(分布式账本),分布在多个计算机网络上;链上是指直接在区块链上发生的经过验证的活动或交易,并直接将这些交易数据存储在区块链上。但是存储成本极其昂贵,1GB 的存储在区块链上的成本约为 100 美元,比传统存储贵 500 倍。不建议将文件、合同、文档、PDF 和个人信息等非交易数据直接存储在区块链上。
  • 去中心化存储:发生在区块链之外的活动或交易,这些数据不会直接上传到区块链,而是将文件上传到另一个服务器或数据库( IPFS 等),然后将上传文件生成的 HashID 作为元数据存储在区块链上,可以通过 HashID 采取内容寻址的方式实现数据在分布式网络的检索和应用。
  • 中心化存储:云端服务器或者本地的数据库或电脑;这是我们现在最常见的方式,存在的问题也显而易见。

目前 Web 3.0 应用实现里链上存储和去中心化存储都有采用,比如当下主要的 NFT 项目图片貌似存储在区块链上而实际存在 IPFS 中,区块链只存了 token id 与交易数据。

<!--StartFragment-->

<!--EndFragment-->

图片来源:denzii 图片说明:数据存储的分类

去中心化存储的不同实现

存储必不可少,如何高效低成本的实现去中心化并满足安全、性能、使用等方面的要求, Web 3.0 里已有很多探索方案及实现。

1. IPFS

<!--StartFragment-->

<!--EndFragment--> 图片来源:google 图片说明:IPFS,一种由Protocol Labs开发分布式存储技术

IPFS 由 Protocol Labs 于2014年创立,是一种分布式文件系统协议和点对点 ( P2P ) 网络,使用内容寻址来唯一标识全局命名空间中的每个文件,进而在区块链等分布式文件系统中存储、访问和共享数据。数据直接存储在 IPFS 网络而非区块链上,但通过 IPFS 文件生成的 HashID 作为元数据存储在区块链实现去中心化存储。

IPFS 采用基于内容寻址实现在区块链上数据检索,照片、音乐和文件等内容通过 IPFS 哈希( HashID )反向找到存储在分布式网络中对应文件,而不是由它们存储的 IP 以及网络位置来访问,所以不会在打开浏览器时出现404错误提示。另外哈希计算有唯一性、不可逆推性,一个文件经过哈希运算会得出唯一的哈希值,没有两个内容经过哈希计算会产生一样的哈希值,这就保证了唯一性和不可逆推。

<!--StartFragment-->

<!--EndFragment-->

图片来源:google 图片说明:NFT的存储并非图片直接上链,而是将图片存放在IPFS后的哈希值存放到 Metadata 字段

2. Filcion

<!--StartFragment-->

<!--EndFragment--> 图片来源:google 图片说明:Filecoin,一种由Protocol Labs在IPFS上嫁接激励机制而来的分布式存储项目 在 IPFS 实现分布式存储之后,要能够随时检索到文件并保证网络稳定运行,则需要很多用户贡献他们的存储空间和网络成为节点,节点越多,网络就越稳定越安全。但 IPFS 没有的激励系统没法吸引大家来做节点贡献存储资源。所以 Protocol Labs 在2017年开发了 FileCoin ,一个以存储为中心的区块链。

FileCoin 是在 IPFS 之上架设了一个激励层,来吸引和激励为网络贡献存储数据的节点,旨在成为传统云存储解决方案的更高效、更具成本效益的替代方案。不论什么方式的存储最终还是存在物理硬盘上,去中心化存储可以视为一种共享经济,拥有空闲硬盘资源的人可以将其贡献出来并获得节点奖励,获得挖矿奖励。

Filecoin 使用同名的加密货币 FIL 来促进网络上的交易,并激励用户提供存储。Filecoin 支持多种用例,从 Web 3.0 原生 NFT 和元界 / 游戏资产存储、激励永久存储,到存档 Web2.0 数据集作为云存储更便宜的替代方案。

3. Swarm

<!--StartFragment-->

<!--EndFragment-->

图片来源:google 图片说明:swarm,一种以太坊基金会站台的有激励机制的分布式存储项目

以太坊上昂贵的计算资源注定无法大规模存储数据,Swarm 作为以太坊三定位存储身份为生态系统中的 DApp 代码、用户数据和链上数据提供去中心化存储服务,于2015年开始,最初由以太坊基金会资助,后来分拆并成为一个独立的项目,并在2021年2月完成600万美元融资,投资机构包括 KR1、HashKey、NGC Ventures 等。 Swarm 与以太坊区块链深度集成,激励系统受益于智能合约和点对点 ( P2P ) 网络。

FileCoin 和 Swarm 都提供了一个分布式、不可变和内容可寻址的系统,有自己的激励系统和加密货币,而且它们都基于点对点 ( P2P ) 网络,而 Swarm 智能合约组件提供了一个跟踪责任的解决方案,从逻辑上讲 Swarm 为生态用户提供了自由交换数据价值的基础条件。

Swarm 的原生代币 BZZ ,初始流通量为6250万,是一种功能性代币,也用于带宽和存储奖励,作为以太坊的“亲儿子”, Swarm 不仅赢得了明星团队的支持和品牌效应,更重要的是其与以太坊生态融合的独特优势,如果 Swarm 成功吸引以太坊生态中的 DApps 使用其进行去中心化存储,其发展前景不难想象。但 Swarm 也存在一些明显的问题,包括项目进展缓慢和经济模型不明确。

4. Greenfield

2023年2月币安发布存储链 Greenfield 的技术白皮书开始涉足存储赛道。币安围绕用户进行三位一体架构布局: BSC 链、 Greenfield 和 Dapps 。币安已有 BSC 交易链,再来开发 Greenfield 存储链,开发者基于这两个所开发出的 Dapp 则自成体系,并且 Greenfield 是一条侧链,有一条和 BSC 原生的跨链桥,均使用 BNB 作为代币,如此就补全了整个币安生态体系,前景不容小觑。

从白皮书中可见 Greenfield 的核心是一条存储链和存储节点网络,这和 Arweave 类似,存储链有自己的治理逻辑和激励体系,里面存储元数据、区块状态数据、账户信息和权限、计费等数据。

<!--StartFragment-->

<!--EndFragment-->

图片来源:Greenfield白皮书 图片说明:Greenfield在币安生态位置及核心构成

5. Arweave

<!--StartFragment-->

<!--EndFragment-->

图片来源:google 图片说明:arweave,一种主打永久数据存储网络的区块链生态系统

Arweave 由 Sam Williams 于 2017 年创建,是一个主打永久数据存储网络的区块链,它的工作方式是将存储的信息分布存储在世界各地的节点或计算机网络中。提出宏大愿景:重建 Web 3.0 时代的亚历山大图书馆,承担永久存储人类智慧结晶重任的基础设施。Filecoin 可以说是 IPFS 出现后架了一层激励的存储服务商,但是 Arweave 则将存储和链融合的更加彻底,它专门开发了 blockweave ,相比于传统的 blockchain 一前一后的链式结构,blockweave 的每个区块都链接到下一个区块和上两个区块:一个前面的区块和一个历史的随机区块,节点在出块时必须进行访问证明。所以,使用 Arweave 的 blockweave,在添加一条新数据之前只需要验证一条随机数据。因此,结果更像是数据的编织或 3D 蜘蛛网,而不是长的数据链。

<!--StartFragment-->

<!--EndFragment-->

图片来源:Greenfield白皮书 图片说明:编织 、 3D 蜘蛛网装的链状态

Arweave 在共识数据的概念上提出了存储共识范式( SCP ),即将数据存储到链上,计算则可以在链下、在任何地方取得唯一结果。所以可以将 Web 2.0 的应用很快捷的转化为 Web 3.0 应用,成为 Web 3.0 的重要基础设施,甚至可能改变现有区块链和 Web 3.0 的游戏规则。

基于存储共识范式( SCP )思想的 Permaweb 永存网络应用,采用 Arweave 分布式存储技术和微服务架构模型就可以构建一种新的区块链应用架构——用户不再和区块链系统本身进行交互,而是和服务层进行交互,从而打破区块链应用的不可能三角问题。

  • 共识层:可以是任何的区块链系统,具备不可篡改和可追溯的特性,提供去中心化和可信保证,包含但并不局限于 Arweave 、 Bitcoin 、 Ethereum等某个区块链网络;
  • 服务层:标准协议底层不局限于 Arweave 存储,可以为任意区块链系统建立微服务。如 Nansen 可为现有的 EVM 公链提供数据查询,其他前端应用也可直接使用 Nansen 作为数据源,具备扩展性设计;
  • 应用层:不局限于 Permaweb 应用,该架构可同时可以为去中心化应用(Web3)和 Web2 应用提供支持,完全能兼容原有架构体系,实现应用的无缝平移。

近年来 Arweave 网络已呈指数级增长,现在既被个人使用,也被 Meta 等大型科技公司使用。目前有超过 100 个项目正在使用该平台进行开发和培育,涉及 NFT、社交、钱包、DEFI、交易、DAO等多个赛道,截止2023年8月初,Arweave 主网累计完成 23,669,647 条交易,单周达成 500.6 GB 存储,整个生态欣欣向荣! <!--StartFragment-->

<!--EndFragment-->

图片来源:Outprog 图片说明:一种未来可行的区块链应用架构

简单总结 Web 3.0 存储技术的的几个思路:

  • IPFS :Protocol Labs 于2014年开发,分布式存储,无激励机制,已在目前 NFT 项目存储中实际应用;
  • Filcoin :Protocol Labs 于2017年在 IPFS 之上架设激励机制而来,吸引和激励旷工为网络贡献存储资源,按时间计费,非永久存储,已发币 FIL,是存储赛道著名的项目;
  • Swarm :Swarm 于2015年开始进行,由以太坊基金会站台,声称是三位一体之基础,有与以太坊生态融合的独特优势,已发币 BZZ,项目进展缓慢和经济模型不明确;
  • Greenfield :2023年币安开始布局,打造币安完整生态,项目初期,待观察;
  • Arweave :2017年开发,已发币 AR,愿景是打造人类数据永存网络和 Web 3.0 时代的亚历山大图书馆;是一次付费永久存储,也逐步建立了永存目标下的生态系统,特别是是基于存储共识范式(SCP)和微服务架构的思想构建了区块链应用实现的新架构模式。

在现实我们看到无论是谁做存储,都面临着同样的问题,受限于链上资源的极度稀缺,而又迫于产品及用户的使用要求,就需要在两者矛盾体当中找寻既要又要的折中方案,而分布式存储就是 Web 3.0 的曙光和希望!而在现存技术发展探索中, Arweave 生态主打数据永存,其基于存储共识范式(SCP)和微服务架构思想而来的新的区块链工程应用架构,或许是实现 Web 2.0 产品往 Web 3.0 规模化转变的新思路,该架构体系不仅具备极强的扩容能力,也能让应用具备去中心化的特性,或许会成为 Web 3.0 演进实践中探索出来的应用架构终局之选,拭目以待。

总结

本文通过梳理 Web 演进过程探寻存储技术变化,发现在 Web 2.0 和 Web 3.0 阶段产品架构的不同主要在于中心化服务器的差异,认识到去中心化存储是数据永存的正解,进而展开对 Web 3.0 阶段几种去中心化存储技术的分析,发现基于 Arweave 存储技术及存储共识范式(SCP)思想而来的实践探索,不仅解决了去中心化存储、区块链不可能三角等问题,也为是实现未来 Web 3.0 产品规模应用探索实践出一个新的应用架构,更为人类数据永存和应用提供了终局选择的可能性。 <!--StartFragment-->

<!--EndFragment-->

图片来源:google 图片说明:未来之城

参考文献:

  1. After Filecoin, what is the expectation of Swarm, the “biological” storage project of Ethereum?
  2. 解读欧盟Web4.0倡议:强调虚拟与现实世界融合,提高数字话语权
  3. 从币安新发布的存储链Greenfield聊聊它三位一体的野心与挑战
  4. 浅谈我对元宇宙、Web3、区块链与NFT的理解
  5. 简易版 | Web1.0、2.0、3.0有何区别?
  6. 北京市互联网3.0创新发展白皮书(2023)
  7. What's the Difference Between IPFS and Ethereum Swarm?
  8. Arweave 不仅仅是永久存储,更是共识数据的载体
  9. 下一代互联网 Permaweb 雏型,SCP 理论下的去中心化微服务架构
  10. 什么是Arweave?(AR)
  11. Arweave 来了

关于 PermaDAOWebsite | Twitter | Telegram | DiscordMediumYoutube

0.png

  • 原创
  • 学分: 0
  • 标签:
点赞 0
收藏 0
分享

0 条评论

请先 登录 后评论
PermaDAO
PermaDAO
0x40F9...8718
Arweave 生态系统的共建者 DAO。 @ArweaveEco will be adopted by more developers. All projects of Arweave ecology can post their tasks and rewards here. @everVisionHQ@permaswap@ArweaveSCP