区块链需要的存储空间

全局节点什么意思

全节点是是拥有完整区块链账本的节点，全节点需要占用内存同步所有的区块链数据，能够独立校验区块链上的所有交易并实时更新数据，主要负责区块链的交易的广播和验证。

学生的电脑普通电脑配置就够用了，三四千块钱的台式机用起来就不错

普通用户能够运行节点对于区块链的去中心化至关重要

想象一下凌晨两点多，你接到了一个紧急呼叫，来自世界另一端帮你运行矿池(质押池)的人。从大约14分钟前开始，你的池子和其他几个人从链中分离了出来，而网络仍然维持着79%的算力。根据你的节点，多数链的区块是无效的。这时出现了余额错误：区块似乎错误地将450万枚额外代币分配给了一个未知地址。

一小时后，你和其他两个同样遭遇意外的小矿池参与者、一些区块浏览器和交易所方在一个聊天室中，看见有人贴出了一条推特的链接，开头写着“宣布新的链上可持续协议开发基金”。

到了早上，相关讨论广泛散布在推特以及一个不审查内容的社区论坛上。但那时450万枚代币中的很大一部分已经在链上转换为其他资产，并且进行了数十亿美元的defi交易。79％的共识节点，以及所有主要的区块链浏览器和轻钱包的端点都遵循了这条新链。也许新的开发者基金将为某些开发提供资金，或者也许所有这些都被领先的矿池、交易所及其裙带所吞并。但是无论结果如何，该基金实际上都成为了既成事实，普通用户无法反抗。

或许还有这么一部主题电影。或许会由MolochDAO或其他组织进行资助。

这种情形会发生在你的区块链中吗？你所在区块链社区的精英，包括矿池、区块浏览器和托管节点，可能协调得很好，他们很可能都在同一个telegram频道和微信群中。如果他们真的想出于利益突然对协议规则进行修改，那么他们可能具备这种能力。以太坊区块链在十小时内完全解决了共识失败，如果是只有一个客户端实现的区块链，并且只需要将代码更改部署到几十个节点，那么可以更快地协调客户端代码的更改。能够抵御这种社会性协作攻击的唯一可靠方式是“被动防御”，而这种力量来自去一个中心化的群体：用户。

想象一下，如果用户运行区块链的验证节点(无论是直接验证还是其他间接技术)，并自动拒绝违反协议规则的区块，即使超过90%的矿工或质押者支持这些区块，故事会如何发展。

如果每个用户都运行一个验证节点，那么攻击很快就会失败：有些矿池和交易所会进行分叉，并且在整个过程中看起来很愚蠢。但是即使只有一些用户运行验证节点，攻击者也无法大获全胜。相反，攻击会导致混乱，不同用户会看到不同的区块链版本。最坏情况下，随之而来的市场恐慌和可能持续的链分叉将大幅减少攻击者的利润。对如此旷日持久的冲突进行应对的想法本身就可以阻止大多数攻击。

Hasu关于这一点的看法：

“我们要明确一件事，我们之所以能够抵御恶意的协议更改，是因为拥有用户验证区块链的文化，而不是因为PoW或PoS。”

假设你的社区有37个节点运行者，以及80000名被动监听者，对签名和区块头进行检查，那么攻击者就获胜了。如果每个人都运行节点的话，攻击者就会失败。我们不清楚针对协同攻击的启动群体免疫的确切阈值是多少，但有一点是绝对清楚的：好的节点越多，恶意的节点就越少，而且我们所需的数量肯定不止于几百几千个。

那么全节点工作的上限是什么？

为了使得有尽可能多的用户能够运行全节点，我们会将注意力集中在普通消费级硬件上。即使能够轻松购买到专用硬件，这能够降低一些全节点的门槛，但事实上对可扩展性的提升并不如我们想象的那般。

全节点处理大量交易的能力主要受限于三个方面：

算力：在保证安全的前提下，我们能划分多少CPU来运行节点？

带宽：基于当前的网络连接，一个区块能包含多少字节？

存储：我们能要求用户使用多大的空间来进行存储？此外，其读取速度应该达到多少？(即，HDD足够吗？还是说我们需要SSD？)

许多使用“简单”技术对区块链进行大幅扩容的错误看法都源自于对这些数字过于乐观的估计。我们可以依次来讨论这三个因素：

算力

错误答案：100%的CPU应该用于区块验证

正确答案：约5-10%的CPU可以用于区块验证

限制之所以这么低的四个主要原因如下：

我们需要一个安全边界来覆盖DoS攻击的可能性(攻击者利用代码弱点制造的交易需要比常规交易更长的处理时间)

节点需要在离线之后能够与区块链同步。如果我掉线一分钟，那我应该要能够在几秒钟之内完成同步

运行节点不应该很快地耗尽电池，也不应该拖慢其他应用的运行速度

节点也有其他非区块生产的工作要进行，大多数是验证以及对p2p网络中输入的交易和请求做出响应

请注意，直到最近大多数针对“为什么只需要5-10%？”这一点的解释都侧重于另一个不同的问题：因为PoW出块时间不定，验证区块需要很长时间，会增加同时创建多个区块的风险。这个问题有很多修复方法，例如BitcoinNG，或使用PoS权益证明。但这些并没有解决其他四个问题，因此它们并没有如许多人所料在可扩展性方面获得巨大进展。

并行性也不是灵丹妙药。通常，即使是看似单线程区块链的客户端也已经并行化了：签名可以由一个线程验证，而执行由其他线程完成，并且有一个单独的线程在后台处理交易池逻辑。而且所有线程的使用率越接近100%，运行节点的能源消耗就越多，针对DoS的安全系数就越低。

带宽

错误答案：如果没2-3秒都产生10MB的区块，那么大多数用户的网络都大于10MB/秒，他们当然都能处理这些区块

正确答案：或许我们能在每12秒处理1-5MB的区块，但这依然很难

如今，我们经常听到关于互联网连接可以提供多少带宽的广为传播的统计数据：100Mbps甚至1Gbps的数字很常见。但是由于以下几个原因，宣称的带宽与预期实际带宽之间存在很大差异：

“Mbps”是指“每秒数百万bits”；一个bit是一个字节的1/8，因此我们需要将宣称的bit数除以8以获得字节数。

网络运营商，就像其他公司一样，经常编造谎言。

总是有多个应用使用同一个网络连接，所以节点无法独占整个带宽。

P2P网络不可避免地会引入开销：节点通常最终会多次下载和重新上传同一个块(更不用说交易在被打包进区块之前还要通过mempool进行广播)。

当Starkware在2019年进行一项实验时，他们在交易数据gas成本降低后首次发布了500kB的区块，一些节点实际上无法处理这种大小的区块。处理大区块的能力已经并将持续得到改善。但是无论我们做什么，我们仍然无法获取以MB/秒为单位的平均带宽，说服自己我们可以接受1秒的延迟，并且有能力处理那种大小的区块。

存储

错误答案：10TB

正确答案：512GB

正如大家可能猜到的，这里的主要论点与其他地方相同：理论与实践之间的差异。理论上，我们可以在亚马逊上购买8TB固态驱动(确实需要SSD或NVME；HDD对于区块链状态存储来说太慢了)。实际上，我用来写这篇博文的笔记本电脑有512GB，如果你让人们去购买硬件，许多人就会变得懒惰(或者他们无法负担800美元的8TBSSD)并使用中心化服务。即使可以将区块链装到某个存储设备上，大量活动也可以快速地耗尽磁盘并迫使你购入新磁盘。

一群区块链协议研究员对每个人的磁盘空间进行了调查。我知道样本量很小，但仍然...

请点击输入图片描述

此外，存储大小决定了新节点能够上线并开始参与网络所需的时间。现有节点必须存储的任何数据都是新节点必须下载的数据。这个初始同步时间(和带宽)也是用户能够运行节点的主要障碍。在写这篇博文时，同步一个新的geth节点花了我大约15个小时。如果以太坊的使用量增加10倍，那么同步一个新的geth节点将至少需要一周时间，而且更有可能导致节点的互联网连接受到限制。这在攻击期间更为重要，当用户之前未运行节点时对攻击做出成功响应需要用户启用新节点。

交互效应

此外，这三类成本之间存在交互效应。由于数据库在内部使用树结构来存储和检索数据，因此从数据库中获取数据的成本随着数据库大小的对数而增加。事实上，因为顶级(或前几级)可以缓存在RAM中，所以磁盘访问成本与数据库大小成正比，是RAM中缓存数据大小的倍数。

不要从字面上理解这个图，不同的数据库以不同的方式工作，通常内存中的部分只是一个单独(但很大)的层(参见leveldb中使用的LSM树)。但基本原理是一样的。

例如，如果缓存为4GB，并且我们假设数据库的每一层比上一层大4倍，那么以太坊当前的~64GB状态将需要~2次访问。但是如果状态大小增加4倍到~256GB，那么这将增加到~3次访问。因此，gas上限增加4倍实际上可以转化为区块验证时间增加约6倍。这种影响可能会更大：硬盘在已满状态下比空闲时需要花更长时间来读写。

这对以太坊来说意味着什么？

现在在以太坊区块链中，运行一个节点对许多用户来说已经是一项挑战，尽管至少使用常规硬件仍然是可能的(我写这篇文章时刚刚在我的笔记本电脑上同步了一个节点！)。因此，我们即将遭遇瓶颈。核心开发者最关心的问题是存储大小。因此，目前在解决计算和数据瓶颈方面的巨大努力，甚至对共识算法的改变，都不太可能带来gaslimit的大幅提升。即使解决了以太坊最大的DoS弱点，也只能将gaslimit提高20%。

对于存储大小的问题，唯一解决方案是无状态和状态逾期。无状态使得节点群能够在不维护永久存储的情况下进行验证。状态逾期会使最近未访问过的状态失活，用户需要手动提供证明来更新。这两条路径已经研究了很长时间，并且已经开始了关于无状态的概念验证实现。这两项改进相结合可以大大缓解这些担忧，并为显著提升gaslimit开辟空间。但即使在实施无状态和状态逾期之后，gaslimit也可能只会安全地提升约3倍，直到其他限制开始发挥作用。

另一个可能的中期解决方案使使用ZK-SNARKs来验证交易。ZK-SNARKs能够保证普通用户无需个人存储状态或是验证区块，即使他们仍然需要下载区块中的所有数据来抵御数据不可用攻击。另外，即使攻击者不能强行提交无效区块，但是如果运行一个共识节点的难度过高，依然会有协调审查攻击的风险。因此，ZK-SNARKs不能无限地提升节点能力，但是仍然能够对其进行大幅提升(或许是1-2个数量级)。一些区块链在layer1上探索该形式，以太坊则通过layer2协议(也叫ZKrollups)来获益，例如zksync,Loopring和Starknet。

分片之后又会如何？

分片从根本上解决了上述限制，因为它将区块链上包含的数据与单个节点需要处理和存储的数据解耦了。节点验证区块不是通过亲自下载和执行，而是使用先进的数学和密码学技术来间接验证区块。

因此，分片区块链可以安全地拥有非分片区块链无法实现的非常高水平的吞吐量。这确实需要大量的密码学技术来有效替代朴素完整验证，以拒绝无效区块，但这是可以做到的：该理论已经具备了基础，并且基于草案规范的概念验证已经在进行中。

以太坊计划采用二次方分片(quadraticsharding)，其中总可扩展性受到以下事实的限制：节点必须能够同时处理单个分片和信标链，而信标链必须为每个分片执行一些固定的管理工作。如果分片太大，节点就不能再处理单个分片，如果分片太多，节点就不能再处理信标链。这两个约束的乘积构成了上限。

可以想象，通过三次方分片甚至指数分片，我们可以走得更远。在这样的设计中，数据可用性采样肯定会变得更加复杂，但这是可以实现的。但以太坊并没有超越二次方，原因在于，从交易分片到交易分片的分片所获得的额外可扩展性收益实际上无法在其他风险程度可接受的前提下实现。

那么这些风险是什么呢？

最低用户数量

可以想象，只要有一个用户愿意参与，非分片区块链就可以运行。但分片区块链并非如此：单个节点无法处理整条链，因此需要足够的节点以共同处理区块链。如果每个节点可以处理50TPS，而链可以处理10000TPS，那么链至少需要200个节点才能存续。如果链在任何时候都少于200个节点，那可能会出现节点无法再保持同步，或者节点停止检测无效区块，或者还可能会发生许多其他坏事，具体取决于节点软件的设置。

在实践中，由于需要冗余(包括数据可用性采样)，安全的最低数量比简单的“链TPS除以节点TPS”高几倍，对于上面的例子，我们将其设置位1000个节点。

如果分片区块链的容量增加10倍，则最低用户数也增加10倍。现在大家可能会问：为什么我们不从较低的容量开始，当用户很多时再增加，因为这是我们的实际需要，用户数量回落再降低容量？

这里有几个问题：

区块链本身无法可靠地检测到其上有多少唯一用户，因此需要某种治理来检测和设置分片数量。对容量限制的治理很容易成为分裂和冲突的根源。

如果许多用户突然同时意外掉线怎么办？

增加启动分叉所需的最低用户数量，使得防御恶意控制更加艰难。

最低用户数为1,000，这几乎可以说是没问题的。另一方面，最低用户数设为100万，这肯定是不行。即使最低用户数为10,000也可以说开始变得有风险。因此，似乎很难证明超过几百个分片的分片区块链是合理的。

历史可检索性

用户真正珍视的区块链重要属性是永久性。当公司破产或是维护该生态系统不再产生利益时，存储在服务器上的数字资产将在10年内不再存在。而以太坊上的NFT是永久的。

是的，到2372年人们仍能够下载并查阅你的加密猫。

但是一旦区块链的容量过高，存储所有这些数据就会变得更加困难，直到某时出现巨大风险，某些历史数据最终将……没人存储。

要量化这种风险很容易。以区块链的数据容量(MB/sec)为单位，乘以~30得到每年存储的数据量(TB)。当前的分片计划的数据容量约为1.3MB/秒，因此约为40TB/年。如果增加10倍，则为400TB/年。如果我们不仅希望可以访问数据，而且是以一种便捷的方式，我们还需要元数据(例如解压缩汇总交易)，因此每年达到4PB，或十年后达到40PB。InternetArchive(互联网档案馆)使用50PB。所以这可以说是分片区块链的安全大小上限。

因此，看起来在这两个维度上，以太坊分片设计实际上已经非常接近合理的最大安全值。常数可以增加一点，但不能增加太多。

结语

尝试扩容区块链的方法有两种：基础的技术改进和简单地提升参数。首先，提升参数听起来很有吸引力：如果您是在餐纸上进行数学运算，这就很容易让自己相信消费级笔记本电脑每秒可以处理数千笔交易，不需要ZK-SNARK、rollups或分片。不幸的是，有很多微妙的理由可以解释为什么这种方法是有根本缺陷的。

运行区块链节点的计算机无法使用100％的CPU来验证区块链；他们需要很大的安全边际来抵抗意外的DoS攻击，他们需要备用容量来执行诸如在内存池中处理交易之类的任务，并且用户不希望在计算机上运行节点的时候无法同时用于任何其他应用。带宽也会受限：10MB/s的连接并不意味着每秒可以处理10MB的区块！也许每12秒才能处理1-5MB的块。存储也是一样，提高运行节点的硬件要求并且限制专门的节点运行者并不是解决方案。对于去中心化的区块链而言，普通用户能够运行节点并形成一种文化，即运行节点是一种普遍行为，这一点至关重要。

简单来说，区块链是一个提供了拜占庭容错、并保证了最终一致性的分布式数据库；从数据结构上看，它是基于时间序列的链式数据块结构；从节点拓扑上看，它所有的节点互为冗余备份；从操作上看，它提供了基于密码学的公私钥管理体系来管理账户。

或许以上概念过于抽象，我来举个例子，你就好理解了。

你可以想象有100台计算机分布在世界各地，这100台机器之间的网络是广域网，并且，这100台机器的拥有者互相不信任。

那么，我们采用什么样的算法（共识机制）才能够为它提供一个可信任的环境，并且使得：

节点之间的数据交换过程不可篡改，并且已生成的历史记录不可被篡改；

每个节点的数据会同步到最新数据，并且会验证最新数据的有效性；

基于少数服从多数的原则，整体节点维护的数据可以客观反映交换历史。

区块链就是为了解决上述问题而产生的技术方案。

二、区块链的核心技术组成

无论是公链还是联盟链，至少需要四个模块组成：P2P网络协议、分布式一致性算法（共识机制）、加密签名算法、账户与存储模型。

1、P2P网络协议

P2P网络协议是所有区块链的最底层模块，负责交易数据的网络传输和广播、节点发现和维护。

通常我们所用的都是比特币P2P网络协议模块，它遵循一定的交互原则。比如：初次连接到其他节点会被要求按照握手协议来确认状态，在握手之后开始请求Peer节点的地址数据以及区块数据。

这套P2P交互协议也具有自己的指令集合，指令体现在在消息头（MessageHeader)的命令（command）域中，这些命令为上层提供了节点发现、节点获取、区块头获取、区块获取等功能，这些功能都是非常底层、非常基础的功能。如果你想要深入了解，可以参考比特币开发者指南中的PeerDiscovery的章节。

2、分布式一致性算法

在经典分布式计算领域，我们有Raft和Paxos算法家族代表的非拜占庭容错算法，以及具有拜占庭容错特性的PBFT共识算法。

如果从技术演化的角度来看，我们可以得出一个图，其中，区块链技术把原来的分布式算法进行了经济学上的拓展。

在图中我们可以看到，计算机应用在最开始多为单点应用，高可用方便采用的是冷灾备，后来发展到异地多活，这些异地多活可能采用的是负载均衡和路由技术，随着分布式系统技术的发展，我们过渡到了Paxos和Raft为主的分布式系统。

而在区块链领域，多采用PoW工作量证明算法、PoS权益证明算法，以及DPoS代理权益证明算法，以上三种是业界主流的共识算法，这些算法与经典分布式一致性算法不同的是，它们融入了经济学博弈的概念，下面我分别简单介绍这三种共识算法。

PoW：通常是指在给定的约束下，求解一个特定难度的数学问题，谁解的速度快，谁就能获得记账权（出块）权利。这个求解过程往往会转换成计算问题，所以在比拼速度的情况下，也就变成了谁的计算方法更优，以及谁的设备性能更好。

PoS：这是一种股权证明机制，它的基本概念是你产生区块的难度应该与你在网络里所占的股权（所有权占比）成比例，它实现的核心思路是：使用你所锁定代币的币龄（CoinAge）以及一个小的工作量证明，去计算一个目标值，当满足目标值时，你将可能获取记账权。

DPoS：简单来理解就是将PoS共识算法中的记账者转换为指定节点数组成的小圈子，而不是所有人都可以参与记账。这个圈子可能是21个节点，也有可能是101个节点，这一点取决于设计，只有这个圈子中的节点才能获得记账权。这将会极大地提高系统的吞吐量，因为更少的节点也就意味着网络和节点的可控。

3、加密签名算法

在区块链领域，应用得最多的是哈希算法。哈希算法具有抗碰撞性、原像不可逆、难题友好性等特征。

其中，难题友好性正是众多PoW币种赖以存在的基础，在比特币中，SHA256算法被用作工作量证明的计算方法，也就是我们所说的挖矿算法。

而在莱特币身上，我们也会看到Scrypt算法，该算法与SHA256不同的是，需要大内存支持。而在其他一些币种身上，我们也能看到基于SHA3算法的挖矿算法。以太坊使用了Dagger-Hashimoto算法的改良版本，并命名为Ethash，这是一个IO难解性的算法。

当然，除了挖矿算法，我们还会使用到RIPEMD160算法，主要用于生成地址，众多的比特币衍生代码中，绝大部分都采用了比特币的地址设计。

除了地址，我们还会使用到最核心的，也是区块链Token系统的基石：公私钥密码算法。

在比特币大类的代码中，基本上使用的都是ECDSA。ECDSA是ECC与DSA的结合，整个签名过程与DSA类似，所不一样的是签名中采取的算法为ECC（椭圆曲线函数）。

从技术上看，我们先从生成私钥开始，其次从私钥生成公钥，最后从公钥生成地址，以上每一步都是不可逆过程，也就是说无法从地址推导出公钥，从公钥推导到私钥。

4、账户与交易模型

从一开始的定义我们知道，仅从技术角度可以认为区块链是一种分布式数据库，那么，多数区块链到底使用了什么类型的数