区块见闻 区块见闻
Ctrl+D收藏区块见闻

以太坊阶段式同步:重构完全同步模式(Full Sync)

作者:

时间:

阶段式同步(staged sync)重构自 Go-Ethereum 的完全同步模式(full sync),以实现更好的性能。

阶段式同步需要进行大量读写操作。虽然我们的目标是能够在机械硬盘上同步节点,但是我们仍建议使用固态硬盘。

顾名思义,阶段式同步需要依次执行 10 个阶段。

Turbo-Geth 客户端会向每个对等节点了解该节点的 HEAD 区块(即最新区块),然后依次执行每个阶段、寻找本地 HEAD 区块和对等节点的 HEAD 区块之间缺失的区块。

第一个阶段(下载区块头)会设置本地 HEAD 区块。

各阶段会按顺序执行。在每个阶段执行期间,只有节点本地的状态达到目标状态,该阶段才会结束。

也就是说,在理想情况下(没有出现网络中断、应用没有重启等问题),每个阶段只需执行一次,即可完成初始同步。

最后一阶段结束后,整个同步流程会重新开始,寻找新的区块头下载。

如果你在两个阶段之间重启应用,应用会从第一阶段开始重启。

如果你在某个阶段执行期间重启应用,应用会从当前阶段开始重启,以完成该阶段。

通过下方的饼状图,我们可以看出每个阶段的耗时占比(这些都是从完全同步中得出的数据)。虽然这些数据并不精确,但是足以作为参考。

如果区块链发生重组,我们需要“回退”部分同步数据。

回退指的是从最后一个阶段倒退回第一个阶段。但是,需要注意的一点是,我们执行完回退之后才会更新交易池,因此我们知道新的 nonce 。

回退的阶段顺序如下例所示(从右往左依次发生)。

state.unwindOrder = []*Stage{

   // Unwinding of tx pool (reinjecting transactions into the pool needs to happen after unwinding execution)

   stages, stages, stages, stages, stages, stages, stages, stages, stages, stages,

 }

通过 ETL 进行预处理

在将数据插入数据库之前,一些阶段会使用我们的 ETL 框架根据键值对数据进行排序。

这样就可以极大减少数据库写入放大(write amplification)的情况。

因此,当我们生成索引或者说哈希值化状态(Hashed State)时,我们会执行一个多步骤流程。

将处理过的数据写入位于数据目录的几个临时文件中;

然后使用一个堆栈(heap)把临时文件中的数据插入到数据库中,并且使按照能够最小化数据库写入放大现象的顺序插入数据。

这种优化有时会将写入速度提高几个数量级。

每个阶段都包含两个函数,分别是向前推进阶段的ExecFunc 和向后回退阶段的 UnwindFunc。

从理论上来说,部分阶段可以离线工作,但是当前版本并未实现这一功能。

阶段 1 :下载区块头

在这一阶段,我们会下载本地 HEAD 区块和对等节点的 HEAD 区块之间的所有区块头。

这一阶段是 CPU 密集型的,适合使用多核处理器,因为要验证区块头的工作量证明。

由于区块链重组,大多数回退都是在这一阶段开始的。

这一阶段会推动本地 HEAD 的指针(指向更新的区块)。

阶段 2 :区块哈希值

从区块头中抽取出一个从区块哈希值映射成区块号(blockHash -> blockNumber)的索引表,以支持更快速的查找功能,并让同步过程对机械硬盘更为友好。

阶段 3 :下载区块体

在这一阶段,我们会将上一阶段已下载区块头的区块体也下载下来。

这一阶段需要保持良好的联网连接。绝大多数数据都在这一阶段下载。

阶段 4 :复原发送者

这一阶段会复原出并存储每个已下载区块中的每笔交易的发送者。

这一阶段同样是 CPU 密集型的,适合使用多核处理器。

这一阶段不需要联网。

阶段 5 :执行区块

在这一阶段,我们会执行之前下载的所有区块中的每一笔交易。

需要注意的一点是,在执行区块的过程中,我们不会验证根哈希,甚至不会创建默克尔树。

这一阶段是单线程的,无需联网,需占用大量磁盘空间。如果区块执行失败,可以回退该阶段。

阶段 6 :计算状态根

这一阶段会构建默克尔树,并验证当前状态的根哈希。

这一阶段也会构建中间哈希值(Intermediate Hashes),并将它们存储到数据库中。

如果之前没有存储任何中间哈希值(这种情况可能在第一个初始同步期间发生),这一阶段会构建出完整的默克尔树及其根哈希。

如果数据库中没有中间哈希值,这一阶段就会利用区块的历史记录来弄清楚哪些哈希值已经过时,哪些哈希值是最新的,然后使用最新的哈希值来构建部分默克尔树,只重构过时的哈希值。

如果根哈希无法匹配,就会向后回退一个区块。

阶段 7 :生成哈希值化状态

在执行期间,Turbo-Geth 使用无格式状态存储(Plain state storage)。

无格式状态(Plain State):在标准状态(我们称之为 “哈希值化状态”)中,账户和存储项的地址是 keccak256(address) ,但是在一般状态中,二者的地址就是 address 。

尽管如此,为了确保一些 API 能够正常运作并与其它客户端保持兼容,我们也会生成哈希值化状态。

如果哈希值化状态不是空值,我们会查看历史记录变更集(History ChangeSet),并且只更新已更改的项。

这个阶段不需要联网。

阶段 8、9、10 :生成索引

同步期间会生成 3 个索引。

这 3 个索引可能会被禁用,因为所有 API 都不使用它们。

交易查询索引

该索引表由从交易哈希值到区块号的映射构成。

账户历史索引

该索引存储了从账户地址到区块列表(在这些区块中,该账户的状态有了更改)的映射。

存储历史索引

该索引存储了从存储项地址到区块列表(其中,该存储项在一定程度上有了更改)的映射。

在这一阶段,我们会启动交易池或更新其状态。例如,如果我们已下载的区块中包含了某些交易,就把这些交易从交易池中移除。

在回退时,我们会将被回退的区块中的交易重新添加到交易池中。

原文链接:

https://github.com/ledgerwatch/turbo-geth/tree/master/eth/stagedsync

作者: Alex Sharov

翻译&校对: 闵敏 & 阿剑

标签:FILEFIDEFIOINfilecoin币会涨到多少钱DeFi Yield ProtocolPi Network DeFiolbercoin

欧易okex官网热门资讯
银保监会陈伟钢:区块链应用具有十大发展趋势

8月17日,2020区块链生态合作大会在上海举行,中国银保监会重点金融机构监事会监事陈伟钢发表题为“区块链政策导向与应用前景“的主题演讲。 陈伟钢表示,区块链是网络时代的阶段性产物,本质是一种新型的网络技术。未来的金融系统需要信任、透明、高效、安全的技术支撑,离不开区块链技术,企业之间各产业链无缝对接需要区块链,政府部门为了增强公信力也需要区块链。

在Uniswap的大树下 DEXT能顺势起来吗?

截止到蓝狐笔记写稿时,Uniswap当前的流动性超过2.5亿美元,日交易量接近1.5亿美元,最近7天的交易量接近15亿美元,日交易数超过10万笔,Uniswap已经成长为举足轻重的去中心化交易所了。 随着Uniswap逐渐长大,人们开始基于Uniswap进行构建,Uniswap的大树之下开始冒出一些新项目,其中就包括dextools和Unitrade。

揭秘DeFi迅速崛起的背后:风投机构近半年悄然布局17家DeFi协议

过去六个月, The Block 确认出至少 17 家 DeFi 协议拿到了项目融资 单是 7 月就有 6 笔投资,相当于 3 月至 5 月投资交易的总和 伴随去中心化交易所 (DEX)近来的成功,衍生品等价物可能成为下一个值得关注的领域,过去六个月内有三个此类项目拿到融资 在我的上一篇专栏中。

金色趋势丨知史鉴今 BTC再创历史新高可能需要多久?

从BTC长期历史走势图可以发现,第一次产量减半2012年11月,之后的3个月时间BTC便突破了2011年全年顶点,刷新历史新高,后面价格一路势如破竹,形成了2013年的大牛市,而在2016年的7月的第二次产量减半启动后,用了6个月的时间币价先是触碰13年顶点而后回落蓄势,最终在第二次减半后的第9个月,也就是2017年的4月份,价格强势突破13年顶点。

金色硬核?|? 关于Polkadot 你需要知道这些

金色财经近期推出金色硬核(Hardcore)栏目,为读者提供热门项目介绍或者深度解读。 在以太坊上的DeFi如火如荼进行的同时,Polkadot近期也取得重大进展。 DOT在7月初完成主网映射,8月19日Polkadot在区块高度1205128开启DOT代币转账功能,成为真正的主网原生代币。

区块链合约层:一种自动执行的数字协议

过去的几十年,计算机代码已让各类设备变得更智能、更先进,无数任务可被自动化执行,彻底改变了人们开展业务的方式。“智能合约”作为一种数字化契约,不需要外加人为干预,即可实现自我执行和自我验证。