区块见闻 区块见闻
Ctrl+D收藏区块见闻

OPEN:OPML:采用Optimistic Rollup系统的机器学习_Spendcoin

作者:

时间:

来源:github;编译:MarsBit

我们提出OPML(Optimistic机器学习),它可以使用Optimistic方法对区块链系统进行AI模型推理和训练/微调。

与ZKML相比,OPML可以提供低成本、高效率的ML服务。OPML的参与要求很低:我们现在能够在没有GPU的普通PC上运行带有大型语言模型的OPML,例如7B-LLaMA(模型大小约为26GB)。

OPML采用验证游戏(类似于Truebit和Optimistic Rollup系统)来保证ML服务的去中心化和可验证共识。

请求者首先启动一个ML服务任务。

然后,服务器完成ML服务任务并将结果提交到链上。

验证者将验证结果。假设存在一个验证者声明结果是错误的。它通过与服务器的验证游戏(二分协议)启动验证游戏,并试图通过精确指出一个具体的错误步骤来反驳该声明。

最后,在智能合约上进行单个步骤的仲裁。

单阶段精确定位协议的工作原理与计算委托 (RDoC) 类似,其中假设两个或多个参与方(至少有一个诚实的参与方)执行相同的程序。然后,双方可以用精确的方式相互质疑,以找出有争议的步骤。将步骤发送给计算能力较弱的法官(区块链上的智能合约)进行仲裁。

OpenSea将为创作者推出可定制的空投服务,现已开放抢先体验申请:金色财经报道,据官方公告,NFT市场OpenSea宣布正分阶段为创作者推出可定制的空投服务,该功能将在未来几周开放体验,现已开放抢先体验申请。如果创作者的合约符合ERC721SeaDrop合约标准,即可使用该功能在OpenSea上创建一个空投。

OpenSea上的下拉页面旨在提供丰富的、讲故事的表面。这些登陆页面是可定制的,并为关键消息和项目信息(如铸造时间表、倒计时时钟、NFT画廊和路线图)以及图像和视频提供空间。[2022/12/22 22:00:10]

在单阶段OPML中:

我们构建了一个虚拟机(VM)用于链下执行和链上仲裁。我们保证了在智能合约上实现的链下VM和链上VM的等效性。

为了确保虚拟机中AI模型推理的效率,我们实现了一个专门为此目的设计的轻量级DNN库,而不是依赖于流行的ML框架,如Tensorflow或PyTorch。此外,还提供了一个脚本,可以将Tensorflow和PyTorch模型转换为这个轻量级库。

采用交叉编译技术将人工智能模型推理代码编译成虚拟机程序指令。

以太坊Ropsten测试网合并TTD已经完成设定:金色财经报道,据以太坊基金会官方博客,以太坊Ropsten测试网合并终端总难度(TTD)已经定为5000000000000000。这意味着以太坊Ropsten测试网确定在6月8日左右进行合并过渡。[2022/6/4 4:01:30]

虚拟机镜像是用默克尔树管理的,只有默克尔根会被上传到链上智能合约。(默克尔根代表虚拟机状态)

二分协议将帮助定位争议步骤,该步骤将发送到区块链上的仲裁合约

性能:我们在PC上测试了一个基本的AI模型(用于MNIST分类的DNN模型)。我们能够在VM中2秒内完成DNN推理,在本地以太坊测试环境中,整个挑战过程可以在2分钟内完成。

单阶段验证游戏有一个严重的缺点:所有的计算必须在虚拟机(VM)内执行,这使我们无法充分利用 GPU/TPU 加速或并行处理的潜力。因此,这一限制严重阻碍了大模型推理的效率,这也与当前RDoC协议的限制相一致。

Azuki继续领跑Opensea日交易榜,地板价已升至14.7 ETH:2月1日消息,Opensea数据显示,热门NFT项目Azuki的地板价正持续抬升,当前已达14.7 ETH,近24小时交易额为8884.81 ETH,继续领跑Opensea日交易榜。[2022/2/1 9:26:10]

为了解决单阶段协议所带来的限制,并确保OPML能够达到与本机环境相当的性能水平,我们提出了对多阶段协议的扩展。使用这种方法,我们只需要在最后阶段在VM中进行计算,类似于单阶段协议。对于其他阶段,我们可以灵活地执行计算,从而在本机环境中实现状态转换,利用CPU、GPU、TPU甚至并行处理的能力。通过减少对VM的依赖,我们显著地减少了开销,从而显著提高了OPML的执行性能,几乎与本机环境类似。

下图演示了一个验证游戏由两个阶段(k = 2)组成。在阶段1中,该过程类似于一个单阶段验证游戏,其中每个状态转换对应于一个改变虚拟机状态的单个VM微指令。在阶段2中,状态转换对应于包含改变计算上下文的多个微指令的“大指令”。

提交者和验证者将首先使用二分协议启动第二阶段的验证游戏, 以定位“大指令”上的争议步骤。此步骤将发送到下一阶段,即phase -1。第一阶段的工作原理类似于单阶段验证游戏。第一阶段的二分协议将有助于定位 VM 微指令上的争议步骤。该步骤将发送至区块链上的仲裁合约。

V神:Optimism第一轮融资是成功的,期待可追溯公共产品融资的后续进展:11月17日消息,V神发布长文表示,上个月,以太坊二层扩容解决方案 Optimism 进行了第一轮可追溯公共产品融资,总共向 58 个项目分配了 100 万美元,以奖励这些项目已经为 Optimism 和以太坊生态系统所做的出色工作。文章称,总的来说,我认为 Optimism 第一轮融资是成功的。许多有趣和有价值的项目得到了资助,衍生出很多讨论。无论如何,可追溯公共产品融资仍然是一项令人兴奋的、以多种方式进行的制度创新的新实验。这是一项非货币驱动的去中心化治理的实验,也是一项通过追溯而不是主动激励来实现事情的实验。无论结果如何,我都期待看到这个实验在接下来的几轮中如何发展。[2021/11/17 21:56:54]

为了确保过渡到下一阶段的完整性和安全性,我们依赖于默克尔树。该操作包括从更高级别的阶段提取Merkle子树,从而保证验证过程的无缝延续。

HBTC Chain霍比特公链及Opendex均已通过PeckShield派盾完成代码审计:据霍比特HBTC 12月29日官方消息,基于HBTC Chain霍比特公链Opendex已于本周通过PeckShield(派盾)的代码审计。据悉,HBTC Chain霍比特公链的公链审计报告也已在12月中旬完成。霍比特公链及Opendex审计报告详情见底部原文链接。

HBTC Chain是目前市场上支持最全面以及使用最便捷的去中心化跨链解决方案,定位为“异构跨链DeFi公链”。支持OpenDex协议及AMM+Orderbook模式跨链Swap;跨链资产桥支持完整的资产安全去中心化跨链流通兑换,支持任意公链自由流通兑换。现HBTC Chain开启主网节点投票阶段,HBC持有者均可公正公开公平参与去中心化投票,共建HBTC Chain生态。详情见原文链接。[2020/12/29 16:00:01]

在本演示中,我们提出了 LLaMA 模型中使用的两阶段 OPML 方法:

机器学习(ML),特别是深度神经网络(DNN)的计算过程可以表示为计算图,表示为G。该图由各种计算节点组成,能够存储中间计算结果。

DNN模型推理本质上是在上述计算图上的计算过程。整个图可以看作是推理状态(Phase-2中的计算上下文)。在计算每个节点时,结果存储在该节点中,从而将计算图推进到下一个状态。

因此,我们可以先在计算图上进行验证博弈(在phase-2)。在第二阶段验证游戏中,图形节点的计算可以在本地环境中使用多线程CPU或GPU进行。二分协议将帮助定位争议节点,该节点的计算将发送到下一阶段(phase-1) 二分协议。

在第一阶段二分中,我们将单个节点的计算转换为虚拟机(VM)指令,类似于在单阶段协议中所做的操作。

值得注意的是,当计算图中单个节点的计算仍然计算复杂时,我们预计会引入多阶段OPML方法(包括两个以上阶段)。这一延长将进一步提高验证过程的整体效率和有效性。

在这里,我们对我们提出的多阶段验证框架进行了简要的讨论和分析。

假设有n DNN计算图中的节点,每个节点需要取m VM微指令,在VM中完成计算。假设使用GPU或并行计算对每个节点的计算加速比为α 。该比率表示通过GPU或并行计算实现的加速,并且可以达到显着值,通常比VM执行速度快几十倍甚至数百倍。

基于这些考虑,我们得出以下结论:

1.两阶段OPML优于单阶段OPML,实现了计算加速α次。多阶段验证的使用使我们能够利用GPU或并行处理提供的加速计算能力,从而显着提高整体性能。

2.当比较Merkle树的大小时,我们发现在两阶段OPML中,大小为O(m+n),而在单阶段OPML中,尺寸明显大于 O(mn)。Merkle树大小的减小进一步突出了多阶段设计的效率和可扩展性。

总之,多阶段验证框架提供了显着的性能改进,确保更高效和更快的计算,特别是在利用GPU或并行处理的加速能力时。此外,减小的Merkle树大小增加了系统的有效性和可扩展性,使多阶段OPML成为各种应用的选择。

在OPML中,确保ML结果的一致性是至关重要的。

在DNN计算的本机执行过程中,特别是在不同的硬件平台上,由于浮点数的特性,可能会产生执行结果的差异。例如,涉及浮点数的并行计算,例如(a+b)+c与a+(b+c), 由于舍入误差,通常会产生不相同的结果。此外,编程语言、编译器版本和操作系统等因素都可能影响浮点数的计算结果,从而导致ML结果进一步不一致。

为了应对这些挑战并保证OPML的一致性,我们采用了两种关键方法:

1.采用定点算法,又称量化技术。这种技术使我们能够使用固定精度而不是浮点数来表示和执行计算。通过这样做,我们减轻了浮点舍入误差的影响,从而获得更可靠和一致的结果。

2.我们利用基于软件的浮点库,这些库旨在跨不同平台保持一致的功能。这些库确保了ML结果的跨平台一致性和确定性,而无论底层硬件或软件配置如何。

通过结合定点算法和基于软件的浮点库,我们为在OPML框架内实现一致和可靠的ML结果奠定了坚实的基础。这种技术的协调使我们能够克服浮点变量和平台差异带来的固有挑战,最终增强OPML计算的完整性和可靠性。

*:在当前的OPML框架中,我们的主要重点在于ML模型的推理,从而实现高效且安全的模型计算。然而,必须强调的是,我们的框架也支持训练过程,使其成为各种机器学习任务的通用解决方案。

请注意,OPML仍在开发中。如果您有兴趣成为这一激动人心的计划的一部分,并为OPML项目做出贡献,请随时与我们联系。

MarsBit

媒体专栏

阅读更多

Foresight News

金色财经 Jason.

白话区块链

金色早8点

LD Capital

-R3PO

深潮TechFlow

标签:PMLOPMPENOPENPMLGWeb 3 DevelopmentSpendcoinOpen Proprietary Protocol

中币交易所热门资讯
区块链:Arkham万字投研报告:业务、赛道及估值_NFT

作者: WJBArkham是一个加密情报平台,专门用于系统地分析区块链交易并对其进行去匿名化,以向用户展示背后的人员、公司以及与交易相关的数据和信息,以进一步分析他们的行为.

ALD:Bald 秒变“跑路龙头”后 Base 生态能否再造 Meme 热潮_PEPE Donalds

作者:Mia,链捕手 近日,Base 上的 Meme 龙头 Bald 一日千倍引发加密社区热烈讨论,而当大家正沉浸在“Blad 是否会创造新一轮暴富神话”的思考中.

MEME:全链游戏Words3简介:基于MUD开发的单词接龙游戏_TrustBase

Words3是一款基于MUD开发的全链上游戏,游戏最早已于去年11月上线。然而Words3在经过了首次测试后很长一段时间都没有再进行公开试玩,据传团队正基于当时还处于开发过程中的MUD V2对游.

SEA:对世界币的担忧是空穴来风吗?_OPENAIERC价格

来源:Coindesk;编译:比推BitpushNews Mary Liu自 Facebook(现在的Meta)的数字货币项目Libra失败以来,还没有哪个项目能在加密社区中引起如此大的争议.

BSP:Polygon zkEVM奥德赛保姆级教程_SWAP

老样子,任务不算多,步骤也挺简单的。https://quest.intract.io/quest/ 64 c 2 bb 4 e&nbs.

POLK:减半无人问津 沉寂已久的莱特币如何走出生态发展困境?_nbs币发行量

8 月 2 日晚间 23 点,莱特币 Litecoin(LTC)在区块高度 2520000 上完成了第三次区块奖励.