# OPML:一种新型区块链机器学习方案OPML(Optimistic机器学习)是一种新提出的区块链系统AI模型推理和训练方法。相较于ZKML,OPML能够提供更低成本、更高效率的机器学习服务。OPML的硬件要求很低,普通PC无需GPU即可运行大型语言模型如7B-LLaMA(约26GB)。OPML采用验证游戏机制来保证机器学习服务的去中心化和可验证共识。其基本流程是:1. 请求者发起ML服务任务2. 服务器完成任务并将结果提交到链上 3. 验证者验证结果,如有异议则启动验证游戏4. 通过二分协议精确定位错误步骤5. 在智能合约上对争议步骤进行仲裁OPML的单阶段验证游戏采用了类似计算委托(RDoC)的方法,构建了用于链下执行和链上仲裁的虚拟机(VM)。为提高AI模型推理效率,还实现了专门的轻量级DNN库,并提供了从主流ML框架转换模型的脚本。虚拟机镜像通过默克尔树管理,只将默克尔根上传到链上合约。然而,单阶段验证游戏限制了GPU/TPU加速和并行处理的使用。为解决这一问题,OPML扩展了多阶段协议。多阶段OPML只在最后阶段在VM中计算,其他阶段可在本地环境灵活执行,充分利用各种硬件资源,显著提高了执行性能。以LLaMA模型为例,采用两阶段OPML方法:1. 第二阶段在计算图上进行验证博弈,可使用多线程CPU或GPU 2. 第一阶段将单个节点计算转换为VM指令多阶段OPML相比单阶段实现了α倍计算加速,Merkle树大小也从O(mn)减小到O(m+n)。为确保ML结果一致性,OPML采用定点算法和基于软件的浮点库,解决了不同平台浮点计算差异的问题。总的来说,OPML为区块链上的机器学习提供了一种高效、低成本且可验证的新方案,有望在多个领域发挥重要作用。
OPML:区块链AI新方案 低成本高效率实现机器学习
OPML:一种新型区块链机器学习方案
OPML(Optimistic机器学习)是一种新提出的区块链系统AI模型推理和训练方法。相较于ZKML,OPML能够提供更低成本、更高效率的机器学习服务。OPML的硬件要求很低,普通PC无需GPU即可运行大型语言模型如7B-LLaMA(约26GB)。
OPML采用验证游戏机制来保证机器学习服务的去中心化和可验证共识。其基本流程是:
OPML的单阶段验证游戏采用了类似计算委托(RDoC)的方法,构建了用于链下执行和链上仲裁的虚拟机(VM)。为提高AI模型推理效率,还实现了专门的轻量级DNN库,并提供了从主流ML框架转换模型的脚本。虚拟机镜像通过默克尔树管理,只将默克尔根上传到链上合约。
然而,单阶段验证游戏限制了GPU/TPU加速和并行处理的使用。为解决这一问题,OPML扩展了多阶段协议。多阶段OPML只在最后阶段在VM中计算,其他阶段可在本地环境灵活执行,充分利用各种硬件资源,显著提高了执行性能。
以LLaMA模型为例,采用两阶段OPML方法:
多阶段OPML相比单阶段实现了α倍计算加速,Merkle树大小也从O(mn)减小到O(m+n)。
为确保ML结果一致性,OPML采用定点算法和基于软件的浮点库,解决了不同平台浮点计算差异的问题。
总的来说,OPML为区块链上的机器学习提供了一种高效、低成本且可验证的新方案,有望在多个领域发挥重要作用。