OPML:一種新型區塊鏈機器學習方案

OPML(Optimistic機器學習)是一種新提出的區塊鏈系統AI模型推理和訓練方法。相較於ZKML,OPML能夠提供更低成本、更高效率的機器學習服務。OPML的硬件要求很低,普通PC無需GPU即可運行大型語言模型如7B-LLaMA(約26GB)。

OPML採用驗證遊戲機制來保證機器學習服務的去中心化和可驗證共識。其基本流程是:

1. 請求者發起ML服務任務
2. 服務器完成任務並將結果提交到鏈上
3. 驗證者驗證結果,如有異議則啓動驗證遊戲
4. 通過二分協議精確定位錯誤步驟
5. 在智能合約上對爭議步驟進行仲裁

OPML的單階段驗證遊戲採用了類似計算委托(RDoC)的方法,構建了用於鏈下執行和鏈上仲裁的虛擬機(VM)。爲提高AI模型推理效率,還實現了專門的輕量級DNN庫,並提供了從主流ML框架轉換模型的腳本。虛擬機鏡像通過默克爾樹管理,只將默克爾根上傳到鏈上合約。

然而,單階段驗證遊戲限制了GPU/TPU加速和並行處理的使用。爲解決這一問題,OPML擴展了多階段協議。多階段OPML只在最後階段在VM中計算,其他階段可在本地環境靈活執行,充分利用各種硬件資源,顯著提高了執行性能。

以LLaMA模型爲例,採用兩階段OPML方法:

1. 第二階段在計算圖上進行驗證博弈,可使用多線程CPU或GPU
2. 第一階段將單個節點計算轉換爲VM指令

多階段OPML相比單階段實現了α倍計算加速,Merkle樹大小也從O(mn)減小到O(m+n)。

爲確保ML結果一致性,OPML採用定點算法和基於軟件的浮點庫,解決了不同平台浮點計算差異的問題。

總的來說,OPML爲區塊鏈上的機器學習提供了一種高效、低成本且可驗證的新方案,有望在多個領域發揮重要作用。