OPML: нова схема машинного навчання на базі Блокчейн

OPML(Оптимістичне машинне навчання) є ново запропонованою системою Блокчейн AI моделі для інференції та навчання. На відміну від ZKML, OPML може забезпечити нижчі витрати та вищу ефективність послуг машинного навчання. Вимоги до апаратного забезпечення OPML дуже низькі, звичайний ПК може запускати великі мовні моделі, такі як 7B-LLaMA( приблизно 26GB) без GPU.

OPML використовує механізм верифікаційних ігор для забезпечення децентралізованого та перевірного консенсусу сервісів машинного навчання. Його основний процес:

1. Замовник ініціює завдання служби ML
2. Сервер виконав завдання та подав результати на ланцюг
3. Результати верифікації валідаторів, у разі заперечень запускається верифікаційна гра
4. Точно визначити помилковий крок за допомогою бінарного протоколу
5. Арбітраж кроків суперечки на смарт-контракті

Гра з одноетапною перевіркою OPML використовує метод, схожий на делегування обчислень (RDoC), для побудови віртуальної машини (VM), призначеної для виконання поза ланцюгом і арбітражу в ланцюзі. Для підвищення ефективності висновків AI-моделей також реалізовано спеціалізовану легковагову бібліотеку DNN і надано сценарії для перетворення моделей з основних ML-фреймворків. Віртуальне зображення машини керується деревом Меркла, лише корінь Меркла завантажується в контракт на ланцюзі.

Однак, одноетапна верифікація гри обмежує використання прискорення GPU/TPU та паралельної обробки. Щоб вирішити цю проблему, OPML розширив багатоступеневий протокол. Багатоступеневий OPML виконує обчислення лише на останньому етапі у VM, інші етапи можна гнучко виконувати у локальному середовищі, повністю використовуючи різні апаратні ресурси, що значно покращує продуктивність виконання.

Взяти за приклад модель LLaMA, використовувати двоступеневий метод OPML:

1. Другий етап проводиться верифікаційною грою на графіках, можна використовувати багатопотоковий ЦП або ГП.
2. Перша стадія перетворює обчислення окремого вузла на команди VM

Багатоступеневий OPML забезпечує в α разів швидше обчислення в порівнянні з одноступеневим, а також розмір дерева Меркла зменшується з O(mn) до O(m+n).

Щоб забезпечити узгодженість результатів ML, OPML використовує алгоритм фіксованої точки та програмну бібліотеку з плаваючою комою, що вирішує проблему відмінностей у плаваючих обчисленнях на різних платформах.

В цілому, OPML пропонує ефективне, маловитратне та перевірене нове рішення для машинного навчання на Блокчейні, яке має потенціал відігравати важливу роль у багатьох сферах.