OPML: новый тип Блокчейн машинного обучения

OPML(Оптимистическое машинное обучение) является новым предложенным методом вывода и обучения AI моделей в Блокчейн системе. По сравнению с ZKML, OPML может предоставить более низкие затраты и более высокую эффективность услуг машинного обучения. Аппаратные требования OPML очень низкие, обычный ПК может запускать крупные языковые модели, такие как 7B-LLaMA( примерно на 26GB).

! OPML: Машинное обучение с оптимистичным свертыванием

OPML использует механизм верификационной игры для обеспечения децентрализованности и проверяемого консенсуса в сервисах машинного обучения. Его основной процесс таков:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершает задачу и отправляет результаты на Блокчейн
3. Результаты проверки валидатора, в случае разногласий запускается игра проверки
4. Точное определение ошибочных шагов через двоичное соглашение
5. Арбитраж шагов спора на смарт-контракте

! OPML: Машинное обучение с оптимистичной системой свертывания

Однофазная верификационная игра OPML использует методы, подобные вычислительной делегации (RDoC), для создания виртуальной машины (VM), предназначенной для выполнения вне цепи и арбитража на цепи. Для повышения эффективности вывода AI-моделей также была реализована специализированная легковесная библиотека DNN и предоставлены скрипты для преобразования моделей из основных ML-фреймворков. Образы виртуальных машин управляются с помощью дерева Меркла, при этом только корень Меркла загружается в контракт на цепи.

Однако одностадийная верификация игр ограничивает использование GPU/TPU ускорения и параллельной обработки. Чтобы решить эту проблему, OPML расширил многопоточную протокол. Многоступенчатый OPML вычисляется только на последнем этапе в VM, другие этапы могут быть гибко выполнены в локальной среде, что позволяет в полной мере использовать различные аппаратные ресурсы и значительно улучшить производительность выполнения.

! OPML: Машинное обучение с оптимистичным свертыванием

В качестве примера модели LLaMA используется двухфазный метод OPML:

1. На втором этапе проводится верификационная игра на вычислительном графе, можно использовать многопоточную ЦП или GPU
2. Первый этап преобразовывает вычисления одного узла в инструкции VM

! OPML: Машинное обучение с оптимистичным свертыванием

Многоступенчатый OPML обеспечивает α-кратное ускорение вычислений по сравнению с одноступенчатым, а размер дерева Меркла уменьшается с O(mn) до O(m+n).

Чтобы обеспечить согласованность результатов ML, OPML использует фиксированную точность алгоритма и программную библиотеку с плавающей точкой, что решает проблему различий в вычислениях с плавающей точкой на разных платформах.

! OPML: Машинное обучение с оптимистичной системой свертывания

В целом, OPML предоставляет эффективное, низкозатратное и проверяемое новое решение для машинного обучения на Блокчейне, которое обещает сыграть важную роль в различных областях.