OPML: нова парадигма блокчейн AI системи з низькою вартістю та високою ефективністю

robot
Генерація анотацій у процесі

OPML: Система машинного навчання на базі блокчейн з оптимістичним підходом

OPML(Оптимістичне машинне навчання) є новим типом Блокчейн AI системи, яка може здійснювати AI моделювання та навчання/доладку Блокчейн системи оптимістичним методом. У порівнянні з ZKML, OPML здатен забезпечити нижчі витрати та вищу ефективність ML послуг. Вимоги до апаратного забезпечення OPML дуже низькі, звичайний ПК може виконувати великі мовні моделі, такі як модель 7B-LLaMA обсягом близько 26 ГБ.

OPML використовує механізм перевірки ігор для забезпечення децентралізації та перевірної консенсусу ML-сервісів. Основний процес виглядає так:

  1. Запитувач ініціює завдання ML-сервісу
  2. Сервер виконує завдання та подає результати на блок.
  3. Верифікатор перевіряє результати, у разі суперечки запускається гра верифікації
  4. Точне визначення помилкового кроку через бінарний протокол
  5. Проведення покрокового арбітражу на смарт-контракті

OPML:Використання системи Optimistic Rollup для машинного навчання

Одноетапна верифікація гри

Принцип роботи протоколу точного позиціонування в один етап подібний до обчислення делегування (RDoC), припускаючи, що кілька сторін виконують однакову програму, через взаємні запитання знаходять спірні етапи, а потім арбітраж здійснюється за допомогою смарт-контрактів Блокчейн.

Основні характеристики гри OPML з одностадійною верифікацією:

  • Побудова спеціалізованої віртуальної машини (VM) для виконання поза ланцюгом і арбітражу в ланцюзі.
  • Реалізація легковісної бібліотеки DNN для підвищення ефективності AI-інференсу
  • Використання технології перехресної компіляції для компіляції AI-коду в інструкції VM
  • VM-образи використовують управління деревом Меркла, тільки кореневий хеш завантажується в блокчейн

Тестування показало, що на звичайному ПК базове DNN-інференціювання можна виконати за 2 секунди, а весь процес виклику можна завершити за 2 хвилини.

OPML:використання системи Optimistic Rollup для машинного навчання

Багатоступенева верифікація гри

Щоб подолати обмеження одностадійної схеми, OPML запровадив багатоступеневу верифікаційну гру:

  • Використовуйте VM тільки на останньому етапі, інші етапи можуть виконуватися в локальному середовищі
  • Повністю використовуйте апаратні можливості прискорення, такі як CPU, GPU, TPU
  • Значно підвищити продуктивність виконання, зменшивши залежність від VM

Ключовий дизайн багатофазного OPML:

  1. Представити процес обчислення ML у вигляді обчислювального графа
  2. Виконати верифікацію гри на рівні обчислень (Phase-2)
  3. Обчислення спірних вузлів перетворюється в команди VM для верифікації Фази-1
  4. Використання дерев меркля для забезпечення цілісності та безпеки між етапами

OPML:Використання системи Optimistic Rollup для машинного навчання

Покращення продуктивності

Аналіз показує, що багатоступеневий OPML має значні переваги порівняно з одноступеневою схемою:

  • Швидкість обчислень підвищується в α разів ( α для GPU/паралельного прискорення )
  • Розмір дерева Меркла зменшився з O(mn) до O(m+n)

Ці вдосконалення значно підвищили ефективність і масштабованість системи.

OPML:Використання системи Optimistic Rollup для машинного навчання

Узгодженість та визначеність

Щоб забезпечити узгодженість результатів OPML, були вжиті такі заходи:

  1. Використання фіксованої точності алгоритму ( для кількісних технологій ) зменшує вплив помилок з плаваючою комою
  2. Використання узгодженої бібліотеки плаваючої коми для різних платформ

Ці технології ефективно долають виклики, пов'язані з плаваючими змінними та відмінностями платформ.

OPML має значні переваги в зниженні витрат та підвищенні ефективності, відкриваючи нові можливості для застосування Блокчейн AI. Проект все ще перебуває в стадії розробки, запрошуємо зацікавлених розробників приєднатися до внеску.

OPML:Використання системи Optimistic Rollup в машинному навчанні

Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Нагородити
  • 2
  • Поділіться
Прокоментувати
0/400
NestedFoxvip
· 7год тому
Трохи суворо, ця ефективність звучить досить жорстко.
Переглянути оригіналвідповісти на0
OptionWhisperervip
· 7год тому
А, це той самий смак ШІ, який я знаю.
Переглянути оригіналвідповісти на0
  • Закріпити