OPML: Система машинного навчання на базі блокчейн з оптимістичним підходом
OPML(Оптимістичне машинне навчання) є новим типом Блокчейн AI системи, яка може здійснювати AI моделювання та навчання/доладку Блокчейн системи оптимістичним методом. У порівнянні з ZKML, OPML здатен забезпечити нижчі витрати та вищу ефективність ML послуг. Вимоги до апаратного забезпечення OPML дуже низькі, звичайний ПК може виконувати великі мовні моделі, такі як модель 7B-LLaMA обсягом близько 26 ГБ.
OPML використовує механізм перевірки ігор для забезпечення децентралізації та перевірної консенсусу ML-сервісів. Основний процес виглядає так:
Запитувач ініціює завдання ML-сервісу
Сервер виконує завдання та подає результати на блок.
Верифікатор перевіряє результати, у разі суперечки запускається гра верифікації
Точне визначення помилкового кроку через бінарний протокол
Проведення покрокового арбітражу на смарт-контракті
Одноетапна верифікація гри
Принцип роботи протоколу точного позиціонування в один етап подібний до обчислення делегування (RDoC), припускаючи, що кілька сторін виконують однакову програму, через взаємні запитання знаходять спірні етапи, а потім арбітраж здійснюється за допомогою смарт-контрактів Блокчейн.
Основні характеристики гри OPML з одностадійною верифікацією:
Побудова спеціалізованої віртуальної машини (VM) для виконання поза ланцюгом і арбітражу в ланцюзі.
Реалізація легковісної бібліотеки DNN для підвищення ефективності AI-інференсу
Використання технології перехресної компіляції для компіляції AI-коду в інструкції VM
VM-образи використовують управління деревом Меркла, тільки кореневий хеш завантажується в блокчейн
Тестування показало, що на звичайному ПК базове DNN-інференціювання можна виконати за 2 секунди, а весь процес виклику можна завершити за 2 хвилини.
Багатоступенева верифікація гри
Щоб подолати обмеження одностадійної схеми, OPML запровадив багатоступеневу верифікаційну гру:
Використовуйте VM тільки на останньому етапі, інші етапи можуть виконуватися в локальному середовищі
Повністю використовуйте апаратні можливості прискорення, такі як CPU, GPU, TPU
Значно підвищити продуктивність виконання, зменшивши залежність від VM
Ключовий дизайн багатофазного OPML:
Представити процес обчислення ML у вигляді обчислювального графа
Виконати верифікацію гри на рівні обчислень (Phase-2)
Обчислення спірних вузлів перетворюється в команди VM для верифікації Фази-1
Використання дерев меркля для забезпечення цілісності та безпеки між етапами
Покращення продуктивності
Аналіз показує, що багатоступеневий OPML має значні переваги порівняно з одноступеневою схемою:
Швидкість обчислень підвищується в α разів ( α для GPU/паралельного прискорення )
Розмір дерева Меркла зменшився з O(mn) до O(m+n)
Ці вдосконалення значно підвищили ефективність і масштабованість системи.
Узгодженість та визначеність
Щоб забезпечити узгодженість результатів OPML, були вжиті такі заходи:
Використання фіксованої точності алгоритму ( для кількісних технологій ) зменшує вплив помилок з плаваючою комою
Використання узгодженої бібліотеки плаваючої коми для різних платформ
Ці технології ефективно долають виклики, пов'язані з плаваючими змінними та відмінностями платформ.
OPML має значні переваги в зниженні витрат та підвищенні ефективності, відкриваючи нові можливості для застосування Блокчейн AI. Проект все ще перебуває в стадії розробки, запрошуємо зацікавлених розробників приєднатися до внеску.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
9 лайків
Нагородити
9
2
Поділіться
Прокоментувати
0/400
NestedFox
· 7год тому
Трохи суворо, ця ефективність звучить досить жорстко.
OPML: нова парадигма блокчейн AI системи з низькою вартістю та високою ефективністю
OPML: Система машинного навчання на базі блокчейн з оптимістичним підходом
OPML(Оптимістичне машинне навчання) є новим типом Блокчейн AI системи, яка може здійснювати AI моделювання та навчання/доладку Блокчейн системи оптимістичним методом. У порівнянні з ZKML, OPML здатен забезпечити нижчі витрати та вищу ефективність ML послуг. Вимоги до апаратного забезпечення OPML дуже низькі, звичайний ПК може виконувати великі мовні моделі, такі як модель 7B-LLaMA обсягом близько 26 ГБ.
OPML використовує механізм перевірки ігор для забезпечення децентралізації та перевірної консенсусу ML-сервісів. Основний процес виглядає так:
Одноетапна верифікація гри
Принцип роботи протоколу точного позиціонування в один етап подібний до обчислення делегування (RDoC), припускаючи, що кілька сторін виконують однакову програму, через взаємні запитання знаходять спірні етапи, а потім арбітраж здійснюється за допомогою смарт-контрактів Блокчейн.
Основні характеристики гри OPML з одностадійною верифікацією:
Тестування показало, що на звичайному ПК базове DNN-інференціювання можна виконати за 2 секунди, а весь процес виклику можна завершити за 2 хвилини.
Багатоступенева верифікація гри
Щоб подолати обмеження одностадійної схеми, OPML запровадив багатоступеневу верифікаційну гру:
Ключовий дизайн багатофазного OPML:
Покращення продуктивності
Аналіз показує, що багатоступеневий OPML має значні переваги порівняно з одноступеневою схемою:
Ці вдосконалення значно підвищили ефективність і масштабованість системи.
Узгодженість та визначеність
Щоб забезпечити узгодженість результатів OPML, були вжиті такі заходи:
Ці технології ефективно долають виклики, пов'язані з плаваючими змінними та відмінностями платформ.
OPML має значні переваги в зниженні витрат та підвищенні ефективності, відкриваючи нові можливості для застосування Блокчейн AI. Проект все ще перебуває в стадії розробки, запрошуємо зацікавлених розробників приєднатися до внеску.