OPML: Інноваційне рішення Блокчейн, яке поєднує Optimistic та машинне навчання
OPML(Оптимістичне машинне навчання) є новим типом Блокчейн-системи, яка дозволяє здійснювати інференцію та навчання AI-моделей за допомогою оптимістичного методу. На відміну від ZKML, OPML може надавати ML послуги з низькими витратами та високою ефективністю. Вимоги до апаратного забезпечення OPML є низькими, звичайний ПК може виконувати великі мовні моделі, такі як 7B-LLaMA( приблизно 26GB) без GPU.
OPML використовує механізм верифікаційних ігор для забезпечення децентралізованості та верифікованого консенсусу ML-сервісу:
Запитувач ініціює завдання сервісу ML
Сервер виконав завдання та заніс результати в блокчейн
Верифікатори перевіряють результати, у разі заперечень запускається верифікаційна гра
Нарешті, проведіть покроковий арбітраж на смарт-контракті
Одностадійна верифікаційна гра OPML подібна до обчислювальної делегації (RDoC):
Створення віртуальної машини (VM) для офлайн виконання та арбітражу на Блокчейн
Проектування легковагової бібліотеки DNN для забезпечення ефективності інференції AI моделей у VM
Крос-компіляція коду AI-інференції в команди VM
Використовуйте дерево Меркла для управління образами ВМ, завантажуйте лише кореневий хеш у блокчейн.
Протокол розподілу може визначити кроки спірних питань і надіслати їх до арбітражного контракту на Блокчейн. Основні тести AI моделі показали, що DNN інференція в VM завершена за 2 секунди, а весь процес виклику завершено за 2 хвилини.
Для подолання обмежень одноетапного протоколу, OPML пропонує багатоступеневу верифікаційну гру:
Лише на останньому етапі обчислення у VM, інші етапи можна виконувати у локальному середовищі
Використання апаратного прискорення, такого як CPU, GPU, TPU, продуктивність наближається до рідного середовища
Використання дерева Меркла для забезпечення цілісності та безпеки між етапами
Двохетапний OPML на прикладі моделі LLaMA:
Представте ML-обчислення у вигляді обчислювального графа G
Спочатку валідуйте гру на графіку (Phase-2)
Визначивши спірний вузол, перейти до Фази-1
Перетворити обчислення з одного вузла на команди VM для перевірки
Багатоступенева OPML забезпечує α-кратне прискорення в порівнянні з одноступеневим реалізацією, а розмір дерева Меркла також зменшується з O(mn) до O(m+n).
Щоб забезпечити узгодженість результатів ML, OPML використовує:
Алгоритм фіксованої точки ( кількісні технології ) зменшення помилок з плаваючою комою
Бібліотека плаваючої коми програмного забезпечення гарантує кросплатформену узгодженість
OPML зосереджений на інференції ML моделей, також підтримує процес навчання, є універсальним ML рішенням. У порівнянні з ZKML, OPML має очевидні переваги в плані вартості, ефективності, універсальності тощо.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
13 лайків
Нагородити
13
9
Поділіться
Прокоментувати
0/400
screenshot_gains
· 07-27 16:22
op opпадіння不停
Переглянути оригіналвідповісти на0
TideReceder
· 07-27 11:20
Знову прийшла ще одна компанія, що хоче обдурювати людей, як лохів.
Переглянути оригіналвідповісти на0
SelfMadeRuggee
· 07-24 23:05
Це просто проекти, що піднімають популярність.
Переглянути оригіналвідповісти на0
DaoTherapy
· 07-24 17:00
Спробуйте нові фішки!!
Переглянути оригіналвідповісти на0
OvertimeSquid
· 07-24 16:58
Знову настав час обдурювати людей, як лохів
Переглянути оригіналвідповісти на0
FallingLeaf
· 07-24 16:43
Чому ще один новий план?
Переглянути оригіналвідповісти на0
GasWaster
· 07-24 16:37
низькі комісії за газ? нарешті... все ще, напевно, не вдасться виконати мої txs все ж
Переглянути оригіналвідповісти на0
WhaleWatcher
· 07-24 16:37
Ще один, хто під виглядом децентралізації обдурює людей, як лохів
Переглянути оригіналвідповісти на0
CryptoPunster
· 07-24 16:31
невдахи прогресу: OPML новий обдурювач людей, як лохів!
OPML: Революційне рішення Блокчейн, що поєднує оптимістичний підхід та машинне навчання
OPML: Інноваційне рішення Блокчейн, яке поєднує Optimistic та машинне навчання
OPML(Оптимістичне машинне навчання) є новим типом Блокчейн-системи, яка дозволяє здійснювати інференцію та навчання AI-моделей за допомогою оптимістичного методу. На відміну від ZKML, OPML може надавати ML послуги з низькими витратами та високою ефективністю. Вимоги до апаратного забезпечення OPML є низькими, звичайний ПК може виконувати великі мовні моделі, такі як 7B-LLaMA( приблизно 26GB) без GPU.
OPML використовує механізм верифікаційних ігор для забезпечення децентралізованості та верифікованого консенсусу ML-сервісу:
Одностадійна верифікаційна гра OPML подібна до обчислювальної делегації (RDoC):
Протокол розподілу може визначити кроки спірних питань і надіслати їх до арбітражного контракту на Блокчейн. Основні тести AI моделі показали, що DNN інференція в VM завершена за 2 секунди, а весь процес виклику завершено за 2 хвилини.
Для подолання обмежень одноетапного протоколу, OPML пропонує багатоступеневу верифікаційну гру:
Двохетапний OPML на прикладі моделі LLaMA:
Багатоступенева OPML забезпечує α-кратне прискорення в порівнянні з одноступеневим реалізацією, а розмір дерева Меркла також зменшується з O(mn) до O(m+n).
Щоб забезпечити узгодженість результатів ML, OPML використовує:
OPML зосереджений на інференції ML моделей, також підтримує процес навчання, є універсальним ML рішенням. У порівнянні з ZKML, OPML має очевидні переваги в плані вартості, ефективності, універсальності тощо.