OPML:Оптимізація технологій машинного навчання в системах Блокчейн

OPML(Оптимістичне машинне навчання) є новою технологією, що дозволяє виконувати інференцію та навчання/доладку AI-моделей на Блокчейн-системах. У порівнянні з ZKML, OPML має нижчі витрати та вищу ефективність. Його поріг участі дуже низький, звичайний ПК може запускати великі мовні моделі без GPU, такі як 26GB 7B-LLaMA.

OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікації послуг ML. Його робочий процес виглядає наступним чином:

1. Запитувач ініціює завдання ML-сервісу
2. Сервер виконує завдання та подає результати на Блокчейн
3. Верифікатори перевіряють результати, у разі незгоди запускають ігри верифікації
4. Остаточне арбітражування на смарт-контракті

Одностадійна верифікаційна гра

Одноетапна верифікація гри використовує протокол точного позиціонування, подібний до обчислювальної делегації (RDoC). Він містить такі ключові елементи:

• Будівництво віртуальної машини для виконання поза блокчейном та арбітражу на блокчейні (VM)
• Реалізувати спеціалізовану легковагову бібліотеку DNN, підвищити ефективність інференції AI моделей
• Використання технології перехресної компіляції для компіляції коду AI-інференції в інструкції VM
• Використайте дерево Меркла для управління VM-образами, завантажте лише кореневий хеш на блокчейн

Тести показали, що на звичайному ПК базове AI моделювання може бути завершено за 2 секунди, а весь процес виклику може бути завершено за 2 хвилини.

Багатоступенева верифікаційна гра

Для подолання обмежень однофазного протоколу ми запропонували багатоетапну валідаційну гру:

• Обчислювати лише на останньому етапі у VM, інші етапи можуть виконуватися в локальному середовищі
• Максимально використовувати апаратні можливості прискорення, такі як CPU, GPU, TPU
• Значно підвищено продуктивність виконання, наближається до рівня локального середовища

В якості прикладу двоступеневого OPML:

• Другий етап: проведення валідації на обчислювальному графіку, можна використовувати прискорення GPU
• Перший етап: перетворення обчислень одного вузла в виконання команд VM

Багатоступеневий дизайн суттєво підвищив продуктивність:

• Прискорення обчислень в α разів ( α – це коефіцієнт прискорення GPU )
• Розмір дерева Меркла зменшився з O(mn) до O(m+n)

! OPML: Машинне навчання з Optimistic Rollup

Узгодженість та детермінованість

Щоб забезпечити узгодженість результатів ML, OPML використовує:

1. Фіксований алгоритм ( кількісна технологія ): використання фіксованої точності для зменшення помилки з плаваючою комою
2. Бібліотека плаваючої коми: міжплатформна узгодженість

Ці методи ефективно вирішують проблему різниці у плаваючій точці в різних апаратних і програмних середовищах.

Загалом, OPML надає ефективне та економічне рішення для AI-додатків на Блокчейні. Він не тільки підтримує моделювання, але також може бути використаний для навчання моделей, є універсальною платформою для машинного навчання.