OPML: Оптимизация технологий машинного обучения в Блокчейн системах

OPML(Оптимистическое машинное обучение) — это новая технология, которая позволяет выполнять выводы и обучение/доработку AI моделей в системах Блокчейн. По сравнению с ZKML, OPML имеет более низкие затраты и более высокую эффективность. Его порог участия очень низок, обычный ПК может запускать крупные языковые модели, такие как 26 ГБ 7B-LLaMA, без GPU.

OPML использует механизм верификации игр для обеспечения децентрализованности и проверяемости услуг ML. Его рабочий процесс следующий:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершает задачу и отправляет результаты в Блок.
3. Валидаторы проверяют результаты, если есть разногласия, то запускается игра на верификацию
4. Проведение окончательного арбитража на смарт-контракте

! OPML: Машинное обучение с оптимистичным свертыванием

Одноэтапная верификация игры

Однофазная верификация игр использует протокол точного позиционирования, аналогичный вычислительному поручению (RDoC). Он включает в себя следующие ключевые элементы:

• Постройка виртуальной машины для оффлайн-выполнения и онлайнового арбитража (VM)
• Реализация специализированной легковесной библиотеки DNN для повышения эффективности вывода AI моделей
• Используйте технологию кросс-компиляции для компиляции AI-вычислительного кода в команды VM
• Используйте дерево Меркла для управления образами VM, загружая только корневой хеш в блокчейн.

Тесты показывают, что на обычном ПК базовая инференция AI модели может быть выполнена за 2 секунды, а весь процесс вызова может быть завершен за 2 минуты.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоэтапная проверка игры

Чтобы преодолеть ограничения одностадийного протокола, мы предложили многоступенчатую верификационную игру:

• Вычисления выполняются только на последнем этапе в VM, остальные этапы могут выполняться в локальной среде
• Полное использование аппаратных возможностей ускорения, таких как CPU, GPU, TPU.
• Существенное увеличение производительности выполнения, близкой к уровню локальной среды

В качестве примера двухступенчатого OPML:

• Второй этап: верификация на графе вычислений, можно использовать ускорение GPU
• Первый этап: преобразование вычислений одного узла в выполнение команд VM

Многоступенчатый дизайн значительно улучшил производительность:

• Увеличение скорости вычислений в α раз ( α - это коэффициент ускорения GPU )
• Размер дерева Меркла уменьшился с O(mn) до O(m+n)

! OPML: Машинное обучение с оптимистичным свертыванием

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и определенность

Для обеспечения согласованности результатов ML, OPML использует:

1. Фиксированный алгоритм ( квантовая техника ): использование фиксированной точности представления, уменьшение ошибок с плавающей точкой
2. Библиотека программного обеспечения с плавающей запятой: кроссплатформенное поддержание согласованности

Эти методы эффективно решают проблему различий в вычислениях с плавающей запятой в разных аппаратных и программных средах.

В целом, OPML предоставляет эффективное и недорогое решение для AI-приложений на Блокчейн. Он поддерживает не только вывод модели, но и может использоваться для обучения модели, что делает его универсальной платформой для машинного обучения.

! OPML: Машинное обучение с оптимистичной системой свертывания