OPML:ブロックチェーンシステムにおける機械学習技術の最適化

OPML(楽観的機械学習)は、ブロックチェーンシステム上でAIモデルの推論とトレーニング/ファインチューニングを行う新しい技術です。ZKMLと比較して、OPMLはコストが低く、効率が高いです。参加のハードルが非常に低く、一般的なPCはGPUなしで26GBの7B-LLaMAのような大規模言語モデルを実行できます。

OPMLは、MLサービスの非中央集権性と検証可能性を確保するために、検証ゲームメカニズムを採用しています。そのワークフローは次のとおりです:

1. リクエスターがMLサービスタスクを開始します
2. サーバーはタスクを完了し、結果をチェーンに提出します。
3. バリデーターは結果を確認し、異議があれば検証ゲームを開始する
4. スマートコントラクト上で最終仲裁を行う

! OPML:楽観的ロールアップによる機械学習

シングルステージ検証ゲーム

単段階検証ゲームは、計算委任(RDoC)に類似した精密位置決定プロトコルを採用しています。それは以下の重要な要素を含みます:

• オフチェーン実行とオンチェーン仲裁のための仮想マシン(VM)
• 専用の軽量DNNライブラリを実現し、AIモデルの推論効率を向上させる
• クロスコンパイル技術を使用してAI推論コードをVM命令にコンパイルする
• メルクルツリーを使用してVMイメージを管理し、ルートハッシュのみをチェーン上にアップロードする

テストによれば、通常のPCで基本的なAIモデルの推論を2秒以内に完了でき、全体のチャレンジプロセスは2分以内に完了できます。

! OPML:楽観的ロールアップシステムによる機械学習

マルチステージ検証ゲーム

単一段階プロトコルの限界を克服するために、私たちは多段階検証ゲームを提案しました:

• 最後の段階でのみVM内で計算し、他の段階はローカル環境で実行できます
• CPU、GPU、TPUなどのハードウェアアクセラレーション能力を十分に活用する
• 実行性能を大幅に向上させ、ローカル環境のレベルに近づける

例として 2 段階の OPML を取り上げます。

• 第二段階:計算グラフ上で検証を行い、GPUアクセラレーションを使用できます
• フェーズ 1: 1 つのノードを VM コマンドに変換して実行する

多段階設計は性能を大幅に向上させました:

• 計算速度の向上がα倍(、αはGPUアクセラレーション比)
• MerkleツリーのサイズはO(mn)からO(m+n)に減少します

! OPML:楽観的ロールアップによる機械学習

! OPML:楽観的ロールアップによる機械学習

一貫性と確実性

ML結果の一貫性を確保するために、OPMLは次のように採用します:

1.固定小数点アルゴリズム(量子化技術):固定精度表現を使用して浮動小数点誤差を低減 2. ソフトウェア浮動小数点ライブラリ: クロスプラットフォームでの一貫性を保持

これらの方法は、異なるハードウェアおよびソフトウェア環境における浮動小数点計算の差異問題を効果的に解決しました。

総じて、OPMLはブロックチェーン上のAIアプリケーションに対して効率的で低コストなソリューションを提供します。それはモデル推論をサポートするだけでなく、モデルのトレーニングにも使用できる汎用の機械学習フレームワークです。

! OPML:楽観的ロールアップシステムによる機械学習