OPML : Optimisation des techniques d'apprentissage automatique dans les systèmes Blockchain

OPML(L'apprentissage automatique optimiste) est une nouvelle technologie qui permet l'inférence et l'entraînement/ajustement des modèles d'IA sur des systèmes Blockchain. Comparé à ZKML, OPML a des coûts plus bas et une efficacité plus élevée. Son seuil de participation est très bas, un PC ordinaire peut exécuter de grands modèles linguistiques sans GPU, comme le 7B-LLaMA de 26 Go.

OPML utilise un mécanisme de jeu de vérification pour garantir la décentralisation et la vérifiabilité des services ML. Son flux de travail est le suivant :

1. Le demandeur lance une tâche de service ML
2. Le serveur termine la tâche et soumet le résultat sur la blockchain.
3. Les validateurs vérifient les résultats, et en cas de désaccord, ils lancent le jeu de validation.
4. Effectuer l'arbitrage final sur un contrat intelligent

Jeu de validation à une étape

Le jeu de vérification à une étape utilise un protocole de localisation précise, similaire à la délégation de calcul (RDoC). Il comprend les éléments clés suivants :

• Construire une machine virtuelle pour l'exécution hors chaîne et l'arbitrage sur chaîne (VM)
• Réaliser une bibliothèque DNN légère et dédiée, améliorer l'efficacité de l'inférence des modèles d'IA
• Utiliser la technologie de compilation croisée pour compiler le code d'inférence AI en instructions VM
• Gérer les images VM avec un arbre de Merkle, télécharger uniquement le hash racine sur la chaîne.

Les tests montrent qu'il est possible d'effectuer une inférence de modèle AI de base sur un PC ordinaire en moins de 2 secondes, et l'ensemble du processus de défi peut être complété en 2 minutes.

Jeu de validation multi-niveaux

Pour surmonter les limitations du protocole à une seule étape, nous avons proposé un jeu de vérification multi-étapes:

• Ne calculer que dans la VM à la dernière étape, les autres étapes peuvent être exécutées dans l'environnement local.
• Tirer pleinement parti des capacités d'accélération matérielle telles que CPU, GPU, TPU.
• Amélioration significative des performances d'exécution, proche du niveau de l'environnement local

Prenons l'exemple d'un OPML en deux phases :

• Deuxième étape : validation sur le graphique de calcul, peut utiliser l'accélération GPU.
• Première phase : convertir le calcul d'un nœud unique en exécution d'instructions VM

La conception en plusieurs étapes améliore considérablement les performances :

• Amélioration de la vitesse de calcul α fois ( α étant le rapport d'accélération GPU )
• La taille de l'arbre de Merkle passe de O(mn) à O(m+n)

Cohérence et déterminisme

Pour garantir la cohérence des résultats ML, OPML adopte :

1. Algorithme à point fixe ( technologie de quantification ) : utilisation de la représentation à précision fixe, réduction des erreurs de flottement.
2. Bibliothèque de nombres à virgule flottante : cohérence multiplateforme

Ces méthodes résolvent efficacement les problèmes de différence de calcul en virgule flottante dans différents environnements matériels et logiciels.

Dans l'ensemble, OPML offre une solution efficace et à faible coût pour les applications d'IA sur Blockchain. Il prend en charge non seulement l'inférence de modèle, mais peut également être utilisé pour l'entraînement de modèle, c'est un cadre d'apprentissage automatique universel.