OPML: Optimización de la aplicación de técnicas de aprendizaje automático en sistemas de Cadena de bloques

OPML(El aprendizaje automático optimista) es una nueva tecnología que permite la inferencia y entrenamiento/ajuste fino de modelos de IA en sistemas de cadena de bloques. En comparación con ZKML, OPML tiene costos más bajos y mayor eficiencia. Su umbral de participación es muy bajo, las PC comunes pueden ejecutar modelos de lenguaje grandes, como el 7B-LLaMA de 26GB, sin necesidad de GPU.

OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y verificabilidad del servicio ML. Su flujo de trabajo es el siguiente:

1. El solicitante inicia la tarea de servicio ML
2. El servidor completa la tarea y envía los resultados a la cadena de bloques.
3. Los validadores revisan los resultados, y si hay objeciones, inician el juego de validación.
4. Realizar el arbitraje final en el contrato inteligente

Juego de verificación de una sola etapa

El juego de verificación de una sola etapa utiliza un protocolo de localización precisa, similar a la delegación de cálculo (RDoC). Incluye los siguientes elementos clave:

• Construir una máquina virtual para la ejecución fuera de la cadena y el arbitraje en la cadena (VM)
• Implementar una biblioteca DNN ligera y dedicada, mejorar la eficiencia de la inferencia del modelo de IA
• Utilizar tecnología de compilación cruzada para compilar el código de inferencia de IA en instrucciones de VM
• Gestionar imágenes de VM con un árbol de Merkle, solo subir el hash raíz a la cadena de bloques

Las pruebas muestran que se puede completar la inferencia del modelo de IA básica en 2 segundos en una PC común, y todo el proceso del desafío se puede completar en 2 minutos.

Juego de verificación de múltiples fases

Para superar las limitaciones del protocolo de una sola etapa, proponemos un juego de verificación de múltiples etapas:

• Solo calcular en la VM en la fase final, las otras fases se pueden ejecutar en el entorno local.
• Aprovechar al máximo las capacidades de aceleración de hardware como CPU, GPU y TPU
• Mejora significativamente el rendimiento de ejecución, acercándose al nivel del entorno local

Como ejemplo de OPML de dos etapas:

• Segunda fase: Verificación en el gráfico computacional, se puede utilizar aceleración GPU
• Primera fase: convertir el cálculo de un solo nodo en la ejecución de instrucciones de VM

El diseño de múltiples etapas mejora significativamente el rendimiento:

• Aumento de velocidad de cálculo α veces ( α es la relación de aceleración de GPU )
• El tamaño del árbol de Merkle se reduce de O(mn) a O(m+n)

Consistencia y determinación

Para garantizar la consistencia de los resultados de ML, OPML utiliza:

1. Algoritmo de punto fijo ( tecnología de cuantificación ): utiliza representación de precisión fija, reduce el error de punto flotante
2. Biblioteca de punto flotante de software: mantener la consistencia entre plataformas

Estos métodos resuelven eficazmente el problema de las diferencias en los cálculos de punto flotante en diferentes entornos de hardware y software.

En general, OPML proporciona una solución eficiente y de bajo costo para las aplicaciones de IA en la cadena de bloques. No solo admite la inferencia de modelos, sino que también se puede utilizar para el entrenamiento de modelos, siendo un marco de aprendizaje automático general.