Foresight Ventures: O que diabos é zkML?

zkML é uma ponte entre IA e blockchain. Seu significado é permitir que o blockchain perceba o mundo físico, permitir contratos inteligentes para tomar decisões e executar modelos de IA com proteção de privacidade.

Resumo

• ZKML (aprendizado de máquina com conhecimento zero) é uma tecnologia que usa provas de conhecimento zero para aprendizado de máquina, ZKML é uma ponte entre IA e blockchain. O ZKML pode resolver o problema de proteção de privacidade do modelo/entrada de IA e problema de verificação do processo de raciocínio, para que o ZKP de pequeno modelo ou raciocínio possa ser carregado na cadeia. O significado da cadeia de prova de modelo/raciocínio é:
• Deixe o blockchain perceber o mundo físico. Por exemplo: um modelo de reconhecimento facial em execução no blockchain pode perceber o rosto para o blockchain, e o modelo AI no blockchain pode entender que o rosto pode ser uma mulher, quantos anos tem, etc.
• Permitindo contratos inteligentes para tomar decisões. Por exemplo: o modelo de previsão de preços WETH na cadeia pode ajudar os contratos inteligentes a tomar decisões de transação.
• Execute modelos de IA em particular. Por exemplo, uma empresa gasta muito poder de computação para treinar um modelo, esperando fornecer serviços de inferência de maneira a preservar a privacidade, ou a entrada do usuário deseja garantir a privacidade. O uso de ZKML pode não apenas garantir a privacidade do modelo/input, mas também provar ao usuário que o raciocínio é realizado corretamente, realizando raciocínio sem confiança.
• Aplicação de ZKML
• IA na cadeia: Coloque o modelo de IA/prova de raciocínio da IA na cadeia, para que os contratos inteligentes possam usar a IA para tomar decisões. Por exemplo, um sistema de negociação on-chain é usado para decisões de investimento on-chain.
• **Blockchain de autoaperfeiçoamento: **Deixe o blockchain usar a capacidade da IA para melhorar e revisar continuamente as estratégias com base em dados históricos. Por exemplo, um sistema de reputação on-chain baseado em IA.
• AIGC on-chain: Conteúdo/arte gerada por AIGC, on-chain Mint em NFT, ZK pode provar a exatidão do processo, nenhuma imagem protegida por direitos autorais é usada no conjunto de dados, etc.
• Autenticação biométrica (KYC) da carteira: O comprovante de reconhecimento facial é carregado na rede e a carteira completa o KYC.
• AI Security: Use AI para detecção de fraude, prevenção de ataques Sybil, etc.
• Jogos ZKML na cadeia: jogadores de xadrez de inteligência artificial na cadeia, personagens NFT acionados por redes neurais, etc.
• ZKML tecnicamente
• Objetivo: Transformar rede neural em circuito ZK Dificuldades: 1. Circuito ZK não suporta números de ponto flutuante, 2. Uma rede neural muito grande é difícil de converter.
• Progresso atual:
• A biblioteca ZKML mais antiga foi criada há 2 anos e o histórico de desenvolvimento de toda a tecnologia é muito curto. No momento, a biblioteca ZKML mais recente suporta alguns ZK de rede neural simples e aplicados ao blockchain. Diz-se que o modelo básico de regressão linear pode ser carregado na cadeia, e outros tipos de modelos de rede neural menores podem suportar o encadeamento de provas. Mas vi muito poucos Demos, apenas um reconhecimento de dígito manuscrito.
• **Algumas ferramentas afirmam suportar parâmetros de 100M e algumas afirmam converter GPT2 em um circuito ZK para gerar uma prova ZK. **
• Direção de desenvolvimento:
• Quantização de rede (quantização de rede), converte os números de ponto flutuante na rede neural em números de ponto fixo e reduz o peso da rede neural (compatível com ZK).
• Tente converter a rede neural com parâmetros de grande escala em um circuito ZK e melhore a eficiência da prova (expandir a capacidade do ZK).
• Resumir:
• ZKML é uma ponte entre IA e blockchain, seu significado é permitir que blockchain perceba o mundo físico, permitir contratos inteligentes para tomar decisões e executar modelos de IA com proteção de privacidade**, **é uma tecnologia muito promissora .
• A história desta tecnologia é muito curta, mas está se desenvolvendo muito rápido.Atualmente, alguns modelos simples de redes neurais podem ser transformados em circuitos ZK, que podem ser usados para encadeamento de modelos ou encadeamento de prova de raciocínio. Mas a linguagem é relativamente difícil. No momento, Ddkang/zkml afirma que pode gerar a versão ZK do modelo de processamento de linguagem natural GPT2, Bert e Diffusion, mas não está claro sobre o efeito real. Pode ser executado, mas pode não ser capaz para ser carregado na cadeia. Acredito que com o desenvolvimento da tecnologia de volume de rede, tecnologia ZK e tecnologia de expansão blockchain, o modelo de linguagem ZKML logo estará disponível.

1. Fundo

(Se você sabe algo sobre ZK, ML, pode pular este capítulo).

• **Prova de conhecimento zero (ZK): **Prova de conhecimento zero significa que o provador pode convencer o verificador de que uma certa afirmação está correta sem fornecer nenhuma informação útil ao verificador. O ZK é usado principalmente para provar que o processo de cálculo é realizado corretamente e para proteger a privacidade.
• Comprovar a exatidão do processo de cálculo: Tome o ZK-rollup como exemplo, a operação do ZK-rollup é simplesmente empacotar várias transações juntas, publicá-las no L1 e emitir uma prova ao mesmo tempo (usando tecnologia de prova de conhecimento zero ) para reivindicar que essas transações são válidas, uma vez que seja verificado no L1 que elas são válidas, o estado do zk-rollup será atualizado.
• Proteção de privacidade: Tomando como exemplo o protocolo Aztec, os ativos no zk.money da Aztec existem na forma de notas, semelhante ao UTXO do Bitcoin, e o valor das notas é criptografado. Quando os usuários precisam transferir dinheiro , eles precisam destruir as contas e criar novas notas para o beneficiário, bem como para você (mudança). A prova de conhecimento zero é usada para proteger a privacidade para provar que o valor da nota destruída é o mesmo da nota recém-criada e o usuário tem o direito de controlar a nota.
• Machine Learning: Machine Learning é um ramo da Inteligência Artificial. A teoria do aprendizado de máquina é principalmente para projetar e analisar alguns algoritmos que permitem que os computadores "aprendam" automaticamente. Os algoritmos de aprendizado de máquina analisam e obtêm automaticamente leis de dados e usam as leis para prever dados desconhecidos. O aprendizado de máquina tem sido amplamente utilizado em visão computacional, processamento de linguagem natural, reconhecimento biométrico, mecanismos de busca, diagnóstico médico, detecção de fraude de cartão de crédito, análise de mercado de valores mobiliários, sequenciamento de DNA, reconhecimento de fala e escrita, jogos e robótica.

**2. Qual problema o ZKML resolve? **

ZKML é uma área de pesquisa e desenvolvimento que tem causado alvoroço na comunidade criptográfica nos últimos dois anos. Usando prova de conhecimento zero para aprendizado de máquina**, o principal objetivo desta tecnologia é usar prova de conhecimento zero para resolver a proteção de privacidade e problemas verificáveis de aprendizado de máquina. Dessa forma, o pequeno modelo ou ZKP de raciocínio pode ser carregado na cadeia e se tornar uma ponte entre IA e blockchain:

• Encadeamento de modelos: os modelos ML podem ser convertidos em circuitos ZK e pequenos modelos ZKML podem ser armazenados no contrato inteligente do blockchain. Os usuários podem usar o modelo chamando métodos de contrato inteligente. Por exemplo, o RockyBot da Modulus Labs criou um modelo de IA na cadeia para prever o preço do WETH para decisões comerciais.
• Prova de raciocínio do modelo, etc. na cadeia: converta o modelo ML em um circuito ZK, execute o raciocínio fora da cadeia e gere uma prova ZK. As provas ZK podem provar que o processo de raciocínio é executado corretamente. Os resultados do raciocínio e a prova ZK são enviados à cadeia para referência pelo chamador e prova de verificação de contrato inteligente.

** Qual é o significado da prova de modelo/raciocínio na cadeia? **

• Deixe o blockchain perceber o mundo físico. Por exemplo: um modelo de reconhecimento facial em execução no blockchain pode perceber o rosto para o blockchain, e o modelo AI no blockchain pode entender que o rosto pode ser uma mulher, quantos anos tem, etc.
• Permitindo contratos inteligentes para tomar decisões. Por exemplo: o modelo de previsão de preços WETH na cadeia pode ajudar os contratos inteligentes a tomar decisões de transação.
• Execute modelos de IA em particular. Por exemplo, uma empresa gasta muito poder de computação para treinar um modelo, esperando fornecer serviços de inferência de maneira a preservar a privacidade, ou a entrada do usuário deseja garantir a privacidade. O uso de ZKML pode não apenas garantir a privacidade do modelo/input, mas também provar ao usuário que o raciocínio é realizado corretamente, realizando raciocínio sem confiança.

A prova de conhecimento zero comprova o papel do ZKML:

**1. Proteção de privacidade: proteja a privacidade dos dados de entrada no modelo ML ou no processo de previsão. **

• **Privacidade de Dados (Modelo Público + Dados Privados): **Tenho alguns dados sensíveis, como dados médicos, imagens faciais, etc. Posso usar o ZKML para proteger a privacidade dos dados de entrada, executar o modelo de rede neural pública nesses dados e obter o resultado. Por exemplo, modelos de reconhecimento facial,
• Privacidade do modelo (modelo privado + dados públicos): Por exemplo, eu gasto muito dinheiro para treinar o modelo. Não quero expor meu modelo, então preciso proteger a privacidade do modelo. Posso usar o ZKML para executar um modelo de rede neural privada que preserva a privacidade, e esse modelo pode inferir a entrada pública para obter a saída.

**2. Verificabilidade: ZKP é usado para provar a execução correta do processo de raciocínio de ML, tornando o processo de aprendizado de máquina verificável. **

• Suponha que a execução do modelo não esteja no meu servidor, mas preciso garantir que a especulação seja executada corretamente. Posso usar o ZKML para realizar uma inferência em uma entrada e um modelo, ele produz uma saída, o ZKP pode provar que esse processo foi executado corretamente, mesmo que o processo não esteja em execução no meu computador, posso verificar se a inferência está correta verificando o ZKP implementado, e assim acreditar no resultado.

3. Casos de uso para ZKML

• ** INTEGRALIDADE DA COMPUTAÇÃO **
• **On-chain AI (On-chain AI): **Implantar o modelo AI no blockchain, para que os contratos inteligentes possam ter capacidade de tomada de decisão por meio do modelo AI.
• Modulus Labs: RockyBot On-chain verificável ML trading robot (um robô de negociação de aprendizado de máquina verificável no blockchain)
• Blockchain de autoaperfeiçoamento: Deixe o blockchain usar a capacidade da IA para melhorar continuamente e corrigir estratégias com base em dados históricos.
• AMM do Lyra Finance aprimorado com inteligência artificial.
• Crie um sistema de reputação baseado em IA para Astraly.
• Crie funções de conformidade inteligentes baseadas em IA em nível de contrato para o protocolo Aztec
• Modulus Labs:Blockchains que se auto-aprimoram (link):
• AIGC on-chain: Conteúdo/arte gerada por AIGC, on-chain Mint em NFT, ZK pode provar a exatidão do processo, nenhuma imagem protegida por direitos autorais é usada no conjunto de dados, etc.
• Transparência de ML as a Service (MLaaS) (link)
• AI Security: Use AI para detecção de fraude, prevenção de ataques Sybil, etc. O modelo de detecção de anomalias AI é treinado de acordo com os dados do contrato inteligente, e o contrato é suspenso se o indicador for anormal, e o ZK é usado para detecção de anomalias para provar que está na cadeia.
• Jogos ZKML na cadeia: jogadores de xadrez de inteligência artificial na cadeia, personagens NFT acionados por redes neurais, etc.
• Teste de benchmark de modelo AI verificável: Use ZK para fornecer prova de teste de benchmark de modelo e fornecer verificabilidade para os resultados do teste de desempenho e efeito do modelo.
• Prova de correção do treinamento do modelo: Como o treinamento do modelo consome muitos recursos, a prova de correção do treinamento do modelo com ZK não está disponível no momento, mas muitas pessoas pensam que a tecnologia é viável e tentam usar o ZK Para provar isso o modelo usa certos dados / não usa certos dados para resolver o problema de direitos autorais do AIGC.
• proteção de privacidade
• Autenticação biométrica/identidade digital para carteiras *A WordCoin está escaneando a íris com o dispositivo biométrico Orb, fornecendo aos usuários uma identidade digital verificável exclusiva. A WorldCoin está trabalhando no zkml, que está planejado para ser usado para atualizar o World ID. Após a atualização, os usuários poderão manter de forma autônoma sua biometria de assinatura no armazenamento criptografado de seus dispositivos móveis, baixar o modelo ML gerado pelo código de íris, e criar provas de conhecimento zero localmente, provando que seu código de íris foi realmente gerado a partir da imagem da assinatura usando o modelo correto.
• Plataforma de recompensas de aprendizado de máquina baseada em blockchain
• A empresa emite recompensas e fornece dados públicos e privados. Dados públicos são usados para treinar o modelo e dados privados são usados para prever. Algumas partes do serviço AI treinam o modelo e o transformam em um circuito ZK. Criptografe o modelo e envie-o ao contrato para verificação. Para dados privados, faça previsões, obtenha resultados e gere provas ZK, que são submetidas ao contrato para verificação. Os provedores de serviços de IA recebem recompensas após concluir uma série de operações. zkML: Demo para circomlib-ml na rede de teste Goerli
• Raciocínio de preservação da privacidade: por exemplo, usando dados privados do paciente para diagnóstico médico e, em seguida, enviando inferências confidenciais (como resultados de detecção de câncer) ao paciente. (papel da vCNN, página 2/16)

4. Layout do ZKML

A julgar pelo layout ZKML organizado pela SevenX Ventures.

• Aceleração de Hardware: Muitas organizações estão desenvolvendo ativamente a aceleração de hardware ZKP, que também é propícia ao desenvolvimento de ZKML. Geralmente, os chips FPGA, GPU e ASIC são usados para acelerar a geração de ZKP. Por exemplo: Accseal está desenvolvendo chips ASIC para aceleração de hardware ZKP e Ingonyama está construindo uma biblioteca de aceleração ZK ICIClE, projetada para GPUs que suportam CUDA. A Supranational foca na aceleração de GPU, Cysic e Ulvetanna focam na aceleração de FPGA.
• Input: Para usar a entrada de dados on-chain, Axiom, Herodotus, Hyper Oracle, Lagrange melhorará o acesso do usuário aos dados blockchain e fornecerá exibições de dados on-chain mais complexas. Os dados de entrada ML podem então ser extraídos dos dados históricos importados
• motivo: ModulusLabs está desenvolvendo um novo sistema zkSNARK especificamente para ZKML. Esta parte pode ser mesclada com o conjunto de ferramentas ZKML, principalmente para a ZKização do modelo e o conjunto de ferramentas necessário no processo de ZKização. Giza é uma plataforma de aprendizado de máquina baseada em StarkNet* que *foca no dimensionamento de implantação de modelo totalmente on-chain.
• Compute: concentre-se na construção de uma rede de computação descentralizada para treinar modelos de IA acessíveis a todos. Eles permitem que as pessoas usem recursos de computação de ponta para treinar modelos de IA a um custo menor.
• Treinamento descentralizado/potência de computação: foco na construção de uma rede de computação descentralizada para treinamento de modelos de IA que todos possam acessar. Eles permitem que as pessoas usem recursos de computação de ponta para treinar modelos de IA a um custo menor.
• Conjunto de ferramentas ZKML: Consulte o Capítulo 5 Histórico de desenvolvimento de tecnologia. ZAMA na figura usa principalmente criptografia totalmente homomórfica (FHE) para proteção de privacidade de aprendizado de máquina. Comparado com ZKML, FHEML só faz privacidade e não faz verificação sem confiança.
• Caso de uso: Worldcoin, usando ZKML para autenticação de identidade digital. A biometria da assinatura do usuário é criptografada e armazenada no dispositivo do usuário, e o modelo de aprendizado de máquina de reconhecimento de íris baseado em ZK executa o modelo durante o reconhecimento de identidade para verificar se a biometria corresponde. Use o ZKP para provar a exatidão do processo em execução. Modulars Labs é um robô de negociação de IA na cadeia. Padrão EIP7007, zkML AIGC-NFT da Cathie. Jogadores de xadrez de inteligência artificial na cadeia, personagens NFT conduzidos por redes neurais, etc.

5. Histórico de desenvolvimento da tecnologia ZKML

Os principais desafios em transformar uma rede neural em um circuito ZK são:

1. Circuitos requerem operações de ponto fixo, mas números de ponto flutuante são amplamente usados em redes neurais.
2. O problema do tamanho do modelo, a conversão de modelos grandes é difícil e o circuito é grande.

O histórico de desenvolvimento da biblioteca ZKML é o seguinte:

1.2021, zk-ml/linear-regression-demo, Peiyuan Liao

• Realizado o circuito de regressão linear. A regressão linear é um algoritmo de previsão muito básico, que assume uma relação linear entre a variável de saída e a variável de entrada, e é adequado para prever variáveis numéricas e estudar a relação entre duas ou mais variáveis. Por exemplo: prever preços de casas com base no tamanho da casa e outras características, ou prever vendas futuras com base em dados históricos de vendas, etc.

2.2022 年, 0xZKML/zk-mnist, 0xZKML

• Feito um circuito ZK de rede neural com base no conjunto de dados MNIST, que pode reconhecer números manuscritos. Por exemplo: caligrafia um número 2, a caligrafia é reconhecida como 2, e uma prova de processo de raciocínio** é gerada. **A prova pode ser carregada na cadeia e a prova na cadeia pode ser verificada com ethers + snarkjs.
• Na verdade, a biblioteca zk-mnist atualmente converte apenas a última camada em um circuito, mas não converte a rede neural completa em um circuito.

3. 2022, socathie/zkML, Cathie

• Comparado com o zk-mnist, o ZKML converte uma rede neural completa em um circuito. O zkMachineLearning da Cathie fornece vários kits de ferramentas ZKML cirocmlib-ml e keras2circom para ajudar os engenheiros de ML a converter modelos em circuitos.

4 de novembro de 2022, zk-ml/uchikoma, Peiyuan Liao

• Transfira operações de ponto flutuante em redes neurais para operações de ponto fixo. Criou e abriu o código de uma ferramenta geral e estrutura que converte quase qualquer algoritmo de aprendizado de máquina em um circuito de prova de conhecimento zero que é facilmente integrado a blockchains.
• Modelo Visual -> AIGC
• Modelo de linguagem -> chatbot, assistente de redação
• Modelos lineares e árvores de decisão -> Detecção de fraude, prevenção de ataque Sybil
• Modelo multimodal -> sistema de recomendação
• Treinou um modelo de aprendizado de máquina de geração de conteúdo compatível com blockchain (AIGC) e o converteu em um circuito ZK. Use-o para gerar arte, gerar provas concisas de ZK e, finalmente, criar a arte em NFT.

5. Julho de 2022, atualizado em março de 2023, zkonduit/ezkl

• ezkl é uma biblioteca e ferramenta de linha de comando para inferência em modelos de aprendizado profundo e outros gráficos computacionais em zk-snark (ZKML). Use Halo2 como sistema de prova.
• É possível definir um gráfico de cálculo, como uma rede neural, e então usar o ezkl para gerar um circuito ZK-SNARK. Os ZKPs gerados para inferência podem ser verificados com contratos inteligentes.
• Diz-se que é um modelo que suporta 100 milhões de parâmetros, mas pode consumir muitos recursos.

6. Maio de 2023, Ddkang/zkml (Link)

• zkml afirma usar ZK para converter modelos GPT2, Bert e Diffusion. Mas pode usar muita memória e não está claro se a prova pode ser armazenada no contrato inteligente.
• O zkml pode verificar a execução do modelo com 92,4% de precisão no ImageNet e também pode provar um modelo MNIST com 99% de precisão em em quatro segundos.

7. Maio de 2023, zkp-gravity/0g

• Rede neural leve, suportando dados privados + modelo público.

Em geral, podemos ver a atual direção de exploração da tecnologia ZKML:

1. Quantização de rede, converta os números de ponto flutuante na rede neural em números de ponto fixo e reduza o peso da rede neural (compatível com ZK).
2. Tente converter a rede neural com parâmetros de grande escala em um circuito ZK e melhore a eficiência da prova (expandir a capacidade ZK).

6. Resumo

1. ZKML é uma ponte entre IA e blockchain. Seu significado é permitir que **blockchain perceba o mundo físico, permitir contratos inteligentes para tomar decisões e executar modelos de IA com proteção de privacidade. É uma tecnologia muito promissora .
2. A história do ZKML é muito curta e seu desenvolvimento é muito rápido. Atualmente, alguns modelos simples de redes neurais podem ser convertidos em circuitos ZK, e modelos podem ser carregados na cadeia ou provas de raciocínio podem ser carregadas na cadeia. O modelo de linguagem é relativamente difícil.Atualmente, Ddkang/zkml afirma ser capaz de gerar a versão ZK do modelo GPT2, Bert e Diffusion. Acredito que com o desenvolvimento da tecnologia de volume de rede, tecnologia ZK e tecnologia de expansão blockchain, o modelo de linguagem ZKML logo estará disponível.