OPML: Solução de Blockchain inovadora combinando Optimistic e Aprendizado de Máquina
OPML(Aprendizado de Máquina Optimista) é um novo sistema de Blockchain que pode realizar inferência e treinamento de modelos de IA através de métodos Optimistic. Em comparação com ZKML, OPML pode fornecer serviços de ML de forma eficiente e a baixo custo. Os requisitos de hardware do OPML são baixos, um PC comum pode executar grandes modelos de linguagem como 7B-LLaMA( cerca de 26GB) sem necessidade de GPU.
OPML utiliza um mecanismo de jogo de verificação para garantir a descentralização e o consenso verificável dos serviços de ML:
O solicitante inicia a tarefa de serviço ML
O servidor completou a tarefa e colocou os resultados na Blockchain
Os validadores verificam os resultados; se houver objeções, iniciam o jogo de validação.
Por fim, realizar a arbitragem passo a passo no contrato inteligente
O jogo de verificação de uma única fase do OPML é semelhante à delegação de cálculo (RDoC):
Construir a máquina virtual (VM) para execução off-chain e arbitragem on-chain
Projetar uma biblioteca DNN leve para garantir a eficiência da inferência de modelos de IA na VM
Compilar cruzadamente o código de inferência de IA para instruções VM
Gerir imagens VM com uma árvore de Merkle, carregando apenas o hash raiz na blockchain
O protocolo de divisão pode localizar etapas de disputa e enviá-las para o contrato de arbitragem na blockchain. Testes básicos do modelo de IA mostram que a inferência DNN dentro da VM é concluída em menos de 2 segundos, e todo o processo de desafio é finalizado em menos de 2 minutos.
Para superar as limitações do protocolo de fase única, o OPML propôs um jogo de validação em várias fases:
Apenas a fase final é calculada na VM, as outras fases podem ser executadas no ambiente local.
Utilizando aceleração de hardware como CPU, GPU, TPU, desempenho próximo ao ambiente nativo
Utilizar a árvore de Merkle para garantir a integridade e a segurança entre fases
Exemplo de OPML em duas fases com o modelo LLaMA:
Representar o cálculo ML como um gráfico de cálculo G
Primeiro, realize a verificação do jogo no gráfico de cálculo (Fase-2)
Após localizar o nó de disputa, entre na Fase-1
Converter o cálculo de nó único em instruções VM para validação
A implementação de OPML em múltiplas etapas acelera α vezes em comparação com a implementação em uma única etapa, e o tamanho da árvore de Merkle também diminui de O(mn) para O(m+n).
Para garantir a consistência dos resultados do ML, o OPML adota:
Algoritmo de ponto fixo ( tecnologia de quantização ) redução de erro de ponto flutuante
A biblioteca de ponto flutuante do software garante consistência entre plataformas
OPML foca na inferência de modelos ML, também suporta o processo de treinamento, sendo uma solução de ML genérica. Em comparação com ZKML, o OPML apresenta vantagens claras em termos de custo, eficiência e versatilidade.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
13 Curtidas
Recompensa
13
9
Compartilhar
Comentário
0/400
screenshot_gains
· 07-27 16:22
op op cair不停
Ver originalResponder0
TideReceder
· 07-27 11:20
Outra empresa que quer fazer as pessoas de parvas chegou.
Ver originalResponder0
SelfMadeRuggee
· 07-24 23:05
São apenas projetos que estão na moda.
Ver originalResponder0
DaoTherapy
· 07-24 17:00
Brinque com novas ideias!!
Ver originalResponder0
OvertimeSquid
· 07-24 16:58
又到了 fazer as pessoas de parvas 机构的时候了
Ver originalResponder0
FallingLeaf
· 07-24 16:43
Por que há um novo plano novamente?
Ver originalResponder0
GasWaster
· 07-24 16:37
taxas de gás baixas? finalmente... ainda vou falhar as minhas txs de qualquer maneira
Ver originalResponder0
WhaleWatcher
· 07-24 16:37
Mais um que se esconde por trás da descentralização para fazer as pessoas de parvas.
OPML: uma solução de blockchain inovadora que combina Optimistic e aprendizado de máquina
OPML: Solução de Blockchain inovadora combinando Optimistic e Aprendizado de Máquina
OPML(Aprendizado de Máquina Optimista) é um novo sistema de Blockchain que pode realizar inferência e treinamento de modelos de IA através de métodos Optimistic. Em comparação com ZKML, OPML pode fornecer serviços de ML de forma eficiente e a baixo custo. Os requisitos de hardware do OPML são baixos, um PC comum pode executar grandes modelos de linguagem como 7B-LLaMA( cerca de 26GB) sem necessidade de GPU.
OPML utiliza um mecanismo de jogo de verificação para garantir a descentralização e o consenso verificável dos serviços de ML:
O jogo de verificação de uma única fase do OPML é semelhante à delegação de cálculo (RDoC):
O protocolo de divisão pode localizar etapas de disputa e enviá-las para o contrato de arbitragem na blockchain. Testes básicos do modelo de IA mostram que a inferência DNN dentro da VM é concluída em menos de 2 segundos, e todo o processo de desafio é finalizado em menos de 2 minutos.
Para superar as limitações do protocolo de fase única, o OPML propôs um jogo de validação em várias fases:
Exemplo de OPML em duas fases com o modelo LLaMA:
A implementação de OPML em múltiplas etapas acelera α vezes em comparação com a implementação em uma única etapa, e o tamanho da árvore de Merkle também diminui de O(mn) para O(m+n).
Para garantir a consistência dos resultados do ML, o OPML adota:
OPML foca na inferência de modelos ML, também suporta o processo de treinamento, sendo uma solução de ML genérica. Em comparação com ZKML, o OPML apresenta vantagens claras em termos de custo, eficiência e versatilidade.