OPML: Sistema de aprendizaje automático en cadena de bloques basado en un enfoque optimista
OPML(Máquina de aprendizaje optimista) es un nuevo tipo de sistema de IA de Cadena de bloques que puede realizar inferencias y entrenamiento/ajuste fino de modelos de IA en sistemas de Cadena de bloques mediante un enfoque optimista. En comparación con ZKML, OPML puede ofrecer servicios de ML a un costo más bajo y con mayor eficiencia. Los requisitos de hardware de OPML son muy bajos, una PC normal puede ejecutar modelos de lenguaje grandes, como el modelo 7B-LLaMA de aproximadamente 26 GB.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable del servicio ML. Su proceso básico es el siguiente:
El solicitante inicia la tarea de servicio ML
El servidor completa la tarea y envía los resultados a la cadena de bloques.
Los validadores verifican los resultados, y si hay disputas, se inicia el juego de verificación.
Localizar con precisión los pasos erróneos a través del protocolo de bipartición
Realizar arbitraje paso a paso en un contrato inteligente
Juego de verificación de una sola etapa
El principio de funcionamiento del protocolo de localización precisa de una sola etapa es similar al cálculo de la delegación (RDoC), suponiendo que múltiples partes ejecutan el mismo programa, identifican los pasos en disputa a través de cuestionamientos mutuos y luego son arbitrados por un contrato inteligente de la Cadena de bloques.
Las principales características del juego de verificación de una sola etapa OPML:
Construir una máquina virtual dedicada (VM) para la ejecución fuera de la cadena y el arbitraje en la cadena.
Implementar una biblioteca DNN ligera para mejorar la eficiencia de la inferencia de IA
Utilizar tecnología de compilación cruzada para compilar el código de IA en instrucciones de VM
La imagen de VM se gestiona mediante un árbol de Merkle, solo se sube el hash raíz a la cadena.
Las pruebas han demostrado que se puede completar la inferencia básica de DNN en una PC normal en menos de 2 segundos, y todo el proceso del desafío se puede completar en menos de 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del esquema de una sola fase, OPML ha introducido un juego de verificación de múltiples fases:
Usar VM solo en la última etapa, las otras etapas se pueden ejecutar en el entorno local
Aprovechar al máximo las capacidades de aceleración de hardware como CPU, GPU y TPU
Aumentar significativamente el rendimiento de ejecución al reducir la dependencia de VM
Diseño clave de OPML de múltiples etapas:
Representar el proceso de cálculo de ML como un gráfico de cálculo
Realizar un juego de verificación en la capa de cálculo (Phase-2)
La computación de nodos en disputa se convierte en instrucciones VM para la validación de la Fase-1
Utilizar árboles de Merkle para garantizar la integridad y seguridad entre etapas
Mejora del rendimiento
El análisis muestra que el OPML de múltiples etapas tiene ventajas significativas en comparación con el esquema de una sola etapa:
La velocidad de cálculo se incrementa en un factor α(α para la aceleración GPU/paralela)
El tamaño del árbol de Merkle se reduce de O(mn) a O(m+n)
Estas mejoras han aumentado significativamente la eficiencia y la escalabilidad del sistema.
Consistencia y determinación
Para garantizar la coherencia de los resultados de OPML, se han tomado las siguientes medidas:
Utilizar el algoritmo de punto fijo ( para la tecnología de cuantificación ) para reducir el impacto del error de punto flotante.
Utilizar una biblioteca de punto flotante de software consistente entre plataformas
Estas tecnologías superan eficazmente los desafíos planteados por las variables de punto flotante y las diferencias entre plataformas.
OPML tiene ventajas significativas en la reducción de costos y el aumento de la eficiencia, abriendo nuevas posibilidades para las aplicaciones de AI en la Cadena de bloques. El proyecto sigue en desarrollo, y se invita a los desarrolladores interesados a unirse y contribuir.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
9 me gusta
Recompensa
9
2
Compartir
Comentar
0/400
NestedFox
· hace7h
Es un poco severo, esta eficiencia suena bastante dura.
OPML: Un nuevo paradigma de sistema de IA en cadena de bloques de bajo costo y alta eficiencia
OPML: Sistema de aprendizaje automático en cadena de bloques basado en un enfoque optimista
OPML(Máquina de aprendizaje optimista) es un nuevo tipo de sistema de IA de Cadena de bloques que puede realizar inferencias y entrenamiento/ajuste fino de modelos de IA en sistemas de Cadena de bloques mediante un enfoque optimista. En comparación con ZKML, OPML puede ofrecer servicios de ML a un costo más bajo y con mayor eficiencia. Los requisitos de hardware de OPML son muy bajos, una PC normal puede ejecutar modelos de lenguaje grandes, como el modelo 7B-LLaMA de aproximadamente 26 GB.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable del servicio ML. Su proceso básico es el siguiente:
Juego de verificación de una sola etapa
El principio de funcionamiento del protocolo de localización precisa de una sola etapa es similar al cálculo de la delegación (RDoC), suponiendo que múltiples partes ejecutan el mismo programa, identifican los pasos en disputa a través de cuestionamientos mutuos y luego son arbitrados por un contrato inteligente de la Cadena de bloques.
Las principales características del juego de verificación de una sola etapa OPML:
Las pruebas han demostrado que se puede completar la inferencia básica de DNN en una PC normal en menos de 2 segundos, y todo el proceso del desafío se puede completar en menos de 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del esquema de una sola fase, OPML ha introducido un juego de verificación de múltiples fases:
Diseño clave de OPML de múltiples etapas:
Mejora del rendimiento
El análisis muestra que el OPML de múltiples etapas tiene ventajas significativas en comparación con el esquema de una sola etapa:
Estas mejoras han aumentado significativamente la eficiencia y la escalabilidad del sistema.
Consistencia y determinación
Para garantizar la coherencia de los resultados de OPML, se han tomado las siguientes medidas:
Estas tecnologías superan eficazmente los desafíos planteados por las variables de punto flotante y las diferencias entre plataformas.
OPML tiene ventajas significativas en la reducción de costos y el aumento de la eficiencia, abriendo nuevas posibilidades para las aplicaciones de AI en la Cadena de bloques. El proyecto sigue en desarrollo, y se invita a los desarrolladores interesados a unirse y contribuir.