La seguridad de la IA se destaca, la encriptación completamente homomórfica podría ser la solución.
Con el rápido desarrollo de la tecnología de inteligencia artificial, Manus ha logrado resultados revolucionarios en las pruebas de referencia GAIA, superando el rendimiento de modelos de lenguaje de gran escala de nivel similar. Manus ha demostrado la capacidad de completar tareas complejas de manera independiente, como negociaciones comerciales multinacionales en campos que requieren conocimientos especializados en múltiples áreas. En comparación con los sistemas tradicionales, Manus tiene ventajas significativas en la descomposición de objetivos dinámicos, el razonamiento multimodal y el aprendizaje mejorado de la memoria.
Sin embargo, los avances de Manus también han desencadenado un intenso debate en la industria sobre la trayectoria del desarrollo de la IA: ¿aparecerá en el futuro una inteligencia artificial general unificada (AGI) o trabajarán en conjunto múltiples agentes inteligentes especializados (MAS)? Este debate refleja en realidad el problema del equilibrio entre la eficiencia y la seguridad en el desarrollo de la IA. A medida que un solo agente se aproxima a la AGI, la falta de transparencia en el proceso de toma de decisiones aumenta el riesgo; mientras que la colaboración de múltiples agentes puede dispersar el riesgo, pero puede perder oportunidades críticas de decisión debido a retrasos en la comunicación.
El desarrollo de Manus ha ampliado sin querer los riesgos inherentes a la seguridad de la IA. En el ámbito médico, necesita acceder a datos genómicos sensibles de los pacientes; en las negociaciones financieras, puede involucrar información financiera no divulgada de la empresa. Además, los sistemas de IA también enfrentan problemas como el sesgo algorítmico y ataques adversariales. Por ejemplo, en el proceso de contratación, puede haber recomendaciones salariales injustas para ciertos grupos, o en la revisión de documentos legales, la tasa de precisión en el juicio sobre los términos de las industrias emergentes puede ser baja. Más grave aún, los hackers pueden interferir en el juicio del sistema de IA en las negociaciones al insertar señales de audio específicas.
Ante estos desafíos, la industria está explorando diversas soluciones de seguridad. Entre ellas, la tecnología de encriptación completamente homomórfica (FHE) se considera una herramienta poderosa para abordar los problemas de seguridad en la era de la IA. FHE permite realizar cálculos sobre datos encriptados, procesando información sensible sin necesidad de desencriptar.
A nivel de datos, la encriptación completamente homomórfica (FHE) puede garantizar que toda la información ingresada por los usuarios (incluyendo características biométricas, voz, etc.) sea procesada en estado encriptado, incluso el propio sistema de IA no puede descifrar los datos originales. A nivel de algoritmo, a través del "entrenamiento de modelos encriptados" realizado por FHE, se puede proteger el proceso de decisión de la IA de ser espiado. En la colaboración de múltiples agentes inteligentes, el uso de tecnología de encriptación umbral puede prevenir que un solo nodo sea comprometido, lo que podría llevar a la filtración de datos globales.
Aunque la tecnología de seguridad de Web3 puede parecer lejana para el usuario promedio, es crucial para proteger los intereses de los usuarios. En la industria de blockchain, ya hay algunos proyectos que exploran tecnologías de seguridad como la identidad descentralizada y los modelos de seguridad de cero confianza. Sin embargo, en comparación con otros campos más atractivos, los proyectos de seguridad a menudo no son del agrado de los especuladores.
A medida que la tecnología de la IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un potente sistema de defensa. Las tecnologías de seguridad como el Cifrado homomórfico no solo pueden resolver los problemas actuales, sino que también sientan las bases para una era de IA más poderosa en el futuro. En el camino hacia la AGI, estas tecnologías de seguridad ya no son una opción, sino una condición necesaria para garantizar el funcionamiento confiable de los sistemas de IA.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
15 me gusta
Recompensa
15
7
Compartir
Comentar
0/400
StrawberryIce
· hace13h
Si no lo entiendes, pregunta. ¿Qué pasa con este problema de seguridad?
Ver originalesResponder0
ThatsNotARugPull
· hace19h
Las máquinas son más inteligentes que yo gg
Ver originalesResponder0
fomo_fighter
· hace19h
Ya hay otra solución de hackeo, solo espero que me den la razón.
Ver originalesResponder0
MemeCoinSavant
· hace19h
según mi extensa análisis memético, MAS es solo AGI con un poco más de copium, la verdad... hopium descentralizado fr fr
Ver originalesResponder0
GasFeeLover
· hace19h
¿De verdad hay gente que todavía cree en AGI?
Ver originalesResponder0
Rekt_Recovery
· hace19h
la verdad es que he sido rekt por bots de trading de ai antes... no voy a tocar esta cosa de manus ni con un palo de 10 pies, la verdad.
Ver originalesResponder0
MainnetDelayedAgain
· hace19h
Estadísticas, este ya es el quinto proyecto de este año que dice que va a hacer un agente inteligente seguro... han pasado 326 días desde el primer proyecto vacío, esperando la actualización de datos.
encriptación completamente homomórfica: el escudo de seguridad en la era de la IA y la clave para el desarrollo de AGI
La seguridad de la IA se destaca, la encriptación completamente homomórfica podría ser la solución.
Con el rápido desarrollo de la tecnología de inteligencia artificial, Manus ha logrado resultados revolucionarios en las pruebas de referencia GAIA, superando el rendimiento de modelos de lenguaje de gran escala de nivel similar. Manus ha demostrado la capacidad de completar tareas complejas de manera independiente, como negociaciones comerciales multinacionales en campos que requieren conocimientos especializados en múltiples áreas. En comparación con los sistemas tradicionales, Manus tiene ventajas significativas en la descomposición de objetivos dinámicos, el razonamiento multimodal y el aprendizaje mejorado de la memoria.
Sin embargo, los avances de Manus también han desencadenado un intenso debate en la industria sobre la trayectoria del desarrollo de la IA: ¿aparecerá en el futuro una inteligencia artificial general unificada (AGI) o trabajarán en conjunto múltiples agentes inteligentes especializados (MAS)? Este debate refleja en realidad el problema del equilibrio entre la eficiencia y la seguridad en el desarrollo de la IA. A medida que un solo agente se aproxima a la AGI, la falta de transparencia en el proceso de toma de decisiones aumenta el riesgo; mientras que la colaboración de múltiples agentes puede dispersar el riesgo, pero puede perder oportunidades críticas de decisión debido a retrasos en la comunicación.
El desarrollo de Manus ha ampliado sin querer los riesgos inherentes a la seguridad de la IA. En el ámbito médico, necesita acceder a datos genómicos sensibles de los pacientes; en las negociaciones financieras, puede involucrar información financiera no divulgada de la empresa. Además, los sistemas de IA también enfrentan problemas como el sesgo algorítmico y ataques adversariales. Por ejemplo, en el proceso de contratación, puede haber recomendaciones salariales injustas para ciertos grupos, o en la revisión de documentos legales, la tasa de precisión en el juicio sobre los términos de las industrias emergentes puede ser baja. Más grave aún, los hackers pueden interferir en el juicio del sistema de IA en las negociaciones al insertar señales de audio específicas.
Ante estos desafíos, la industria está explorando diversas soluciones de seguridad. Entre ellas, la tecnología de encriptación completamente homomórfica (FHE) se considera una herramienta poderosa para abordar los problemas de seguridad en la era de la IA. FHE permite realizar cálculos sobre datos encriptados, procesando información sensible sin necesidad de desencriptar.
A nivel de datos, la encriptación completamente homomórfica (FHE) puede garantizar que toda la información ingresada por los usuarios (incluyendo características biométricas, voz, etc.) sea procesada en estado encriptado, incluso el propio sistema de IA no puede descifrar los datos originales. A nivel de algoritmo, a través del "entrenamiento de modelos encriptados" realizado por FHE, se puede proteger el proceso de decisión de la IA de ser espiado. En la colaboración de múltiples agentes inteligentes, el uso de tecnología de encriptación umbral puede prevenir que un solo nodo sea comprometido, lo que podría llevar a la filtración de datos globales.
Aunque la tecnología de seguridad de Web3 puede parecer lejana para el usuario promedio, es crucial para proteger los intereses de los usuarios. En la industria de blockchain, ya hay algunos proyectos que exploran tecnologías de seguridad como la identidad descentralizada y los modelos de seguridad de cero confianza. Sin embargo, en comparación con otros campos más atractivos, los proyectos de seguridad a menudo no son del agrado de los especuladores.
A medida que la tecnología de la IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un potente sistema de defensa. Las tecnologías de seguridad como el Cifrado homomórfico no solo pueden resolver los problemas actuales, sino que también sientan las bases para una era de IA más poderosa en el futuro. En el camino hacia la AGI, estas tecnologías de seguridad ya no son una opción, sino una condición necesaria para garantizar el funcionamiento confiable de los sistemas de IA.