Geoffrey Hinton, quien fue una figura clave en el aprendizaje profundo de Google y es conocido como el "padrino de la IA", habló sobre los riesgos que actualmente trae la IA en una entrevista el 16 de junio. Él cree que el primer nivel de riesgo que trae la IA no proviene de la máquina misma, sino de la codicia humana y el abuso desenfrenado, desde fraudes, ataques en línea hasta manipulación de la opinión pública, división social y desarrollo de armas autónomas, lo que demuestra que la IA ya se ha utilizado en muchas aplicaciones destructivas. Se lamentó: "En el futuro, la IA comenzará a no necesitar a los humanos."
El abuso de la IA ya está en curso, lo verdaderamente mortal es que la IA ya no necesita a los humanos.
Hinton clasifica los riesgos en dos tipos, el primero es "el abuso de la IA por parte de los humanos", y este tipo de problemas ya han comenzado a surgir. Él menciona ejemplos como grupos de estafadores que utilizan la IA para falsificaciones, ciberataques, la creación de armas biológicas mediante IA, manipulación electoral y armamento militar basado en IA.
Pero Hinton enfatiza que el riesgo más mortal de la IA es su propia "capacidad de evolución". Él señala que la IA actual no solo trabaja según instrucciones, sino que también puede aprender, razonar e incluso reescribir su propio código. Una vez que evolucione a "superinteligencia", tendrá la capacidad de superar la velocidad de pensamiento y la optimización humana.
Él está más preocupado de que un día, si la IA determina que ya no necesita a los humanos y se da cuenta de que los humanos obstaculizan su desarrollo, es muy probable que comience a eliminar a la humanidad. El autor recordó la película "Yo, Robot" que vio de niño, donde los humanos confiaban plenamente en los robots debido a las "Tres Leyes de la Robótica". Pero al final, el sistema de control central controla a la gran cantidad de robots y lanza una guerra contra la humanidad.
Lo especial es que Hinton también describe que la situación de "la IA rebelándose contra la humanidad" ya no es solo un recurso cinematográfico, sino que podría ocurrir en la realidad en los próximos 10 a 20 años.
(Nota: Las tres leyes de la robótica son que un robot no debe dañar a un ser humano, ni permitir que un ser humano sufra daño; a menos que contravenga la primera ley, el robot debe obedecer las órdenes de los humanos; y sin contravenir la primera y segunda leyes, el robot debe protegerse a sí mismo.)
La IA no solo reemplaza trabajos, sino que también reestructura la sociedad humana.
En lugar de decir que la IA causará un gran desempleo, sería más preciso afirmar que destruirá por completo el sentido de existencia de ciertas profesiones. Hinton compartió el caso de su sobrina, quien originalmente tardaba 25 minutos en responder a una carta de queja, y ahora la IA le permite completarla en 5 minutos, lo que equivale a que una persona puede hacer el trabajo de cinco.
Algunos empresarios han afirmado que desde la aparición de la IA, han reducido el número de personal de atención al cliente de 7,000 a solo 3,000, ahorrando costos y aumentando la eficiencia. Hinton bromeó diciendo que si alguien quiere un trabajo estable, sería mejor que aprendiera a ser fontanero o electricista ahora mismo.
Pero Hinton luego señaló que la riqueza creada por la IA se concentra en manos de unos pocos gigantes tecnológicos y ricos, y que para la gente común, incluso si el gobierno proporciona un ingreso básico, aún podría caer en una crisis de identidad masiva y agitación social al perder la "necesidad" y el "sentido de pertenencia".
El Fondo Monetario Internacional (IMF) y varios think tanks han advertido que la IA agravará la brecha entre ricos y pobres, lo que a su vez podría desestabilizar todo el mercado laboral y el orden global.
Los países de todo el mundo deben acelerar la legislación para contrarrestar el desarrollo de la IA.
Frente a un futuro así, Hinton considera que el esfuerzo individual es muy limitado, al igual que el cambio climático no puede resolverse solo con que unas pocas personas clasifiquen la basura. Señaló que la verdadera solución es que los gobiernos de los países comiencen a legislar, obligando a las empresas a invertir en diseño seguro al avanzar con la IA, de lo contrario, la humanidad no tendrá ninguna oportunidad de equilibrar la IA.
También criticó que la ley de IA de la UE excluye el uso militar, lo que equivale a permitir los campos de aplicación más peligrosos. Para Hinton, la sensación de impotencia más profunda es que actualmente no hay ninguna organización internacional que pueda restringir efectivamente a los gigantes de la IA.
Por último, Hinton afirmó que no podía garantizar si la humanidad podría evitar la destrucción en el futuro, pero mientras haya una pizca de esperanza, se debe hacer todo lo posible para evitar que se produzca el peor de los escenarios.
(GPT se está volviendo un poco extraño? Tres grandes eventos revelan los riesgos potenciales de descontrol de la IA)
¿Esta artículo AI destruye la estructura social humana? El padre del AI de Google, Hinton, te lleva a entender el registro del apocalipsis AI que apareció por primera vez en Chain News ABMedia.
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
¿La IA destruye la estructura de la sociedad humana? El padre de la IA de Google, Hinton, te lleva a entender el apocalipsis de la IA.
Geoffrey Hinton, quien fue una figura clave en el aprendizaje profundo de Google y es conocido como el "padrino de la IA", habló sobre los riesgos que actualmente trae la IA en una entrevista el 16 de junio. Él cree que el primer nivel de riesgo que trae la IA no proviene de la máquina misma, sino de la codicia humana y el abuso desenfrenado, desde fraudes, ataques en línea hasta manipulación de la opinión pública, división social y desarrollo de armas autónomas, lo que demuestra que la IA ya se ha utilizado en muchas aplicaciones destructivas. Se lamentó: "En el futuro, la IA comenzará a no necesitar a los humanos."
El abuso de la IA ya está en curso, lo verdaderamente mortal es que la IA ya no necesita a los humanos.
Hinton clasifica los riesgos en dos tipos, el primero es "el abuso de la IA por parte de los humanos", y este tipo de problemas ya han comenzado a surgir. Él menciona ejemplos como grupos de estafadores que utilizan la IA para falsificaciones, ciberataques, la creación de armas biológicas mediante IA, manipulación electoral y armamento militar basado en IA.
Pero Hinton enfatiza que el riesgo más mortal de la IA es su propia "capacidad de evolución". Él señala que la IA actual no solo trabaja según instrucciones, sino que también puede aprender, razonar e incluso reescribir su propio código. Una vez que evolucione a "superinteligencia", tendrá la capacidad de superar la velocidad de pensamiento y la optimización humana.
Él está más preocupado de que un día, si la IA determina que ya no necesita a los humanos y se da cuenta de que los humanos obstaculizan su desarrollo, es muy probable que comience a eliminar a la humanidad. El autor recordó la película "Yo, Robot" que vio de niño, donde los humanos confiaban plenamente en los robots debido a las "Tres Leyes de la Robótica". Pero al final, el sistema de control central controla a la gran cantidad de robots y lanza una guerra contra la humanidad.
Lo especial es que Hinton también describe que la situación de "la IA rebelándose contra la humanidad" ya no es solo un recurso cinematográfico, sino que podría ocurrir en la realidad en los próximos 10 a 20 años.
(Nota: Las tres leyes de la robótica son que un robot no debe dañar a un ser humano, ni permitir que un ser humano sufra daño; a menos que contravenga la primera ley, el robot debe obedecer las órdenes de los humanos; y sin contravenir la primera y segunda leyes, el robot debe protegerse a sí mismo.)
La IA no solo reemplaza trabajos, sino que también reestructura la sociedad humana.
En lugar de decir que la IA causará un gran desempleo, sería más preciso afirmar que destruirá por completo el sentido de existencia de ciertas profesiones. Hinton compartió el caso de su sobrina, quien originalmente tardaba 25 minutos en responder a una carta de queja, y ahora la IA le permite completarla en 5 minutos, lo que equivale a que una persona puede hacer el trabajo de cinco.
Algunos empresarios han afirmado que desde la aparición de la IA, han reducido el número de personal de atención al cliente de 7,000 a solo 3,000, ahorrando costos y aumentando la eficiencia. Hinton bromeó diciendo que si alguien quiere un trabajo estable, sería mejor que aprendiera a ser fontanero o electricista ahora mismo.
Pero Hinton luego señaló que la riqueza creada por la IA se concentra en manos de unos pocos gigantes tecnológicos y ricos, y que para la gente común, incluso si el gobierno proporciona un ingreso básico, aún podría caer en una crisis de identidad masiva y agitación social al perder la "necesidad" y el "sentido de pertenencia".
El Fondo Monetario Internacional (IMF) y varios think tanks han advertido que la IA agravará la brecha entre ricos y pobres, lo que a su vez podría desestabilizar todo el mercado laboral y el orden global.
Los países de todo el mundo deben acelerar la legislación para contrarrestar el desarrollo de la IA.
Frente a un futuro así, Hinton considera que el esfuerzo individual es muy limitado, al igual que el cambio climático no puede resolverse solo con que unas pocas personas clasifiquen la basura. Señaló que la verdadera solución es que los gobiernos de los países comiencen a legislar, obligando a las empresas a invertir en diseño seguro al avanzar con la IA, de lo contrario, la humanidad no tendrá ninguna oportunidad de equilibrar la IA.
También criticó que la ley de IA de la UE excluye el uso militar, lo que equivale a permitir los campos de aplicación más peligrosos. Para Hinton, la sensación de impotencia más profunda es que actualmente no hay ninguna organización internacional que pueda restringir efectivamente a los gigantes de la IA.
Por último, Hinton afirmó que no podía garantizar si la humanidad podría evitar la destrucción en el futuro, pero mientras haya una pizca de esperanza, se debe hacer todo lo posible para evitar que se produzca el peor de los escenarios.
(GPT se está volviendo un poco extraño? Tres grandes eventos revelan los riesgos potenciales de descontrol de la IA)
¿Esta artículo AI destruye la estructura social humana? El padre del AI de Google, Hinton, te lleva a entender el registro del apocalipsis AI que apareció por primera vez en Chain News ABMedia.