Geoffrey Hinton, que foi uma figura central no aprendizado profundo do Google e é conhecido como o "pai da IA", comentou sobre os riscos trazidos pela IA durante uma entrevista em 16/6. Ele acredita que o primeiro nível de risco da IA não vem da máquina em si, mas da ganância humana e do uso desenfreado, que vão desde fraudes, ataques cibernéticos até manipulação da opinião pública, divisão social e desenvolvimento de armas autônomas, mostrando que a IA já está sendo utilizada em muitas aplicações destrutivas. Ele lamentou: "No futuro, a IA começará a não precisar dos humanos."
O abuso da IA já é um processo em andamento, o que realmente é mortal é que a IA não precisa mais da humanidade.
Hinton divide os riscos em duas categorias, a primeira é "abuso da IA por humanos", e esses problemas já começaram a surgir. Ele cita exemplos como grupos de fraude usando IA para falsificação, ataques cibernéticos, IA fabricando armas biológicas, manipulando eleições, armamentos de IA, entre outros.
Mas Hinton enfatiza ainda mais que o maior risco da IA é a sua "capacidade de evolução". Ele afirma que a IA atual não só trabalha de acordo com instruções, mas também pode aprender, raciocinar e até reescrever código por conta própria. Uma vez que evolua para "inteligência superinteligente", terá uma capacidade que supera a velocidade de pensamento e a otimização humanas.
Ele está mais preocupado com o dia em que, supondo que a IA decida que não precisa mais da humanidade e perceba que os humanos estão a impedir o seu desenvolvimento, pode começar a eliminar os humanos. O autor lembrou-se do filme "Eu, Robô" que assistiu quando era criança, onde os humanos confiavam nos robôs devido às "Três Leis da Robótica". Mas, no final, o sistema de controle central controla um exército de robôs e declara guerra aos humanos.
Particularmente, Hinton também descreveu que a situação de "IA se rebelando contra a humanidade" não é mais apenas um enredo de filme, podendo ocorrer na realidade dentro de 10 a 20 anos.
(Nota: As três leis da robótica são que um robô não pode causar dano a um ser humano, ou permitir que um ser humano sofra dano; a menos que contrarie a primeira lei, o robô deve obedecer às ordens dos humanos; sem violar a primeira e a segunda leis, o robô deve proteger a si mesmo.)
A IA não só substitui empregos, mas também reconfigura a estrutura da sociedade humana.
Em vez de dizer que a IA vai causar um grande desemprego, é mais correto afirmar que ela vai destruir completamente o significado da existência de certas profissões. Hinton compartilhou o caso da sua sobrinha, que originalmente levava 25 minutos para responder a uma reclamação, e agora a IA permite que ela faça isso em 5 minutos, o que equivale a uma pessoa conseguindo fazer o trabalho de cinco.
Há empresários que afirmam que, desde o aparecimento da IA, reduziram o número de atendentes de 7.000 para apenas 3.000, economizando custos e aumentando a eficiência. Hinton brincou dizendo que, se alguém quiser um trabalho estável, é melhor começar a aprender a ser eletricista ou canalizador agora.
Mas Hinton posteriormente afirmou que a riqueza criada pela IA está concentrada nas mãos de alguns grandes gigantes da tecnologia e ricos, e que, para as pessoas comuns, mesmo que o governo forneça uma renda básica, ainda pode haver uma grande crise de identidade e agitação social após perder o "sentido de ser necessário" e "sentido de pertencimento".
O Fundo Monetário Internacional (IMF) e vários think tanks internacionais também alertaram que a IA irá agravar a desigualdade de riqueza, levando à subversão de todo o mercado de trabalho e da ordem de estabilidade global.
Os países de todo o mundo precisam acelerar a legislação para equilibrar o desenvolvimento da IA.
Diante desse futuro, Hinton acredita que os esforços individuais são muito limitados, assim como as mudanças climáticas não podem ser resolvidas por algumas pessoas separando o lixo. A verdadeira solução, diz ele, é que os governos comecem a legislar para forçar as empresas a investir em design de segurança enquanto avançam na IA, ou os humanos simplesmente não terão a chance de verificar a IA.
Ele também criticou a lei da IA da UE por excluir usos militares, o que equivale a liberar os campos de aplicação mais perigosos. Para Hinton, uma sensação de impotência mais profunda é que atualmente não existe nenhuma organização internacional que possa restringir efetivamente os gigantes da IA.
Por fim, Hinton afirmou que não pode garantir se a humanidade conseguirá evitar a destruição no futuro, mas enquanto houver uma mínima esperança, devemos fazer todo o possível para impedir que o pior cenário aconteça.
(GPT tornou-se um pouco estranho? Três grandes eventos revelam os potenciais riscos de descontrole da IA )
Este artigo AI destrói a estrutura da sociedade humana? O pai do Google AI, Hinton, leva você a entender o registro do apocalipse AI, que apareceu pela primeira vez na ABMedia da Chain News.
O conteúdo serve apenas de referência e não constitui uma solicitação ou oferta. Não é prestado qualquer aconselhamento em matéria de investimento, fiscal ou jurídica. Consulte a Declaração de exoneração de responsabilidade para obter mais informações sobre os riscos.
AI destrói a estrutura da sociedade humana? O pai da IA do Google, Hinton, leva você a entender o apocalipse da IA.
Geoffrey Hinton, que foi uma figura central no aprendizado profundo do Google e é conhecido como o "pai da IA", comentou sobre os riscos trazidos pela IA durante uma entrevista em 16/6. Ele acredita que o primeiro nível de risco da IA não vem da máquina em si, mas da ganância humana e do uso desenfreado, que vão desde fraudes, ataques cibernéticos até manipulação da opinião pública, divisão social e desenvolvimento de armas autônomas, mostrando que a IA já está sendo utilizada em muitas aplicações destrutivas. Ele lamentou: "No futuro, a IA começará a não precisar dos humanos."
O abuso da IA já é um processo em andamento, o que realmente é mortal é que a IA não precisa mais da humanidade.
Hinton divide os riscos em duas categorias, a primeira é "abuso da IA por humanos", e esses problemas já começaram a surgir. Ele cita exemplos como grupos de fraude usando IA para falsificação, ataques cibernéticos, IA fabricando armas biológicas, manipulando eleições, armamentos de IA, entre outros.
Mas Hinton enfatiza ainda mais que o maior risco da IA é a sua "capacidade de evolução". Ele afirma que a IA atual não só trabalha de acordo com instruções, mas também pode aprender, raciocinar e até reescrever código por conta própria. Uma vez que evolua para "inteligência superinteligente", terá uma capacidade que supera a velocidade de pensamento e a otimização humanas.
Ele está mais preocupado com o dia em que, supondo que a IA decida que não precisa mais da humanidade e perceba que os humanos estão a impedir o seu desenvolvimento, pode começar a eliminar os humanos. O autor lembrou-se do filme "Eu, Robô" que assistiu quando era criança, onde os humanos confiavam nos robôs devido às "Três Leis da Robótica". Mas, no final, o sistema de controle central controla um exército de robôs e declara guerra aos humanos.
Particularmente, Hinton também descreveu que a situação de "IA se rebelando contra a humanidade" não é mais apenas um enredo de filme, podendo ocorrer na realidade dentro de 10 a 20 anos.
(Nota: As três leis da robótica são que um robô não pode causar dano a um ser humano, ou permitir que um ser humano sofra dano; a menos que contrarie a primeira lei, o robô deve obedecer às ordens dos humanos; sem violar a primeira e a segunda leis, o robô deve proteger a si mesmo.)
A IA não só substitui empregos, mas também reconfigura a estrutura da sociedade humana.
Em vez de dizer que a IA vai causar um grande desemprego, é mais correto afirmar que ela vai destruir completamente o significado da existência de certas profissões. Hinton compartilhou o caso da sua sobrinha, que originalmente levava 25 minutos para responder a uma reclamação, e agora a IA permite que ela faça isso em 5 minutos, o que equivale a uma pessoa conseguindo fazer o trabalho de cinco.
Há empresários que afirmam que, desde o aparecimento da IA, reduziram o número de atendentes de 7.000 para apenas 3.000, economizando custos e aumentando a eficiência. Hinton brincou dizendo que, se alguém quiser um trabalho estável, é melhor começar a aprender a ser eletricista ou canalizador agora.
Mas Hinton posteriormente afirmou que a riqueza criada pela IA está concentrada nas mãos de alguns grandes gigantes da tecnologia e ricos, e que, para as pessoas comuns, mesmo que o governo forneça uma renda básica, ainda pode haver uma grande crise de identidade e agitação social após perder o "sentido de ser necessário" e "sentido de pertencimento".
O Fundo Monetário Internacional (IMF) e vários think tanks internacionais também alertaram que a IA irá agravar a desigualdade de riqueza, levando à subversão de todo o mercado de trabalho e da ordem de estabilidade global.
Os países de todo o mundo precisam acelerar a legislação para equilibrar o desenvolvimento da IA.
Diante desse futuro, Hinton acredita que os esforços individuais são muito limitados, assim como as mudanças climáticas não podem ser resolvidas por algumas pessoas separando o lixo. A verdadeira solução, diz ele, é que os governos comecem a legislar para forçar as empresas a investir em design de segurança enquanto avançam na IA, ou os humanos simplesmente não terão a chance de verificar a IA.
Ele também criticou a lei da IA da UE por excluir usos militares, o que equivale a liberar os campos de aplicação mais perigosos. Para Hinton, uma sensação de impotência mais profunda é que atualmente não existe nenhuma organização internacional que possa restringir efetivamente os gigantes da IA.
Por fim, Hinton afirmou que não pode garantir se a humanidade conseguirá evitar a destruição no futuro, mas enquanto houver uma mínima esperança, devemos fazer todo o possível para impedir que o pior cenário aconteça.
(GPT tornou-se um pouco estranho? Três grandes eventos revelam os potenciais riscos de descontrole da IA )
Este artigo AI destrói a estrutura da sociedade humana? O pai do Google AI, Hinton, leva você a entender o registro do apocalipse AI, que apareceu pela primeira vez na ABMedia da Chain News.