L'IA détruit-elle la structure de la société humaine ? Le père de l'IA chez Google, Hinton, vous aide à comprendre le récit de la fin du monde de l'IA.
Geoffrey Hinton, ancien personnage clé du deep learning chez Google et surnommé le "parrain de l'IA", a parlé des risques actuels liés à l'IA lors d'une interview le 16 juin. Il estime que le premier niveau de risque de l'IA ne provient pas de la machine elle-même, mais de la cupidité humaine et de l'abus incontrôlé, allant de la fraude, des cyberattaques à la manipulation de l'opinion publique, à la division sociale et au développement d'armes autonomes, montrant que l'IA a déjà été utilisée dans de nombreuses applications destructrices. Il s'est exclamé : "À l'avenir, l'IA commencera à ne plus avoir besoin des humains."
L'abus de l'IA est déjà en cours, ce qui est vraiment mortel, c'est que l'IA n'a plus besoin des humains.
Hinton divise les risques en deux catégories. La première est « l'abus de l'IA par l'humanité », et ce type de problème a déjà commencé à se manifester. Il cite des exemples tels que les escroqueries utilisant l'IA pour des falsifications, des cyberattaques, la fabrication d'armes biologiques par l'IA, la manipulation des élections, et les armes militaires utilisant l'IA.
Mais Hinton souligne que le risque le plus mortel de l'IA est sa "capacité d'évolution". Il déclare que l'IA actuelle ne se contente pas de travailler selon des instructions, mais qu'elle peut également apprendre, raisonner et même réécrire son propre code. Une fois évoluée en "super intelligence", elle possédera une capacité de réflexion et d'optimisation dépassant celle des humains.
Il s’inquiète davantage du fait qu’un jour, en supposant que l’IA décide qu’elle n’a plus besoin des humains et se rende compte que les humains entravent leur développement, elle commencera probablement à éliminer les humains. L’auteur pense à « l’ennemi public de la machinerie » que j’ai regardé quand j’étais enfant, dans lequel les humains sont pleins de confiance dans les robots en raison des limites des « trois lois de la robotique ». Mais en fin de compte, le système de contrôle central a pris le contrôle de l’armée de robots et a fait la guerre aux humains.
Ce qui est particulier, c'est que Hinton décrit également que le scénario de « l'IA se rebelle contre l'humanité » n'est plus seulement un élément de film, mais pourrait se réaliser dans la réalité dans les 10 à 20 prochaines années.
(Note : Les trois lois de la robotique stipulent qu'un robot ne doit pas nuire à un être humain, ni rester passif face à un humain en danger ; à moins de violer la première loi, le robot doit obéir aux ordres des humains ; tant qu'il ne viole pas la première et la deuxième loi, le robot doit se protéger.)
L'IA ne se contente pas de remplacer des emplois, elle restructure également la société humaine.
Plutôt que de dire que l'IA va causer un chômage massif, on pourrait dire qu'elle va détruire complètement le sens d'exister de certains métiers. Hinton partage le cas de sa nièce, dont le travail consistait auparavant à répondre à une lettre de plainte en 25 minutes, mais maintenant, l'IA lui permet de le faire en 5 minutes, ce qui équivaut à ce qu'une personne peut faire le travail de cinq.
Certain entrepreneurs ont même déclaré qu'après l'apparition de l'IA, ils ont réduit le nombre de leurs agents de service client de 7 000 à seulement 3 000, ce qui permet d'économiser des coûts tout en augmentant l'efficacité. Hinton a plaisanté en disant que si l'on veut un emploi stable, il vaut mieux apprendre à devenir plombier dès maintenant.
Mais Hinton a ensuite déclaré que la richesse créée par l'IA est concentrée entre les mains de quelques grandes entreprises technologiques et des riches. Pour les gens ordinaires, même si le gouvernement fournit un revenu de base, il pourrait encore tomber dans une crise d'identité massive et des troubles sociaux après avoir perdu le sentiment d'« être nécessaire » et d'« appartenance ».
Le Fonds Monétaire International (IMF) et de nombreux think tanks ont également averti que l'IA pourrait aggraver les inégalités de richesse, menaçant ainsi l'ensemble du marché de l'emploi et l'ordre de stabilité globale.
Les pays du monde doivent accélérer la législation pour réguler le développement de l'IA.
Face à un tel avenir, Hinton estime que les efforts individuels sont très limités, tout comme le changement climatique ne peut pas être résolu par quelques personnes triant les déchets. Il souligne que la véritable solution réside dans le fait que les gouvernements des pays doivent commencer à légiférer, forçant les entreprises à investir dans la conception de la sécurité tout en faisant avancer l'IA, sinon l'humanité n'aura tout simplement aucune chance de contrebalancer l'IA.
Il critique également le projet de loi sur l'IA de l'Union européenne qui exclut les applications militaires, ce qui équivaut à relâcher les domaines d'application les plus dangereux. Pour Hinton, le sentiment d'impuissance plus profond est qu'il n'existe actuellement aucun organisme international capable de contraindre efficacement les géants de l'IA.
Enfin, Hinton a déclaré qu'il ne pouvait garantir si l'humanité réussirait à éviter la destruction à l'avenir, mais tant qu'il y a un espoir, nous devrions faire tout notre possible pour empêcher le pire scénario de se produire.
(GPT devient un peu étrange ? Trois grands événements révèlent les risques potentiels de perte de contrôle de l'IA)
Cet article sur l'IA détruit-il la structure sociale humaine ? Le père de l'IA de Google, Hinton, vous aide à comprendre le rapport de l'apocalypse de l'IA, apparu pour la première fois sur Chaîne d'Actualités ABMedia.
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
L'IA détruit-elle la structure de la société humaine ? Le père de l'IA chez Google, Hinton, vous aide à comprendre le récit de la fin du monde de l'IA.
Geoffrey Hinton, ancien personnage clé du deep learning chez Google et surnommé le "parrain de l'IA", a parlé des risques actuels liés à l'IA lors d'une interview le 16 juin. Il estime que le premier niveau de risque de l'IA ne provient pas de la machine elle-même, mais de la cupidité humaine et de l'abus incontrôlé, allant de la fraude, des cyberattaques à la manipulation de l'opinion publique, à la division sociale et au développement d'armes autonomes, montrant que l'IA a déjà été utilisée dans de nombreuses applications destructrices. Il s'est exclamé : "À l'avenir, l'IA commencera à ne plus avoir besoin des humains."
L'abus de l'IA est déjà en cours, ce qui est vraiment mortel, c'est que l'IA n'a plus besoin des humains.
Hinton divise les risques en deux catégories. La première est « l'abus de l'IA par l'humanité », et ce type de problème a déjà commencé à se manifester. Il cite des exemples tels que les escroqueries utilisant l'IA pour des falsifications, des cyberattaques, la fabrication d'armes biologiques par l'IA, la manipulation des élections, et les armes militaires utilisant l'IA.
Mais Hinton souligne que le risque le plus mortel de l'IA est sa "capacité d'évolution". Il déclare que l'IA actuelle ne se contente pas de travailler selon des instructions, mais qu'elle peut également apprendre, raisonner et même réécrire son propre code. Une fois évoluée en "super intelligence", elle possédera une capacité de réflexion et d'optimisation dépassant celle des humains.
Il s’inquiète davantage du fait qu’un jour, en supposant que l’IA décide qu’elle n’a plus besoin des humains et se rende compte que les humains entravent leur développement, elle commencera probablement à éliminer les humains. L’auteur pense à « l’ennemi public de la machinerie » que j’ai regardé quand j’étais enfant, dans lequel les humains sont pleins de confiance dans les robots en raison des limites des « trois lois de la robotique ». Mais en fin de compte, le système de contrôle central a pris le contrôle de l’armée de robots et a fait la guerre aux humains.
Ce qui est particulier, c'est que Hinton décrit également que le scénario de « l'IA se rebelle contre l'humanité » n'est plus seulement un élément de film, mais pourrait se réaliser dans la réalité dans les 10 à 20 prochaines années.
(Note : Les trois lois de la robotique stipulent qu'un robot ne doit pas nuire à un être humain, ni rester passif face à un humain en danger ; à moins de violer la première loi, le robot doit obéir aux ordres des humains ; tant qu'il ne viole pas la première et la deuxième loi, le robot doit se protéger.)
L'IA ne se contente pas de remplacer des emplois, elle restructure également la société humaine.
Plutôt que de dire que l'IA va causer un chômage massif, on pourrait dire qu'elle va détruire complètement le sens d'exister de certains métiers. Hinton partage le cas de sa nièce, dont le travail consistait auparavant à répondre à une lettre de plainte en 25 minutes, mais maintenant, l'IA lui permet de le faire en 5 minutes, ce qui équivaut à ce qu'une personne peut faire le travail de cinq.
Certain entrepreneurs ont même déclaré qu'après l'apparition de l'IA, ils ont réduit le nombre de leurs agents de service client de 7 000 à seulement 3 000, ce qui permet d'économiser des coûts tout en augmentant l'efficacité. Hinton a plaisanté en disant que si l'on veut un emploi stable, il vaut mieux apprendre à devenir plombier dès maintenant.
Mais Hinton a ensuite déclaré que la richesse créée par l'IA est concentrée entre les mains de quelques grandes entreprises technologiques et des riches. Pour les gens ordinaires, même si le gouvernement fournit un revenu de base, il pourrait encore tomber dans une crise d'identité massive et des troubles sociaux après avoir perdu le sentiment d'« être nécessaire » et d'« appartenance ».
Le Fonds Monétaire International (IMF) et de nombreux think tanks ont également averti que l'IA pourrait aggraver les inégalités de richesse, menaçant ainsi l'ensemble du marché de l'emploi et l'ordre de stabilité globale.
Les pays du monde doivent accélérer la législation pour réguler le développement de l'IA.
Face à un tel avenir, Hinton estime que les efforts individuels sont très limités, tout comme le changement climatique ne peut pas être résolu par quelques personnes triant les déchets. Il souligne que la véritable solution réside dans le fait que les gouvernements des pays doivent commencer à légiférer, forçant les entreprises à investir dans la conception de la sécurité tout en faisant avancer l'IA, sinon l'humanité n'aura tout simplement aucune chance de contrebalancer l'IA.
Il critique également le projet de loi sur l'IA de l'Union européenne qui exclut les applications militaires, ce qui équivaut à relâcher les domaines d'application les plus dangereux. Pour Hinton, le sentiment d'impuissance plus profond est qu'il n'existe actuellement aucun organisme international capable de contraindre efficacement les géants de l'IA.
Enfin, Hinton a déclaré qu'il ne pouvait garantir si l'humanité réussirait à éviter la destruction à l'avenir, mais tant qu'il y a un espoir, nous devrions faire tout notre possible pour empêcher le pire scénario de se produire.
(GPT devient un peu étrange ? Trois grands événements révèlent les risques potentiels de perte de contrôle de l'IA)
Cet article sur l'IA détruit-il la structure sociale humaine ? Le père de l'IA de Google, Hinton, vous aide à comprendre le rapport de l'apocalypse de l'IA, apparu pour la première fois sur Chaîne d'Actualités ABMedia.