d/acc: rétrospective d'une année
L'année dernière, j'ai écrit un article sur l'optimisme technologique, exprimant mon enthousiasme général pour la technologie et les énormes avantages qu'elle pourrait apporter. En même temps, j'ai également exprimé une attitude prudente face à certaines questions spécifiques, principalement concernant l'intelligence artificielle super intelligente, ainsi que les risques catastrophiques qui pourraient en découler si elle n'est pas construite correctement, ou le risque de perte irréversible de pouvoir pour l'humanité.
Un des points clés de l'article est de maintenir une approche défensive d'accélération qui soit décentralisée, démocratique et différenciée. Nous devons accélérer le développement technologique, mais en nous concentrant sélectivement sur les technologies qui renforcent notre capacité de défense plutôt que de destruction, et nous nous engageons à promouvoir la dispersion du pouvoir, plutôt qu'à laisser le pouvoir se concentrer entre les mains d'une élite restreinte, évitant ainsi que ces élites ne jugent du bien et du mal au nom de tous. Notre mode de défense devrait ressembler à la démocratie suisse et à la région de Zomia, historiquement quasi-anarchique, plutôt qu'à un féodalisme médiéval.