d/acc: Revisión de un año después
El año pasado, escribí un artículo sobre el optimismo tecnológico, en el que expuse mi entusiasmo general por la tecnología y los enormes beneficios que podría traer. Al mismo tiempo, también expresé una actitud cautelosa hacia ciertos problemas específicos, principalmente sobre la superinteligencia artificial y los riesgos catastróficos que podrían surgir si se construye de manera incorrecta, o el riesgo de que la humanidad pierda el poder de manera irreversible.
Un punto central del artículo es la idea de mantener un enfoque de aceleración defensiva que sea descentralizado, democrático y diferenciado. Debemos acelerar el desarrollo tecnológico, pero de manera selectiva, centrándonos en aquellas tecnologías que pueden mejorar nuestra capacidad defensiva en lugar de destruirla, y comprometernos a promover la dispersión del poder, en lugar de permitir que el poder se concentre en manos de unos pocos élites, evitando que estas élites representen a todos para determinar el bien y el mal. Nuestro modelo de defensa debería ser como el democrático Suiza, así como la histórica región de Zomia, que era casi anárquica, y no como el feudalismo medieval.