Seguridad individual y colectiva en una era de tecnología transformadora
Las mismas tecnologías que hacen posible un futuro transhumanista — inteligencia artificial, biotecnología, nanotecnología, computación avanzada — concentran también un poder sin precedentes en grupos cada vez más pequeños de actores. Un puñado de personas con las herramientas adecuadas puede amenazar hoy lo que antes requería estados enteros. Este es el desafío central de seguridad del siglo XXI, y exige respuestas que ni el conservadurismo tradicional ni el progresismo tradicional están equipados para proporcionar.
Abordamos la seguridad en dos niveles complementarios. La seguridad individual significa proteger a las personas frente a la violencia, el crimen y la coerción estatal injustificada, preservando al mismo tiempo la privacidad y las libertades que hacen que una sociedad libre merezca ser defendida. La seguridad colectiva significa salvaguardar a la propia humanidad frente a riesgos catastróficos y existenciales — pandemias (naturales o de ingeniería), conflictos nucleares, accidentes en el desarrollo de IA avanzada, mal uso de la biotecnología y la fragilidad sistémica de nuestras infraestructuras interconectadas.
Nuestra posición rechaza dos falsas alternativas. Rechazamos el dilema seguridad-frente-a-libertad: la noción de David Brin de una sociedad transparente — donde los ciudadanos vigilan a los vigilantes tanto como son vigilados (una práctica conocida como sousveillance o vigilancia inversa) — muestra que la rendición de cuentas puede fluir en ambas direcciones. Y rechazamos el dilema prosperidad-frente-a-supervivencia: invertir seriamente en preparación frente a pandemias, seguridad de la IA, bioseguridad e infraestructuras resilientes no es un freno al progreso sino su condición previa. Una civilización que no sobreviva no puede florecer.
La lista de lecturas a continuación cubre las obras fundacionales sobre riesgos catastróficos globales y existenciales, las principales organizaciones de investigación en el campo, y recursos sobre los debates de vigilancia, privacidad y transparencia que definen la seguridad individual en la era digital.
En Internet
En español:
- Wikipedia: Riesgos catastróficos globales
- Wikipedia: Riesgos catastróficos globales (libro) — Artículo dedicado al libro fundacional de Bostrom y Ćirković.
- Wikipedia: Vigilancia masiva
- Wikipedia: Capitalismo de vigilancia — Concepto acuñado por Shoshana Zuboff.
- Wikipedia: Revelaciones sobre la red de vigilancia mundial (2013-2015) — Las filtraciones de Snowden y su contexto.
- Observatorio de Riesgos Catastróficos Globales (ORCG) — Organización de diplomacia científica que trabaja en propuestas de gobernanza para la gestión integral de riesgos globales en países hispanohablantes. Conecta tomadores de decisiones con expertos y elabora publicaciones basadas en evidencia. Recurso de primera línea en español.
En inglés:
- Wikipedia: Sousveillance — Vigilancia inversa: monitorización de las autoridades por parte de la ciudadanía, término acuñado por Steve Mann. (traducción al español)
- Wikipedia: Existential Risk Studies — El campo interdisciplinario emergente que estudia los riesgos que amenazan el potencial a largo plazo de la humanidad. (traducción al español)
- Centre for the Study of Existential Risk (CSER) — Centro de investigación de Cambridge dedicado al estudio de riesgos que podrían llevar a la extinción humana o al colapso de la civilización. Una de las pocas instituciones académicas que queda en este campo tras el cierre del Future of Humanity Institute de Oxford en abril de 2024. (traducción al español)
- Uehiro Oxford Institute — Instituto con sede en Oxford que en 2024 retomó algunas de las cuestiones éticas anteriormente abordadas por el Future of Humanity Institute. (traducción al español)
- Global Catastrophic Risk Institute — Think tank dedicado al estudio y reducción de los riesgos catastróficos globales. (traducción al español)
- Future of Life Institute — Investigación y divulgación sobre tecnologías transformadoras y riesgos existenciales, con foco particular en la seguridad de la IA. (traducción al español)
- 80,000 Hours: Existential Risks — Perfiles detallados sobre las amenazas globales más urgentes, incluyendo IA, bioseguridad, armas nucleares y conflictos entre grandes potencias. (traducción al español)
- Johns Hopkins Center for Health Security — Centro académico líder en preparación frente a pandemias y bioseguridad, incluyendo el Global Health Security Index. (traducción al español)
- Nuclear Threat Initiative (NTI) — Organización sin ánimo de lucro que trabaja en la reducción de amenazas nucleares y biológicas. Co-publica el Global Health Security Index con Johns Hopkins. (traducción al español)
- Bulletin of the Atomic Scientists — Editores del Reloj del Apocalipsis (Doomsday Clock) y análisis sobre riesgos nucleares, climáticos, de bioseguridad y de tecnologías disruptivas. (traducción al español)
- Electronic Frontier Foundation (EFF) — Principal organización de derechos digitales, defendiendo la privacidad, la libertad de expresión y la innovación en internet. (traducción al español)
- Citizen Lab — Laboratorio de investigación de la Universidad de Toronto que investiga la vigilancia digital y las amenazas a la sociedad civil, incluyendo el spyware patrocinado por estados. (traducción al español)
- Programas de Lifeboat Foundation — Organización sin ánimo de lucro que diseña programas para proteger a la humanidad frente a riesgos existenciales, incluyendo NanoShield, BioShield y SecurityPreserver. (traducción al español)
Libros
En español:
- La era del capitalismo de la vigilancia, de Shoshana Zuboff — Análisis influyente de cómo las grandes plataformas tecnológicas han creado un nuevo orden económico basado en la extracción y monetización de los datos personales. Publicado por Paidós Ibérica.
- Vigilancia permanente, de Edward Snowden — Memorias del denunciante de la NSA que expuso la escala de la vigilancia masiva. Publicado por Planeta.
En inglés:
- The Precipice: Existential Risk and the Future of Humanity, de Toby Ord — Obra de referencia de 2020 del filósofo de Oxford que argumenta que este siglo es excepcionalmente peligroso para la humanidad y propone un camino a seguir. Hoy la referencia estándar en estudios de riesgo existencial.
- Global Catastrophic Risks, editado por Nick Bostrom y Milan Ćirković — La colección académica fundacional sobre riesgos que podrían devastar a la humanidad.
- The Transparent Society: Will Technology Force Us to Choose Between Privacy and Freedom?, de David Brin — El argumento seminal de 1998 de que la respuesta a la vigilancia no es menos vigilancia sino vigilancia mutua.
- Theorizing Surveillance: The Panopticon and Beyond, editado por David Lyon — Colección académica sobre los marcos conceptuales para entender la vigilancia contemporánea.