Inteligencia artificial: la tecnología que define nuestro tiempo
La inteligencia artificial ha pasado, en apenas unos años, de ser un tema especializado de investigación a convertirse en una tecnología que está reconfigurando la economía, la conversación pública y el equilibrio geopolítico. Los grandes modelos de lenguaje, la generación de imagen y vídeo, los agentes autónomos y los rápidos avances en razonamiento, programación e investigación científica están transformando lo que el software puede hacer y, con ello, cómo es el trabajo humano.
La tradición transhumanista lleva décadas pensando sobre la inteligencia artificial — mucho antes de que se convirtiera en la historia tecnológica central de la década de 2020. Vemos la IA como una de las herramientas más poderosas que la humanidad ha construido jamás: una tecnología que, si se desarrolla responsablemente, podría ayudar a curar enfermedades, acabar con la pobreza, alargar drásticamente la vida humana saludable, acelerar el descubrimiento científico, y desbloquear formas de abundancia antes inimaginables. La IA también plantea riesgos proporcionales a su poder — desde el desplazamiento laboral y la concentración del poder hasta las preocupaciones más especulativas pero serias sobre sistemas avanzados cuyos objetivos y valores diverjan de los de la humanidad.
Nuestra posición no es ni el entusiasmo acrítico ni la oposición refleja. Apoyamos el desarrollo responsable de la IA, una inversión pública robusta en investigación de alineamiento y seguridad de la IA, la gobernanza democrática de los sistemas más poderosos, y una preparación seria de la política social y económica — incluyendo renta básica universal, reforma educativa y fiscalidad actualizada — para el mundo que la IA está trayendo. La lista de lecturas a continuación cubre las obras fundacionales del campo, las principales organizaciones que investigan la seguridad de la IA, y recursos para seguir los desarrollos según se vayan produciendo.
En Internet
- Wikipedia: Inteligencia artificial
- Wikipedia: Singularidad tecnológica
- Wikipedia: Inteligencia artificial general
- Wikipedia: Superinteligencia
- Wikipedia: Riesgo existencial de la inteligencia artificial — Análisis exhaustivo del riesgo que la IA avanzada puede plantear a la humanidad.
En inglés:
- Wikipedia: AI Alignment — Disciplina técnica que estudia cómo asegurar que los sistemas de IA persigan los objetivos previstos. (traducción al español)
- Wikipedia: AI Safety — Campo dedicado a prevenir consecuencias dañinas de los sistemas de IA. (traducción al español)
- Machine Intelligence Research Institute (MIRI) — Organización sin ánimo de lucro con sede en Berkeley, dedicada a la investigación matemática fundacional sobre alineamiento de IA. Una de las primeras organizaciones centradas en la seguridad de los sistemas de IA avanzada. (traducción al español)
- ControlAI — Organización sin ánimo de lucro fundada en 2023 que aboga por una prohibición internacional del desarrollo de la superinteligencia artificial. Activa en el Reino Unido, Estados Unidos, Canadá y Alemania.
- PauseAI — Movimiento internacional de base fundado en 2023 que pide una pausa en el entrenamiento de los sistemas de IA más poderosos hasta que se sepa cómo construirlos de forma segura. Presente en más de 15 países.
- Stanford AI Index — Informe anual que analiza el estado de la IA a nivel mundial en investigación, capacidades, economía, política y opinión pública. Una referencia clave para responsables políticos e investigadores.
- Centre for the Governance of AI (GovAI) — Instituto de investigación con sede en Oxford centrado en la política y gobernanza de los sistemas de IA avanzada.
- Future of Life Institute — Investigación y divulgación sobre tecnologías transformadoras y riesgos existenciales. Organizadores de la carta abierta de 2023 que pedía una pausa en el entrenamiento de los sistemas de IA más poderosos. (traducción al español)
- Center for AI Safety (CAIS) — Organización con sede en San Francisco enfocada en la investigación y construcción de campo para reducir los riesgos a escala social derivados de la IA. (traducción al español)
- Anthropic — Empresa de seguridad de IA que publica investigación influyente sobre interpretabilidad, alineamiento e IA constitucional. Creadora de Claude. (traducción al español)
- Google DeepMind Safety Research — Investigación en seguridad y alineamiento de uno de los principales laboratorios de IA del mundo. (traducción al español)
- AI Alignment Forum — Foro de discusión técnica para investigadores que trabajan en alineamiento de IA. (traducción al español)
- LessWrong — Foro comunitario sobre racionalidad, seguridad de IA y temas relacionados. Muchas ideas fundacionales de la seguridad de IA se desarrollaron y discutieron aquí. (traducción al español)
- 80,000 Hours: Preventing an AI-related catastrophe — Perfil exhaustivo del problema argumentando que la seguridad de IA está entre los problemas más importantes de nuestro tiempo. (traducción al español)
- AI Impacts — Proyecto de investigación que recopila datos y análisis sobre la trayectoria e impactos del desarrollo de la IA. (traducción al español)
- Foro de Effective Altruism: AI Safety — Colección de papers y análisis sobre la seguridad de IA como prioridad global. (traducción al español)
- Epoch AI — Organización de investigación que analiza la trayectoria de la IA a través del análisis de datos de cómputo, datasets y rendimiento de modelos. (traducción al español)
Libros
En español:
- Superinteligencia: Caminos, peligros y estrategias, de Nick Bostrom — La obra fundacional de 2014 que llevó la discusión sobre los riesgos de la IA avanzada al debate público. Argumentó que deberíamos tratar el desarrollo de la IA superinteligente como uno de los desafíos más trascendentales de la humanidad. (Existe artículo Wikipedia ES: Superinteligencia: caminos, peligros, estrategias.)
- Vida 3.0: Qué significa ser humano en la era de la inteligencia artificial, de Max Tegmark — Introducción accesible a las implicaciones de la IA avanzada para el futuro a largo plazo de la humanidad, por el físico y cofundador del Future of Life Institute. Publicado por Taurus.
- La singularidad está más cerca: Cuando nos fusionamos con la IA, de Ray Kurzweil — La actualización de 2024 sobre cómo nos integraremos con la IA. (También en la sección de Cambio exponencial.) Publicado por Planeta.
- Cómo crear una mente: El secreto del pensamiento humano, de Ray Kurzweil — Teoría del neocórtex y lo que implica para construir inteligencia a nivel humano en máquinas. Publicado por Lola Books.
- La ola que viene: Tecnología, poder y el gran dilema del siglo XXI, de Mustafa Suleyman y Michael Bhaskar — El cofundador de DeepMind y CEO de Microsoft AI sobre la convergencia de la IA y la biología sintética, y los desafíos de gobernanza que plantean. Publicado por Debate.
En inglés:
- If Anyone Builds It, Everyone Dies: The Case Against Superintelligent AI (Si alguien la construye, morimos todos: El argumento contra la IA superinteligente), de Eliezer Yudkowsky y Nate Soares — Superventas del New York Times de 2025, escrito por dos investigadores fundadores del campo del alineamiento de IA, que argumenta que construir superinteligencia artificial con las técnicas actuales llevaría a la extinción humana. Recursos adicionales.
- Superalignment: The Three Approaches to the AI Alignment Problem, de Alex M. Vikoulov — Obra de 2026 del futurista transhumanista ruso-americano que propone tres estrategias convergentes —alineamiento basado en control, desarrollo ético-emocional e integración cognitiva humano-máquina— como hoja de ruta para la emergencia de una superinteligencia artificial beneficiosa.
- Human Compatible: AI and the Problem of Control, de Stuart Russell — El coautor del libro de texto estándar de IA propone un nuevo enfoque para el diseño de IA centrado en máquinas que se difieren a las preferencias humanas en lugar de perseguir objetivos fijos.
- The Alignment Problem: How Can Machines Learn Human Values?, de Brian Christian — Inmersión periodística en los desafíos técnicos y filosóficos de conseguir que los sistemas de IA se comporten conforme a los valores humanos.
- Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, de Cade Metz — Historia de la revolución del deep learning y de los investigadores que la hicieron posible.
- Robot Ethics: The Ethical and Social Implications of Robotics, editado por Patrick Lin, Keith Abney y George A. Bekey — Colección académica sobre la ética de los sistemas robóticos.
- Robot Ethics 2.0: From Autonomous Cars to Artificial Intelligence, editado por Patrick Lin, Keith Abney y Ryan Jenkins — Continuación de 2017 que abarca vehículos autónomos, armas letales autónomas y ética de la IA.
- The Precipice: Existential Risk and the Future of Humanity, de Toby Ord — El filósofo de Oxford argumenta en 2020 que este siglo es decisivo para el futuro a largo plazo de la humanidad, con la IA entre los riesgos más serios analizados.
- Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity, de Daron Acemoglu y Simon Johnson — El economista Premio Nobel y su coautor argumentan que los beneficios de la IA no se distribuirán automáticamente de forma amplia y que se necesitan decisiones políticas deliberadas.