El fin del mundo: riesgos reales, el papel de la IA y cómo la humanidad se defiende

Introducción: El tiempo corre

La humanidad siempre ha vivido consciente de su propia mortalidad, no solo como individuos, sino como especie. Las civilizaciones antiguas temían las inundaciones, las hambrunas y la ira de los dioses. Hoy en día, nuestros temores están más basados ​​en la ciencia y son más aterradores por ella. Hemos construido armas capaces de acabar con la civilización en una tarde. Estamos calentando la atmósfera a un ritmo que amenaza la estabilidad de los ecosistemas de los que dependemos. Y hemos comenzado a crear mentes (artificiales) que algún día podrían superar la nuestra.

Resulta que el fin del mundo no es un único acontecimiento dramático. Es un espectro de posibilidades, algunas lentas y progresivas, otras repentinas y catastróficas. Comprender estas posibilidades no es un ejercicio de desesperación: es el primer paso para prevenirlas.

Parte I: El catálogo de catástrofes

1. Guerra nuclear

De todas las amenazas provocadas por el hombre, la guerra nuclear sigue siendo la más inmediata y mejor comprendida. Hoy en día existen aproximadamente 12.500 ojivas nucleares en nueve países. Un intercambio a gran escala entre Estados Unidos y Rusia (los dos arsenales más grandes) no mataría directamente a cientos de millones de personas. Desencadenaría un "invierno nuclear": tormentas de fuego masivas inyectarían hollín en la estratosfera, bloqueando la luz solar durante años, colapsando la agricultura a nivel mundial y potencialmente matando a miles de millones de personas por hambruna.

La parte aterradora no son sólo las armas en sí, sino los sistemas que las controlan. Las decisiones de lanzamiento se pueden tomar en minutos. Las falsas alarmas casi han desencadenado una guerra nuclear en múltiples ocasiones: en 1983, el oficial soviético Stanislav Petrov ignoró una advertencia satelital sobre la llegada de misiles estadounidenses, una decisión que puede haber salvado la civilización. Que el destino de la humanidad dependa del juicio de un hombre en medio de la noche no es tranquilizador.

2. Cambio climático y colapso ecológico

El cambio climático es más lento que un misil, pero su potencial de devastación es igualmente asombroso. Con las trayectorias actuales, el planeta va camino de un calentamiento de entre 2 y 3 °C por encima de los niveles preindustriales para finales de este siglo. Más allá de los 3 °C, los ciclos de retroalimentación (el derretimiento del permafrost que libera metano, los bosques moribundos que pasan de sumideros de carbono a fuentes de carbono) podrían impulsar el calentamiento mucho más allá de cualquier nivel que la civilización humana haya experimentado jamás.

Las consecuencias se multiplican: el aumento del nivel del mar desplaza a las poblaciones costeras, las sequías e inundaciones devastan la agricultura, la acidificación de los océanos destruye las cadenas alimentarias marinas y las extinciones masivas desestabilizan la biosfera. No es un momento único del "fin del mundo", sino una erosión lenta y agobiante de las condiciones que sustentan ocho mil millones de vidas humanas.

3. Pandemias diseñadas y armas biológicas

La pandemia de COVID-19, por devastadora que fuera, fue un anticipo de algo mucho peor. Los avances en biotecnología (edición genética, biología sintética, síntesis artificial de ADN) están haciendo que sea cada vez más factible diseñar patógenos que sean más transmisibles, más letales o específicamente resistentes a los tratamientos existentes.

Una pandemia suficientemente diseñada, ya sea liberada accidentalmente desde un laboratorio o deliberadamente por un actor estatal o no estatal, podría matar a cientos de millones de personas antes de que se puedan implementar medidas de contención. A diferencia de las armas nucleares, la barrera de entrada para las armas biológicas está cayendo rápidamente. Los equipos de laboratorio son más baratos y accesibles que nunca. El conocimiento para diseñar patógenos peligrosos está cada vez más distribuido.

4. Asteroides y catástrofes naturales

La naturaleza misma no ofrece escasez de amenazas a nivel de extinción. El impacto de un gran asteroide (del tipo que acabó con los dinosaurios no aviares hace 66 millones de años) sigue siendo un acontecimiento de baja probabilidad pero decisivo desde el punto de vista civilizatorio. Las erupciones supervolcánicas, como las de Yellowstone o Toba, podrían arrojar cenizas a la atmósfera durante años, provocando inviernos volcánicos y pérdidas de cosechas a nivel mundial.

Estos eventos son realmente raros en escalas de tiempo humanas. Pero al universo no le importan las escalas de tiempo humanas, y "raro" no es lo mismo que "nunca".

5. Inteligencia artificial: el comodín

Y luego está la inteligencia artificial, posiblemente el riesgo existencial más complejo y controvertido de la lista, precisamente porque lo estamos construyendo nosotros mismos, ahora mismo, a enorme velocidad.

Parte II: El factor IA: amenaza y escudo

La promesa

La inteligencia artificial ya está cambiando la forma en que detectamos y respondemos a las amenazas. Los modelos de aprendizaje automático pueden analizar imágenes satelitales para rastrear los cambios ambientales en tiempo real. Los sistemas de inteligencia artificial aceleran el descubrimiento de fármacos, lo que permite respuestas más rápidas a las pandemias emergentes. Los modelos climáticos impulsados ​​por IA están mejorando drásticamente nuestra comprensión de cómo evolucionarán los sistemas de retroalimentación. En seguridad nuclear, se están desarrollando herramientas de IA para detectar lanzamientos de misiles y verificar tratados de control de armas con mayor precisión y velocidad que los analistas humanos por sí solos.

En resumen: la IA es una de nuestras herramientas más poderosas para detectar, modelar y potencialmente prevenir los desastres descritos anteriormente.

La amenaza

Pero la IA también introduce nuevos riesgos, algunos sutiles, otros potencialmente catastróficos.

Ya se están desarrollando armas autónomas por múltiples naciones. Los drones que pueden identificar y atacar objetivos sin autorización humana ya no son ciencia ficción; hoy se están probando y desplegando en zonas de conflicto. La preocupación no son solo las armas autónomas individuales, sino el riesgo sistémico que crean: una escalada más rápida, menos juicio humano en el proceso y la posibilidad de accidentes catastróficos o errores de cálculo que desemboquen en conflictos mayores.

Las armas biológicas aceleradas por IA representan una amenaza particularmente escalofriante. Los grandes modelos de lenguaje y los sistemas de inteligencia artificial para plegar proteínas podrían, si se utilizan incorrectamente, reducir drásticamente la experiencia necesaria para diseñar patógenos peligrosos. Lo que antes requería un equipo de doctorados durante años podría comprimirse en meses si alguien con conocimientos básicos de biología y acceso a herramientas de IA. La brecha entre una "idea peligrosa" y una "realidad peligrosa" se está reduciendo.

IA desalineada —el riesgo de que los sistemas avanzados de IA persigan objetivos que están sutil o dramáticamente en desacuerdo con los valores humanos—es quizás el riesgo más discutido y debatido en este campo. A medida que los sistemas de IA se vuelven más capaces, se vuelve más difícil garantizar que hagan de manera confiable lo que realmente queremos. Una IA con un objetivo simple (maximizar la eficiencia energética o maximizar la producción económica) podría perseguir ese objetivo de maneras catastróficas para la vida humana si sus valores no están profundamente alineados con los nuestros.

Este no es un riesgo a corto plazo como lo es la guerra nuclear. Pero muchos de los principales investigadores de IA del mundo creen que es una preocupación grave a largo plazo que merece atención seria ahora, mientras que el campo aún es relativamente joven.

La desinformación facilitada por la IA ya es un problema de tiempo presente. Los deepfakes, la propaganda generada por IA y los medios sintéticos pueden desestabilizar las democracias, incitar a la violencia y erosionar el sentido compartido de la realidad del que dependen las sociedades democráticas. En un mundo de estados con armas nucleares, la desinformación impulsada por la IA que convence a un gobierno de que está bajo ataque podría desencadenar respuestas catastróficas en el mundo real.

Parte III: Cómo nos defendemos

La buena noticia (y hay buenas noticias) es que la humanidad no camina pasivamente sonámbula ante estas amenazas. En los ámbitos de la ciencia, las políticas, la tecnología y la gobernanza internacional, se están realizando serios esfuerzos para reducir los riesgos existenciales.

Disuasión nuclear y desarme

El orden nuclear global actual se basa en un sistema de disuasión mutua: la idea de que cualquier primer ataque desencadenaría represalias devastadoras, haciendo que la guerra nuclear sea irracional para todas las partes. Esto ha funcionado en gran medida durante 80 años, pero es frágil, propenso a accidentes y depende de actores racionales, suposiciones que no siempre se cumplen.

La solución más profunda es el control de armas y, en última instancia, el desarme. Tratados como el Nuevo START entre Estados Unidos y Rusia han reducido significativamente los arsenales desde los picos de la Guerra Fría. El Tratado sobre la Prohibición de las Armas Nucleares, si bien aún no ha sido firmado por ningún Estado nuclear, representa un creciente consenso internacional en el sentido de que estas armas deben ser eliminadas. El progreso es lento, pero la dirección es correcta.

Acción climática y geoingeniería

La transición energética (de los combustibles fósiles a la solar, la eólica, la nuclear y otras fuentes limpias) está en marcha a una velocidad notable. Los costos de la energía solar han caído más del 90% en la última década. Los vehículos eléctricos están entrando en la corriente principal. El Panel Intergubernamental sobre Cambio Climático (IPCC) ha dejado claro que si bien la ventana es estrecha, limitar el calentamiento a 1. 5-2°C sigue siendo técnica y económicamente factible.

Para escenarios más extremos, los científicos están investigando enfoques de geoingeniería, incluida la inyección de aerosoles estratosféricos (que reflejan la luz solar de regreso al espacio) y la fertilización con hierro del océano (que mejora la absorción de carbono). Estos no son sustitutos de la reducción de emisiones y conllevan sus propios riesgos. Pero pueden resultar necesarios si el calentamiento excede umbrales peligrosos.

Preparación para una pandemia

La COVID-19 expuso brechas catastróficas en la preparación global para una pandemia: sistemas inadecuados de alerta temprana, capacidad insuficiente de fabricación de vacunas y coordinación internacional fragmentada. Desde entonces, la respuesta ha sido sustancial: las nuevas plataformas de vacunas de ARNm ahora pueden producir vacunas en semanas en lugar de años. La Organización Mundial de la Salud está negociando un nuevo Tratado Internacional sobre Pandemia. Las redes de biovigilancia se están expandiendo.

La IA también está desempeñando un papel cada vez mayor aquí: modelos que escanean datos de enfermedades globales en busca de señales tempranas de brotes, herramientas que aceleran la identificación de tratamientos efectivos y sistemas que optimizan la logística de distribución de vacunas.

Seguridad y gobernanza de la IA

El campo de la seguridad de la IA ha crecido dramáticamente durante la última década. Los principales laboratorios de IA, incluidos Anthropic, DeepMind y OpenAI, cuentan con equipos de seguridad dedicados que trabajan en la alineación: garantizar que los sistemas avanzados de IA persigan de manera confiable objetivos que sean beneficiosos para la humanidad. Los gobiernos también están comenzando a responder: la Ley de IA de la UE, la Orden Ejecutiva de EE. UU. sobre seguridad de la IA y los marcos internacionales emergentes representan los primeros pasos hacia estructuras de gobernanza para sistemas de IA potentes.

El desafío principal es garantizar que el desarrollo de la IA se rija por la cooperación internacional en lugar de por dinámicas raciales competitivas, algo análogo, en algunos aspectos, a los desafíos del control de armas de la era nuclear. Ningún país o empresa puede resolver por sí solo la seguridad de la IA. Requiere el tipo de trabajo diplomático y científico sostenido y poco glamoroso que rara vez es emocionante pero que a menudo es lo que mantiene vivas a las civilizaciones.

Defensa contra asteroides

La misión DART de la NASA en 2022 cambió con éxito la órbita de un asteroide al estrellar una nave espacial contra él: la primera demostración de que la humanidad realmente puede desviar una roca espacial entrante. La Oficina de Coordinación de Defensa Planetaria monitorea los objetos cercanos a la Tierra y está desarrollando la capacidad de alerta y respuesta tempranas. Por primera vez en la historia del planeta, existe una especie que realmente puede hacer algo con respecto a un asteroide entrante. Eso no es nada.

Parte IV: La pregunta más profunda

Detrás de todos estos riesgos específicos se esconde una pregunta más profunda: ¿tiene la humanidad la sabiduría colectiva y la capacidad institucional para gestionar las tecnologías y fuerzas que ha desencadenado?

La visión optimista (y hay fuertes motivos para el optimismo) es que lo hemos hecho antes. Evitamos la guerra nuclear durante la Guerra Fría, a pesar de docenas de situaciones difíciles. Eliminamos en gran medida la viruela. Hemos comenzado, aunque lentamente, a abordar la crisis climática. El ingenio y la cooperación humanos, en el mejor de los casos, son notables.

La visión pesimista es que la velocidad del cambio tecnológico está superando nuestra capacidad institucional para gobernarlo. Las capacidades de la IA están avanzando más rápido que nuestra capacidad para comprenderlas o regularlas. La biosíntesis está democratizando el acceso a conocimientos biológicos peligrosos. El cambio climático se está acercando a puntos de inflexión que pueden excluir ciertas opciones de forma permanente.

La opinión honesta es que ni el puro optimismo ni el puro pesimismo están justificados. Lo que se justifica es urgencia: un reconocimiento claro de que las decisiones que se tomen en las próximas décadas probablemente determinarán la trayectoria de la civilización humana durante siglos.

Conclusión: el desafío es la única respuesta

El fin del mundo no es inevitable. Es un conjunto de probabilidades (algunas altas, otras bajas) que las decisiones humanas pueden aumentar o reducir. Una guerra nuclear es más probable en un mundo en el que las normas de control de armas y los sistemas de lanzamiento automatizados se erosionan. La catástrofe climática es más probable en un mundo de parálisis política y dependencia de los combustibles fósiles. El riesgo existencial de la IA es más probable en un mundo donde el desarrollo de la IA está impulsado exclusivamente por la presión competitiva sin restricciones de seguridad.

Lo contrario también es cierto. Cada tratado de control de armas firmado, cada megatón de carbono ahorrado, cada técnica de seguridad de IA descubierta, cada sistema de detección de pandemias construido, no son sólo pequeños triunfos. Son, acumulativamente, la diferencia entre una civilización que sobrevive y otra que no.

Somos, por primera vez en la historia, una especie que comprende los mecanismos que podrían destruirla y tiene las herramientas para abordarlos. Si elegimos utilizar esas herramientas sabiamente no es una cuestión de tecnología. Es una cuestión de voluntad.

La respuesta, si prestamos atención, tiene que ser sí.

Fuentes y lecturas adicionales: The Future of Humanity Institute (Oxford), el Centro de Bioseguridad de Johns Hopkins, el Bulletin of the Atomic Scientists, NASA Planetary Defense, los informes de evaluación del IPCC e investigaciones publicadas por Anthropic, DeepMind y el Machine Intelligence Research Institute sobre la seguridad de la IA.