P(doom): Qué es, origen y cómo calculan los expertos la probabilidad de catástrofe por inteligencia artificial

La inteligencia artificial (IA) avanza a pasos agigantados y con ella surgen debates que, hace tan solo unos años, parecían sacados de la ciencia ficción. Uno de los temas que más revuelo está causando en círculos tecnológicos y académicos es el famoso índice P(doom), una métrica tan informal como inquietante cuya función es valorar, de forma numérica, cuáles son las probabilidades de que la IA acabe resultando catastrófica para la humanidad.

Pese a que hasta hace poco era una cuestión prácticamente reservada a foros especializados y memes internos, hoy se discute abiertamente en medios de comunicación, congresos e, incluso, en reuniones de empresas punteras del sector tecnológico. Pero, ¿qué es exactamente P(doom)? ¿De dónde viene esta expresión? ¿Quién la utiliza y con qué objetivo? Este artículo explora a fondo la historia, evolución, contexto y polémica que rodean este singular termómetro del apocalipsis digital.

¿Qué es P(doom)? La probabilidad de un desastre por IA

P(doom) es una abreviatura que viene del inglés ‘probability of doom’, es decir, ‘probabilidad de condena o perdición’. Es una escala que sirve para cuantificar el riesgo subjetivo de que la inteligencia artificial provoque algún tipo de desastre a nivel civilizatorio, llegando incluso a la extinción de la humanidad.

No se trata de una medición científica, sino de una valoración personal que oscila entre 0 y 100. Así, alguien que sitúa su P(doom) en 80 estaría avisando de que ve un 80% de probabilidades de que la IA provoque el fin de la especie humana; mientras que un P(doom) de 5 reflejaría una preocupación más bien escasa.

Esta métrica funciona como un termómetro del pesimismo o del optimismo tecnológico frente al futuro de la IA. No existen condiciones exactas para asignar un determinado porcentaje: cada experto la interpreta en base a sus propios conocimientos, preocupaciones y experiencia.

Origen e historia del término P(doom)

El concepto nació en 2009 en la comunidad online LessWrong, un foro popular entre racionalistas y entusiastas de la tecnología. Fue el programador de Boston Tim Tyler quien primero empleó el término para describir, casi en tono humorístico, la probabilidad de desastre existencial derivado del desarrollo de la inteligencia artificial.

En sus orígenes, P(doom) era una broma interna: una forma de ponerle número a una preocupación difusa, sin precisar ni cuándo podría ocurrir la catástrofe, ni en qué consistiría exactamente. Pronto, figuras relevantes del debate sobre IA, como el investigador Eliezer Yudkowsky (fundador de MIRI y de LessWrong), comenzaron a popularizar el término y a usarlo en discusiones sobre riesgos existenciales, especialmente sobre inteligencia artificial general (AGI, por sus siglas en inglés).

La popularidad de P(doom) explotó en 2022 y 2023 gracias a la irrupción de modelos generativos como ChatGPT, Stable Diffusion o Midjourney, y desde entonces se ha colado en conversaciones informales de Silicon Valley, conferencias, artículos mediáticos y debates regulatorios.

¿Cómo se utiliza P(doom)? Ejemplos y protagonistas

En la práctica, preguntar a un experto por su P(doom) es hoy una especie de ritual en el sector tecnológico. Según recoge el New York Times, en reuniones y eventos del área tecnológica es común que alguien pregunte a los demás por “su P(doom)”, igual que si fuera una encuesta o una carta de presentación. Actúa como una suerte de test para saber hasta qué punto alguien es ‘doomer’ (catastrofista) o, por el contrario, confía en que la humanidad podría controlar la IA.

No existe un valor ‘correcto’: los resultados varían dramáticamente dependiendo de la persona. Por ejemplo:

• Dario Amodei (CEO de Anthropic): entre el 10% y el 25%.
• Lina Khan (ex presidenta de la Comisión Federal de Comercio de EE.UU., FTC): 15%.
• Emmett Shear (cofundador de Twitch y ex CEO interino de OpenAI): entre 5% y 50%.
• Elon Musk (CEO de X, Tesla y SpaceX): entre 10% y 30%.
• Geoffrey Hinton (pionero de IA): 10–20% en términos generales, pero en una visión más independiente, por encima del 50%.
• Yann LeCun (Meta, pionero del deep learning): menos de 0,01% (es decir, lo ve casi imposible, como la probabilidad de que un asteroide destruya la Tierra).
• Roman Yampolskiy (experto en ciberseguridad): 99,9%.
• Eliezer Yudkowsky (fundador de MIRI): más del 95%.
• Vitalik Buterin (Cofundador de Ethereum): 10%.
• Yoshua Bengio (científico y pionero de IA): 20%.
• Holden Karnofsky (Open Philanthropy): 50%.
• Paul Christiano (US AI Safety Institute): 46%.
• Jan Leike (OpenAI, Anthropic): en una horquilla entre 10% y 90%.
• Casey Newton (periodista): 5%.
• Zvi Mowshowitz (periodista): 60%.
• Scott Alexander (blogger): 33%.
• Demis Hassabis (CEO DeepMind): más de 0%.
• Marc Andreessen (inversor y empresario): 0%.

Esta diversidad refleja la profunda división y el grado de incertidumbre del sector frente a los riesgos de la IA avanzada. Incluso en el seno de los equipos de OpenAI o DeepMind, hay quienes ven la catástrofe como un peligro plausible y urgente, y quienes consideran que el pánico está fuera de lugar.

De broma interna a métrica influyente

El recorrido de P(doom) muestra cómo una idea nacida del humor negro y el escepticismo puede transformarse en herramienta de influencia real. Hoy en día, los valores de P(doom) dados por líderes de la industria y expertos alimentan debates públicos y afectan no solo las percepciones sociales, sino también la toma de decisiones en el desarrollo y regulación de la inteligencia artificial.

Ejemplo de ello fue la reciente crisis interna de OpenAI, cuando el despido y luego reinstalación de Sam Altman coincidió con la revelación de un supuesto avance técnico bautizado como Q-Star. Este hito, interpretado por algunos como una señal de peligro inminente, disparó los temores sobre la llegada de una inteligencia artificial general y, con ello, un posible salto en la escala de P(doom).

Además, la regulación europea (la Ley de Inteligencia Artificial de la UE) y el debate político en Estados Unidos han sido influidos por las posiciones personales de los expertos sobre este índice. Las diferencias de opinión han generado desde movimientos regulatorios hasta tensiones internas en la industria e, incluso, la creación de nuevos organismos y foros de debate sobre seguridad y ética en IA.

Qué riesgos incluye P(doom): Desde Terminator al declive social

P(doom) no apunta siempre a un escenario apocalíptico único. La “condena” puede tomar muchas formas distintas, desde el clásico dominio de las máquinas (al estilo Terminator), pasando por un colapso social debido al desempleo masivo y la automatización, hasta la pérdida total del control sobre los sistemas inteligentes.

Algunos ejemplos de riesgos que se barajan en estos debates:

• Extinción humana accidental por la aparición de una IA general incontrolable.
• Pérdida de empleos a gran escala y cambio disruptivo del orden económico.
• Desestabilización social o política provocada por la manipulación automática de información.
• Desastres ecológicos o tecnológicos derivados de la mala gestión de sistemas ultrainteligentes.
• Desarrollo de sistemas autónomos peligrosos (armas, infraestructuras críticas, etc.).

Cada uno de estos escenarios puede estar respaldado o rechazado según el enfoque filosófico y técnico del experto en cuestión, y por eso el P(doom) fluctúa tanto entre profesionales de un mismo entorno laboral o académico.

¿Cómo se calcula o define el P(doom)? Parámetros y subjetividad

Uno de los mayores problemas de este indicador es su total subjetividad. No existe una fórmula matemática aceptada ni una metodología universal para calcular el P(doom). Cada investigador, directivo o periodista lo elabora partiendo de su conocimiento, intuición y grado de preocupación personal.

Algunos de los factores que suelen influir en la percepción del riesgo son:

• El ritmo actual de avance tecnológico y la aparición de nuevos modelos de IA.
• El nivel de transparencia en los procesos de desarrollo y el acceso a datos.
• El uso real y el impacto de la IA en la vida diaria y la economía global.
• El potencial de los sistemas autónomos para escapar al control humano o desarrollar objetivos propios.
• Las medidas de seguridad, mitigación y gobernanza implantadas por las empresas y organismos públicos.
• El volumen y la variedad de datos procesados por las plataformas de IA.

En esencia, asignar un P(doom) implica más bien una evaluación rápida del estado del mundo y la capacidad humana para gestionar tecnologías complejas. Para algunos, se trata de un auténtico test de personalidad o de visión del futuro.

Comparativa de P(doom) frente a otras métricas de riesgo tecnológico

El P(doom) ha sido comparado en ocasiones con métricas icónicas como el «reloj del apocalipsis» utilizado para mostrar la cercanía a una destrucción global por motivos ambientales o bélicos. La diferencia es que P(doom) es menos una alerta global y más una herramienta de autodiagnóstico personal sobre el nivel de ansiedad o confianza respecto al futuro.

Bruce Schneier, experto en ciberseguridad, ha propuesto analizar la P(doom) integrando aspectos como vulnerabilidades del software, amenazas activas (hackers, ciberterroristas), impacto potencial, efectividad de las medidas de mitigación y el grado de conectividad entre sistemas críticos. Sin embargo, la falta de consenso sobre qué y cómo medir sigue siendo el principal obstáculo para considerar el P(doom) como un índice de referencia universal.

Críticas y controversias

La ambigüedad y la popularización de P(doom) han generado debates intensos, tanto dentro como fuera del sector tecnológico. Por un lado, sus defensores argumentan que ayuda a visualizar los peligros reales de la IA y a iniciar conversaciones incómodas que suelen evitarse en entornos corporativos. Por otro, los detractores advierten que fomentar el catastrofismo puede desviar la atención de los problemas actuales y tangibles de la IA, como la falta de transparencia, el sesgo algorítmico o la concentración del poder en pocas empresas.

Algunos expertos consideran que P(doom) se está usando como herramienta de marketing para influir en reguladores, captar inversiones o levantar barreras frente a empresas más pequeñas. Otros opinan que la atención debería centrarse en riesgos concretos y actuales, como la privacidad, el uso de IA en armas autónomas o los algoritmos sesgados que perpetúan desigualdades.

El papel de la gobernanza y la regulación

Un punto fundamental señalado por investigadoras como Ajeya Cotra (Open Philanthropy) es que el P(doom) depende enormemente del marco regulatorio y de gobernanza. Cuanto mayor sea la supervisión, la transparencia y los controles a los sistemas de IA, menor será –en teoría– el porcentaje de riesgo. Por tanto, P(doom) no solo mide el potencial técnico de una inteligencia artificial, sino también la capacidad institucional y social para gestionarla.

El debate sobre la regulación de la IA ha alcanzado a la Unión Europea, Estados Unidos y otros países que buscan medidas para proteger a la sociedad sin frenar la innovación. En este contexto, la discusión sobre P(doom) actúa como una llamada de atención para encontrar el equilibrio entre progreso y seguridad.

¿Es útil el concepto P(doom)?

El propio término P(doom) se enfrenta a críticas sobre su utilidad real. ¿Sirve de algo una métrica basada en percepciones personales y sin base científica? Para muchos dentro de la comunidad de IA, la respuesta es afirmativa: P(doom) es útil como punto de partida para conversaciones difíciles y complejas. Además, permite visualizar rápidamente el espectro de opiniones en torno a los riesgos de la inteligencia artificial.

Sin embargo, también es cierto que la falta de definición precisa (¿cuándo llegaría el desastre? ¿en qué consistiría?) limita su utilidad para la toma de decisiones basada en evidencia rigurosa. En todo caso, su existencia refleja la importancia creciente que la sociedad y los expertos otorgan a los riesgos existenciales de la IA.

¿Qué es ValiDrive y cómo detectar memorias USB y discos falsos? La guía definitiva