Una de las platicas más recurrentes actualmente en cualquier ámbito, es la relacionada al impacto de la Inteligencia Artificial en la vida moderna. Frecuentemente se escuchan conversaciones sobre como afectará al empleo, a la educación, incluso hay quienes manifiestan cierto temor ante esta tecnología.
Para quienes trabajamos con IA, esta plática también es frecuente, pero tiene un tono diferente, ya que entre los involucrados es inevitable hablar del P(Doom). En cuanto este término aparece, las platicas cambian radicalmente.
Que es P(Doom)
El término P(doom) se empezó a utilizar en el año 2009, cuando Tim Tyler, un programador de Boston, lo introdujo en la comunidad en línea LessWrong. Este foro, es conocido por su enfoque en el Racionalismo, acogió el término inicialmente como una especie de broma. P(doom) servía como una manera informal de expresar la “probabilidad de condenación” (probability of doom) asociada con el desarrollo de la inteligencia artificial, sin precisar detalles específicos sobre el momento o la naturaleza exacta de dicha “condena”.
Como su nombre sugiere, se refiere a las probabilidades de que la inteligencia artificial cause un escenario apocalíptico, como lo ha mostrado la ciencia ficción en repetidas ocasiones.
Con el paso del tiempo, lo que comenzó como una broma ha evolucionado significativamente. La medida de P(doom) ha sido adoptada por la comunidad tecnológica y se ha convertido en un tema recurrente de debate entre los líderes del sector de la inteligencia artificial. Actualmente, P(doom) no es solo un término técnico, sino también un reflejo de las preocupaciones y expectativas que la sociedad tiene respecto al futuro de la inteligencia artificial. Cada vez más profesionales del sector expresan sus opiniones sobre este indicador, subrayando su relevancia y el papel crucial que juega en la conversación global sobre el desarrollo y la regulación de la inteligencia artificial.
El P(Doom) es una escala numérica que va del 0 al 100 y actualmente muchos líderes del mundo tecnológico han manifestado el nivel riesgo que consideran que tenemos de acuerdo al avance que está teniendo la Inteligencia artificial.
Con la llegada de Chat GPT, el mundo volteo a ver a las plataformas de IA y con ello el desarrollo creció exponencialmente, dando paso a especulaciones sobre lo que pueda suceder a futuro.
El P(Doom) mide el riesgo estimado para que la IA pueda adueñarse o conquistar a la raza humana. El 100 es la absoluta certeza de que las maquinas acabarán con la raza humana, mientras que el cero es una total seguridad de que no sucederá algo así.
Varios líderes, periodistas, analistas y gente del medio han hecho pública su proyección de P(Doom), lo cual ha generado opiniones encontradas en todo el mundo.
P(Doom) de acuerdo a varios líderes de la industria:
AI Safety Researchers : p(doom) 30%
Casey Newton (Reportero tecnológico) : p(doom) 5
Dan Hendrycks (Director del Centro de Seguridad de IA) : p(doom) de 20 a más de 80
Daniel Kokotajlo (Investigador en OpenAI) : p(doom) 70%
Dario Amodei (CEO de Anthropic) : p(doom) entre 10 y 25
Eli Lifland (Investigador de IA) : p(doom) 35%
Eliezer Yudkowsky (Fundador de MIRI) : p(doom) superior a 95
Elon Musk : p(doom) entre 10 y 20
Emmett Shear (Co-fundador de Twitch, Ex CEO interino de OpenAI) : p(doom) 5-50
Geoff Hinton (pionero de la IA) : p(doom) 10%
Holden Karnofsky (Director ejecutivo en Open Philanthropy) : p(doom) 50%
Jan Leike (Co director de superalineación de OpenAI) : p(doom) entre 10 y 90
Joep Meindertsma (Fundador de PauseAI) : p(doom) 40%
Kevin Roose (Columnista del New York Times) : p(doom) 5
Lina Khan (Presidenta de la FTC) : p(doom) 15
Paul Christiano (Jefe de seguridad, US AI Safety Institute, fundador de ARC) : p(doom) 46%
Roman Yampolskiy (Científico, especialista en seguridad con IA) : p(doom) 99.999999%
Scott Alexander (blogger) : p(doom) 33%
Vitalik Buterin (Cofundador de Ethereum) : p(doom) 10
Yann LeCun (Pionero de la IA, trabaja en Meta) : p(doom) <0.01%
Yoshua Bengio (Pionero de la IA) : p(doom) 20%
Zvi Mowshowitz (Periodista sobre IA) : p(doom) 60%
Mi estimado de P(Doom)
Después de varios meses de análisis, yo he llegado a mi propio estimado de P(Doom), a partir de una serie de parámetros:
-
Avance tecnológico que se tiene al momento
-
Desarrollos públicos y privados que se están trabajando actualmente
-
Penetración que tienen las plataformas en general
-
Volumen y tipo de datos que circula por las plataformas de IA
-
Uso práctico que se le da en general a las herramientas
-
Nuevos modelos de IA y evolución de los actuales
-
Avance en el uso de Machine Learning
De acuerdo a estos parámetros mi estimado de P(Doom) es de: 10%
El conocimiento que no se comparte, pierde por completo su valor
