El proyecto Q Star o Q* es un desarrollo de la empresa OpenAI que habría propiciado la salida de Sam Altman como CEO de dicha empresa de inteligencia artificial.
De acuerdo con información publicada por la agencia de noticias Reuters, el proyecto Q Star representa un avance significativo en la inteligencia artificial general.
Esta es la historia y lo que sabemos hasta el momento sobre este enigmático proyecto Q Star que habría provocado un cisma en Open AI.
La misteriosa carta que alerta sobre una amenaza para la humanidad
Una carta y un algoritmo de IA fueron desarrollos clave antes de que el consejo de OpenAI destituyera a Sam Altman, el niño prodigio de la IA general, dijeron dos fuentes a la agencia Reuters.
A propósito de dicha carta, la agencia señaló que varios investigadores escribieron una carta al consejo de administración de OpenAI, en la que advirtieron sobre “un poderoso descubrimiento en inteligencia artificial que, según dijeron, podría amenazar a la humanidad”.
En dicha carta “los investigadores destacaron la destreza de la IA y su peligro potencial, dijeron las fuentes sin especificar los problemas de seguridad exactos señalados en la carta. Ha habido una larga discusión entre los informáticos sobre el peligro que representan las máquinas altamente inteligentes, por ejemplo, si podrían decidir que la destrucción de la humanidad les interesa”.
Sam Altman jugó un papel crucial en el desarrollo de ChatGPT, convirtiéndola en una de las aplicaciones de software de más rápido crecimiento en la historia. También logró atraer inversiones significativas y recursos informáticos de Microsoft, acercando a OpenAI a la Inteligencia Artificial General. Al parecer su intervención en una cumbre de líderes mundiales en San Francisco, donde destacó que se avecinan grandes avances en el campo de la IA, habría alertado sobre sus intenciones respecto a Q*.
¿Qué es el Proyecto Q Star?
El proyecto referido en dicha carta es Q Star, el cual se refiere a un desarrollo de inteligencia artificial general (IAG) en el que, a diferencia de las aplicaciones actuales que se centran en la escritura y traducción de idiomas, Q* podría reproducir el pensamiento matemático, una habilidad considerada exclusiva de la inteligencia humana.
En las matemáticas solo hay una respuesta correcta, por lo que Q Star implicaría que la IA tendría mayores capacidades de razonamiento, similares a la inteligencia humana. “Esto podría aplicarse, por ejemplo, a la investigación científica novedosa. (…) A diferencia de una calculadora que puede resolver un número limitado de operaciones, la IAG puede generalizar, aprender y comprender”.
Esta capacidad de la IA para realizar cálculos matemáticos y su potencial impacto en la humanidad es lo que ha llevado a cuestionar las implicaciones éticas y de seguridad de tales avances. Es decir, plantea el dilema de si un algoritmo puede pensar o más bien, si debería tener esa capacidad.
La comunidad científica lleva tiempo debatiendo sobre los riesgos que podrían representar las máquinas altamente inteligentes.
Existe el temor de que estas máquinas podrían tomar decisiones perjudiciales para la humanidad. En respuesta a estas preocupaciones, OpenAI formó un equipo de “científicos de IA”, combinando los equipos anteriores de “Code Gen” y “Math Gen”. Este grupo se enfoca en optimizar modelos de IA existentes para mejorar su razonamiento y, eventualmente, realizar trabajos científicos avanzados.
Cronología de la salida de Sam Altman
Es muy poco lo que sabemos del proyecto Q Star de OpenAI y, en general, de la salida de Sam Altman de OpenAI. Lo que sí ha sido una constante desde que se dio a conocer la decisión de la compañía es la versión sobre la inquietud de varios investigadores sobre el avance de la inteligencia artificial y sus implicaciones para la humanidad.
The New York Times reportó que antes de su salida, Altman habría propuesto la salida de Helen Toner, otra integrante de la junta de OpenAI debido, a un paper académico que publicó sobre los desafíos que enfrenta el público al intentar comprender las intenciones de los países y empresas que desarrollan la IA.
Altman no consiguió su objetivo pues fue despedido. Sin embargo, Toner y otros miembros de la junta dejaron su puesto a partir de su restitución.
A continuación te ofrecemos esta cronología de los hechos:
- Jueves, 16 de Noviembre: Ilya Sutskever, cofundador de OpenAI, planea el despido de Sam Altman, proponiendo a Mira Murati como CEO interina.
- Viernes, 17 de Noviembre: El consejo de administración de OpenAI despide a Altman en una videollamada, con Greg Brockman, presidente de OpenAI, ausente inicialmente. Tras el despido, Brockman renuncia en solidaridad. Microsoft se entera del despido y muestra su sorpresa y descontento.
- Sábado, 18 de Noviembre: Altman negocia con Microsoft para crear una nueva empresa de IA. La junta de OpenAI considera la posibilidad de readmitir a Altman tras la presión de Microsoft y otros inversores.
- Domingo, 19 de Noviembre: Los esfuerzos para reincorporar a Altman y Brockman se suspenden. Altman no volverá como CEO de OpenAI, y Emmett Shear, cofundador de Twitch, es nombrado nuevo CEO interino.
- Lunes, 20 de Noviembre: La confirmación de que Altman no volverá como CEO provoca un éxodo masivo de OpenAI. Microsoft anuncia la contratación de Altman y Brockman para liderar un nuevo equipo de investigación en IA.
- Miércoles 22 de Noviembre. Sam Altman es nombrado nuevamente CEO de OpenAI. Además se integran a la junta directiva: Bret Taylor, ex co-CEO de Salesforce; Larry Summers, ex Secretario del Tesoro de EEUU, y Adam D’Angelo, CEO de Quora
LEE TAMBIÉN. ¿Qué pasó con ChatGPT Plus? ¿Por qué hay lista de espera para comprarlo?
¿Cómo se googlea Q*?
A nivel mundial la información publicada por Reuters provocó que el tema se convirtiera tendencia en búsquedas, particularmente en China, Suecia y Eslovenia.
¿Qué es la Inteligencia Artificial Generativa?
La inteligencia artificial generativa es un tipo de IA que puede crear ideas y contenidos nuevos, como conversaciones, historias, imágenes, videos y música. Esta tecnología es la que conocemos en desarrollos como el de ChatGPT.
¿Qué es la Inteligencia Artificial General?
La Inteligencia Artificial General (IAG), también conocida como Inteligencia Artificial Fuerte o Inteligencia General Artificial (IGA), es una forma de inteligencia artificial capaz de entender, aprender y aplicar su inteligencia a una amplia variedad de problemas de manera similar a como lo hace un ser humano.
A diferencia de la Inteligencia Artificial Estrecha o Débil, que está diseñada para realizar tareas específicas (como reconocimiento de imágenes o jugar al ajedrez), la IAG posee una capacidad cognitiva más amplia y generalizada.
Las características clave de la Inteligencia Artificial General incluyen:
- Adaptabilidad: La IAG puede aprender y adaptarse a nuevas tareas y entornos para los que no fue específicamente programada. Puede transferir conocimientos de un dominio a otro, aprendiendo de la experiencia.
- Comprensión y Razonamiento: A diferencia de la Inteligencia Artificial Estrecha, que sigue patrones o reglas predefinidas, la IAG puede comprender contextos, hacer juicios y razonar sobre problemas, incluso aquellos con los que no se ha encontrado antes.
- Aprendizaje Autónomo: Puede adquirir e integrar nuevos conocimientos de manera independiente, en lugar de estar limitada a lo que ha sido explícitamente programada para saber.
- Generalización: La capacidad de aplicar el conocimiento y las habilidades aprendidas a una amplia gama de diferentes tareas y dominios.
El desarrollo de la Inteligencia Artificial General representa un salto significativo con respecto a la tecnología de IA actual y es un tema de extensa investigación y debate en la comunidad de IA.
Existen desafíos éticos, filosóficos y técnicos en la creación de IAG, y las opiniones varían sobre cuán cerca estamos de lograrlo, o incluso si es posible.
Las implicaciones de crear una inteligencia que pueda igualar o superar las capacidades cognitivas humanas son profundas y de gran alcance, planteando preguntas sobre todo, desde el desplazamiento laboral hasta riesgos existenciales para la humanidad.
LEE TAMBIÉN. 6 pasos a seguir para abrir una clínica dental en México
