Se revela la supuesta razón del despido de Sam Altman, el desarrollador de ChatGPT.

Antes de que Sam Altman, cofundador de OpenAI, enfrentara su momento decisivo al ser despedido de la compañía el pasado viernes y luego ser recontratado, varios investigadores internos enviaron una carta al consejo de administración advirtiendo sobre "un descubrimiento de inteligencia artificial poderoso" que, según ellos, podría representar una amenaza para la humanidad.

Esta información fue revelada por la agencia de noticias Reuters el jueves, citando dos fuentes anónimas. Según el informe, la carta y el algoritmo de inteligencia artificial, que no habían sido mencionados hasta ahora, desempeñaron un papel clave en la decisión del consejo de destituir a Altman. Antes de su retorno triunfal el martes pasado, más de 700 empleados habían amenazado con renunciar y unirse a Microsoft en solidaridad con su líder despedido.

Las fuentes citaron la carta como uno de los factores de una larga lista de quejas de la junta que condujeron al despido de Altman, entre las que se encontraban las preocupaciones por la comercialización de avances antes de comprender las consecuencias.

OpenAI reconoció, en un mensaje interno a los miembros del personal, un proyecto llamado Q * y una carta a la junta antes de los acontecimientos del fin de semana, dijo una de las personas. Un vocero de OpenAI dijo que el mensaje, enviado por la veterana ejecutiva Mira Murati, alertaba al personal de ciertas historias de los medios sin comentar su exactitud.

El proyecto Q*

Según la carta, el dato preocupante es que la IA podría reproducir el pensamiento matemático que, dicen, es más propio de la humanidad. Los investigadores consideran que las matemáticas son la frontera del desarrollo de la IA generativa. Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicción estadística de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho.
Pero conquistar la capacidad de hacer cálculos matemáticos implica que la IA tendría una mayor capacidad de razonamiento que se asemejaría a la inteligencia humana. Esto podría aplicarse, por ejemplo, a la investigación científica novedosa, creen los investigadores de IA.
A diferencia de una calculadora que puede resolver un número limitado de operaciones, la Inteligencia Artificial Generativa (IAG) puede generalizar, aprender y comprender.

En la misiva dirigida a la junta directiva, los investigadores resaltaron los logros de la inteligencia artificial y su potencial peligro, aunque no se especificaron los problemas de seguridad mencionados en la carta, según las fuentes. Durante mucho tiempo, los expertos en informática han debatido sobre el riesgo que representan las máquinas altamente inteligentes, incluyendo la posibilidad de que puedan decidir que la destrucción de la humanidad es de su interés.

Los investigadores también mencionaron el trabajo de un equipo de "científicos de IA", cuya existencia fue confirmada por múltiples fuentes. Este grupo, formado mediante la fusión de equipos anteriores llamados "Code Gen" y "Math Gen", se dedicaba a explorar cómo optimizar los modelos de IA existentes para mejorar su razonamiento y, a largo plazo, realizar trabajos científicos, según uno de los informantes.

Altman fue el líder de los esfuerzos para convertir a ChatGPT en una de las aplicaciones de software de más rápido crecimiento en la historia, y logró atraer inversiones y recursos informáticos necesarios de Microsoft para avanzar en la IA generalizada.

Además de anunciar una serie de nuevas herramientas durante una demostración este mes, Altman insinuó la semana pasada, durante una cumbre de líderes mundiales en San Francisco, que se avecinaban avances significativos.