Según fuentes citadas por Reuters, varios investigadores de OpenAI escribieron una carta al consejo asesor de la compañía advirtiendo sobre un “descubrimiento poderoso” en el campo de la inteligencia artificial que podría amenazar a la humanidad días antes del regreso del CEO de la compañía, Sam Altman.
Las principales innovaciones que condujeron al despido de Altman, el gurú de la tecnología propagandista de IA detrás de ChatGPT, fueron el servicio Card y el algoritmo de IA. Más de 700 empleados de OpenAI amenazaron con renunciar y unirse a Microsoft en solidaridad con el líder exonerado antes del regreso triunfal del ejecutivo el miércoles (21).
Análisis
Microsoft ignora la crisis de OpenAI y debería salir victorioso.
Las grandes empresas de tecnología tomaron medidas rápidas para evitar que sus inversiones se vieran afectadas por el conflicto.
Según fuentes, el despido de Altman puede atribuirse en parte al contenido de la carta, que incluía preocupaciones sobre la comercialización de los avances de IA antes de comprender las consecuencias de su uso. Reuters no tuvo acceso a una copia de la carta para analizarla. Los empleados que redactaron el contenido ignoraron las solicitudes de comentarios.
Una de las fuentes dijo que luego de ser contactada por Reuters, OpenAI se negó a hacer comentarios, pero luego reconoció un proyecto llamado “Q*” en un memo interno para empleados y una carta a la dirección antes de los eventos del fin de semana. Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al equipo sobre ciertos informes de prensa sin ahondar en su relevancia.
Algunos empleados de OpenAI creen que el proyecto “Q*” (pronunciado Q-Star) podría ser un avance en la investigación de la inteligencia artificial general (AGI, por sus siglas en inglés) de la compañía. OpenAI define la inteligencia artificial general como sistemas que superan a los humanos en la mayoría de las tareas económicamente valiosas.
Según la fuente, el nuevo modelo pudo abordar ciertos problemas matemáticos gracias a su acceso a amplios recursos computacionales. Los investigadores se muestran optimistas sobre el futuro del proyecto “Q*” a pesar de que el modelo solo ha sido probado utilizando cálculos matemáticos de estudiantes de primaria.
“La ignorancia desaparece”
Los investigadores ven las matemáticas como la frontera del desarrollo de la IA creativa. Las respuestas a una misma pregunta pueden variar considerablemente debido al estado actual de la IA generativa, que es buena para escribir y traducir entre idiomas al predecir estadísticamente la siguiente palabra. Sin embargo, dominar tareas contables, para las cuales solo hay una respuesta correcta, implicaría que la IA tiene habilidades de razonamiento comparables a las de los humanos. Los investigadores en inteligencia artificial creen que esto podría ser utilizado en nuevos estudios científicos.
La inteligencia artificial general (AGI) tiene la capacidad de generalizar, aprender y comprender, a diferencia de una calculadora que solo puede realizar un cierto número de operaciones.
Según fuentes, los investigadores resaltaron los peligros potenciales de la IA en una carta al consejo, aunque no especificaron las preocupaciones exactas de seguridad planteadas. Los científicos de la computación llevan mucho tiempo debatiendo la amenaza que representan las máquinas superinteligentes, como si elegirían o no destruir a la humanidad si se les diera la oportunidad.
Los investigadores también señalaron el trabajo de un “equipo de científicos de IA”, cuya existencia ha sido confirmada por muchas fuentes. El equipo, que se formó fusionando los equipos “Code Gen” y “Math Gen” anteriores, está trabajando en la optimización de los modelos de IA existentes para mejorar su razonamiento y, en última instancia, llevar a cabo proyectos científicos, según uno de ellos.
Altman lideró el esfuerzo para hacer de ChatGPT una de las aplicaciones de mayor crecimiento, atrayendo las inversiones y los recursos informáticos que Microsoft necesitaba para acercarse a la AGI.
Además de presentar una serie de nuevas herramientas durante una demostración este mes, Altman dijo a un grupo de líderes globales en San Francisco la semana pasada que creía que había avances significativos en la tecnología de inteligencia artificial en el horizonte.
“Poder hacer esto es el honor profesional de toda una vida”, dijo frente al Comité de Cooperación de OpenAI. “Cuatro veces en la historia de OpenAI, incluyendo la más reciente en las últimas dos semanas, he tenido la oportunidad de estar presente cuando dejamos atrás el velo de la ignorancia y tenemos ante nosotros la frontera del descubrimiento”, dijo.
Al día siguiente, el liderazgo de OpenAI despidió a Altman.
