Sam Altman parece dar credibilidad a la teoría de que fue despedido de OpenAI por el nuevo sistema de inteligencia artificial (IA) secreto y superpotente de su empresa que él ayudó a construir.

Sam Altman es un empresario, inversor y programador informático estadounidense. Altman ha sido un inversionista activo en diversas empresas tecnológicas y ha respaldado financieramente a numerosas startups. También fue CEO de la firma de inteligencia artificial OpenAI.

Al parecer, varios empleados advirtieron al consejo de administración de la empresa de que este proyecto, llamado Q* (pronunciado “Q star”), estaba llegando a ser tan avanzado que ya podía aprobar exámenes de matemáticas y realizar tareas de pensamiento crítico.

Y consideraron que Altman no se tomaba en serio sus advertencias.

Altman no niega la existencia de un sistema secreto

Sam Altman. Crédito de imagen: TechCrunch / Flickr

En una entrevista concedida esta semana, Altman no negó la existencia del programa secreto que, según algunos empleados, fue la causa de su despido.

En cambio, calificó la revelación de Q* de “filtración desafortunada”.

Altman fue despedido, contratado por Microsoft, inversor de OpenAI, y vuelto a contratar por OpenAI -que también despidió a la mayor parte de la junta que despidió a Altman-, todo ello en el transcurso de sólo cinco días en noviembre.

Cuando se le preguntó sobre Q* en una entrevista con The Verge, tuvo la oportunidad de negar que el programa existiera.

El público se enteró de la existencia de Q* en un reciente reportaje de Reuters, que también compartía algunas preocupaciones planteadas en la carta de advertencia de los empleados al consejo.

Pero esa noticia sólo cubría Q* y el contenido de la carta en términos generales, ya que los reporteros de Reuters no vieron la carta.

Con toda esta incertidumbre, Altman estaba en buena posición para negar la existencia de Q* y descartarla como un rumor infundado. En lugar de ello, pareció confirmarlo.

Altman dijo:

“No voy a hacer ningún comentario sobre esa desafortunada filtración. Pero lo que hemos estado diciendo -hace dos semanas, lo que decimos hoy, lo que decíamos hace un año, lo que decíamos antes- es que esperamos que el progreso en esta tecnología siga siendo rápido y también que esperamos seguir trabajando muy duro para averiguar cómo hacerla segura y beneficiosa”.

Temores ante una inteligencia general artificial (AGI)

Un programa secreto llamado Q* puede ser la razón por la que Sam Altman fue despedido como director ejecutivo de OpenAI. Cuando se le dio la oportunidad de negar la existencia del programa, Altman pareció reconocerlo. Crédito de imagen: Midjourney

La gente que trabaja en el campo de la IA ha advertido de que, una vez que los informáticos logren la inteligencia general artificial (AGI), ésta podría llegar a ser más poderosa de lo que los humanos pueden hacer frente.

Podrían incluso ver a los humanos como una amenaza que debe ser eliminada, alistando las infraestructuras de Internet e informáticas para llevar a cabo un plan del día del juicio final.

Estos temores coinciden con las predicciones de los expertos de que un día la IA alcanzará un punto conocido como la singularidad, cuando la tecnología se haya vuelto más poderosa e inteligente de lo que los humanos pueden competir con ella, cambiando el curso de nuestra evolución.

El ex ingeniero de Google Ray Kurzweil predijo en una ocasión que la singularidad llegaría en 2045.

En abril, más de 25.000 personas firmaron una carta abierta pidiendo una pausa de seis meses en la investigación de la IA. En aquel momento, Altman dijo que estaba de acuerdo con los llamamientos a la cautela, pero que no estaba de acuerdo con el “matiz técnico” que contenía la carta abierta. No la firmó.

Los informes afirman que varios empleados escribieron una carta al consejo de OpenAI antes de que Altman fuera destituido.

Peligrosos descubrimientos

Se dice que la carta detalla cómo la empresa de Altman estaba trabajando en nuevos descubrimientos de IA que eran peligrosos, y que existían graves riesgos al comercializar tecnologías cuyas posibles consecuencias la empresa no comprendía firmemente.

Reuters informó de que Q* es parte de la razón por la que Altman fue despedido de OpenAI, debido a las avanzadas capacidades del nuevo sistema.

Las fuentes afirmaron que Q* ya superaba con éxito los exámenes de matemáticas, mientras que la última versión de ChatGPT, GPT-4, sigue teniendo problemas con los exámenes de bachillerato.

GPT-4 se lanzó en marzo, lo que le dio tiempo a avanzar, mientras que Q* aún no ha sido confirmado.

Las fuentes también afirmaron que Q* podría utilizar métodos no lineales como el árbol de pensamientos, la búsqueda de árbol Monte-Carlo (MCTS), los modelos de recompensa supervisados por procesos (PRM) y un algoritmo de aprendizaje.

Sin embargo, el personal de OpenAI cree que Q* podría ser el avance que permita el desarrollo de la inteligencia artificial.

OpenAI define la inteligencia artificial como “sistemas de IA que, en general, son más inteligentes que los humanos”.

Esta semana, cuando se le preguntó por qué había sido despedido en su entrevista con The Verge, Altman se mantuvo hermético y redirigió las preguntas a los miembros del consejo de OpenAI, que no fueron entrevistados.

[H/T: TV]

¿Te gustó este contenido? Te invito a compartirlo con tus amigos. También puedes seguirnos en nuestra Fan Page, para estar al tanto de todas las noticias que publicamos a diario. También puedes unirte a nuestro Grupo Oficial y a nuestra comunidad en Telegram.