Esta IA podría poner en jaque a la Humanidad: podría ser el motivo de la crisis en OpenAI

El despido de Sam Altman ha lanzado muchas cosas escondidas a la superficie.

La destitución de Sam Altman como CEO de OpenAI, su posterior fichaje por Microsoft y su regreso final a la empresa que fundó han sido uno de los momentos más críticos en la historia de la joven empresa. Sin embargo, más allá de una lucha corporativa se trata de un enfrentamiento voraz por dos formas contrapuestas de entender esta tecnología: una más reflexiva que quiere analizar moralmente el impacto de las formas que están por llegar y otra mucho más radical y virulenta que quiere avanzar a marchas forzadas sin evaluar qué es lo que podría pasar a futuro.

Al menos, eso es lo que explican desde los mentideros, por lo que no es de extrañar que el descubrimiento de una IA fuera de control en la sede de OpenAI fuera lo que supuestamente catapultó a la destitución de Sam Altman.

Una IA fuera de control

De acuerdo con Reuters y The Verge, la situación en OpenAI ha escalado de una manera inesperada en las últimas semanas. Las luchas internas por las formas de concebir el desarrollo de la IA han sido claves.

Ahora, hay una información que ha sido desmentida por la propia OpenAI pero que cobra fuerza en algunos medios: uno de los motivos del despido de Sam Altman podría haber sido una IA fuera de control. Existen dos versiones al respecto, una que apunta a que un grupo de trabajadores envió una carta a la Junta para advertir de esta IA, mientras que otras apuntan a que esa carta no llegó jamás a la misma.

Independientemente de ello, es cierto que no fue el único motivo por el que le despidieron, pero sí que es cierto que podría haber equilibrado la balanza en favor de su destitución. En buena parte, esto se debe a los inevitables temores sobre la posibilidad de que se hubiera creado una AGI sin control. Esto es una Inteligencia Artificial General que se cree que podría tomar autoconsciencia y que es más inteligente que los propios humanos.

De momento, las versiones son contradictorias y resulta difícil saber si esto fue o no real. Pero es posible que en las próximas semanas se vayan esclareciendo los hechos.

En resumidas cuentas:

• Varios investigadores de OpenAI enviaron una carta a Sam Altman sobre una IA que podría amenazar a la humanidad.
• No se vincula directamente esta actitud con el despido de Altman, al contrario, parece haber más motivos por los que la junta quiso desplazarlo.
• Desde OpenAI se han negado estas declaraciones.
• De nuevo, se pone de relieve que Altman busca un desarrollo más acelerado, mientras que la junta de supervisión pedía un mayor tiempo de desarrollo para que existiera cautela.
• Esto choca frontalmente con las necesidades de la empresa, ya que requieren urgentemente de inversiones para lograr seguir a flote.
• Por este motivo, Altman estaría empujando en busca de una Inteligencia Artificial General, es decir, una inteligencia total y superior a los humanos.
• El Proyecto Q estaría detrás de lograr esta función.

Sea como fuere, el hecho de que Altman haya purgado al consejo de control que se encargaba de velar por los buenos usos y prácticas dentro de la empresa no deja de ser peligroso. Así, la empresa estaría ahora mismo sin un contrapunto ético a las ambiciones de la misma. Esto podría sentar un precedente peligroso, sobre todo si estos informes que aseguran que hay una IA fuera de control son ciertos. Aunque de momento se ha negado con rotundidad por parte de las partes en lid.