Esta novedad ha sido acogida como una buena noticia, pero guarda un cierto peligro.
Sam Altman es el todopoderoso fundador de OpenAI, la empresa que más está desarrollando su Inteligencia Artificial. Aparte de eso, cuenta con otras empresas con ideas igual de locas, como tratar de hacernos inmortales. Sin embargo, sus esfuerzos se suelen centrar en la IA, llegando al punto en el que ha pedido a todo el mundo que dejen de filosofar sobre este concepto y se pongan a trabajar de una vez para sacarla adelante.
En esta ocasión, el punto que estamos a punto de tratar es algo más preocupante. Según un post en X que ha publicado recientemente, asegura que la IA va a poder manipularnos y hacer con nosotros lo que ella quiera muy pronto. Esto, sienta un peligroso.
La IA ya podría estar lista para manipularnos.
i expect ai to be capable of superhuman persuasion well before it is superhuman at general intelligence, which may lead to some very strange outcomes
— Sam Altman (@sama) October 25, 2023
El objetivo de la IA tal y como la conocemos es el de conseguir ser una Inteligencia Artificial General. Es decir, una IA que pueda servir para todo y que tenga una inteligencia mucho mayor que los humanos. Este punto es interesante, pero todavía falta mucho para ello. Sin embargo, en palabras de Sam Altman, sí que está mucho más cerca otro objetivo vital: el de persuadirnos para que hagamos lo que ella – o sus creadores – queramos.
Espero que la IA sea capaz de persuadir a nivel sobrehumano mucho antes de que sea una inteligencia sobrehumana en general, lo que puede llevarnos a resultados muy extraños.
Hoy en día, aunque fallen, las IA se muestran tan convincentes con sus resultados que personas que no estén experimentadas en los temas de los que están hablando pueden creérselo todo de cabo a rabo. Esta capacidad de aseverar cuestiones como si fueran ciertas, pero sin serlo realmente es bastante peligroso ya que resultan muy convincentes y podrían extender bulos y desinformación.
Sin embargo, parece que en el futuro podrían ser más peligrosas en este aspecto. Aunque muchas personas han señalado esto como un avance digno de aplaudir, también podría guardar un peligroso futuro en caso de que se utilizara para hacer el mal o simplemente se equivocara sin darse cuenta.
Por otro lado, el twit parece apuntar a que sus versiones de prueba interna ya lo han conseguido. Esto son solamente especulaciones, pero parece que la IA ya habría podido engañar a algunos miembros de su equipo que estén testeándola y entrenándola para que sea todavía mejor en las futuras versiones.
Para recapitular:
- La IA podría estar muy cerca de lograr la capacidad de persuasión.
- Al menos, llegará mucho antes que las Inteligencias Artificiales Generales.
- Sin embargo, esto podría ser muy peligroso en términos generales.
- Al asegurar que será antes de lo que pensamos, parece que ya estarían probando una versión capaz de ello.
Fuente info
Autor: Esteban García Marcos
[su_divider]