El ingeniero experto en IA Gary Marcus ha publicado en su blog un extenso artículo detallando las razones de por qué le preocupa la situación actual con las IA. Y no está solo en su preocupación.
Empiezan a llegar algunas voces disidentes muy altas en torno al desarrollo y la locura general en la que estamos sumidos con las inteligencias artificiales, con ChatGPT y OpenAI de nuevo en el ojo del huracán. Esta vez las críticas no llegan de sectores de la población preocupados por su puesto de trabajo, sino de un ingeniero especialista en IA llamado gary Marcus.
Tal y como el propio Marcus ha publicado en su blog, su preocupación por la evolución de las IAs está llegando a niveles muy altos. El ingeniero ha dejado claro que la situación actual le asusta mucho; una congoja a la que no ayuda la vorágine actual en la que GPT-5 podría alcanzar la Inteligencia Artificial General, ganando muchas características propias de los seres humanos.
Lo que da miedo no es la IA, sino el ser humano
Los humanos no estamos ayudando a crear IAs fiables, que no sean potentes y atolondradas
Esto mismo fue lo que dijo el CEO de OpenAI cuando declaró en una entrevista que era bueno tenerle miedo a las IA, añadiendo que lo que le preocupaba en su mayor parte era la proliferación de la desinformación. También dijo estar preocupado por «en manos de qué seres humanos» acababan cayendo las IA.
A Gary Marcus no sólo le preocupa la desinformación y la proliferación de noticias falsas, sino también lo fácil que puede resultar crackear Bing para aprovecharse de la IA que Microsoft ha asociado al buscador y que le está ayudando a plantar cara a Google en su propio terreno. Marcus cree que la seguridad no se está cuidando lo suficiente.
Por otro lado, Marcus es uno de los más de 50.000 firmantes de una carta abierta que pide parar los experimentos con IA, al menos momentáneamente. El ingeniero la firmó preocupado por el aumento de intereses propios dentro del desarrollo y auge de las IA, especialmente ChatGPT, señalando a Microsoft y Satya Nadella en particular como grandes culpables del asunto. No en vano, vale la pena recordar que los de Redmond incurrieron en una práctica altamente cuestionable al despedir a todo el equipo de ética de IA.
En dicha carta se incluía el siguiente párrafo, apelando a la ética de la investigación con modelos de inteligencia artificial:
La investigación sobre IA y su desarrollo se debería reenfocar en hacer los poderosos y ultramodernos sistemas de hoy más precisos, seguros, interpretables, transparentes, robustos, alineados, fiables y leales.
Con un mission statement como este nadie en su sano jucio se debería oponer a pausar los experimentos con inteligencia, según Marcus. También, en sus propias palabras, los modelos de lenguaje son «elefantes en una cacharrería»: potentes, atolondrados y difíciles de controlar. Hacer sistemas que fuesen como los descritos en la carta abierta deberían ser una prioridad para todo el mundo. Es puro sentido común, ¿no?
El pueblo contra la regulación de la IA
Una inteligencia artificial autoconsciente e inteligente sería catastrófica para la raza humana
El problema es que, en Internet al menos, el sentido común es el menos común de los sentidos. Desde que Marcus dijo haber firmado la carta y su contenido se hizo público, no han sido pocas las voces que han intentado desautorizar a todos los expertos en IA que la firmaron, incluyendo al protagonista de este artículo.
Un buen montón de supuestos éticos de la IA han publicado una contracarta, tildando de locura la preocupación de quienes abogan por pausar los experimentos con IA y que, según Gary Marcus, andan «buscando sangre en lugar de intentar encontrar un punto en común».
El ingeniero también lamenta que no existan estructuras de control que ayuden a regular la investigación, desarrollo y explotación de la tecnología para fines que puedan hacer avanzar realmente a la sociedad, sin crear mayores desigualdades, ni servir sólo a los intereses de unos pocos.
De acuerdo con lo expuesto por el ingeniero, el miedo real no es tanto a las capacidades a las que puedan llegar los modelos de lenguaje en particular o la IA en general, sino al uso mercantil y deseo de experimentación sin límite que, según su visión, están plagando el sector ahora mismo. Todo esto podría tener graves consecuencias a largo plazo, con las capacidades de Inteligencia Artificial General como ítem de mayor preocupación, temiendo que una IA nos acabase superando a todos y dejase de obedecernos.
Sea como fuere, Gary Marcus no es el único que ha expresado sus preocupaciones en un artículo. Otro ingeniero experto en IA, Eliezer Yudkowsky, ha publicado otra extensa entrada en la que va más allá: asegura que una Inteligencia Artificial con conciencia plena acabaría matándonos a todos.
Según las conclusiones de este experto, una IA sobrehumanamente inteligente acabaría convirtiéndose en la contrapartida real de Skynet, acabando con toda la vida inteligente sobre la faz de la tierra. No como una posibilidad, sino con la certeza absoluta de que algo así acabaría ocurriendo. Es una obviedad para este experto, no cabe otra conclusión.
Lo que parece estar meridianamente claro es que la polémica está servida entre quienes defienden una idea y otra. El debate va a seguir abierto mucho tiempo. Esperemos que no sea un debate estéril, al menos.
Fuente info
Autor: Sergio Agudo
Kingston A400 SSD Disco duro sólido interno 2.5" SATA Rev 3.0, 480GB - SA400S37/480G Por solo 29,49 € 25,00 €
Toshiba 4TB Canvio Basics Portable External Hard Drive,USB 3.2. Gen 1, Black (HDTB440EK3AA) Por solo 95,28 € 95,27 €
HP DeskJet 3762 T8X23B, Impresora Multifunción A4, Imprime, Escanea y Copia, Wi-Fi Direct, USB 2.0, HP Smart App, Incluye 4 Meses del Servicio Instant Ink, Verde Agua Por solo 84,90 € 51,99 €
Mini Proyector Portátil con Tripode, 6500 Lumens Videoproyector Soporta HD 1080P, AKIYO O1 Proyector Portátil Cine en Casa, para Movil/Teléfono/PC/PS4/TV Stick/HDMI, Regalo para Niños Por solo 79,99 € 69,99 €
【Apple Certificado MFi】Cargador rápido de Pared para iPhone 20W PD Tipo C con 2M Cable USB C a Lighting Compatible con iPhone 13/13 Pro Max/13Pro/12/12 Pro Max/12Pro/SE/11/XR/XS Max/X/8 Plus/8/iPad Por solo 16,99 €
16,99 €
SanDisk Tarjeta microSDXC Extreme de 128 GB + adaptador SD + RescuePRO Deluxe de hasta 190 MB/s, con rendimiento de aplicación A2, UHS-I, Clase 10, U3, V30 Por solo 20,99 € 19,36 €
Memoria USB 982GB USB 3.0 Impermeable Pendrive 982GB Metal Memory Stick para PC/Ordenador/Ordenador portátil Almacenamiento de Datos Por solo 19,99 €
19,99 €
Aweskmod Adaptador HDMI, RCA A HDMI, Adaptador Euroconector a HDMI para TV, Adaptador Wii HDMI, Soporte 1080P con Cable de Alimentación USB para Wii PS2 Gamecube VHS Camara Laptop DVD Proyector Por solo 8,99 € 7,99 €
fanxiang S770 2TB PCIe 4.0 NVMe M.2 SSD Unidad Interna de Estado sólido-con disipador de Calor, configurar DRAM, hasta 7300 MB/s, Compatible con PS5, computadora portátil, computadora de Escritorio Por solo 129,99 € 116,99 €
SanDisk SDSQUA4-032G-GN6MA Ultra 32 GB - Tarjeta de memoria microSDHC + Adaptador SD, Velocidad de lectura de hasta 120 MB/s, Clase 10, U1, Rojo /Gris Por solo 8,56 € 6,90 €
Apple Ordenador PortáTil MacBook Air (2020): Chip M1, Pantalla Retina de 13 Pulgadas, 8 GB de RAM, SSD de 256 GB, Teclado retroiluminado, cáMara FaceTime HD, Sensor Touch ID, Color Oro Por solo 1.219,00 € 999,00 €
WE LOVE KATAMARI REROLL + Royal Reverie Por solo 31,99 € 29,90 €
982GB USB Flash Drive, USB 3.0 Flash Memory Stick para PC/portátil, 982GB Storage Drive Thumb Drive with Rotated Design Por solo 22,99 € 9,99 €
KIMISS Disco Duro Externo 1Tb Disco Duro Externo Abs 2.5 Pulgadas Usb3.0 Sata3.0 Alta Velocidad 6Gbps Caja de Disco Duro Móvil Admite Aceleración Uasp de 6Tb (Negro) (Rojo) Por solo 16,59 €
16,59 €
Perlegear Soporte TV de Pared Pantallas de 26-60 Pulgadas, Articulado Inclinable y Giratorio, hasta 45 kg, MAX VESA 400x400mm Por solo 38,99 € 32,99 €
Samsung Crystal UHD 2022 43AU7095 - Smart TV de 43", 4K, HDR 10+, Procesador 4K, PurColor, Sonido Inteligente, Función One Remote Control y Compatible Asistentes de Voz, Compatible con Alexa Por solo 320,99 €
320,99 €
Acer Aspire 3 A315-56 - Ordenador Portátil 15.6” Full HD (Intel Core i3-1005G1, 8GB RAM, 512GB SSD, UMA Graphics, Sin Sistema Operativo) Color Negro - Teclado QWERTY Español Por solo 429,00 € 349,00 €
