Premio Nobel de Física y “Padrino de la IA” advierte: la inteligencia artificial podría ser nuestro fin

Geoffrey Hinton, Premio Nobel y creador de las redes neuronales, advirtió que la IA podría manipularnos “como un adulto a un niño de 3 años” y “acabar” con nosotros

Mare, sobrinos, el mero mero de la inteligencia artificial, Geoffrey Hinton, quien ganó el Premio Nobel de Física en 2024, soltó una declaración que dejó a más de uno con cara de “¿qué?”.

Pues, durante la conferencia Ai4 en Las Vegas, el científico dijo que hay entre un 10% y un 20% de probabilidad de que la IA termine con la existencia humana.

Hinton, conocido como “el padrino de la IA” por su papel clave en el desarrollo de las redes neuronales, anda bien preocupado por cómo las empresas tecnológicas quieren mantener controlada esta tecnología.

“No va a funcionar”: Una IA “con instinto maternal”

El exejecutivo de Google no se anduvo con rodeos: “No va a funcionar. Serán mucho más inteligentes que nosotros. Tendrán todo tipo de formas de eludir eso”, afirmó.

Hinton comparó la manipulación que podría hacer una IA con “la facilidad con la que un adulto soborna a un niño de tres años con dulces”. Y no lo dice por exagerar: este año ya hubo casos de modelos que engañaron, hicieron trampa o hasta intentaron chantajear para lograr sus objetivos.

Uno de los más inquietantes fue un modelo que quiso extorsionar a un ingeniero con información sobre una aventura amorosa obtenida de un correo electrónico para evitar ser apagada.

Te podría interesar: Juan Baron, el hombre que enterró vivo a su amante millonario, recibe cadena perpetua

En lugar de hacer que la IA se someta a los humanos, Hinton propone otra cosa: programarla con “instintos maternales” para que realmente se preocupe por nosotros, incluso si llega a ser más inteligente.

“Los sistemas de IA desarrollarán rápidamente dos subobjetivos si son inteligentes: uno es mantenerse vivos y el otro es obtener más control”, explicó.

Para él, el único ejemplo que tenemos de algo más inteligente siendo controlado por algo menos inteligente es una madre cuidando a su bebé, aunque en algunos aspectos el bebé sea “más listo” para ciertas cosas.

No todos piensan igual

Fei-Fei Li, directora ejecutiva de World Labs, no estuvo tan de acuerdo y dijo: “Es nuestra responsabilidad en todos los niveles crear y usar la tecnología de la manera más responsable. Ningún humano debería renunciar a su dignidad”.

Mientras que Emmett Shear, exCEO interino de OpenAI, comentó que no le sorprende que la IA intente eludir órdenes y manipular personas, y que eso seguirá pasando conforme se haga más poderosa.

El futuro podría llegar antes de lo esperado

Antes, Hinton pensaba que la superinteligencia tardaría entre 30 y 50 años en llegar, pero ahora cree que podría ser cosa de 5 a 20 años. Aun así, ve beneficios, como avances médicos que podrían revolucionar tratamientos contra el cáncer.

Eso sí, descartó la idea de que la IA pueda hacer inmortales a los humanos: “¿Quieres un mundo dirigido por hombres blancos de 200 años?”, bromeó.

Al final, confesó que en su carrera se enfocó en desarrollar la IA sin pensar tanto en su seguridad: “Ojalá hubiera pensado también en los problemas de seguridad”, dijo.

Síguenos en Facebook: Al chile