El domingo a la noche se me apagó el router. Tardé cuarenta minutos en reiniciar el módem, y durante ese rato me acordé de algo que dijo Geoffrey Hinton, el tipo al que muchos llaman el padrino de la inteligencia artificial: la humanidad está al mando de una tecnología mucho más lista que ella misma, pero sin volante. Como cuando sacás el auto a la ruta y se te rompe la dirección: más rápido, más lindo el paisaje, pero más probable el vuelco.

Hinton, que en 2024 se llevó el Nobel de Física por sus trabajos fundacionales en aprendizaje profundo, acaba de mover el termómetro del debate. En una serie de entrevistas recientes, el canadiense de 78 años calculó que existe entre un 10 % y un 20 % de probabilidades de que una inteligencia artificial superinteligente provoque la extinción de la especie humana en los próximos treinta años. Traducido al fútbol, es como si antes de salir a la cancha un DT le dijera a la prensa que hay entre una y dos chances sobre diez de perder el partido por goleada y quedar afuera del mundial.

De patrones a conceptos: lo que cambió

El argumento fuerte de Hinton no es el porcentaje, es el salto cualitativo. Según el científico, los grandes modelos de lenguaje, esos que están detrás de chatbots y asistentes, ya no se limitan a detectar patrones estadísticos en montañas de texto, como cuando Google autocompleta una búsqueda. Para él, esos sistemas ya comprenden los conceptos abstractos que procesan. Es la diferencia entre un loro que repite frases y un chico de cinco años que entiende lo que dice. Esa diferencia, dice, cambia la categoría del riesgo.

“Nunca nos enfrentamos a entidades más inteligentes que nosotros. Y el problema es que estamos dejando que se desarrollen sin ningún marco de control serio.”Geoffrey Hinton, Nobel de Física 2024

El mercado solo no alcanza

Acá aparece el punto donde Hinton se separa de los optimistas de Silicon Valley. Para muchos de sus colegas, la competencia entre Estados Unidos, China y Europa es razón suficiente para no frenar el desarrollo. El canadiense responde que confiar en la autorregulación del mercado ante una amenaza así es un error estratégico. Aclaremos la sigla AGI, que en inglés significa Artificial General Intelligence y se usa para nombrar a una IA con capacidad igual o superior a la humana en cualquier tarea: regularla, dice, es tan urgente como lo fue en su momento crear organismos de control aéreo o de seguridad nuclear.

La ventana para decidir, advirtió, se está cerrando. La humanidad todavía puede marcar la orientación ética de los sistemas que está construyendo, pero ese margen se achica a medida que los modelos ganan autonomía. Hinton dejó Google en 2023 justamente para poder hablar sin restricciones, un detalle que vale la pena recordar la próxima vez que alguien desde una Big Tech diga que no hay de qué preocuparse.

• Exigí a tu diputado o senador que cualquier proyecto de regulación de IA incluya auditoría externa obligatoria, no solo autorregulación empresaria.
• No te dejes engañar por el marketing: cuando una app te diga que 'entiende' lo que le pedís, asumí que tiene capacidades reales, no decorativas.
• Si trabajás en una empresa que usa modelos generadores de texto, imagen o código, pedí por escrito qué datos propios alimenta al sistema. No es paranoia, es sentido común.
• Leé una vez al mes a Hinton, a Yoshua Bengio y a las voces críticas, no solo los comunicados de prensa de las compañías que venden IA.

Mientras debatimos, los modelos siguen entrenándose con cada búsqueda, cada mail, cada foto que subimos. Hinton no dice que la tecnología sea mala en sí. Dice, con la autoridad de haberla parido, que estamos apretando el acelerador sin haber inventado todavía el volante. Y que el 2055, el horizonte que maneja, está mucho más cerca de lo que parece desde el asiento del conductor.