Una señora subió a Instagram un video cantando con su hijo en el auto, de esos clips intrascendentes que se graban en un semáforo. Nada raro. Lo raro vino después, cuando la inteligencia artificial de Meta, esa que viene metida dentro de Instagram y Facebook, decidió por su cuenta preguntarle quién era el niño que viajaba con ella. Como si no se notara a simple vista. Pero la cosa no terminó ahí: cuando la usuaria seleccionó la sugerencia, el chatbot empezó a escupir datos sobre sus hijas, la edad, el barrio donde viven, hasta una foto que la mujer asegura haber borrado hace años.

El episodio lo recogió el medio especializado Business Insider y volvió a poner a Meta en el centro de la conversación sobre qué puede y qué no puede hacer una IA cuando se topa con información personal. La portavoz de la compañía, Dina El-Kassaby, salió a admitir el quilombo sin demasiados rodeos: se equivocaron, dijo, y esa función nunca debería haber arrojado ese tipo de preguntas sobre un usuario.

Qué pasó realmente según Meta

La empresa aclaró un punto clave para no quedar como un Gran Hermano digital: su asistente, conocido como Meta AI, no accede a contenido privado al que el usuario no pueda llegar por su cuenta. O sea, no rompe cerraduras. Lo que hizo fue tomar información pública o visible para la propia usuaria —publicaciones suyas, de familiares, fotos compartidas— y mezclarla para fabricar sugerencias que terminaron siendo profundamente invasivas. El problema no fue entrar a un cuarto prohibido, fue asomarse a la ventana y empezar a hacer preguntas de.

• El disparador fue un video familiar subido a Instagram con un menor en el interior de un auto.
• La IA sugirió automáticamente la pregunta «¿Quién es el niño pasajero?» debajo de la publicación.
• Al abrir esa sugerencia, el chatbot ofreció datos sobre las hijas de la usuaria: edad y lugar de residencia.
• También mostró fotografías de las menores, incluida una que la mujer asegura haber eliminado años atrás.
• Meta reconoció el error y prometió cambios para que el asistente no derive hacia preguntas íntimas o familiares.

“Nos equivocamos. Esta función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

La función original tiene una lógica razonable: ayudarte a entender qué estás mirando en la plataforma. Si ves una foto de un monumento o de un cantante, el asistente te tira datos al costado para darte contexto. Lo que la IA de Meta no supo medir es cuándo ese contexto deja de ser útil y empieza a ser una intromisión. Un video de un padre con su hijo en el auto no es material de archivo periodístico: es vida privada, aunque esté subido a una red social.

No es la primera vez que Meta tiene que salir a apagar incendios por sus herramientas de inteligencia artificial. En julio pasado retiró una función que permitía generar imágenes falsas de otros usuarios de Instagram, después de que el sistema empezara a producir escenas incómodas, por decirlo suave. La compañía repite un patrón: lanza, recibe el cachetazo, corrige. Mientras tanto, los usuarios somos el conejillo de indias.

Mi consejo, mientras la empresa termina de ajustar la herramienta: si no querés que una IA te arme un perfil sobre tu familia a partir de lo que subís, revisá quién tiene acceso a tus publicaciones. Perfil privado, lista de seguidores curada, y borrá lo que ya no quieras dando vueltas por ahí. La tecnología todavía no aprendió a preguntar antes de meterse, así que conviene poner uno los límites a mano.