Meta corrige a su asistente de IA tras sugerir preguntas íntimas sobre los hijos de una usuaria en Instagram

El asistente de inteligencia artificial integrado en Facebook e Instagram, desarrollado por Meta, quedó en el centro de la polémica luego de que ofreciera preguntas de carácter personal sobre los hijos de una usuaria a partir de publicaciones accesibles en la red social. La compañía reconoció públicamente el error y confirmó que ajustó el funcionamiento de la herramienta para impedir que ese tipo de sugerencias vuelva a aparecer.

Cómo se desencadenó el episodio

El caso se originó cuando una usuaria de Instagram compartió un video en el que se la veía cantando junto a su hijo dentro de un automóvil. Debajo de esa publicación, el sistema automatizado de Meta propuso como consulta la pregunta: «¿Quién es el niño pasajero?». Al activar esa sugerencia, el chatbot comenzó a desplegar información sobre las hijas de la mujer, con referencias a su edad y al lugar de residencia de la familia.

La usuaria sostuvo, además, que la herramienta le exhibió fotografías de sus hijas que habían sido publicadas con anterioridad en la plataforma, incluida una imagen que, según su propio relato, había sido borrada años atrás. De acuerdo con su versión, el asistente cruzó datos provenientes de sus publicaciones y de las de otros familiares para construir las recomendaciones.

• Meta admitió que el asistente «se equivocó» y que nunca debería haber sugerido ese tipo de preguntas.
• La empresa aclaró que el sistema no accede a contenido privado: opera solo sobre información que el usuario ya puede ver.
• El problema estuvo en la interpretación de datos públicos, no en el acceso indebido a archivos privados.
• La compañía asegura que ya corrigió el comportamiento que generaba esas recomendaciones.

“«Se equivocó», sostuvo Dina El-Kassaby, portavoz de Meta, al confirmar que la función «nunca debería haber sugerido ese tipo de preguntas al usuario».”Dina El-Kassaby, portavoz de Meta

Qué cambió y qué se discute

Desde Meta explicaron que el asistente fue concebido para aportar contexto adicional sobre el contenido que los usuarios están visualizando dentro de la plataforma. El inconveniente, según reconocieron, radicó en que el sistema aplicó esa misma lógica sobre datos personales y familiares sin los filtros adecuados, lo que derivó en sugerencias invasivas. La compañía aseguró que trabaja para que las recomendaciones continúen siendo útiles al explorar publicaciones, pero sin avanzar hacia interrogantes sobre la vida privada o el entorno cercano de las personas.

El episodio no es aislado dentro de la empresa. En julio pasado, Meta ya había retirado una función que permitía generar imágenes falsas de otros usuarios de Instagram, tras recibir cuestionamientos similares por el uso indebido de herramientas de inteligencia artificial.

El caso reabrió el debate sobre los límites que deben tener los asistentes virtuales cuando procesan información personal, aun cuando se trate de datos que el usuario ya expuso de manera pública en sus redes. La discusión combina dos ejes: la capacidad de los modelos de IA para vincular publicaciones dispersas y construir perfiles detallados, y la responsabilidad de las plataformas de establecer filtros que eviten que esa potencia técnica se traduzca en intromisiones a la vida privada, en particular cuando hay menores involucrados.