La IA de Meta se mandó una macana: le sacó datos de los hijos a una usuaria y ahora la empresa sale a dar explicaciones

Lo vimos todos, o por lo menos lo vimos todos los que usamos Instagram: una madre subió un video cantando con su hijo en el auto, como cualquiera, y la inteligencia artificial de Meta le saltó con la pregunta de marras: ¿quién es el nene que va de acompañante? Hasta ahí, parecía una curiosidad del algoritmo. El problema empezó cuando la usuaria seleccionó esa sugerencia y el chatbot le empezó a escupir datos sobre sus hijas, edad incluida, y hasta fotos de las pibas que ella misma aseguraba haber borrado hace años.

La chica contó que el sistema no solo se cebó con sus publicaciones, sino que también cruzó información de familiares para armar el perfil. O sea, la IA juntó lo que había en su cuenta con lo que habían subido otros miembros de la familia y armó un cocktail bastante invasivo. La propia Meta salió a poner las cosas en su lugar a través de su vocera Dina El-Kassaby: "Nos equivocamos. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario", reconoció la portavoz de la empresa.

Qué pasó adentro del sistema

Desde la compañía aclararon que el problema no fue acceder a datos privados a los que la gente no tiene permiso. La IA solo trabaja con lo que el usuario ya puede ver en la plataforma. La macana estuvo en cómo el sistema interpretó y relacionó esa información para terminar sugiriendo preguntas sobre la vida íntima y familiar de las personas, sin los filtros adecuados. La función, en teoría, está pensada para ayudar a darle contexto a lo que uno está mirando, pero se les fue de las manos cuando la lógica se aplicó sobre datos sensibles.

• Publicación de la usuaria: un video cantando con su hijo en el auto.
• Sugerencia automática del chatbot: "¿Quién es el niño pasajero?".
• Respuesta del sistema: ofreció datos sobre las hijas, edad y lugar de residencia.
• Reclamo de la madre: aparecieron fotos que ella decía haber eliminado.
• Respuesta de Meta: reconoció el error y aseguró que ya corrigió el comportamiento.
• Antecedente: en julio la empresa había retirado una función que permitía crear imágenes falsas de otros usuarios.

Lo más fuerte del caso es que la madre asegura que entre el material que el chatbot le mostró había una foto de sus hijas que ella había borrado tiempo atrás. Si eso se confirma, el tema deja de ser una sugerencia desafortunada y pasa a ser un problema serio de manejo de datos. Meta, por ahora, se limitó a decir que el sistema trabaja sobre información disponible para el usuario, sin aclarar del todo por qué apareció una imagen que, según el relato, no debería estar visible.

“"Nos equivocamos. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario".”Dina El-Kassaby, portavoz de Meta

Esta no es la primera vez que Meta queda en el ojo de la tormenta por sus herramientas de inteligencia artificial. En julio pasado, la empresa había retirado una función que dejaba crear imágenes falsas de otros usuarios de Instagram, después de que la llovieran las críticas. El patrón empieza a ser claro: cada vez que la IA se mete con la vida personal de la gente, la compañía termina retrocediendo a los apurones. La diferencia es que esta vez el caso involucra a menores de edad, y eso cambia todo el escenario. A mí, como viejo lector de estas cosas, me queda una sensación amarga: cada vez que una aplicación sabe demasiado sobre nosotros, más vale tener el botón rojo a mano. Y mientras tanto, el fixture del fin de semana sigue: el sábado juegan River y Boca por el torneo local, y el domingo hay que mirar la fecha de la Fórmula 1. Pero eso, al menos, no le cuenta a nadie cuántos hijos tenés.