Muse construye fichas sobre la familia, la pareja y los amigos cada una hora
Un investigador logró sacarle a la Meta AI las instrucciones internas que usa para armar perfiles del entorno del usuario. La empresa dice que la información sale de lo público y de lo que uno comparte, y que el borrado está en manos de quien instaló el sistema. Las otras personas, por ahora, no tienen control.
Lo vimos todos: Muse, el asistente de inteligencia artificial de Meta, no se conforma con saber del usuario. También arma fichas detalladas de la gente que lo rodea. Familiares, parejas, amigos, compañeros de trabajo e incluso cuentas que uno sigue en redes sociales aparecen en un registro que se actualiza, según un investigador, cada una hora.
La perlita la destapó Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial, que con un pedido dentro del chat convencional consiguió que el bot le mostrara archivos con sus instrucciones internas. Ahí adentro aparece la rutina: levantar perfiles del entorno del usuario, con intereses compartidos, temas pendientes y hasta data sensible como cumpleaños, aniversarios, mudanzas, metas de ahorro en común y discusiones previas.
Qué guarda y de dónde lo saca
- Fichas de familiares, pareja, amigos, colegas y cuentas seguidas en redes.
- Registro progresivo del vínculo, intereses en común y asuntos pendientes.
- Fechas clave: cumpleaños, aniversarios y cambios de domicilio.
- Objetivos de ahorro compartidos y desacuerdos anteriores.
- Como condición, las instrucciones piden trabajar con evidencia y no inventar datos.
Desde Meta, el voceo Daniel Roberts reconoció el funcionamiento y lo justificó así: ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa. La empresa repite el libreto de siempre: la información sale de contenidos públicos y de lo que el propio usuario comparte, y cada persona cuenta con una máquina virtual separada, sin acceso para otros usuarios o agentes.
Acá está el truco que a uno lo deja pensando. Los controles para revisar la actividad, borrar la memoria y cortar los servicios externos connected están en manos del dueño de Muse. Es decir, de quien lo instaló. Las personas que aparecen en esas fichas, las que figuran con nombre, apodo y hasta con la fecha del cumple, no tienen palanca para pedir que las saquen del registro. Lo confirma el propio recorte del material que se publicó hoy.
Mientras tanto, en lo deportivo, el ojo ya se va al fixture del fin de semana. Pero la pregunta queda flotando, y no es menor: hasta dónde queremos que un asistente sepa de nuestra vida, y sobre todo, hasta dónde queremos que sepa de la vida de los que nos rodean sin que ellos puedan dar el OK.
