Reconocer que una factura corresponde al plomero contratado anteriormente o recordar las flores favoritas de una pareja son dos ejemplos del uso que Meta plantea para Muse. Para realizar esas tareas, el asistente reúne información sobre el usuario y las personas con las que se relaciona, explicó Daniel Roberts, vocero de la compañía.

Ese funcionamiento tiene controles que, de acuerdo con Meta, permiten revisar la actividad del agente mediante un registro de auditoría. Quien utiliza Muse también puede eliminar la información guardada en su memoria y cortar la conexión con los servicios externos que le aportan datos. Además, la empresa afirma que el sistema solicita confirmación antes de concretar acciones como mandar un correo electrónico o realizar una compra.

El alcance de esa memoria quedó expuesto en un hallazgo de Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial. Joshi consiguió que el chatbot compartiera archivos con sus instrucciones internas mediante un pedido dentro de la conversación habitual.

La documentación obtenida describe una rutina que se ejecuta cada hora y prepara fichas sobre familiares, parejas, amistades, colegas y otras personas, incluidas cuentas que el usuario sigue en redes sociales. Los registros incorporan progresivamente antecedentes del vínculo, intereses compartidos, asuntos pendientes y datos sobre la relación.

También pueden guardar cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y desacuerdos anteriores. Para hacerlo, debe haber información que respalde esos datos en las conversaciones o conexiones del usuario. Las instrucciones exigen trabajar con evidencia y no completar los perfiles con detalles inventados.

Roberts sostuvo que ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa. Según explicó, la información procede de contenidos públicos y de aquello que el usuario comparte. Meta también asegura que cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.

El control de la memoria, sin embargo, corresponde a quien instaló Muse. Las personas incluidas en las fichas no disponen de ese mismo control. Carissa Véliz, profesora del Instituto de Ética en Inteligencia Artificial de Oxford, advirtió que también importa lo que estos sistemas pueden deducir o reconstruir, más allá de los datos entregados explícitamente.

¿Qué información sobre tus vínculos compartirías con un asistente para que te ayude en tareas cotidianas?