Los agentes de inteligencia artificial están diseñados para ejecutar tareas en nombre de los usuarios y, para ello, pueden conectarse a aplicaciones autorizadas como el correo electrónico, el calendario o los contactos. Sin embargo, el columnista tecnológico Jason Aten ha denunciado una situación inesperada con Muse, el nuevo agente de Meta.
Muse habría leído conversaciones de la aplicación Mensajes
Aten, usuario habitual de dispositivos de Apple, aseguró que Muse accedió a conversaciones privadas de la aplicación Mensajes tras instalar la herramienta en su iPhone y su Mac Mini. Según su relato, no había concedido un permiso explícito para que el agente pudiera consultar esos contenidos.
El periodista explicó que utilizar un agente de IA implica un determinado nivel de confianza, ya que estas herramientas resultan poco útiles si no pueden consultar archivos, interactuar con aplicaciones o comprender en qué está trabajando el usuario.
Una sugerencia que despertó las sospechas
Después de preguntar a Muse qué información tenía sobre él y recibir respuestas basadas en datos básicos localizados en internet, el agente comenzó a hacer recomendaciones que preocuparon a Aten.
Mientras mantenía una conversación privada sobre teléfonos móviles, recibió una notificación push de Muse. El agente le sugirió que aquella conversación podía convertirse en una buena columna y se ofreció a reunir información para redactarla. Además, le indicó un mensaje de su editor en el que le solicitaba tener una columna preparada para el lunes.
La explicación de Meta y la respuesta del columnista
Aten sostuvo que nunca autorizó expresamente a Muse a leer sus mensajes, revisar su calendario o entrar en otras aplicaciones con información personal. Al consultar al agente cómo había obtenido esos datos, Muse respondió que el texto de las notificaciones de un Mac emparejado se le transmite y que, en esencia, solo ve el contenido que aparecería en el propio banner de aviso.
Muse también afirmó que no puede abrir la aplicación Mensajes, desplazarse por las conversaciones ni consultar el historial. Según el agente, únicamente visualiza el flujo de notificaciones entrantes y no tiene acceso a los mensajes.
No obstante, Aten defendió que esa explicación no era correcta. Tras investigar los accesos de Muse, concluyó que la herramienta había sincronizado los mensajes desde la base de datos local de la aplicación.
Meta apunta a los controles de privacidad
En representación de la multinacional, David Singleton, miembro de Meta Superintelligence Labs, respondió a Aten en Threads. Singleton señaló que Muse fue desarrollado prestando especial atención a la seguridad y la privacidad, y recomendó revisar los controles de acceso a los datos que regulan el uso de la información de los usuarios de Mac por parte de Muse.
Para el columnista, si un agente de IA va a leer mensajes privados, debe existir un momento en el que pregunte de manera clara si el usuario acepta ese acceso. Aten concluyó que una herramienta de este tipo no debería sorprenderle con acciones que no ha solicitado.
Deja una respuesta