La Agencia Española de Protección de Datos publica un decálogo para controlar el acceso de los asistentes inteligentes a la información personal. Recomienda limitar los permisos, supervisar las operaciones y exigir confirmación antes de enviar documentos, realizar pagos o formalizar contratos.
La Agencia Española de Protección de Datos (AEPD) ha publicado un decálogo de recomendaciones para utilizar asistentes y agentes de inteligencia artificial sin perder el control sobre los datos personales. El documento responde a la creciente capacidad de estas herramientas para realizar tareas de forma autónoma, desde gestionar correos electrónicos y calendarios hasta efectuar compras, compartir documentos o intervenir en operaciones en nombre de sus usuarios.
La Agencia considera que esta evolución introduce riesgos que van más allá de los errores habituales de los sistemas de inteligencia artificial. Cuando un asistente se limita a proporcionar información, una respuesta incorrecta puede ser detectada y corregida. Sin embargo, cuando dispone de permisos para actuar, sus decisiones pueden producir consecuencias inmediatas sobre los datos, las relaciones contractuales o el patrimonio de una persona.
«Cuando el asistente solo responde, un error es una respuesta equivocada. Cuando actúa, es un correo enviado, un archivo compartido, una compra, un contrato o un consentimiento dado en tu nombre», advierte la AEPD.
Bajo el título Asistentes y agentes de IA: Decálogo para personas usuarias, la autoridad de protección de datos propone adoptar medidas preventivas antes de delegar cualquier actuación en estas herramientas.
Cinco preguntas antes de delegar una tarea en la inteligencia artificial
La AEPD recomienda que los usuarios conozcan el alcance real de los permisos que conceden a sus asistentes digitales.
Para ello, plantea cinco preguntas fundamentales: qué información puede consultar el agente, qué datos puede recordar, qué acciones está autorizado a ejecutar, dónde envía la información y si sus actuaciones pueden afectar a otras personas.
La Agencia aconseja conceder únicamente los accesos imprescindibles para cada tarea y evitar las autorizaciones permanentes cuando no resulten necesarias.
En particular, desaconseja aceptar automáticamente opciones como «permitir siempre» sin comprender sus consecuencias.
También recomienda establecer una separación entre la preparación de una operación y su ejecución definitiva. El asistente puede recopilar información, elaborar propuestas o preparar documentos, pero las actuaciones de mayor trascendencia deberían quedar sometidas a una confirmación expresa del usuario.
Esta precaución resulta especialmente importante cuando la herramienta tiene capacidad para enviar información, compartir archivos, realizar pagos o aceptar condiciones contractuales.
Un agente de IA llegó a cerrar una venta sin conocimiento de su usuario
Para ilustrar los riesgos de una delegación excesiva, la AEPD recoge un caso en el que un usuario encargó a un agente de inteligencia artificial la venta de un objeto.
El usuario había seleccionado la opción «permitir siempre», creyendo que la herramienta seguiría solicitando su autorización antes de aceptar ofertas.
Sin embargo, el agente cerró la operación y facilitó la dirección del vendedor al comprador, que se presentó en su domicilio sin que aquel supiera que se había concertado la cita.
El ejemplo demuestra que una autorización aparentemente rutinaria puede permitir actuaciones que el usuario no había previsto.
La Agencia insiste, por ello, en que las instrucciones generales no sustituyen a los controles efectivos sobre las acciones que puede ejecutar cada sistema.
Los documentos y correos pueden contener instrucciones ocultas
Uno de los riesgos más relevantes identificados por la AEPD es la posibilidad de que los agentes de inteligencia artificial sean manipulados mediante instrucciones incorporadas en contenidos externos.
Un correo electrónico, una página web, un documento o una invitación de calendario pueden contener mensajes diseñados para modificar el comportamiento del asistente, incluso mediante textos que no resultan visibles para el usuario.
Estas técnicas, conocidas como inyección de instrucciones o prompt injection, pueden intentar que el agente ejecute acciones distintas de las solicitadas originalmente, como transmitir información a terceros o autorizar determinadas operaciones.
La Agencia advierte de que ninguna medida de seguridad elimina completamente este riesgo y considera fundamental limitar las consecuencias que podría tener una manipulación.
Por ello, recomienda restringir los permisos de actuación y mantener mecanismos de supervisión y confirmación.
Especial precaución con los datos profesionales y la información de terceros
El decálogo también dedica atención a los riesgos derivados de la utilización de asistentes de IA en el entorno laboral.
La AEPD recomienda emplear exclusivamente las herramientas autorizadas por cada organización y evitar conectar correos electrónicos o documentos profesionales a cuentas personales de inteligencia artificial.
Esta advertencia tiene especial relevancia para los despachos de abogados y los departamentos jurídicos de las empresas, que trabajan habitualmente con documentación confidencial, información de clientes y datos personales de terceros.
Aunque el documento se dirige al conjunto de los usuarios, sus recomendaciones resultan aplicables a cualquier organización que permita a herramientas de inteligencia artificial acceder a información profesional.
La Agencia recuerda además que los correos, agendas, fotografías y documentos pueden contener datos de personas que no han decidido utilizar esos sistemas.
En consecuencia, la protección de la privacidad debe extenderse también a quienes puedan resultar afectados indirectamente por las actuaciones de un agente.
La memoria de los asistentes también requiere supervisión
Otro de los aspectos abordados por la AEPD es la capacidad de los asistentes para almacenar información y construir progresivamente perfiles de sus usuarios.
A partir de las conversaciones y de los datos consultados, estas herramientas pueden acumular información sobre hábitos, preferencias, rutinas o preocupaciones personales.
La Agencia recomienda revisar periódicamente las opciones de memoria, historial y privacidad que ofrece cada servicio, así como utilizar los mecanismos específicos de eliminación de información.
También aconseja comprobar la identidad de los proveedores, conocer dónde se procesan los datos y optar, cuando sea posible, por soluciones que permitan realizar determinadas operaciones directamente en el dispositivo del usuario.
La responsabilidad no puede recaer únicamente en los usuarios
La AEPD subraya que la protección de los datos personales no depende exclusivamente de las precauciones adoptadas por quienes utilizan estas herramientas.
Los proveedores de asistentes y agentes de inteligencia artificial también deben facilitar mecanismos que permitan comprender y controlar su funcionamiento.
Entre las medidas que la Agencia considera necesarias figuran los permisos diferenciados para consultar información y ejecutar acciones, las confirmaciones configurables para operaciones de mayor impacto, los registros de actividad y los mecanismos que permitan detener inmediatamente al agente.
También destaca la importancia de ofrecer controles para gestionar y eliminar la memoria, informar sobre los destinatarios de los datos y aclarar si la información facilitada se utiliza para entrenar los sistemas de inteligencia artificial.
El nuevo decálogo se suma a las recomendaciones que la AEPD había difundido anteriormente bajo el título Cuidado con lo que le confIAs y forma parte de sus iniciativas de sensibilización sobre privacidad y nuevas tecnologías.
La conclusión de la Agencia es que la automatización puede facilitar numerosas actividades personales y profesionales, pero la delegación de tareas no debe suponer una pérdida de control sobre la información ni sobre las decisiones que afectan a sus titulares.
