Inteligencia artificial

Agentes de IA: cómo diseñarlos con seguridad desde el principio

Los agentes de IA ganan autonomía, pero también riesgos. Estas claves de seguridad desde el diseño ayudan a limitar errores, ataques y permisos excesivos.

Ana Blanco Vigo
16 de nov. de 2026
4 min de lectura
Seguridad, Noticias
Photo by Numan Ali / Unsplash

Los agentes de inteligencia artificial ya no se limitan a responder preguntas: pueden consultar bases de datos, usar herramientas internas y ejecutar tareas con bastante autonomía. Esa capacidad los hace útiles, pero también multiplica el impacto de un fallo, una instrucción maliciosa o un permiso concedido de más.

Kaspersky ha publicado una guía centrada en aplicar la seguridad desde el diseño y el concepto de ciberinmunidad al despliegue de estos sistemas. El mensaje de fondo es razonable: no basta con pedir al modelo que sea prudente. Si un agente puede actuar sobre recursos reales, sus límites deben formar parte de la arquitectura y poder comprobarse de forma determinista.

Por qué un agente de IA requiere un enfoque distinto

Un chatbot tradicional suele quedarse en la conversación. Un agente, en cambio, recibe un objetivo, decide una secuencia de pasos y utiliza herramientas para completarlo. Puede leer documentos, abrir una petición a una API o modificar la configuración de un servicio, según los permisos que se le hayan otorgado.

El problema es que los modelos de lenguaje no se comportan como un programa convencional. Sus respuestas son probabilísticas y no siempre separan bien una instrucción legítima de datos externos que intentan manipularla. Una página web, un correo, un documento o incluso un campo de configuración pueden contener una inyección de instrucciones diseñada para desviar al agente.

La autonomía no puede equivaler a carta blanca

La guía parte de tres premisas útiles: el modelo no debe considerarse fiable por defecto; cualquier dato externo debe tratarse como potencialmente hostil; y una acción irreversible no debería ejecutarse automáticamente sin una aprobación humana bien informada. No es una invitación a frenar toda automatización, sino a decidir qué puede hacer el agente por sí solo y qué necesita un control adicional.

Este último punto cobra importancia cuando la IA trabaja con credenciales, dinero, infraestructura o información sensible. Automatizar una consulta de inventario no tiene el mismo riesgo que aprobar un pago, borrar datos o cambiar la configuración de producción. Mezclar ambos casos bajo el mismo permiso es una receta para los sustos.

Las barreras que deberían estar en el diseño

La seguridad desde el diseño no consiste en añadir un aviso al final del proyecto. Implica definir desde el principio qué recursos puede tocar el agente, desde dónde se ejecuta y quién valida una escalada de privilegios. Entre las medidas que destaca Kaspersky hay varias que encajan con prácticas de seguridad conocidas, pero adaptadas a un software que toma decisiones con cierta autonomía.

  • Mínimo privilegio: cada agente debe tener una identidad y unas credenciales propias, con acceso solo a lo imprescindible para su tarea.
  • Denegación por defecto: si una llamada a una herramienta, una conexión de red o una interacción entre agentes no está expresamente permitida, debe bloquearse.
  • Aislamiento: los entornos de ejecución, las herramientas y los agentes entre sí han de mantenerse separados mediante sandboxes, máquinas virtuales o controles equivalentes.
  • Defensa en profundidad: un filtro de instrucciones o la alineación del modelo pueden ayudar, pero no deben ser la única barrera. Las decisiones críticas necesitan controles independientes.
  • Cadena de suministro controlada: bibliotecas, habilidades y extensiones instaladas por un agente requieren listas cerradas de componentes y versiones autorizadas.

Separar contextos también reduce el daño

Un diseño interesante es dividir las tareas entre varios componentes con información diferente. Por ejemplo, un agente puede preparar un cambio de código a partir de una solicitud externa y otro revisarlo sin recibir esa solicitud original. Así se limita la posibilidad de que una instrucción oculta en el texto de entrada llegue intacta al agente que tiene permiso para aprobar o desplegar.

La misma lógica se aplica a las herramientas: un modelo no debería poder invocar directamente cualquier comando, servidor MCP o servicio interno solo porque está disponible en el equipo. Las pasarelas de políticas, los permisos de corta duración y los registros de actividad reducen la superficie expuesta y facilitan investigar qué ha ocurrido si algo sale mal.

Los puntos débiles que se pasan por alto

Uno de los riesgos menos vistosos es la fatiga de aprobación. Si una herramienta pide confirmación decenas de veces al día, la persona responsable puede acabar pulsando «Aprobar» por inercia. Las solicitudes deben ser poco frecuentes, claras y concretas: qué se va a hacer, sobre qué recurso, con qué efecto y por qué es necesario. Una ventana de aviso interminable se ignora; una demasiado breve puede esconder el detalle relevante.

También conviene desconfiar de las listas de permitidos que nadie mantiene. Restringir una herramienta web a dominios autorizados es útil, pero una excepción olvidada o una integración secundaria puede abrir una vía inesperada. Kaspersky menciona el caso EchoLeak como recordatorio de que los controles aislados pueden eludirse cuando el sistema combina varias herramientas y servicios.

Por último, la velocidad del ecosistema juega en contra. Marcos de agentes, conectores y asistentes de programación reciben actualizaciones constantes y ya han acumulado vulnerabilidades relevantes. Para cada caso, una solución pequeña con las funciones necesarias suele ser más fácil de auditar que una plataforma enorme con capacidades que el equipo no va a usar.

Qué deberían priorizar los equipos técnicos

Antes de poner un agente en producción, conviene elaborar un inventario: qué agentes existen, qué datos ven, qué herramientas usan, dónde se ejecutan y qué acciones pueden desencadenar. A partir de ahí, los equipos de desarrollo y seguridad pueden acordar un nivel de autonomía asumible para cada caso, en lugar de tratar todas las automatizaciones como si tuvieran el mismo riesgo.

La observabilidad completa el planteamiento. Registrar solicitudes, respuestas, llamadas a herramientas, decisiones de autorización y telemetría del entorno permite detectar comportamientos anómalos y reconstruir un incidente. No significa almacenar sin criterio información sensible, sino definir registros útiles, protegidos y con una política de retención clara.

La IA agéntica puede ahorrar trabajo repetitivo y acelerar procesos, pero no elimina la necesidad de diseñar controles. Cuanto más margen de actuación se conceda al sistema, más importante será que sus fronteras sean técnicas, visibles y difíciles de saltar. La seguridad no es un botón que se activa después del despliegue: en este tipo de herramientas, es parte del producto.

Vía: Kaspersky