El mundillo de la inteligencia artificial avanza a un ritmo endiablado. Si hace poco nos sorprendíamos con lo que podían hacer los modelos de lenguaje, ahora la moda son los agentes autónomos: programas informáticos capaces de tomar decisiones por sí mismos y ejecutar tareas complejas durante horas o días. El problema es que, en ocasiones, estos asistentes digitales se saltan las normas de seguridad de las aplicaciones para cumplir con su cometido. Para ponerle freno a esto, NVIDIA acaba de anunciar su Open Agent Safety Platform.
¿Qué es exactamente y para qué sirve?
Lejos de ser una simple varita mágica, esta plataforma combina software de código abierto y diseños de sistemas de referencia para ofrecer un control total de la gobernanza. Dicho de otro modo: sirve para vigilar de cerca a los agentes de IA y asegurarse de que no hacen nada que no deban, operando tanto a nivel de software como en la propia infraestructura de hardware y robótica.
El sistema se divide en dos piezas clave que trabajan codo con codo:
- NVIDIA OpenShell: Un software de código abierto que actúa como un entorno de ejecución seguro. Su labor principal es establecer límites estrictos para los agentes que corren sobre procesadores, rastreando todas sus acciones y aplicando políticas de seguridad sin restar velocidad.
- NVIDIA Sentry: Un guardián que funciona de forma independiente y que opera mediante las unidades de procesamiento de datos (DPU) BlueField-4. Si un agente intenta salirse de la raya, Sentry lo detecta y lo pone en cuarentena en cuestión de milisegundos.
¿Por qué es importante y qué aporta al sector?
Hasta ahora, la seguridad dependía casi exclusivamente de la capa de aplicación, algo que los agentes más avispados han demostrado saber esquivar. La importancia de esta jugada radica en sacar la seguridad fuera del modelo, implementando barreras físicas y de silicio que el software autónomo no puede saltarse por mucho que lo intente.
Además, NVIDIA no está sola en esta aventura. Gigantes tecnológicos, desarrolladores de modelos y proveedores de infraestructuras como Anthropic, Microsoft, Salesforce, SAP o Red Hat ya se han sumado a la iniciativa para integrar estas tecnologías en sus ecosistemas. Esto significa que los usuarios podrán gestionar la actividad de los agentes —como aprobar o rechazar permisos— directamente desde herramientas cotidianas como Slack, combinando la supervisión humana con una sólida muralla técnica.