Check Point y NVIDIA se unen para frenar los riesgos de los agentes de IA autónomos
La autonomía de los agentes inteligentes ha abierto un frente crítico en ciberseguridad. Cuando un agente de inteligencia artificial ejecuta múltiples pasos para resolver un problema, las herramientas tradicionales de inspección puntual (como analizar un único prompt o una respuesta aislada) resultan insuficientes para detectar desviaciones maliciosas o fallos de comportamiento.
Para resolver este punto ciego, Check Point Software Technologies y NVIDIA han anunciado una integración tecnológica que combina la supervisión semántica basada en IA con la plataforma de ejecución segura NVIDIA Open Agent Safety y su entorno OpenShell.
El desafío: cuando cada paso parece correcto, pero el resultado no lo es
Un agente de IA diseñado para gestionar facturas necesita leer documentos, acceder a bases de datos de proveedores e iniciar flujos de pago aprobados. Individualmente, cada permiso es legítimo. Sin embargo, si ese mismo agente comienza a listar credenciales o a transferir archivos confidenciales hacia destinos no autorizados, el problema no es una llamada puntual no permitida, sino una anomalía en su comportamiento a lo largo del tiempo.
Steve Giguere, Principal AI Security Advocate en Check Point Software Technologies, resume el reto: “Asignar un objetivo a un agente de IA no garantiza que este siga una ruta aceptable para alcanzarlo. Comprender la intención y el comportamiento, y actuar en consecuencia en tiempo real, es fundamental para proteger la IA autónoma”.
Cómo funciona la solución conjunta
La colaboración integra dos capas de defensa complementarias: la aplicación de políticas a nivel de infraestructura y la evaluación contextual en tiempo real.
- Aislamiento en la infraestructura con NVIDIA OpenShell: OpenShell actúa como un entorno de ejecución abierto que restringe lo que un agente puede ver, ejecutar y hacia dónde dirige su inferencia. Bajo un modelo de privilegios mínimos (por defecto nada está permitido), las políticas se aplican fuera del proceso del agente. Además, NVIDIA Sentry (apoyado en DPUs NVIDIA BlueField y DOCA) añade monitorización fuera de banda a nivel de hardware, asegurando que el control persista incluso si el host se ve comprometido.
- Monitorización semántica en menos de 100 ms: Check Point conecta su motor de supervisión directamente al middleware de NVIDIA OpenShell. Antes de que cualquier acción del agente llegue al host, el sistema analiza sus llamadas a herramientas, razonamientos y acciones previas frente a la tarea original asignada. Todo este análisis de intencionalidad se toma en menos de 100 milisegundos.
Respuestas proporcionales en la fábrica de IA
Los agentes destacan precisamente por encontrar soluciones no previstas. Por ello, las medidas de mitigación no se limitan a bloquear procesos indiscriminadamente. La integración permite aplicar respuestas graduadas según el contexto del incidente:
- Registro preventivo de la actividad anómala para auditoría.
- Retención de acciones a la espera de aprobación humana si se detectan parámetros sospechosos.
- Detención inmediata del agente si abandona su tarea o intenta interactuar con sistemas críticos de producción.
Al basarse en un ecosistema abierto y colaborativo a través de la comunidad de OpenShell, Check Point y NVIDIA buscan establecer un estándar robusto para que las organizaciones desplieguen agentes autónomos sin comprometer la seguridad corporativa.
