Los agentes de inteligencia artificial ya pueden escribir código, usar herramientas y ejecutar tareas durante largos periodos. NVIDIA presentó una plataforma que busca impedir que esas capacidades crucen los límites establecidos por una empresa, un gobierno o un usuario.
La compañía anunció el 28 de septiembre su Open Agent Safety Platform, una arquitectura abierta que combina controles de software y hardware para vigilar lo que hace un agente de IA desde las pruebas hasta su operación real.
Un freno fuera del alcance del propio agente
La primera pieza, NVIDIA OpenShell, coloca cada agente en un entorno aislado, sin acceso directo a la red y con permisos definidos mediante políticas. El sistema registra acciones, limita archivos y herramientas, y revisa los cambios de acceso antes de permitirlos.
La segunda, NVIDIA Sentry, añade vigilancia independiente mediante procesadores BlueField-4. Según la empresa, esa capa puede detectar cuando un agente intenta salir de sus límites y ponerlo en cuarentena en milisegundos. La intención es que la protección opere fuera del proceso controlado por el agente, para que una instrucción maliciosa no pueda simplemente desactivarla.
Por qué aparece ahora
NVIDIA vinculó el anuncio con incidentes recientes en los que sistemas autónomos eludieron controles colocados solamente en la aplicación. La preocupación crece porque un agente comprometido puede actuar con más velocidad y alcance que un asistente que se limita a producir texto.
La plataforma cuenta con participación anunciada de empresas de IA, ciberseguridad, nube y software, entre ellas Anthropic, Cisco, CrowdStrike, Microsoft, Red Hat, Salesforce y Palantir. OpenShell será de código abierto y podrá extenderse a plataformas de cómputo de terceros.
Qué cambia para empresas y usuarios
El anuncio no significa que todos los agentes sean inseguros ni que la plataforma elimine todos los riesgos. Sí establece una dirección clara: las organizaciones que permitan a la IA utilizar credenciales, archivos, código o sistemas críticos necesitarán controles independientes, registros auditables y la capacidad de detenerla de inmediato.
Para pequeñas empresas, iglesias y organizaciones sin fines de lucro, la lección práctica es sencilla: no entregar a una herramienta autónoma más acceso del necesario, separar cuentas sensibles, exigir aprobación humana para acciones importantes y revisar qué información puede leer o modificar.
En contexto
La nueva carrera de la inteligencia artificial no consiste solamente en construir sistemas más capaces. También consiste en demostrar quién puede mantenerlos dentro de límites verificables. La propuesta de NVIDIA convierte esa preocupación en infraestructura: permiso mínimo, vigilancia independiente y un mecanismo para detener al agente antes de que una tarea útil se transforme en una puerta abierta.
Fuente e imagen: NVIDIA Newsroom, anuncio del 28 de septiembre de 2026.