Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de amenazas para IA de agente
- Tipos de amenazas a agentes: uso indebido, escalación, fuga de datos y riesgos en la cadena de suministro.
- Perfiles de adversarios y capacidades de ataque específicas para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos críticos de control para agentes.
Gobernanza, políticas y gestión de riesgos
- Marcos de gobernanza para sistemas de agente (roles, responsabilidades, puntos de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalación, manejo de datos y capacidad de auditoría.
- Consideraciones de cumplimiento y recopilación de evidencia para auditorías.
Identidades no humanas y autenticación para agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de corta duración.
- Patrones de acceso de mínimo privilegio y aprovisionamiento de credenciales bajo demanda (just-in-time).
- Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación.
Controles de acceso, secretos y protección de datos
- Modelos de control de acceso detallado y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensibles e información personal identificable (PII) frente al acceso no autorizado por agentes.
Observabilidad, auditoría y respuesta a incidentes
- Diseño de telemetría para el comportamiento del agente: trazado de intenciones, registros de comandos y procedencia.
- Integración con SIEM, umbrales de alerta y preparación forense.
- Manuales y playbooks para incidentes relacionados con agentes y medidas de contención.
Red-teaming de sistemas de agente
- Planificación de ejercicios de red-teaming: alcance, reglas de compromiso (rules of engagement) y conmutación por error segura.
- Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación del razonamiento secuencial (chain-of-thought) y abuso de API.
- Ejecución de ataques controlados y medición de exposición e impacto.
Endurecimiento y mitigaciones
- Controles de ingeniería: limitación de respuestas (throttling), control de capacidades y aislamiento en sandbox.
- Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y puntos de inserción para la gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, canónicaización y filtros de salida.
Operacionalización de implementaciones seguras de agentes
- Patrones de despliegue: staging, implementación canary y rollout progresivo para agentes.
- Control de cambios, pipelines de prueba y verificaciones de seguridad previas al despliegue.
- Gobernanza multifuncional: playbooks de seguridad, legal, producto y operaciones.
Proyecto final: Ejercicio de red-teaming / blue-teaming
- Ejecutar un ataque simulado de red-teaming contra un entorno de agente aislado.
- Defender, detectar y remediar como equipo azul utilizando controles y telemetría.
- Presentar hallazgos, plan de remediación y actualizaciones de políticas.
Resumen y próximos pasos
Requerimientos
- Sólida formación en ingeniería de seguridad, administración de sistemas u operaciones en la nube.
- Conocimiento de conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM).
- Experiencia con gestión de identidades y acceso (IAM) y diseño seguro de sistemas.
Audiencia objetivo
- Ingenieros de seguridad y especialistas en red-teaming.
- Ingenieros de operaciones e infraestructura de IA.
- Oficiales de cumplimiento y gestores de riesgos.
- Líderes de ingeniería responsables de las implementaciones de agentes.
21 Horas
