Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
El Panorama de Amenazas de IA
- Por qué la seguridad de IA es diferente: no determinismo, razonamiento opaco y el prompt como superficie de ataque.
- Taxonomía de ataques: en tiempo de entrenamiento versus tiempo de inferencia versus ataques a la cadena de suministro.
- Modelo de adversario de ML: quién ataca a los sistemas de IA y por qué.
OWASP Top 10 para Aplicaciones LLM
- Inyección de prompts: vectores de ataque directos e indirectos.
- Manejo inseguro de la salida y falsificación de solicitudes entre plugins (cross-plugin request forgery).
- Envenenamiento de datos de entrenamiento y vulnerabilidades en la cadena de suministro.
- Denegación de servicio del modelo, divulgación de información sensible y agencia excesiva.
- Laboratorio práctico: explotación de cada categoría OWASP contra una aplicación de prueba.
Evaluación de Exposición en Inyección de Prompts y Jailbreak
- Taxonomía de técnicas de inyección: directa, indirecta, multihilo (multi-turn) y multimodal.
- Evaluación de exposición automatizada con Giskard, Garak y herramientas de fuzzing personalizadas.
- Clasificación de jailbreaks y evaluación de defensas.
- Creación de un marco de red teaming para pruebas continuas de seguridad en LLM.
Ataques y Defensas a Nivel de Modelo
- Extracción de modelos: robo de pesos y funcionalidad del modelo mediante consultas de API.
- Inferencia de membresía: determinar si los datos estaban en el conjunto de entrenamiento.
- Ejemplos adversarios: perturbaciones que engañan a clasificadores y embeddings.
- Envenenamiento de datos: corrupción de datos de entrenamiento para inducir backdoors o degradar el rendimiento.
Controles de Seguridad de Entrada y Salida
- Limpieza de entradas más allá de las defensas web tradicionales.
- Filtrado de salidas: toxicidad, fuga de PII (información personal identificable) y ejecución de código hallucinado.
- Establecimiento de barreras de seguridad como infraestructura de defensa: NeMo, Guardrails AI y políticas personalizadas.
- Aplicación de salidas estructuradas como frontera de seguridad.
Seguridad de la Cadena de Suministro de IA
- Procedencia del modelo: verificación de la autenticidad e integridad del modelo.
- Escaneo de dependencias para frameworks de ML y formatos de modelos.
- Servicio seguro de modelos: aislamiento en sandbox, aislamiento de red y acceso de mínimo privilegio.
- Verificación de modelos ajustados (fine-tuned) y comunitarios en busca de malware integrado.
Seguridad Operativa para Sistemas de IA
- Control de acceso para endpoints de modelos, almacenes vectoriales y herramientas de agentes.
- Auditoría de registro para cada interacción y decisión del modelo.
- Respuesta a incidentes para brechas específicas de IA: cuando el propio modelo se ve comprometido.
- Pruebas de seguridad continuas en CI/CD para pipelines de ML.
Construcción de un Programa de Seguridad de IA
- Modelo de madurez de seguridad de IA y hoja de ruta.
- Integración de la seguridad de IA en programas existentes de AppSec y cloud security.
- Marco de gobernanza y regulaciones emergentes para sistemas de IA.
- Creación y mantenimiento de una hoja de ruta organizativa de seguridad de IA.
Requerimientos
- Experiencia implementando modelos de ML o aplicaciones LLM en producción.
- Conocimiento de conceptos de seguridad, incluidas autenticación, autorización y modelado de amenazas.
- Competencia en Python para ejercicios de pruebas adversarias.
Audiencia
- Ingenieros de seguridad que amplían su cobertura a superficies de amenaza de IA/ML.
- Ingenieros de ML responsables de la seguridad y robustez de los modelos.
- Miembros de equipos de red teaming que incorporan sistemas de IA en su alcance de pruebas.
14 Horas
