Temario del curso
Introducción al modelado de amenazas para la IA
- ¿Qué hace vulnerables a los sistemas de IA?
- Superficie de ataque de la IA frente a sistemas tradicionales.
- Principales vectores de ataque: capas de datos, modelo, salida e interfaz.
Ataques adversarios en modelos de IA
- Comprensión de los ejemplos adversarios y las técnicas de perturbación.
- Ataques de caja blanca frente a ataques de caja negra.
- Métodos FGSM, PGD y DeepFool.
- Visualización y elaboración de muestras adversarias.
Inversión de modelos y fugas de privacidad
- Inferencia de datos de entrenamiento a partir de la salida del modelo.
- Ataques de inferencia de pertenencia.
- Riesgos de privacidad en modelos de clasificación y generativos.
Envenenamiento de datos e inyección de puertas traseras
- Cómo los datos maliciosos influyen en el comportamiento del modelo.
- Puertas traseras basadas en detonantes y ataques tipo Troya.
- Estrategias de detección y sanitización.
Técnicas de robustez y defensa
- Entrenamiento adversario y aumento de datos.
- Enmascaramiento de gradientes y preprocesamiento de entradas.
- Suavizado del modelo y técnicas de regularización.
Defensas de IA que preservan la privacidad
- Introducción a la privacidad diferencial.
- Inyección de ruido y presupuestos de privacidad.
- Aprendizaje federado y agregación segura.
Seguridad de la IA en la práctica
- Evaluación y despliegue de modelos conscientes de las amenazas.
- Uso del ART (Adversarial Robustness Toolbox) en contextos aplicados.
- Estudios de casos industriales: vulneraciones reales y mitigaciones.
Resumen y próximos pasos
Requerimientos
- Comprensión de los flujos de trabajo de aprendizaje automático y el entrenamiento de modelos.
- Experiencia con Python y marcos de ML comunes, como PyTorch o TensorFlow.
- Familiaridad con conceptos básicos de seguridad o modelado de amenazas es útil.
Público objetivo
- Ingenieros de aprendizaje automático.
- Analistas de ciberseguridad.
- Investigadores de IA y equipos de validación de modelos.
Testimonios (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
