Temario del curso
Fundamentos de la Gobernanza de la Seguridad de la IA
- Principios fundamentales de la gobernanza de la IA
- Marcos de seguridad corporativa para IA
- Roles y responsabilidades de las partes interesadas
Metodologías de Evaluación de Riesgos de IA
- Identificación y clasificación de riesgos de seguridad de IA
- Modelado de amenazas para sistemas habilitados por IA
- Evaluación de impacto y priorización
Diseño Seguro de Sistemas de IA
- Diseño para confidencialidad, integridad y disponibilidad
- Implementación de controles de seguridad en las pipelines de IA
- Consideraciones sobre la gestión del ciclo de vida del modelo
Protección y Privacidad de Datos en la IA
- Gobernanza de datos para el aprendizaje automático
- Gestión de datos sensibles y regulados
- Tecnologías de mejora de la privacidad
Monitoreo y Seguridad de las Operaciones de IA
- Evaluación continua del comportamiento de la IA
- Detección de derivas, anomalías y usos incorrectos
- Inteligencia de amenazas operativa para sistemas de IA
Alineación Regulatoria y de Cumplimiento
- Estándares globales que impactan la seguridad de la IA
- Documentación y preparación para auditorías
- Alineación de la gobernanza con las obligaciones legales
Respuesta a Incidentes para Sistemas de IA
- Vectores de ataque e indicadores específicos de la IA
- Flujos de trabajo de respuesta para modelos comprometidos
- Revisión e intervención posteriores al incidente
Gestión Estratégica de la Seguridad de la IA
- Construcción de la capacidad de seguridad de la IA a largo plazo
- Integración del riesgo de IA en la estrategia corporativa
- Evaluaciones de madurez y mejora continua
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los principios de riesgo de ciberseguridad
- Experiencia con sistemas de IA o basados en datos
- Conocimiento de la gobernanza de seguridad corporativa
Público Objetivo
- Gerentes de seguridad que supervisan iniciativas de IA
- Profesionales de gobernanza y riesgos
- Líderes técnicos responsables de la adopción segura de la IA
Reseñas (3)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática