Temario del curso
Fundamentos del gobierno de la seguridad de la IA
- Principios básicos del gobierno de la IA.
- Marco de seguridad empresarial para la IA.
- Roles y responsabilidades de las partes interesadas.
Metodologías de evaluación de riesgos de la IA
- Identificación y categorización de riesgos de seguridad de la IA.
- Modelado de amenazas para sistemas habilitados con IA.
- Evaluación de impactos y priorización.
Diseño seguro de sistemas de IA
- Diseño para confidencialidad, integridad y disponibilidad.
- Implementación de controles de seguridad en los flujos de trabajo de la IA.
- Consideraciones sobre el ciclo de vida del modelo.
Protección de datos y privacidad en la IA
- Gobierno de datos para el aprendizaje automático.
- Gestión de datos sensibles y regulados.
- Tecnologías que mejoran la privacidad.
Monitoreo y seguridad de las operaciones de la IA
- Evaluación continua del comportamiento de la IA.
- Detección de deriva, anomalías y mal uso.
- Inteligencia operativa sobre amenazas para sistemas de IA.
Alineación regulatoria y cumplimiento
- Normas globales que impactan la seguridad de la IA.
- Documentación y preparación para auditorías.
- Alineación del gobierno con las obligaciones legales.
Respuesta a incidentes en sistemas de IA
- Vectores de ataque e indicadores específicos de la IA.
- Flujos de respuesta para modelos comprometidos.
- Revisión posterior al incidente y remediación.
Gestión estratégica de la seguridad de la IA
- Construcción de capacidades a largo plazo en seguridad de la IA.
- Integración del riesgo de IA en la estrategia empresarial.
- Evaluaciones de madurez y mejora continua.
Resumen y próximos pasos
Requerimientos
- Comprensión de los principios de riesgo en ciberseguridad.
- Experiencia con sistemas de IA o basados en datos.
- Familiaridad con el gobierno de seguridad empresarial.
Público objetivo
- Responsables de seguridad que supervisan iniciativas de IA.
- Profesionales de gobierno y riesgo.
- Líderes técnicos responsables de la adopción segura de la IA.
Testimonios (3)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
La forma de recibir la información del formador
Mohamed Romdhani - Shams Power
Curso - CISM - Certified Information Security Manager
Traducción Automática