Introducción a la Seguridad y Gestión de Riesgos en IA

AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Esta formación presencial impartida por un instructor (en línea o en las instalaciones) está dirigida a profesionales de nivel avanzado que desean implementar controles de seguridad efectivos y prácticas de gobierno para entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas por la industria.
• Implementar modelos de gobierno para el despliegue responsable de la IA.
• Alinear las políticas de seguridad de la IA con los objetivos organizativos y las expectativas regulatorias.
• Mejorar la resiliencia y la responsabilidad dentro de las operaciones impulsadas por la IA.

Formato del curso

• Clases facilitadas respaldadas por análisis experto.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados utilizando escenarios reales de gobierno de la IA.

Opciones de personalización del curso

• Para una formación personalizada alineada con la estrategia de IA de su organización, contáctenos para adaptar el curso.

Esta formación en vivo impartida por un instructor en Ecuador (en línea o presencial) está dirigida a líderes empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar sistemas de IA de manera responsable y conforme a marcos normativos emergentes a nivel global, como la Ley de IA de la UE, el Reglamento General de Protección de Datos (GDPR), la norma ISO/IEC 42001 y la Orden Ejecutiva de EE. UU. sobre IA.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los riesgos legales, éticos y normativos del uso de la IA en distintos departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de la IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros e internos.

La Inteligencia Artificial (IA) introduce nuevas dimensiones de riesgo operativo, desafíos de gobernanza y exposición a la ciberseguridad para las agencias y departamentos gubernamentales.

Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de TI y gestión de riesgos del sector público con poca experiencia previa en IA que deseen comprender cómo evaluar, monitorear y asegurar los sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al finalizar esta formación, los participantes serán capaces de:

• Interpretar los conceptos clave de riesgo relacionados con los sistemas de IA, incluido el sesgo, la impredecibilidad y la deriva del modelo.
• Aplicar marcos de gobernanza y auditoría específicos para la IA, como el NIST AI RMF e ISO/IEC 42001.
• Identificar amenazas de ciberseguridad dirigidas a modelos de IA y tuberías de datos (data pipelines).
• Establecer planes de gestión de riesgos interdepartamentales y alinear políticas para el despliegue de IA.

Formato del Curso

• Conferencia interactiva y discusión de casos de uso del sector público.
• Ejercicios de marcos de gobernanza de IA y mapeo de políticas.
• Modelado de amenazas basado en escenarios y evaluación de riesgos.

Opciones de Personalización del Curso

• Para solicitar una formación personalizada para este curso, contáctenos para coordinarla.

Esta formación en vivo con instrucción Ecuador (presencial o remota) está dirigida a profesionales de TI de nivel principiante a intermedio que desean comprender e implementar AI TRiSM en sus organizaciones.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los conceptos clave y la importancia de la gestión de confianza, riesgo y seguridad en IA.
• Identificar y mitigar los riesgos asociados a los sistemas de IA.
• Implementar las mejores prácticas de seguridad para IA.
• Comprender el cumplimiento normativo y las consideraciones éticas en IA.
• Desarrollar estrategias para una gobernanza y gestión efectivas de la IA.

Esta formación en vivo con instructor en Ecuador (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de producto de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones impulsadas por LLM, como la inyección de prompts, la filtración de datos y las respuestas no filtradas, al tiempo que incorporan controles de seguridad como validación de entrada, supervisión humana en el proceso (human-in-the-loop) y barreras de protección en la salida.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender las vulnerabilidades centrales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones LLM.
• Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
• Integrar técnicas como el aislamiento (sandboxing), pruebas de penetración (red teaming) y revisión humana en el proceso en tuberías (pipelines) de nivel de producción.

Esta formación presencial impartida por un instructor en Ecuador (en línea o presencial) está dirigida a profesionales de nivel intermedio de IA y ciberseguridad que desean comprender y abordar las vulnerabilidades de seguridad específicas de los modelos y sistemas de IA, particularmente en industrias altamente reguladas como las finanzas, la gobernanza de datos y la consultoría.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los tipos de ataques adversarios dirigidos a sistemas de IA y los métodos para defenderse contra ellos.
• Implementar técnicas de endurecimiento de modelos para asegurar los flujos de trabajo de aprendizaje automático.
• Asegurar la seguridad e integridad de los datos en los modelos de aprendizaje automático.
• Navegar por los requisitos de cumplimiento regulatorio relacionados con la seguridad de la IA.

Esta formación impartida por un instructor en vivo en Ecuador (en línea o presencial) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen reforzar los despliegues de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecuten íntegramente en instalaciones propias.

Basándose en las últimas directrices del Proyecto de Seguridad GenAI de OWASP, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Esta formación en vivo con instructor en Ecuador (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar y evaluar técnicas como el aprendizaje federado, la computación segura multipartita, la cifrado homomórfico y la privacidad diferencial en tuberías de aprendizaje automático del mundo real.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender y comparar las técnicas clave de preservación de la privacidad en el aprendizaje automático.
• Implementar sistemas de aprendizaje federado utilizando frameworks de código abierto.
• Aplicar la privacidad diferencial para compartir datos de manera segura y entrenar modelos.
• Utilizar técnicas de cifrado y computación segura para proteger las entradas y salidas del modelo.

Esta formación en vivo, impartida por un instructor, en Ecuador (en línea o presencial), está dirigida a profesionales de seguridad de nivel avanzado y especialistas en aprendizaje automático que deseen simular ataques contra sistemas de IA, descubrir vulnerabilidades y mejorar la robustez de los modelos de IA implementados.

Al finalizar esta formación, los participantes podrán:

• Simular amenazas del mundo real contra modelos de aprendizaje automático.
• Generar ejemplos adversarios para evaluar la robustez de los modelos.
• Evaluar la superficie de ataque de las API y canalizaciones de IA.
• Diseñar estrategias de red teaming para entornos de implementación de IA.

Esta formación en vivo con instructor en Ecuador (en línea o presencial) está dirigida a ingenieros y profesionales de la seguridad de nivel intermedio que desean proteger los modelos de IA desplegados en el borde contra amenazas como la manipulación, la filtración de datos, entradas adversarias y ataques físicos.

Al final de esta formación, los participantes podrán:

• Identificar y evaluar los riesgos de seguridad en las implementaciones de IA en el borde.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Fortalecer los modelos desplegados en el borde y asegurar los flujos de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas embebidos y restringidos.

Esta formación práctica, impartida por un instructor en Ecuador (en línea o presencial), está dirigida a profesionales de nivel intermedio en el ámbito del aprendizaje automático y la ciberseguridad que desean comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas, como el entrenamiento robusto y la privacidad diferencial.

Al finalizar esta formación, los participantes serán capaces de:

• Identificar y clasificar amenazas específicas de la IA, como ataques adversarios, inversión de modelos y envenenamiento de datos.
• Utilizar herramientas como el Adversarial Robustness Toolbox (ART) para simular ataques y probar los modelos.
• Aplicar defensas prácticas, incluido el entrenamiento adversario, la inyección de ruido y las técnicas de preservación de la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.

TinyML es un enfoque para desplegar modelos de aprendizaje automático en dispositivos con bajo consumo energético y recursos limitados, que operan en el borde de la red.

Esta formación impartida por instructores (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen garantizar la seguridad de los flujos de trabajo TinyML e implementar técnicas de preservación de la privacidad en aplicaciones de IA en el borde.

Al finalizar este curso, los participantes podrán:

• Identificar los riesgos de seguridad específicos de la inferencia TinyML en dispositivos.
• Implementar mecanismos de preservación de la privacidad para despliegues de IA en el borde.
• Fortalecer los modelos y sistemas embebidos TinyML contra amenazas adversariales.
• Aplicar mejores prácticas para el manejo seguro de datos en entornos con recursos limitados.

Formato del curso

• Conferencias interactivas respaldadas por discusiones guiadas por expertos.
• Ejercicios prácticos que enfatizan escenarios de amenazas reales.
• Implementación práctica utilizando herramientas de seguridad embebida y TinyML.

Opciones de personalización del curso

• Las organizaciones pueden solicitar una versión adaptada de esta formación para alinearla con sus necesidades específicas de seguridad y cumplimiento normativo.

Este curso abarca la gobernanza, la gestión de identidades y las pruebas adversarias para sistemas de IA de agente, centrándose en patrones de implementación seguros para empresas y técnicas prácticas de red-teaming.

Esta formación impartida por un instructor (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean diseñar, asegurar y evaluar sistemas de IA basados en agentes en entornos de producción.

Al finalizar esta capacitación, los participantes podrán:

• Definir modelos y políticas de gobernanza para implementaciones seguras de IA de agente.
• Diseñar flujos de autenticación e identidades no humanas para agentes con acceso de mínimo privilegio.
• Implementar controles de acceso, registros de auditoría y capacidades de observabilidad adaptadas a agentes autónomos.
• Planificar y ejecutar ejercicios de red-teaming para descubrir usos indebidos, rutas de escalación y riesgos de exfiltración de datos.
• Mitigar amenazas comunes a los sistemas de agente mediante políticas, controles de ingeniería y monitoreo.

Formato del curso

• Conferencias interactivas y talleres de modelado de amenazas.
• Prácticas manuales: aprovisionamiento de identidades, cumplimiento de políticas y simulación de adversarios.
• Ejercicios de red-teaming / blue-teaming y evaluación final del curso.

Opciones de personalización del curso

• Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.