Contacta con nosotros

Temario del curso

Fundamentos de la Ética en Sistemas Autónomos

  • Definición de autonomía en agentes de IA
  • Principales teorías éticas aplicadas al comportamiento de las máquinas
  • Perspectivas de los grupos interesados y diseño sensible a los valores

Riesgos Sociales y Casos de Uso de Alto Riesgo

  • Agentes autónomos en seguridad pública, salud y defensa
  • Colaboración humano-IA y límites de confianza
  • Escenarios de consecuencias no deseadas y amplificación de riesgos

Panorama Legal y Regulatorio

  • Visión general de la legislación y tendencias de políticas sobre IA (Ley de IA de la UE, NIST, OCDE)
  • Responsabilidad legal, pasividad y personalidad jurídica de los agentes de IA
  • Iniciativas globales de gobernanza y vacíos regulatorios

Explicabilidad y Transparencia en la Toma de Decisiones

  • Desafíos de la toma de decisiones autónomas tipo "caja negra"
  • Diseño para agentes explicables y auditables
  • Herramientas y marcos de transparencia (por ejemplo, tarjetas de modelos, hojas de datos)

Alineamiento, Control y Responsabilidad Moral

  • Estrategias de alineación de la IA para el comportamiento de los agentes
  • Paradigmas de control "humano en el ciclo" versus "humano sobre el ciclo"
  • Responsabilidad compartida entre diseñadores, usuarios e instituciones

Evaluación y Mitigación de Riesgos Éticos

  • Mapeo de riesgos y análisis de fallos críticos en el diseño de agentes
  • Medidas de protección y mecanismos de apagado (off-switch)
  • Auditoría de sesgo, discriminación e imparcialidad

Diseño de Gobernanza y Supervisión Institucional

  • Principios de gobernanza responsable de la IA
  • Modelos de supervisión multisectorial y auditorías
  • Diseño de marcos de cumplimiento para agentes autónomos

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de sistemas de IA y fundamentos del aprendizaje automático
  • Familiaridad con agentes autónomos y sus aplicaciones
  • Conocimiento de marcos éticos y legales en la política tecnológica

Audiencia Objetivo

  • Éticos especializados en IA
  • Responsables de políticas públicas y reguladores
  • Profesionales e investigadores avanzados de IA
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas