Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Visión general de las capacidades de optimización de CANN
- Cómo se maneja el rendimiento de la inferencia en CANN.
- Objetivos de optimización para sistemas de IA perimetral e integrados.
- Comprensión del uso del núcleo de IA y la asignación de memoria.
Uso del Graph Engine para análisis
- Introducción al Graph Engine y al pipeline de ejecución.
- Visualización de grafos de operadores y métricas de tiempo de ejecución.
- Modificación de grafos computacionales para la optimización.
Herramientas de perfilado y métricas de rendimiento
- Uso de la herramienta de perfilado de CANN (profiler) para el análisis de cargas de trabajo.
- Análisis del tiempo de ejecución de kernels y cuellos de botella.
- Perfilado del acceso a memoria y estrategias de segmentación.
Desarrollo de operadores personalizados con TIK
- Visión general de TIK y el modelo de programación de operadores.
- Implementación de un operador personalizado utilizando la DSL de TIK.
- Pruebas y obtención de referencias del rendimiento del operador.
Optimización avanzada de operadores con TVM
- Introducción a la integración de TVM con CANN.
- Estrategias de auto-tuneo para grafos computacionales.
- Cuándo y cómo cambiar entre TVM y TIK.
Técnicas de optimización de memoria
- Gestión del diseño de memoria y ubicación de búferes.
- Técnicas para reducir el consumo de memoria en chip.
- Mejores prácticas para la ejecución asíncrona y la reutilización.
Despliegue real y estudios de caso
- Caso de estudio: ajuste de rendimiento para el pipeline de cámaras de ciudad inteligente.
- Caso de estudio: optimización de la pila de inferencia de vehículos autónomos.
- Directrices para el perfilado iterativo y la mejora continua.
Resumen y próximos pasos
Requerimientos
- Conocimiento sólido de las arquitecturas de modelos de aprendizaje profundo y flujos de trabajo de entrenamiento.
- Experiencia con el despliegue de modelos utilizando CANN, TensorFlow o PyTorch.
- Familiaridad con la CLI de Linux, scripting de shell y programación en Python.
Público objetivo
- Ingenieros de rendimiento de IA.
- Especialistas en optimización de inferencia.
- Desarrolladores que trabajan con IA perimetral o sistemas en tiempo real.
14 Horas
