Creación de operadores de IA personalizados con CANN TIK y TVM

Introducción al desarrollo de operadores personalizados

• ¿Por qué construir operadores personalizados? Casos de uso y restricciones
• Estructura del entorno de ejecución de CANN y puntos de integración de operadores
• Panorama general de TBE, TIK y TVM en el ecosistema de IA de Huawei

Uso de TIK para la programación de operadores de bajo nivel

• Comprensión del modelo de programación TIK y las API compatibles
• Gestión de memoria y estrategia de titilación en TIK
• Creación, compilación y registro de una operación personalizada con CANN

Pruebas y validación de operaciones personalizadas

• Pruebas unitarias e integradas de operaciones en el grafo
• Depuración de problemas de rendimiento a nivel de kernel
• Visualización de la ejecución de la operación y el comportamiento del buffer

Agendamiento y optimización basados en TVM

• Panorama general de TVM como compilador para operaciones tensoriales
• Escritura de un plan de agendamiento para una operación personalizada en TVM
• Ajuste, medición de rendimiento y generación de código de TVM para Ascend

Integración con marcos y modelos

• Registro de operaciones personalizadas para MindSpore y ONNX
• Verificación de la integridad del modelo y el comportamiento de respaldo
• Soporte para grafos multiopeadores con precisión mixta

Estudios de caso y optimizaciones especializadas

• Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas
• Estudio de caso: optimización de operadores de atención conscientes de la memoria
• Mejores prácticas en el despliegue de operaciones personalizadas entre dispositivos

Resumen y próximos pasos