Contacta con nosotros

Temario del curso

Introducción al ajuste fino eficiente en parámetros (PEFT)

  • Motivación y limitaciones del ajuste fino completo.
  • Resumen de PEFT: objetivos y beneficios.
  • Aplicaciones y casos de uso en la industria.

LoRA (Adaptación de Baja Rango)

  • Concepto e intuición detrás de LoRA.
  • Implementación de LoRA usando Hugging Face y PyTorch.
  • Ejercicio práctico: Ajuste fino de un modelo con LoRA.

Ajuste Fino con Adaptadores

  • Cómo funcionan los módulos adaptador.
  • Integración con modelos basados en transformadores.
  • Ejercicio práctico: Aplicar Ajuste Fino con Adaptadores a un modelo transformador.

Ajuste Fino con Prefijos

  • Uso de prompts suaves para el ajuste fino.
  • Ventajas y limitaciones en comparación con LoRA y adaptadores.
  • Ejercicio práctico: Ajuste Fino con Prefijos en una tarea de LLM.

Evaluación y Comparación de Métodos PEFT

  • Métricas para evaluar el rendimiento y la eficiencia.
  • Compromisos en velocidad de entrenamiento, uso de memoria y precisión.
  • Ejercicios de benchmarking e interpretación de resultados.

Despliegue de Modelos Ajustados Fina mente

  • Guardar y cargar modelos ajustados finamente.
  • Consideraciones de despliegue para modelos basados en PEFT.
  • Integración en aplicaciones y tuberías de procesamiento.

Mejores Prácticas y Extensiones

  • Combinar PEFT con cuantización y destilación.
  • Uso en configuraciones de pocos recursos y multilingües.
  • Direcciones futuras y áreas de investigación activas.

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de los fundamentos del aprendizaje automático.
  • Experiencia trabajando con modelos de lenguaje grandes (LLM).
  • Familiaridad con Python y PyTorch.

Público objetivo

  • Científicos de datos.
  • Ingenieros de IA.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas