Ajuste Fino de Modelos y Grandes Modelos de Lenguaje (LLM)

Introducción al ajuste fino

• ¿Qué es el ajuste fino?
• Casos de uso y beneficios del ajuste fino.
• Visión general de los modelos preentrenados y el aprendizaje por transferencia.

Preparación para el ajuste fino

• Recolección y limpieza de conjuntos de datos.
• Comprensión de los requisitos específicos de datos según la tarea.
• Análisis exploratorio de datos y preprocesamiento.

Técnicas de ajuste fino

\r
• Aprendizaje por transferencia y extracción de características.
• Ajuste fino de transformadores con Hugging Face.
• Ajuste fino para tareas supervisadas frente a no supervisadas.

Ajuste fino de Grandes Modelos de Lenguaje (LLM)

• Adaptación de LLM para tareas de PLN (ej. clasificación de texto, resumen).
• Entrenamiento de LLM con conjuntos de datos personalizados.
• Control del comportamiento de LLM mediante ingeniería de prompts.

Optimización y evaluación

• Ajuste de hiperparámetros.
• Evaluación del rendimiento del modelo.
• Abordaje del sobreajuste (overfitting) e infradejamiento (underfitting).

Escala del esfuerzo de ajuste fino

• Ajuste fino en sistemas distribuidos.
• Uso de soluciones basadas en la nube para escalabilidad.
• Casos de estudio: Proyectos de ajuste fino a gran escala.

Mejores prácticas y desafíos

• Mejores prácticas para tener éxito con el ajuste fino.
• Desafíos comunes y resolución de problemas.
• Consideraciones éticas en el ajuste fino de modelos de IA.

Tópicos avanzados (opcional)

• Ajuste fino de modelos multimodales.
• Aprendizaje zero-shot y few-shot.
• Exploración de técnicas LoRA (Low-Rank Adaptation).

Resumen y próximos pasos