7.58. Procesamiento de Lenguaje Natural (Electivo)

7.58. Procesamiento de Lenguaje Natural (Electivo)

Figura 7.58: Mapa de Conexión. AI262 Procesamiento de Lenguaje Natural

7.58.1. Justificación ↑ Volver arriba

Este curso introduce los fundamentos teóricos y prácticos del Procesamiento de Lenguaje Natural (NLP), cubriendo desde técnicas clásicas hasta modelos modernos basados en deep learning. Los estudiantes aprenderán a implementar pipelines completos de NLP para aplicaciones como análisis de sentimientos, traducción automática y chatbots.

7.58.2. Objetivos Generales ↑ Volver arriba

  1. Comprender la representación computacional del lenguaje humano.
  2. Implementar algoritmos para procesamiento de texto en Python.
  3. Aplicar modelos de NLP a problemas reales usando frameworks modernos.

7.58.3. Contribución a los resultados (Outcomes) ↑ Volver arriba

ABET-2) Habilidad para formular o diseñar un sistema, proceso, procedimiento o programa para el propósito previsto. (Usage)
ABET-1) Habilidad para identificar, formular y resolver problemas técnicos o científicos ampliamente definidos mediante la aplicación de conocimientos de matemáticas y ciencias y/o temas técnicos en áreas relevantes para la disciplina. (Usage)

7.58.4. Contenido ↑ Volver arriba

7.58.4.1. Fundamentos de NLP (15 horas) [Habilidades ABET-1,ABET-2] ↑ Volver arriba

Referencias Bibliográficas: (Jurafsky and Martin, 2021; Manning and Schütze, 1999)

Temas

  1. Tokenización y representación de texto
  2. Modelos de n-gramas y suavizado
  3. Extracción de características (TF-IDF, word embeddings)

Aprendizaje esperado (Learning Outcomes)

  1. Preprocesar texto para modelos de NLP [Usar]
  2. Explicar limitaciones de modelos estadísticos clásicos [Familiarizarse]
7.58.4.2. Modelado de Lenguaje (15 horas) [Habilidades ABET-1,ABET-2] ↑ Volver arriba

Referencias Bibliográficas: (Goldberg, 2017; Mikolov et al., 2013)

Temas

  1. Word2Vec, GloVe y FastText
  2. Redes neuronales recurrentes (RNNs) para NLP
  3. Modelos de secuencia a secuencia (seq2seq)

Aprendizaje esperado (Learning Outcomes)

  1. Entrenar embeddings de palabras [Usar]
  2. Implementar RNNs básicas para generación de texto [Evaluar]
7.58.4.3. Transformers y NLP Moderno (15 horas) [Habilidades ABET-1,ABET-2] ↑ Volver arriba

Referencias Bibliográficas: (Vaswani et al., 2017b; Devlin et al., 2019)

Temas

  1. Arquitectura Transformer (atención auto-supervisada)
  2. BERT y modelos pre-entrenados
  3. Fine-tuning para tareas específicas

Aprendizaje esperado (Learning Outcomes)

  1. Aplicar modelos pre-entrenados con HuggingFace [Usar]
  2. Evaluar métricas de desempeño en NLP [Evaluar]
7.58.4.4. Aplicaciones Prácticas (15 horas) [Habilidades ABET-1,ABET-2] ↑ Volver arriba

Referencias Bibliográficas: (Jurafsky and Martin, 2021; Chollet, 2021)

Temas

  1. Análisis de sentimientos con transformers
  2. Sistemas de pregunta-respuesta
  3. Despliegue de modelos con Flask/FastAPI

Aprendizaje esperado (Learning Outcomes)

  1. Construir un pipeline completo de NLP [Usar]
  2. Optimizar modelos para producción [Evaluar]

7.58.5. Referencias Bibliográficas ↑ Volver arriba

Jurafsky, D. and Martin, J. H. (2021). Speech and Language Processing. Pearson, 3rd edition.

Manning, C. D. and Schütze, H. (1999). Foundations of Statistical Natural Language Processing. MIT Press.

Goldberg, Y. (2017). Neural Network Methods for Natural Language Processing. Morgan & Claypool.

Mikolov, T., Chen, K., Corrado, G., and Dean, J. (2013). Efficient estimation of word representations in vector space. arXiv:1301.3781.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., and Polosukhin, I. (2017b). Attention is all you need. Advances in Neural Information Processing Systems, 30.

Devlin, J., Chang, M.-W., Lee, K., and Toutanova, K. (2019). Bert: Pre-training of deep bidirectional transformers for language understanding. arXiv:1810.04805.

Chollet, F. (2021). Deep Learning with Python. Manning, 2nd edition.

¿Encontraste una errata, un curso desactualizado, un enlace roto, o tienes una sugerencia? Cuéntanos.

Escanea para abrir en tu teléfono