3.72. CS3E2 Ingenieria Aplicada de LLMs (Electivo)

3.72. CS3E2 Ingenieria Aplicada de LLMs (Electivo)

Figura 3.71: Mapa de Conexión. CS3E2 Ingenieria Aplicada de LLMs

3.72.1. Justificación Volver arriba

Los modelos de lenguaje grandes (LLM) se han convertido en una tecnología fundamental para construir aplicaciones de software modernas; sin embargo, diseñar sistemas de manera efectiva alrededor de ellos requiere habilidades que van mucho más allá del aprendizaje automático o la ingeniería de software clásicos: prompting, generación aumentada por recuperación, ajuste fino eficiente en parámetros, flujos de trabajo agénticos con uso de herramientas, y las prácticas de evaluación, servicio y gobernanza que hacen que una aplicación basada en LLM sea confiable y esté lista para producción.

Este curso brinda a los estudiantes experiencia práctica a lo largo de toda la pila de ingeniería de aplicaciones LLM. Los estudiantes comienzan repasando la arquitectura transformer, la tokenización y el pipeline de preentrenamiento/inferencia que sustentan a los LLM modernos, y luego avanzan a través de la ingeniería de prompts, la generación aumentada por recuperación y el ajuste fino eficiente en parámetros (LoRA/PEFT) como las tres técnicas principales para adaptar el comportamiento de un LLM a una tarea específica sin reentrenarlo desde cero.

El curso aborda luego los flujos de trabajo agénticos y las arquitecturas de uso de herramientas, en los que un LLM planifica y ejecuta tareas de múltiples pasos usando herramientas externas, así como los métodos de evaluación (benchmarks, detección de alucinaciones, pruebas de seguridad/red-teaming) necesarios para determinar si un sistema basado en LLM está lo suficientemente maduro para desplegarse. El curso cierra con LLM Ops (servicio, optimización de latencia/costo, caché, cuantización), prácticas de IA responsable (sesgo, privacidad, seguridad ante inyección de prompts, gobernanza), y un proyecto capstone en el que los estudiantes integran estas técnicas en una sola aplicación de extremo a extremo basada en LLM.

3.72.2. Objetivos Generales Volver arriba

  1. Explicar la arquitectura, el preentrenamiento y el pipeline de inferencia de los modelos de lenguaje grandes (LLM) modernos.
  2. Diseñar prompts efectivos y pipelines de generación aumentada por recuperación (RAG) para fundamentar la salida de un LLM en conocimiento externo.
  3. Aplicar técnicas de ajuste fino eficiente en parámetros (LoRA/PEFT) para adaptar un LLM preentrenado a una tarea o dominio específico.
  4. Diseñar flujos de trabajo agénticos basados en LLM que usan herramientas, y evaluar la calidad, seguridad y robustez de sistemas basados en LLM.
  5. Operar aplicaciones basadas en LLM de forma responsable en producción, atendiendo las compensaciones de servicio/costo, los riesgos de seguridad y los requisitos de gobernanza, e integrar estas técnicas en una aplicación de extremo a extremo desplegable.

3.72.3. Contribución a los resultados (Outcomes) Volver arriba

AG-C02) Ética: Aplica principios éticos y se compromete con la ética profesional y las normas de la práctica profesional de la computación. (Usage)
AG-C07) Conocimientos de Computación: Aplica conocimientos de matemáticas, ciencias y computación. (Usage)
AG-C09) Diseño y Desarrollo de Soluciones: Diseña, implementa y evalúa soluciones para problemas complejos de computación. (Assessment)

3.72.4. Contenido Volver arriba

3.72.4.1. Fundamentos de los Modelos de Lenguaje Grandes (8 horas) [Habilidades AG-C07] Volver arriba

Referencias Bibliográficas: (Vaswani et al., 2017b; Raschka, 2024)

Temas

  1. Esquemas de tokenización en subpalabras (BPE, WordPiece, tokenización a nivel de byte) y su efecto en el tamaño del vocabulario, la longitud de secuencia y la cobertura multilingüe Procesamiento del Lenguaje Natural .
  2. Arquitectura transformer de tipo decodificador para modelado de lenguaje autorregresivo: enmascaramiento de autoatención causal, codificaciones posicionales, y la pila de bloques transformer usada en los LLM modernos Arquitecturas Transformer y Modelos Generativos .
  3. El objetivo de preentrenamiento (predicción del siguiente token) sobre grandes corpus de texto no etiquetado, y las leyes de escalamiento que relacionan el tamaño del modelo, el tamaño de los datos y el cómputo con la pérdida de preentrenamiento Entrenamiento y Optimización de Redes Neuronales .
  4. Inferencia autorregresiva y estrategias de decodificación: decodificación voraz (greedy), búsqueda en haz (beam search), temperatura y muestreo top-k/top-p, y la caché KV que hace eficiente la decodificación incremental.

Aprendizaje esperado (Learning Outcomes)

  1. Explicar cómo un transformer de tipo decodificador procesa una secuencia de entrada tokenizada para producir la distribución de probabilidad del siguiente token [Explicar]
  2. Comparar esquemas de tokenización en subpalabras en términos de tamaño de vocabulario, longitud de secuencia y manejo de palabras fuera de vocabulario [Comparar]
  3. Aplicar diferentes estrategias de decodificación (voraz, búsqueda en haz, muestreo) a un LLM preentrenado y analizar el efecto sobre la calidad y diversidad de la salida [Aplicar]
  4. Analizar cómo el tamaño del modelo, el tamaño de los datos de entrenamiento y el presupuesto de cómputo afectan la pérdida de preentrenamiento de un LLM, dado un conjunto de mediciones de leyes de escalamiento [Analizar]
3.72.4.2. Técnicas de Ingeniería de Prompts (6 horas) [Habilidades AG-C09] Volver arriba

Referencias Bibliográficas: (White et al., 2023; Wei et al., 2022)

Temas

  1. Prompting de cero ejemplos (zero-shot) y de pocos ejemplos (few-shot): formular una tarea solo con instrucciones frente a proporcionar demostraciones de entrada/salida en contexto.
  2. Prompts de cadena de pensamiento (chain-of-thought) y razonamiento paso a paso, y autoconsistencia entre múltiples rutas de razonamiento muestreadas.
  3. Prompts de sistema/rol y formateo de salida estructurada (por ejemplo, solicitar respuestas restringidas a JSON o XML).
  4. Sensibilidad y robustez del prompt: cómo pequeños cambios de redacción u orden afectan la salida del modelo, y el refinamiento iterativo de prompts Ingeniería de Bucles de Agentes (Loop Engineering) .

Aprendizaje esperado (Learning Outcomes)

  1. Diseñar un prompt de pocos ejemplos con demostraciones en contexto para una tarea dada de clasificación o extracción [Diseñar]
  2. Aplicar prompting de cadena de pensamiento para mejorar el desempeño de un modelo en una tarea de razonamiento de múltiples pasos [Aplicar]
  3. Evaluar la sensibilidad de un prompt a cambios de redacción y orden, y refinarlo para reducir la variabilidad de la salida [Evaluar]
3.72.4.3. Generación Aumentada por Recuperación (RAG) (8 horas) [Habilidades AG-C09] Volver arriba

Referencias Bibliográficas: (Lewis et al., 2020; Gao et al., 2024)

Temas

  1. Estrategias de fragmentación de documentos y embedding vectorial denso de fragmentos de texto para recuperación semántica.
  2. Búsqueda de similitud vectorial (similitud coseno/producto punto, índices de vecinos más cercanos aproximados) y selección de base de datos/índice vectorial Sistemas NoSQL , Bases de Datos Semiestructuradas y No Estructuradas .
  3. El pipeline de recuperar-y-generar: embedding de la consulta, recuperación de los top-k resultados, ensamblaje del contexto, y construcción del prompt para el modelo generador.
  4. Patrones avanzados de RAG: reordenamiento (re-ranking) de los fragmentos recuperados, recuperación híbrida (dispersa+densa), y recuperación de múltiples saltos/iterativa Procesamiento del Lenguaje Natural .

Aprendizaje esperado (Learning Outcomes)

  1. Diseñar una estrategia de fragmentación y embedding para una colección de documentos dada, de modo que soporte recuperación semántica [Diseñar]
  2. Implementar un pipeline de recuperar-y-generar que fundamente la respuesta de un LLM en el contexto recuperado [Implementar]
  3. Comparar estrategias de recuperación densa, dispersa e híbrida en términos de exhaustividad y relevancia para un corpus dado [Comparar]
  4. Evaluar la fundamentación (groundedness) de las respuestas de un sistema RAG frente a los documentos fuente recuperados [Evaluar]
3.72.4.4. Ajuste Fino y Métodos Eficientes en Parámetros (8 horas) [Habilidades AG-C07,AG-C09] Volver arriba

Referencias Bibliográficas: (Hu et al., 2022; Dettmers et al., 2023)

Temas

  1. Ajuste fino completo de un LLM preentrenado frente al costo y los riesgos de sobreajuste de actualizar todos sus parámetros con un conjunto de datos pequeño de la tarea objetivo Técnicas de Regularización para Redes Profundas .
  2. Adaptación de bajo rango (LoRA) y métodos relacionados de ajuste fino eficiente en parámetros (PEFT) basados en adaptadores: actualizaciones de pesos de bajo rango, ubicación de adaptadores, y fusión de adaptadores en el modelo base.
  3. Ajuste fino cuantizado (por ejemplo, QLoRA) para adaptar modelos grandes con memoria de GPU limitada.
  4. Ajuste por instrucciones y ajuste fino basado en preferencias (por ejemplo, RLHF/DPO) para alinear el comportamiento de un modelo ajustado con las instrucciones y preferencias deseadas.

Aprendizaje esperado (Learning Outcomes)

  1. Comparar el ajuste fino completo y el ajuste fino eficiente en parámetros basado en LoRA en términos de costo computacional, huella de memoria y desempeño en la tarea [Comparar]
  2. Implementar una corrida de ajuste fino con LoRA sobre un LLM preentrenado para una tarea objetivo [Implementar]
  3. Determinar un rango y ubicación de adaptador apropiados para un presupuesto y tarea de ajuste fino dados [Determinar]
  4. Explicar cómo el ajuste por instrucciones y el ajuste fino basado en preferencias cambian el comportamiento de un modelo base respecto a su estado preentrenado [Explicar]
3.72.4.5. Ingeniería de Bucles de Agentes (Loop Engineering) (8 horas) [Habilidades AG-C09] Volver arriba

Referencias Bibliográficas: (Yao et al., 2023)

Temas

  1. La ingeniería de bucles como disciplina: diseñar el ciclo iterativo observar-actuar-verificar que ejecuta un agente, en contraste con escribir un único prompt
  2. El patrón Gauntlet Loop (Matt Shumer, 2026): un agente líder descompone un objetivo y un estándar de calidad en las partes más pequeñas y evaluables posibles, y despliega agentes constructores y agentes críticos con contexto limpio
  3. Separación constructor/crítico: un agente que crea un resultado suele ser peor juzgando objetivamente su propia calidad que explicándola, de ahí la necesidad de un crítico independiente
  4. Uso de herramientas por parte del agente (lectura y escritura de archivos, terminal, búsqueda, ejecución de pruebas) como forma de actuar sobre el repositorio en lugar de limitarse a generar texto
  5. Protocolo de Contexto de Modelo (MCP) como interfaz estandarizada entre agentes y fuentes de datos o herramientas: servidores, recursos, prompts y herramientas expuestas
  6. Especificación ejecutable: artefactos versionados en el repositorio (especificaciones, planes y listas de tareas) que el agente consume y actualiza

Aprendizaje esperado (Learning Outcomes)

  1. Explicar en qué se diferencia la ingeniería de bucles de la ingeniería de un único prompt [Explicar]
  2. Diseñar un bucle de tipo Gauntlet Loop (agente constructor + agente crítico independiente + comparación ciega contra un estándar de calidad) para refinar iterativamente un resultado generado por IA [Diseñar]
  3. Comparar niveles de autonomía de un agente (asistencia en línea, edición multi-archivo, ejecución no supervisada) en términos de riesgo y beneficio [Comparar]
  4. Diseñar y configurar un servidor MCP que exponga a un agente los recursos y acciones necesarios para una tarea de desarrollo [Diseñar]
3.72.4.6. Evaluación de Sistemas LLM: Benchmarks, Alucinación y Seguridad (6 horas) [Habilidades AG-C02,AG-C07] Volver arriba

Referencias Bibliográficas: (Liang et al., 2023)

Temas

  1. Benchmarks estandarizados para LLM (por ejemplo, benchmarks de conocimiento y razonamiento multitarea) y métricas de evaluación automática para generación abierta (por ejemplo, LLM-como-juez) Aprendizaje Automático: Datos, Representaciones y Evaluación .
  2. Protocolos de evaluación humana: juicios de preferencia por pares, calificación basada en rúbricas, y acuerdo entre evaluadores.
  3. Alucinación: causas, técnicas de detección (por ejemplo, verificación de hechos contra una fuente recuperada, verificaciones de autoconsistencia), y estrategias de mitigación Agentes de Codificación basados en LLM .
  4. Pruebas adversarias y de seguridad (red teaming): intentos de jailbreak, pruebas de toxicidad/sesgo, y conjuntos de benchmarks de seguridad Redes Neuronales y Ética .

Aprendizaje esperado (Learning Outcomes)

  1. Diseñar un protocolo de evaluación (selección de benchmarks más una rúbrica de evaluación humana) para una aplicación basada en LLM dada [Diseñar]
  2. Detectar contenido alucinado en la salida de un LLM verificándolo contra documentos fuente recuperados [Detectar]
  3. Evaluar la robustez de una aplicación basada en LLM frente a un intento de red teaming/jailbreak y proponer mitigaciones [Evaluar (valorar)]
3.72.4.7. Servicio de LLM, Optimización de Latencia y Costo (8 horas) [Habilidades AG-C09] Volver arriba

Referencias Bibliográficas: (Kwon et al., 2023)

Temas

  1. Arquitectura de servicio de LLM: agrupamiento de solicitudes (batching), batching continuo/dinámico, y el papel de la caché KV en el rendimiento de la decodificación incremental Pruebas de Rendimiento y Evaluación Comparativa .
  2. Cuantización de modelos (por ejemplo, cuantización post-entrenamiento int8/int4) y sus compensaciones entre huella de memoria, latencia y calidad de salida Entrenamiento y Optimización de Redes Neuronales .
  3. Estrategias de caché para sistemas de servicio de LLM: caché de prompt/respuesta, caché semántica, y reutilización de prefijo/caché KV entre solicitudes.
  4. Compensaciones de optimización de costo y latencia: selección del tamaño del modelo, elección del acelerador de hardware, y enrutamiento de solicitudes entre niveles de modelos Pruebas de Rendimiento y Evaluación Comparativa .

Aprendizaje esperado (Learning Outcomes)

  1. Explicar cómo el batching continuo y la reutilización de la caché KV mejoran el rendimiento de un sistema de servicio de LLM [Explicar]
  2. Aplicar una técnica de cuantización a un LLM preentrenado y medir las compensaciones resultantes de latencia, memoria y calidad [Aplicar]
  3. Diseñar una estrategia de caché para una carga de trabajo de servicio de LLM dada, con el fin de reducir llamadas de inferencia redundantes [Diseñar]
  4. Estimar el costo de servicio de una aplicación basada en LLM dado un volumen de solicitudes esperado, el tamaño del modelo y el hardware [Estimar]
3.72.4.8. Seguridad en IA y Hardware (6 horas) [Habilidades AG-C02] Volver arriba

Referencias Bibliográficas: (OWASP Foundation, 2025; Weidinger et al., 2022)

Temas

  1. Impacto de la IA en la seguridad y la privacidad: usar la IA para reforzar las defensas y abordar las capacidades adversariales aumentadas debido a la IA Aplicaciones e Impacto Social de la IA , Aplicaciones Adicionales e Impacto Social de la IA , Sociedad, ética y Profesión , Diseño de Sistemas .
  2. Riesgos de seguridad en la construcción y operación de sistemas de IA/aprendizaje automático (por ejemplo, sesgo algorítmico, sesgo del corpus de conocimiento, sesgo del corpus de entrenamiento, violación de derechos de autor) Aplicaciones e Impacto Social de la IA , Aplicaciones Adicionales e Impacto Social de la IA , Formulación del Aprendizaje Automático y Evaluación , Aprendizaje Profundo, RL y Ética , Introducción a la IA: Conceptos y Comportamiento Inteligente , Características del Problema y Naturaleza de los Agentes , Fundamentos de Aprendizaje Automático , Aprendizaje Automático: Datos, Representaciones y Evaluación , Redes Neuronales y Ética .
  3. Consideraciones éticas profesionales al diseñar sistemas seguros y mantener la privacidad; hacking ético Libertades Civiles y Expresión , Datos, Vigilancia y Tecnología de Privacidad , Fundamentos Filosóficos y Legislación de Privacidad , Códigos de Ética y Responsabilidad Legal , Responsabilidad Profesional y Política Pública , Valores, Naturaleza y Actualización Profesional , Disidencia Ética y Contexto Cultural , Ética en el Lugar de Trabajo , Delitos y Ataques Informáticos , Leyes, Políticas y Responsabilidad en Seguridad .
  4. Implicaciones éticas de tecnologías emergentes (IA, automatización, privacidad de datos)
  5. Inyección de prompts directa e indirecta: instrucciones controladas por un atacante, incrustadas en la entrada del usuario o en contenido recuperado/retornado por una herramienta, que secuestran el comportamiento de una aplicación basada en LLM Inyección y Validación de Entrada .
  6. Gobierno de seguridad (security governance): objetivos organizacionales y evaluación general de riesgos.

Aprendizaje esperado (Learning Outcomes)

  1. Mostrar cómo un adversario podría usar algoritmos de aprendizaje automático para reducir la seguridad de un sistema [Analizar]
  2. Aplicar un conjunto de regulaciones de privacidad para diseñar un sistema que proteja la privacidad [Aplicar]
  3. Evaluar las dimensiones éticas de un proyecto con impactos sociales o ambientales significativos en un contexto cultural diferente [Evaluar]
  4. Diseñar mitigaciones (jerarquía de instrucciones, filtrado de entrada/salida, acceso a herramientas con mínimo privilegio) para reducir la superficie de ataque de inyección de prompts de una aplicación LLM [Diseñar]
3.72.4.9. Capstone de Aplicación Basada en LLM (6 horas) [Habilidades AG-C02,AG-C09] Volver arriba

Referencias Bibliográficas: (Alto, 2024)

Temas

  1. Integrar un componente de prompting/RAG/agéntico, una capa de servicio y un bucle de evaluación en una sola aplicación de extremo a extremo basada en LLM Prácticas de Codificación .
  2. Refinamiento iterativo guiado por evaluación de una aplicación basada en LLM: usar los resultados de evaluación y la retroalimentación de usuarios para guiar cambios en los prompts, la recuperación o el ajuste fino Construcción a Escala y Proceso .
  3. Consideraciones de despliegue para una aplicación basada en LLM: empaquetado, monitoreo en producción, y un plan de reversión/respaldo ante fallas del modelo o la infraestructura.

Aprendizaje esperado (Learning Outcomes)

  1. Integrar componentes de prompting, recuperación y/o ajuste fino con una capa de servicio en una aplicación de extremo a extremo basada en LLM que funcione [Integrar]
  2. Usar los resultados de evaluación y la retroalimentación de usuarios para refinar iterativamente una aplicación basada en LLM desplegada [Usar]
  3. Planear una estrategia de despliegue y reversión para una aplicación basada en LLM, considerando el monitoreo y los modos de falla [Planear]

3.72.5. Referencias Bibliográficas Volver arriba

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., and Polosukhin, I. (2017b). Attention is all you need. Advances in Neural Information Processing Systems, 30.

Raschka, S. (2024). Build a Large Language Model (From Scratch). Manning Publications.

White, J., Fu, Q., Hays, S., Sandborn, M., Olea, C., Gilbert, H., Elnashar, A., Spencer-Smith, J., and Schmidt, D. C. (2023). A prompt pattern catalog to enhance prompt engineering with chatgpt. Peer-reviewed research on prompt engineering patterns.

Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B., Xia, F., Chi, E., Le, Q., and Zhou, D. (2022). Chain-of-thought prompting elicits reasoning in large language models. In Advances in Neural Information Processing Systems (NeurIPS).

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., tau Yih, W., Rocktäschel, T., Riedel, S., and Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive nlp tasks. In Advances in Neural Information Processing Systems (NeurIPS).

Gao, Y., Xiong, Y., Gao, X., Jia, K., Pan, J., Bi, Y., Dai, Y., Sun, J., and Wang, H. (2024). Retrieval-augmented generation for large language models: A survey. arXiv preprint arXiv:2312.10997.

Hu, E. J., Shen, Y., Wallis, P., Allen-Zhu, Z., Li, Y., Wang, S., Wang, L., and Chen, W. (2022). Lora: Low-rank adaptation of large language models. In International Conference on Learning Representations (ICLR).

Dettmers, T., Pagnoni, A., Holtzman, A., and Zettlemoyer, L. (2023). Qlora: Efficient finetuning of quantized llms. In Advances in Neural Information Processing Systems (NeurIPS).

Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., and Cao, Y. (2023). React: Synergizing reasoning and acting in language models. In International Conference on Learning Representations (ICLR).

Liang, P., Bommasani, R., Lee, T., et al. (2023). Holistic evaluation of language models. Transactions on Machine Learning Research (TMLR).

Kwon, W., Li, Z., Zhuang, S., Sheng, Y., Zheng, L., Yu, C. H., Gonzalez, J. E., Zhang, H., and Stoica, I. (2023). Efficient memory management for large language model serving with pagedattention. In ACM Symposium on Operating Systems Principles (SOSP).

OWASP Foundation (2025). Owasp top 10 for large language model applications. https://owasp.org/www-project-top-10-for-large-language-model-applications/.

Weidinger, L., Uesato, J., Rauh, M., Griffin, C., Huang, P.-S., Mellor, J., Glaese, A., Cheng, M., Balle, B., Kasirzadeh, A., Biles, C., Brown, S., Kenton, Z., Hawkins, W., Stepleton, T., Birhane, A., Hendricks, L. A., Rimell, L., Isaac, W., Haas, J., Legassick, S., Irving, G., and Gabriel, I. (2022). Taxonomy of risks posed by language models. In ACM Conference on Fairness, Accountability, and Transparency (FAccT).

Alto, V. (2024). Building LLM Powered Applications: Create Intelligent Apps and Agents with Large Language Models. Packt Publishing.

¿Encontraste una errata, un curso desactualizado, un enlace roto, o tienes una sugerencia? Cuéntanos.

Escanea para abrir en tu teléfono