- Institutos
- Matemática y Estadística
- Cursos segundo semestre
- ModE-2S
- Lo que dimos en cada clase (curso 2024)
Modelos Estadísticos para la Regresión y la Clasificación
Diagrama de temas
-
Aca vamos a ir poniendo lo que damos en cada clase
-
Clase del lunes 5/8: Presentación del curso. Introducción. Ejemplos introductorios de clasificación/regresión (aprendizaje supervisado) y de clustering (aprendizaje no supervisado). Estuvimos trabajando hasta la página 40 de estas transparencias .
-
Clase del miércoles 7/8: Fin de las transparencias introductorias la modelización estadística. Estadística descriptiva: se vió todo este material y se puede hacer todo el práctico 1 el cual se trabajará en la clase del viernes. Se sugiere leer este material también para complementar.
-
Práctico del viernes 9/8: Trabajamos en el práctico 1. Todo el material para realizarlo se encuentra en la Presentación del Práctico 1.
-
Clase del lunes 12/8: Empezamos con las transparencias del tema probabilidad: repaso de probabilidad, VA, distribución esperanza, varianza. Distribución conjunta. Distribución marginal y distribución condicional. Esperanza y matriz de variantes/covarianzas de un vector aleatorio. Teorema de cambio de variables. Ejemplo, ejercicio 1 práctico 2. Fuimos hasta la transparencia 30.
-
Práctico del viernes 16/8: Trabajamos en el práctico 2. El material para realizarlo se encuentra en la Presentación del Práctico 2.
-
Clase del lunes 19/8: Estimadores y estimación. Estimador plug-in de un parámetro. Sesgo y varianza de un estimador. Error cuadrático medio, descomposición sesgo varianza. Estimador de varianza mínima. Cota de Cramer Rao. Fuimos hasta el slide 20 de esta presentación
-
Clase del miércoles 21/8: Repaso estimador plug-in de un parámetro y demostración de la fórmula de la esperanza de la transparencia 6 . Repaso MVU y cota de Cramer-Rao. Consistencia. Estimador de máxima verosimilitud. Divergencia de Kullback-Leibler. Fuimos hasta la transparencia 33 de esta presentación
-
Práctico del viernes 23/8: Seguimos trabajando el práctico 2, en particular en los ejercicios de descomposición de la varianza (3 y 4). El material complementario se encuentra en la Presentación del Práctico 2 (continuación). También empezamos el práctico 3. El material para realizarlo se encuentra en la Presentación del Práctico 3.
-
Clase del lunes 26/8. Divergencia de Kullback-Leibler. Propiedades, ejemplos. Añadir al ejercicio 9 del práctico 3 el cálculo de la en el caso de a) y , b) y . Relación con la verosimilitud. Información de Fisher. Curvatura de la función de score. Estimador eficiente. Generalización al caso multivariado. Transformación de estimadores. Fuimos hasta la transparencia 52 de esta presentación
-
Clase del miércoles 28/8. Terminamos con las transparencias 3 : método de descenso por gradiente univariado y multivariado. Método de inversión. Método de Aceptación Rechazo.
Empezamos con las transparencias 4: Contextos del aprendizaje estadístico. Función de pérdida. Riesgo teórico. Riesgo empírico.
-
Clase del viernes 30/8. Seguimos con las transparencias 4.Repasamos riesgo teórico y riesgo empírico. Clasificación. Clasificador de Bayes. Regresión. Función de regresión y esperanza condicional. Perdida logarítmica y estimación de la densidad. Teorema de Vapnik-Chervonenkis. Sesgo y varianza de un estimador en modelización. Fuimos hasta la transparencia 24
-
Clase del lunes 2/9. Terminamos con las transparencias 4. Vimos la descomposición del error cuadrático medio en sesgo/varianza/error irreducible. Flexibilidad de un modelo. Sobreajuste. Ejemplos de métodos de modelización: regresión lineal, árboles de clasificación y regresión, bagging, random Forest, boosting, support vector machines, k vecinos más cercanos. Estos métodos serán profundizados más adelante en el curso.
-
Clase del miércoles 4/9. Regresión lineal simple. Motivación con enfoque probabilístico de la función de regresión. Estimadores mínimos cuadrados: diferenciación y proyección ortogonal. Condiciones de Gauss Markov. Usamos como material las notas siguiente (.pdf)
-
Práctico del viernes 6/9: Seguimos trabajando en el práctico 3. Vimos los ejercicios del 3 al 11. Para realizarlos quedó disponible la presentación de hoy: Presentación del Práctico 3 (continuación). En ésta hay guías y sugerencias para hacer los ejercicios.
-
Clase del lunes 9/9. Regresión lineal simple. Distribución de los estimadores MC, esperanza y varianza. Descomposición de la variación. Variación explicada por el modelo. R^2. Tests de hipótesis: significancia del modelo, significancia de cada coeficiente. Intervalo de confianza para la respuesta media y para la predicción. Ejemplo completo. El material visto es este.
-
Práctico del viernes 13/9: Trabajamos en el práctico 4. El material para realizarlo se encuentra en la Presentación del Práctico 2.
-
Clase del lunes 16/9. Espacio ROC, curva ROC, AUC. Análisis Discriminante lineal y cuadrático. Regresión Logística. k vecinos más cercanos. Utilizamos este material
-
Clase del miércoles 18/9. Arboles de clasificación y regresión (CART). Función de impureza. Criterio de partición, de detención y de asignación. Poda de un árbol. Métodos de agregación de modelos. Agregación basada en arboles: Bagging, Random Forest y Boosting. Transparencias
-
Clase del miércoles 02/10. Aprendizaje no supervisado. Análisis de componentes principales. Planteo del problema: búsqueda del subespecio vectorial que capture la mayor varianza de la proyección de la nube de puntos de los individuos. Construcción de las componentes, teorema de la esfera unidad. Planos factoriales.Contribución de los individuos y variables a los ejes. Calidad de la representación. Ejemplo completo. Transparencias
-
Clase del viernes 04/10. Aprendizaje no supervisado. Clustering. Métodos de particionamiento de datos: k-means y PAM. Clusterings jerárquicos. Spectral Clustering. Comparación de clusterings. Transparencias
-
Práctico del lunes 7/10: Trabajamos en el práctico 5. La presentación utilizada es esta. Vimos también los primeros dos ejercicios del práctico 6.
-
Práctico del miércoles 9/10: Trabajamos principalmente en el práctico 6. La presentación utilizada es esta. Repasamos PCA y vimos como hacer el ejercicio 2 del práctico 7, la información está en esta presentación.
-