CBLL Research Lab

Un EBM asocia un valor de energía con cada configuración de un conjunto de variables, en lugar de una probabilidad normalizada como en un modelo gráfico probabilístico estándar. Hacer una predicción (una inferencia) significa encontrar la configuración con la energía más baja, y entrenar un EBM significa moldear la superficie de energía para que las configuraciones deseadas se sitúen en baja energía y las no deseadas en energía más alta, guiadas por una función de pérdida diseñada para ese propósito.

Los tutoriales de la página incluyen "Un Tutorial sobre Aprendizaje Basado en Energía", presentado en la Escuela de Verano CIAR 2006 en la Universidad de Toronto, con diapositivas en DjVu y PDF; un tutorial de 4 partes de la Escuela de Verano de Graduados IPAM 2005 en UCLA, con video en streaming y diapositivas que cubren una introducción a los EBMs, arquitecturas y funciones de pérdida, redes convolucionales para el reconocimiento de imágenes invariantes, y métricas de disimilitud entrenables, segmentación, etiquetado de secuencias y redes transformadoras de grafos; y una charla sobre funciones de pérdida para EBMs con salidas estructuradas de un taller NIPS 2004. Las publicaciones vinculadas incluyen el tutorial de 60 páginas "Un Tutorial sobre Aprendizaje Basado en Energía" (Bakir et al., 2006), "Funciones de Pérdida para el Entrenamiento Discriminativo de Modelos Basados en Energía" (LeCun y Huang, 2005), y "Detección Sinérgica de Rostros y Estimación de Pose" (Osadchy, Miller y LeCun, NIPS 2004), que aplica la metodología EBM y una función de pérdida contrastiva para detectar rostros y estimar su pose al mismo tiempo. La página también incluye demostraciones animadas que visualizan cómo diferentes funciones de pérdida moldean la superficie de energía de un EBM en una tarea de ejemplo simple.

Este recurso está dirigido a estudiantes de posgrado e investigadores que estudian la teoría del aprendizaje automático, particularmente modelos basados en energía y de salida estructurada, en lugar de a desarrolladores que buscan una herramienta descargable. Todas las diapositivas, videos y documentos vinculados son accesibles de forma gratuita en la página.