La Escuela de Ingeniería, Ciencia y Tecnología los invita a la conferencia Transformers.

En este espacio explicaremos por qué la arquitectura de los Transformers ha sido de gran utilidad en el procesamiento del lenguaje y de imágenes y mostraremos algunos ejemplos sorprendentes que usamos (y usaremos) en la cotidianidad.

A pesar de tener una larga y turbulenta historia en IA, las redes neuronales artificiales ocupan el podio de los mejores modelos para tareas de clasificación y regresión desde 2012, y cada vez con mayor fuerza. La conjunción entre grandes bases de datos, hardware computacional más poderoso y algunos trucos algorítmicos, permitieron la implementación de arquitecturas profundas con resultados sin precedentes. Y aún no dejan de sorprendernos. A un ritmo incesante, nuevas arquitecturas son propuestas. Es el caso de los transformers, los cuales son una arquitectura basada en redes feed-forward y modelos de atención, y que han mostrado su gran utilidad en el procesamiento tanto de lenguaje como de imágenes. En esta charla explicaremos brevemente esta arquitectura, las razones de su éxito y algunos ejemplos sorprendentes que están a la base de tecnologías que usamos diariamente, como el corrector de gramática y la traducción automática, y que apalancan aplicaciones increíbles, como la generación automática de textos.