Memoria larga a corto plazo

La memoria larga a corto plazo, (en inglés, long short-term memory o LSTM) es una arquitectura de red neuronal recurrente (RNN) desarrollada para abordar el problema de desvanecimiento de gradiente, que afecta la capacidad de las RNN tradicionales para aprender dependencias a largo plazo en secuencias de datos. A diferencia de otros modelos como los modelos ocultos de Markov, los LSTM pueden retener información durante miles de pasos temporales, lo que los convierte en una herramienta eficaz para procesar datos secuenciales.

La célula LSTM procesa datos secuencialmente y mantiene su estado oculto a lo largo del tiempo.

El núcleo de un LSTM es la célula de memoria, que retiene información durante intervalos de tiempo arbitrarios. Esta célula está controlada por tres tipos de puertas: la puerta de entrada, la puerta de salida y la puerta de olvido. La puerta de entrada regula qué nueva información se almacenará en la célula de memoria, la puerta de salida decide qué información se usará para generar la salida en el paso actual, y la puerta de olvido determina qué información debe eliminarse.

Además de sus aplicaciones en el procesamiento del lenguaje y el habla, los LSTM se utilizan en otras áreas como la predicción de series temporales, donde pueden prever valores futuros en secuencias basadas en patrones aprendidos de datos pasados. También se aplican en el control de robots, ayudando a los sistemas a aprender comportamientos complejos a partir de datos sensoriales continuos.Otras aplicaciones incluyen la clasificación estadística, procesamiento de datos, análisis de series temporales,reconocimiento del habla,traducción automática, videojuegos y servicios de salud. En el reconocimiento de voz, por ejemplo, un LSTM puede identificar patrones en secuencias de audio que representan palabras o frases específicas, incluso en presencia de ruido o variaciones en el habla.

Motivación

En teoría, las redes neuronales recurrentes clásicas (RNNs) pueden rastrear dependencias a largo plazo arbitrarias en las secuencias de entrada. Sin embargo, el problema con las RNNs clásicas es de naturaleza computacional (o práctica): al entrenar una RNN clásica utilizando retropropagación, los gradientes a largo plazo que se retropropagan pueden «desvanecerse», lo que significa que tienden a cero debido a la acumulación de números muy pequeños en los cálculos, causando que el modelo efectivamente deje de aprender. Las RNNs que utilizan unidades LSTM resuelven parcialmente el problema de desvanecimiento de gradiente, ya que las unidades LSTM permiten que los gradientes fluyan con poca o ninguna atenuación. Sin embargo, las redes LSTM aún pueden sufrir el problema de los gradientes que explotan.

La intuición detrás de la arquitectura LSTM es crear un módulo adicional en una red neuronal que aprenda cuándo recordar y cuándo olvidar información pertinente. En otras palabras, la red aprende efectivamente qué información podría necesitarse más adelante en una secuencia y cuándo esa información ya no es relevante. Por ejemplo, en el contexto del procesamiento del lenguaje natural, la red puede aprender dependencias gramaticales. Un LSTM podría procesar la oración: «Dave, como resultado de sus afirmaciones controvertidas, ahora es un paria» recordando el género gramatical y el número del sujeto Dave (probablemente masculino y singular), notar que esta información es pertinente para el pronombre sus y darse cuenta de que esta información ya no es importante después del verbo es.

Variantes

En las ecuaciones a continuación, las variables en minúsculas representan vectores. Las matrices $W_q$ y $U_q$ contienen, respectivamente, los pesos de las conexiones de entrada y recurrentes, donde el subíndice ${}_q$ puede referirse a la puerta de entrada $i$, la puerta de salida $o$, la puerta de olvido $f$, o la célula de memoria $c$, dependiendo de la activación que se esté calculando. En esta sección, se utiliza una «notación vectorial». Por ejemplo, $c_t\in {ℝ}^h$ no representa solo una unidad de una célula LSTM, sino que contiene $h$ unidades de células LSTM.

También existe un estudio empírico de ocho variantes arquitectónicas de LSTM.

LSTM con puerta de olvido

Las formas compactas de las ecuaciones para el paso hacia adelante de una célula LSTM con una puerta de olvido son:

$\begin{array}{cc}{f}_t& ={\sigma }_g(W_f{x}_t+U_f{h}_{t-1}+b_f)\\ i_t& ={\sigma }_g(W_i{x}_t+U_i{h}_{t-1}+b_i)\\ o_t& ={\sigma }_g(W_o{x}_t+U_o{h}_{t-1}+b_o)\\ {\tilde{c}}_t& ={\sigma }_c(W_c{x}_t+U_c{h}_{t-1}+b_c)\\ c_t& =f_t\odot c_{t-1}+i_t\odot {\tilde{c}}_t\\ h_t& =o_t\odot {\sigma }_h(c_t)\end{array}$

donde los valores iniciales son $c_0=0$ y $h_0=0$, además, el operador $\odot$ denota el producto de Hadamard (producto elemento a elemento). El subíndice $t$ indica el paso temporal.

Variables

Usando los superíndices $d$ y $h$ para referirse al número de características de entrada y al número de unidades ocultas, respectivamente:

• $x_t\in {ℝ}^d$: vector de entrada a la unidad LSTM.
• $f_t\in {(0,1)}^h$: vector de activación de la puerta de olvido.
• $i_t\in {(0,1)}^h$: vector de activación de la puerta de entrada/actualización.
• $o_t\in {(0,1)}^h$: vector de activación de la puerta de salida.
• $h_t\in {(-1,1)}^h$: vector del estado oculto, también conocido como el vector de salida de la unidad LSTM.
• ${\tilde{c}}_t\in {(-1,1)}^h$: vector de activación de la entrada de la célula.
• $c_t\in {ℝ}^h$: vector del estado de la célula.
• $W\in {ℝ}^{h\times d}$, $U\in {ℝ}^{h\times h}$ y $b\in {ℝ}^h$: matrices de pesos y vector de sesgo, parámetros que deben ser aprendidos durante el entrenamiento.

Funciones de activación

• ${\sigma }_g$: función sigmoide.
• ${\sigma }_c$: función hiperbólica tangente.
• ${\sigma }_h$: función hiperbólica tangente o, como sugiere el artículo del LSTM con peephole, ${\sigma }_h(x)=x$.

LSTM con peephole

Con el tiempo, se han desarrollado variantes de la arquitectura LSTM para mejorar su rendimiento y ampliar sus aplicaciones. La introducción de las conexiones peephole permite que las puertas accedan directamente al estado de la célula de memoria, mejorando la precisión en tareas que requieren un control más fino de la memoria.

Una unidad LSTM con peephole con puertas de entrada ($i$, input), salida ($o$, output) y olvido ($f$, forget).

La figura de la derecha es una representación gráfica de una unidad LSTM con conexiones peephole (es decir, LSTM con peephole). Las conexiones peephole permiten que las puertas accedan al carrusel de error constante (CEC, constant error carrousel), cuya activación corresponde al estado de la célula. En este caso, $h_{t-1}$ no se utiliza; en su lugar, se utiliza $c_{t-1}$ en la mayoría de los casos:

$\begin{array}{cc}{f}_t& ={\sigma }_g(W_f{x}_t+U_f{c}_{t-1}+b_f)\\ i_t& ={\sigma }_g(W_i{x}_t+U_i{c}_{t-1}+b_i)\\ o_t& ={\sigma }_g(W_o{x}_t+U_o{c}_{t-1}+b_o)\\ c_t& =f_t\odot c_{t-1}+i_t\odot {\sigma }_c(W_c{x}_t+b_c)\\ h_t& =o_t\odot {\sigma }_h(c_t)\end{array}$

Cada una de las puertas puede considerarse como una «neurona estándar» en una red neuronal de propagación hacia adelante (o de múltiples capas): es decir, calculan una activación (usando una función de activación) de una suma ponderada. $i_t,o_t$ y $f_t$ representan las activaciones de las puertas de entrada, salida y olvido, respectivamente, en el paso temporal $t$.

Las tres flechas de salida desde la célular de memoria $c$ hacia las tres puertas $i,o$ y $t$ representan las conexiones peephole. Estas conexiones peephole denotan las contribuciones de la activación de la célula de memoria $c$ en el paso temporal $t-1$, es decir, la contribución de $c_{t-1}$ (y no $c_t$, como podría sugerir la imagen). En otras palabras, las puertas $i,o$ y $t$ calculan sus activaciones en el paso temporal $t$ ($i_t,o_t$ y $f_t$, respectivamente) considerando también la activación de la célula de memoria $c$ en el paso temporal $t-1$, es decir, $c_{t-1}$.

La única flecha de izquierda a derecha que sale de la célula de memoria no es una conexión peephole y denota $c_t$.

Los pequeños círculos que contienen un símbolo $\times$ representan una multiplicación elemento a elemento entre sus entradas. Los círculos grandes que contienen una curva en forma de «S» representan la aplicación de una función diferenciable (como la función sigmoide) a una suma ponderada.

LSTM convolucional con peephole

También existe el LSTM convolucional con peephole, que integra capacidades de procesamiento de imágenes, útil en aplicaciones como la predicción de precipitaciones.El símbolo $*$ denota el operador de convolución.

$\begin{array}{cc}{f}_t& ={\sigma }_g(W_f*x_t+U_f*h_{t-1}+V_f\odot c_{t-1}+b_f)\\ i_t& ={\sigma }_g(W_i*x_t+U_i*h_{t-1}+V_i\odot c_{t-1}+b_i)\\ c_t& =f_t\odot c_{t-1}+i_t\odot {\sigma }_c(W_c*x_t+U_c*h_{t-1}+b_c)\\ o_t& ={\sigma }_g(W_o*x_t+U_o*h_{t-1}+V_o\odot c_t+b_o)\\ h_t& =o_t\odot {\sigma }_h(c_t)\end{array}$

Entrenamiento

El entrenamiento de un LSTM se realiza mediante el algoritmo de retropropagación a través del tiempo, combinado con métodos de optimización como el descenso de gradiente. Este proceso ajusta los parámetros de la red para minimizar el error entre las predicciones del modelo y los resultados esperados, lo cual permite que la red aprenda a hacer predicciones más precisas. En otras palabras, esto permite calcular los gradientes necesarios durante el proceso de optimización. Esto permite ajustar cada peso de la red LSTM en proporción a la derivada del error (en la capa de salida de la red) con respecto al peso correspondiente.

Un problema del descenso por gradiente en RNN estándar es que los gradientes del error se desvanecen exponencialmente rápido con el tamaño del desfase temporal entre eventos importantes. Esto ocurre debido a que $\underset{n\to \mathrm{\infty }}{\lim }{W}^n=0$ si el radio espectral de $W$ es menor que 1.

Sin embargo, con las unidades LSTM, cuando los valores de error son retropropagados desde la capa de salida, el error permanece en la celda de la unidad LSTM. Este «carrusel de error» retroalimenta continuamente el error a cada una de las puertas de la unidad LSTM, hasta que estas aprenden a cortar el valor.

Función de puntuación CTC

Muchas aplicaciones utilizan pilas de redes LSTM RNA y las entrenan mediante clasificación temporal conexionista (CTC, connectionist temporal classification), con el objetivo de encontrar una matriz de pesos que maximice la probabilidad de las secuencias de etiquetas en un conjunto de entrenamiento dado el conjunto de secuencias de entrada. Esta función logra tanto alineación como reconocimiento.

Alternativas

En ocasiones, puede ser ventajoso entrenar partes de una LSTM mediante neuroevolución o métodos de gradiente de políticas, especialmente cuando no existe un «profesor» (es decir, no hay etiquetas de entrenamiento).

Aplicaciones

Las aplicaciones de LSTM incluyen:

• Control de robots
• Predicción de series temporales
• Reconocimiento del habla
• Aprendizaje de ritmos
• Modelado hidrológico de lluvia–escorrentía
• Composición musical
• Aprendizaje de gramática
• Reconocimiento de escritura a mano
• Reconocimiento de acciones humanas
• Traducción de lenguaje de señas
• Detección de homología de proteínas
• Predicción de localización subcelular de proteínas
• Detección de anomalías en series temporales
• Predicción en gestión de procesos empresariales
• Predicción en vías de atención médica
• Análisis semántico
• Cosegmentación de objetos
• Gestión de pasajeros en aeropuertos
• Modelización de transporte a corto plazo
• Diseño de fármacos
• Predicción de mercados
• Clasificación de actividades en video

Acontecimientos importantes

• 2015: Google comenzó a usar LSTM entrenado con CTC para el reconocimiento de voz en Google Voice, de manera que disminuyó errores de transcripción en un 49 %.
• 2016: Google introdujo LSTM en su aplicación Allo para sugerir mensajes y en el sistema de traducción neuronal para Google Translate, de manera que disminuyó errores de traducción en un 60 %. En la conferencia Apple Worldwide Developers, Apple anunció su uso para QuickType en iPhone y Siri. Amazon lanzó Polly, una tecnología que genera las voces detrás de Alexa, utilizando un LSTM bidireccional para la conversión de texto a voz.
• 2017: Facebook realizó 4.5 mil millones de traducciones automáticas diarias con redes LSTM. Microsoft alcanzó un 94.9 % de precisión en el reconocimiento de Switchboard utilizando LSTM orientado a sesiones de diálogo.
• 2018: OpenAI usó LSTM con gradientes de política para superar a humanos en el videojuego Dota 2 y controlar una mano robótica con destreza sin precedentes.
• 2019: DeepMind empleó LSTM entrenado con gradientes de política para sobresalir en el videojuego Starcraft II.

Historia

Desarrollo

Aspectos del LSTM fueron anticipados por el concepto de «retropropagación enfocada» (Mozer, 1989), citado en el artículo sobre LSTM.

La tesis de diploma en alemán de Sepp Hochreiter en 1991 analizó el problema de desvanecimiento de gradiente y desarrolló principios fundamentales del método. Su supervisor, Jürgen Schmidhuber, consideró la tesis de gran relevancia.

Una versión temprana de LSTM fue publicada en 1995 en un informe técnico por Sepp Hochreiter y Jürgen Schmidhuber y luego presentada en la conferencia NIPS de 1996.

La referencia más común para LSTM se publicó en 1997 en la revista Neural Computation. Al introducir las unidades de Carrusel de Error Constante (CEC), LSTM aborda el problema de desvanecimiento de gradiente. La versión inicial del bloque LSTM incluía celdas y puertas de entrada y salida.

En 1999, Felix Gers, Jürgen Schmidhuber y Fred Cummins introdujeron la puerta de olvido (también llamada «puerta de retención») en la arquitectura LSTM, permitiendo que el LSTM restablezca su propio estado. Esta es la versión más utilizada hoy en día.

En 2000, Gers, Schmidhuber y Cummins añadieron las conexiones peephole, y eliminaron la función de activación de salida.

Desarrollo de variantes

• 2006: Graves, Fernandez, Gomez y Schmidhuber introdujeron una nueva función de error para LSTM, la Clasificación Temporal Conexionista (CTC), para alineación y reconocimiento simultáneos de secuencias.
• 2005: Graves y Schmidhuber publicaron LSTM con retropropagación completa a través del tiempo y LSTM bidireccional.
• 2014: Kyunghyun Cho et al. publicaron una variante simplificada del LSTM con puerta de olvido, denominada unidad recurrente cerrada (GRU).
• 2015: Rupesh Kumar Srivastava, Klaus Greff y Schmidhuber usaron principios de LSTM para crear la red Highway, una red neuronal prealimentada directa con cientos de capas, mucho más profunda que las redes anteriores. Paralelamente, se desarrolló la arquitectura ResNet, equivalente a una red Highway sin puertas o con puertas abiertas.
• 2024: Un equipo liderado por Sepp Hochreiter publicó una actualización moderna del LSTM llamada xLSTM (Maximilian et al.). Uno de sus bloques, mLSTM, es paralelizable como la arquitectura de transformadores, mientras que otros bloques, sLSTM, permiten el seguimiento de estados.

Aplicaciones

• 2001: Gers y Schmidhuber entrenaron LSTM para aprender lenguajes imposibles de aprender con modelos tradicionales como los Modelos Ocultos de Markov. Hochreiter et al. usaron LSTM para metaaprendizaje (es decir, aprender un algoritmo de aprendizaje).
• 2004: Primera aplicación exitosa de LSTM al reconocimiento de voz (Alex Graves et al.).
• 2005: Wierstra, Gomez y Schmidhuber entrenaron LSTM mediante neuroevolución sin un maestro. Mayer et al. lo usaron para controlar robots.
• 2007: Wierstra, Foerster, Peters y Schmidhuber entrenaron LSTM con gradientes de política para aprendizaje por refuerzo sin un maestro. En el campo de la biología, Hochreiter, Heuesel y Obermayr aplicaron LSTM a la detección de homología de proteínas.
• 2009: Justin Bayer et al. introdujeron la búsqueda de arquitecturas neuronales para LSTM. Un LSTM entrenado con CTC ganó la competencia de reconocimiento de escritura manual conectada en el ICDAR. Alex Graves lideró el equipo que presentó tres modelos, uno de los cuales fue el más preciso y otro el más rápido. Esta fue la primera vez que una RNN ganó competencias internacionales.
• 2013: Alex Graves, Abdel-rahman Mohamed y Geoffrey Hinton usaron redes LSTM como componente principal de una red que alcanzó un error del 17.7 % en fonemas en el conjunto de datos TIMIT de habla natural. Investigadores de Michigan State University, IBM Research y Cornell University publicaron un estudio en la conferencia KDD. Su LSTM Consciente del Tiempo (T-LSTM) mostró mejor rendimiento en ciertos conjuntos de datos comparado con el LSTM estándar.

A pesar de sus ventajas, los LSTM pueden experimentar el problema del gradiente explosivo, donde los gradientes crecen exponencialmente y causan inestabilidad en el entrenamiento. Sin embargo, existen técnicas como la recorte de gradientes para gestionar estos problemas.

En la actualidad, los LSTM siguen siendo una herramienta fundamental en el aprendizaje profundo, especialmente en áreas que involucran secuencias temporales complejas. Su capacidad para aprender y retener información durante largos periodos de tiempo ha permitido avances en campos como el reconocimiento de voz, la traducción automática y la predicción de series temporales, consolidando su lugar como una de las arquitecturas más influyentes en la inteligencia artificial moderna.

Véase también

• Atención (aprendizaje automático)
• Aprendizaje por refuerzo
• Aprendizaje profundo
• Red neuronal recurrente
• Serie temporal
• Transformador (modelo de aprendizaje automático)
• Unidades recurrentes cerradas
• Potenciación a largo plazo

Bibliografía adicional

• Plantilla:Cita publicación
• Plantilla:Cita publicación
• Plantilla:Cita web
• Plantilla:Cita tesis Archivado el 22 de mayo de 2012.
  • Archivo original con dos capítulos dedicados a la explicación de las redes neurales recurrentes, especialmente en LSTM.

Enlaces externos

• Redes neurales recurrentes (en inglés), con más de treinta artículos realizados por Jürgen Schmidhuber y su equipo, para el Instituto Dalle Molle para la Investigación de Inteligencia Artificial.
• Plantilla:Cita libro