Długa pamięć krótkotrwała

Długa pamięć krótkotrwała (ang. long short-term memory, LSTM^[1]) – rodzaj rekurencyjnej sieci neuronowej (RNN) zaprojektowany z myślą o niwelowaniu problemu zanikających gradientów powszechnie występującego w tradycyjnych sieciach RNN^[2]. Jego względna niewrażliwość na długość sieci stanowi jego przewagę nad innymi sieciami RNN, ukrytymi modelami Markowa i innymi metodami uczenia się sekwencji. Celem LSTM jest zapewnienie pamięci krótkotrwałej dla RNN, która może obejmować tysiące kroków czasowych (stąd „długa pamięć krótkotrwała”)^[1].

• eSezam 2.0 – 4.2. Sieć głęboka LSTM