Исследование функций активаций в архитектуре сетей долговременной краткосрочной памяти для прогнозирования финансовых временных рядовдипломная работа (Специалист)
Аннотация:В данной работе решается задача прогнозирования финансовых вре-
менных рядов, при его решении проводится сравнительный анализ
функций активаций на минутных, часовых и дневных тиках для ар-
хитектуры сетей долговременной кратковременной памяти (англ. Long
short-term memory, LSTM ). Целью работы является исследование вли-
яние функции актвации на качество прогноза. Рассмотрены как клас-
сические функции активаций, такие как сигмоидальная, гиперболиче-
ский тангенс, так и неклассические функции активации cloglog,loglog.
Каждая из этих функций была применена к данным, полученных на
часовых, дневных и минутных тиках, и были проанализированы их ре-
зультаты.
В результате вычислительных экспериментов было выявлено, что
представленные неклассические функции cloglog и loglog эффективно
демонстрируют свою эффективность при использовании в LSTM архи-
тектуре нейронной сети для всех видов тиков с настроенными гипер-
параметрами, показывая лучшие результаты для прогноза пары BTCUSD
по метрикам RMSE, MAE, MAPE, а результаты прогноза функции
активации loglog сопоставимы по результатам с функцией активации
sigmoid.
В результате прогноза ETH-USD, прогноз с функцией активации
cloglog сопоставим с результатами функции активации tanh.
В целом, в работе показано, что выбор функции активации для архи-
тектуры сетей долгой кратковременной памяти является важным фак-
тором, влияющим на качество предсказаний
