Понимаем Stochastic Gradient Descent (SGD) с Momentum
В лекции были рассмотрены алгоритм Stochastic Gradient Descent и его вариация с моментумом (англ. momentum -- импульс).
Задачи будут направлены на улучшение понимания того, что происходит во время осуществления оптимизации при помощи алгоритма SGD в различных его вариациях.