Сейчас мы с вами построим нашу первую нейронную сеть, которая решает задачу восстановления скрытой зависимости. Пусть у нашей скрытой зависимости всего один аргумент. И пусть в нашей скрытой зависимости всего один результат. То есть, одно значение мы должны предсказывать. Тогда наша нейронная сеть должна иметь один вход и один выход. Входом у нас будет xix_i​ -- это аргумент функции. А уiу_i​ -- это приближение функции, которое мы делаем при помощи нейронной сети. Что значит -- сделать архитектуру нейронной сети? Это значит, придумать, как между xx и yy будут происходить вычисления. Как будут устроены наши вычисления? Во-первых, я предлагаю сделать последний нейрон просто линейным. Это означает, что у последнего нейрона будет только сумматор, а вместо функций активации будет функция f(x)=xf(x) = x. А вот между xx и выходным нейроном я предлагаю поставить много сигмоидных нейронов. Что это значит? Это значит, что у этих нейронов будет сигмоидная функция активации. Соответственно, кружочек -- это у нас один нейрон, и внутри кружочка нарисована функция активации, которую мы будем использовать в этом нейроне. Для того, чтобы сделать нейронную сеть (научить её, точнее), нам нужно подобрать параметры нейронов выходного и нейронов так называемого "скрытого" слоя, таким образом, чтобы то, что выдаётся нейронной сетью наилучшим образом подходило к тому, что мы наблюдали.