Итак, мы с вами разобрали, как устроен биологический нейрон. Сейчас мы перейдём к математической модели нейрона. В математической модели нейрона, тело нейрона, где накапливается заряд, заменяется на сумматор. Кроме того, у нейрона есть ещё и дендриты, по которым сигнал приходит от других нейронов в тело нейрона. Соответственно, в нашей математической модели нейрона мы добавим входы в сумматор, которые будут заменять нам дендриты. Кроме того, у нейрона есть аксон, по которому нейрон отправляет сигналы к другим нейронам. Соответственно, в математической модели нейрона у нас будет выход, по которому наша математическая модель нейрона будет отправлять сигналы к другим нейронам. Также стоит помнить, что биологический нейрон что-то делает с сигналами, которые в него приходят, а именно, он накапливает заряд до тех пор, пока этот заряд не достигнет какого-то значения, и только после этого этот заряд уходит по аксону к другим нейронам. Это мы будем делать в математической модели нейрона при помощи функции активации. То есть, перед тем, как отправить сигнал к другим нейронам, наш нейрон будет что-то делать с сигналом, который выходит из сумматора. Мы должны ещё вспомнить о том, что у нейрона есть синапсы, то есть сила, с которой он соединён с другими нейронами. Силу синапсов мы будем моделировать при помощи синаптических весов, которые мы будем навешивать на входы в наш нейрон. Итак, математическая модель нейрона делает следующее. Пусть у нас есть три входа x0x_0​, x1x_1, x2x_2. Они приходят в сумматор, где они суммируются, и получается суммарный сигнал zz. После этого мы берем некоторую функцию, которая называется функцией активации ff, и мы получаем выход из нейрона, который здесь мы будем называть уу. В виде математического выражения, можно записать такую формулировку: yy -- это функция от x0x_0​ плюс x1x_1​ плюс x2x_2​. Однако мы здесь не учли, что есть ещё веса на входы в нейрон. Соответственно, поскольку синапс изменяется и обучение биологической нейронной сети сводится к тому, что настраиваются синапсы, мы введём некоторые настраиваемые веса, которые навесим на входы в нейрон. Их будем называть w0w_0​, w1w_1​ и w2w_2​. Тогда наше выражение примет вид: функция активации от суммы входных сигналов x0x_0​, x1x_1​, x2x_2​, перемноженных с синаптическими весами w0w_0​, w1w_1​ и w2w_2​. Итак, если мы внимательно присмотримся к тому, что у нас получилось, то здесь мы сможем наблюдать линейную функцию. Однако эта линейная функция ещё не совсем полна. Это означает, что до совсем линейной функции ей чего-то не хватает. И для того, чтобы описать все линейные функции мы добавим смещение bb. Итак, bb -- это ещё один настраиваемый параметр который живёт внутри нейрона.