Один нейрон нам даёт линейную разделяющую поверхность. Это значит, что между областью значений 00 и 11 при пороговой функции активации, у нас прямая линия, или плоскость, что-то такое. Когда же мы будем соединять нейроны в какую-то более сложную конструкцию, а именно в сеть, то мы можем получать какие-то нелинейные разделяющие поверхности. Более того, эти поверхности могут даже формировать несвязанные области. Например, можно решать вот такую задачу и получить вот такую разделяющую поверхность с вот такой выделенной областью.