Вычислите, сколько потребуется свёрточных слоёв с непрореженными свёртками (dilation=1 в PyTorch) с ядром длины 5, чтобы учесть связь между первым словом в предложении и 30-м.
К сожалению, у нас пока нет статистики ответов на данный вопрос,
но мы работаем над этим.