Допустим, мы генерируем последовательности токенов с помощью модели и лучевого поиска.
В какой-то момент в списке частичных решений BeamBeamBeam появилась последовательность "a b c d" со следующей оценкой правдоподобия
P(abcd)=P(a)P(b|a)P(c|ab)P(d|abc)=0.3⋅0.5⋅0.7⋅0.2=0.021P(abcd)=P(a)P(b|a)P(c|ab)P(d|abc)=0.3⋅0.5⋅0.7⋅0.2=0.021P(abcd) = P(a) P(b|a) P(c|ab) P(d|abc) = 0.3 \cdot 0.5 \cdot 0.7 \cdot 0.2 = 0.021
Выберите другие частичные решения, которые могут привести к вытеснению этой последовательности из списка частичных решений.

К сожалению, у нас пока нет статистики ответов на данный вопрос, но мы работаем над этим.