9
правок
Изменения
м
Нет описания правки
Рекурсивная нейронная сеть — сеть {{---}} тип глубокой нейронной сети, сформированный при применении одних и тех же наборов весов рекурсивно через структуру в виде дерева, чтобы сделать скалярное или структурированное предсказание над входными данными переменного размера через обход дерева в топологическом порядке.<ref name=definition>[https://neurohive.io/ru/osnovy-data-science/7-arhitektur-nejronnyh-setej-nlp/ 7 архитектур нейронных сетей для решения задач NLP]</ref>
<math>p_{1} = f\left(W[b ; c]+ bias\right)</math>
*<math>b, c</math> — {{---}} дочерние векторы
*<math>W</math> — {{---}} обученная матрица весов, <math>W \in R^{d \times 2d}</math>
*<math>f</math> — {{---}} нелинейную функция активации типа гиперболического тангенса
*<math>bias</math> - cмещение, оно может быть добавлено в качестве дополнительного столбца к <math>W</math>, если к конкатенации входных векторов добавляется 1.
<math>label_{p} = softmax(W^{label}p)</math>
Здесь <math>W^{label}</math> — {{---}} матрица классификаций. Основной задачей и разницей между моделями будет вычисление скрытых векторов <math>p_i\in R^{d}</math> снизу вверх.
===Алгоритм обратного распространения ошибки===
