46
правок
Изменения
Нет описания правки
*<tex>L_{i} \leqslant L_{j} \implies p_{i} \leqslant p_{j}</tex>
*Модель <tex>a</tex>, возвращающая <tex>L_{i}</tex>, после преобразования будет возвращать <tex>p_{i}</tex> и останется дифференцируемой
*<tex>p =soft{\text -}arg{\text -}maxsoftArgMax\left ( L \right )</tex>
Пусть <tex>y = soft{\text -}arg{\text -}maxsoftArgMax\left ( x \right )</tex>, тогда:
<tex>\frac{\partial y_{i}}{\partial x_{j}} = \begin{cases}
\end{cases} = y_{i}\left ( I\left [ i = j \right ] - y_{j}\right )</tex>
У <tex>soft{\text -}arg{\text -}maxsoftArgMax</tex> такое название, так как это, по сути, гладкая аппроксимация модифицированного <tex>arg{\text -}maxargMax</tex>.
===Свойства SoftArgMax===
*Вычисляет по вектору чисел вектор с распределением вероятностей
*Можно интерпретировать как вероятность нахождения максимума в <tex>i</tex>-й координате
*<tex>soft{\text -}arg{\text -}maxsoftArgMax\left ( x - c,y-c,z-c\right )=soft{\text -}arg{\text -}maxsoftArgMax\left ( x,y,z\right )</tex>
*Предыдущее свойство используют для устойчивости вычислений при <tex>c=max\left ( x,y,z \right )</tex>
*<tex>soft{\text -}arg{\text -}maxsoftArgMax</tex> {{---}} частный случай сигмоиды. <tex>soft{\text -}arg{\text -}maxsoftArgMax\left(y, 0\right) = \sigma \left(y\right)</tex>
===Модификация SoftArgMax===
<tex>soft{\text -}arg{\text -}max_softArgMax_{t}\left(x\right)=\frac{\exp\left(\frac{x_{i}}{t}\right)}{\sum\exp\left(\frac{x_{j}}{t}\right)}</tex>
Данная модификация полезна, когда необходимо контролировать распределение вероятностей, получаемое <tex>soft{\text -}arg{\text -}maxsoftArgMax</tex>. Чем больше параметр <tex>t</tex>, тем больше получаемые вероятности будут похожи на равномерное распределение.
==SoftMax==
[[File:BadSoftMax.png|200px|thumb|Плохой SoftMax (помечен красным)]]
[[File:GoodSoftMax.png|200px|thumb|Хороший SoftMax (помечен оранжевым)]]
Зададим функцию <tex>soft{\text -}maxsoftMax</tex> таким образом:
<tex>soft{\text -}maxsoftMax\left ( x_{1},\ldots,x_{n}\right ) = \frac{x_{i}~\cdot~\exp \left ( x_{i} \right )}{\sum_{j}\exp \left( x_{j} \right )} = \left \langle x, \right .soft{\text -}arg{\text -}maxsoftArgMax\left . \left (x_{1},\ldots,x_{n} \right ) \right \rangle</tex>
Гладкая аппроксимация максимума. Математическое ожидание или средневзвешенное, где веса {{---}} экспоненты значений соответствующих элементов. Сохраняет некоторые свойства максимума:
*<tex>soft{\text -}maxsoftMax\left ( a,a,a\right ) = a</tex>*<tex>soft{\text -}maxsoftMax\left ( x+a,y+a,z+a\right ) =soft{\text -}maxsoftMax\left ( x,y,z\right ) + a</tex>
Заданный выше <tex>soft{\text -}maxsoftMax</tex> {{---}} «плохой» в связи с тем, что мы считаем средневзвешенное значение, которое всегда будет меньше максимума, что приведёт к проблемам с поиском максимума.
===Хороший SoftMax===
<tex>soft{\text -}maxsoftMax\left ( x_{1},\ldots,x_{n}\right ) = \log\left(\sum_{i}\exp\left(x_{i}\right)\right)</tex>
*Не сохраняется свойство <tex>soft{\text -}maxsoftMax\left(a,a,a\right)=a</tex>*Производная равна <tex>soft{\text -}arg{\text -}maxsoftArgMax</tex>
В этом случае сохраняется монотонность, значит, не возникнет проблем с поиском минимума и максимума.
==Связь между вариациями SoftMax==
Обозначим «плохой» <tex>soft{\text -}maxsoftMax</tex> как <tex>bad{\text -}soft{\text -}maxbadSoftMax</tex>. Тогда:
*<tex>bad{\text -}soft{\text -}maxbadSoftMax\left(x_{1},\ldots,x_{n}\right)=\left \langle x, \right .soft{\text -}arg{\text -}maxsoftArgMax\left . \left (x_{1},\ldots,x_{n} \right ) \right \rangle</tex>*<tex>\nabla soft{\text -}maxsoftMax\left(x_{1},\ldots,x_{n}\right)=soft{\text -}arg{\text -}maxsoftArgMax\left(x_{1},\ldots,x_{n}\right)</tex>*<tex>\log\left(\right.soft{\text -}arg{\text -}max_softArgMax_{i}\left(x_{1},\ldots,x_{n}\right)\left.\right) = x_{i} -soft{\text -}maxsoftMax\left(x_{1},\ldots,x_{n}\right)</tex>
Для подсчёта, например, перекрёстной энтропии необходимо вычислить <tex>\log\left(p_{i}\right)</tex>. Последнее свойство позволяет вычислять производную от <tex>\log\left(p_{i}\right)</tex>, когда <tex>p_{i} = 0</tex>.
==Примечания==
*В большинстве статей пишется <tex>soft{\text -}maxsoftMax</tex>, хотя вместо этого подразумевается <tex>soft{\text -}arg{\text -}maxsoftArgMax</tex>*<tex>soft{\text -}arg{\text -}maxsoftArgMax</tex> можно называть также как обобщённая (многомерная) сигмоида*<tex>soft{\text -}arg{\text -}maxsoftArgMax</tex> является алгоритмом подсчёта весов для <tex>soft{\text -}maxsoftMax</tex>
==Источники==
# [https://www.youtube.com/watch?v=mlPNUbaphZA&ab_channel=MLLabITMO Лекция 7. Байесовские методы А. Забашта]
