Изменения
Нет описания правки
==Soft-Arg-Max==
===Постановка задачи===
Пусть есть задача мягкой классификации:
Алгоритм <tex>a</tex> выдает значения <tex>L_{1}, L_{2},\ldots, L_{n}</tex>, где <tex>n</tex> {{---}} число классов.
<tex>L_{i}</tex> {{---}} уверенность алгоритма в том, что объект принадлежит классу <tex>i</tex>, <tex>L_{i} \in \left [ -\infty, +\infty\right ]</tex>
Тогда выполняется следующее: <tex>L_{i} \leqslant L_{j} \implies p_{i} \leqslant p_{j}</tex>
Есть модель <tex>a</tex>, возвращающая Li<tex>L_{i}</tex>. Необходимо сделать так, чтобы <tex>a </tex> возвращала pi<tex>p_{i}</tex>, при этом оставаясь дифференциируемой.==Soft-Arg-Max==
<tex>y = </tex> '''soft-arg-max'''<tex>\left ( x \right )</tex>, где <tex>y_{i} = \frac{\exp\left ( x_{i} \right )}{\sum_{j}\exp\left ( x_{i} \right )}</tex>
<tex>\frac{\partial y_{i}}{\partial x_{j}} = \begin{cases}
