Энтропия / KL-дивергенция

Интерактивный учебный пример для энтропии, кросс-энтропии и KL-дивергенции.

Сравнение распределений

Теплокарта энтропии

Поверхность KL