-
Геометрическая интерпретация нормы Фробениуса
Напомню, что норма Фробениуса матрицы вычисляется путем извлечения квадратного корня из суммы квадратов всех ее элементов:
( Read more... ) -
Стандартное отклонение инициализатора HeNormal
В описание API Keras об инициализаторе HeNormal сказано следующее:
It draws samples from a truncated normal distribution centered on 0 with stddev = sqrt(2 / fan_in) where fan_inis the number of input units in the weight tensor.
Откуда же взялось такое стандартное отклонение и почему было выбрано именно оно?
( Read more... ) -
Дивергенция Кульбака-Лейблера
Дивергенция или расхождение Кульбака-Лейблера (KL) - это мера, позволяющая определить насколько информационная энтропия одного распределения отлична от энтропии другого распределения ( Read more... ) -
Информация и энтропия
Информация случайного события вычисляется как минус логарифм вероятности этого события:
( Read more... ) -
TensorFlow в Jupyter не видит GPU
Столкнулся со странной проблемой: если запускать TensorFlow из консоли, то вот такой скрипт среди девайсов находит "/device:GPU:0":
from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())
а метод tf.test.gpu_device_name() корректно вовзращает '/device:GPU:0'Однако, если то же самое попытаться выполнить в jupyter, ( Read more... ) -
tensorflow 2.0 и процессор без AVX
Дефолтный пакет tensorflow-gpu собран с инструкциями AVX. То есть, после установки при помощи 'pip install tensorflow-gpu' в системе со старым процессором, который про эти инструкции ничего не знает, попытка импорта будет заканчиваться ошибкой:
Illegal instruction (core dumped)
Проверить, какие инструкции поддерживает процессор, можно выполнив ' ( Read more... ) -
Монте Карло и RL
Вообще термин "Монте Карло" (МК) используют для обозначения широкого спектра методов, основанных на повторении случайных выборок. В обучении с подкреплением (RL) методы МК позволяют производить оценку значений непосредственно из опыта: из последовательности состояний (state), действий (action) и вознаграждений (reward ( Read more... ) -
Разбить flac по cue
shnsplit -f *.cue -t %n.%t -o flac *.flac
cuetag *.cue *.flac
-
Парадокс дней рождения
Есть такой парадокс, который называется парадоксом дней рождения. Состоит он в том, что в группе людей, количество которых превышает 23 человека, вероятность совпадения дней рождения хотя бы у двух человек превышает 50 ( Read more... )
