Looking for caffe Answers? Try Ask4KnowledgeBase
Looking for caffe Keywords? Try Ask4Keywords

caffeNormalización de lotes


Introducción

De la documentación :

"Normaliza la entrada para tener una variación de 0 media y / o unidad (1) en el lote.

Esta capa calcula la normalización por lotes como se describe en [1].

[...]

[1] S. Ioffe y C. Szegedy, "Normalización de lotes: Aceleración de la capacitación profunda en la red mediante la reducción del cambio interno de covarianza". arXiv preimpresión arXiv: 1502.03167 (2015). "

Parámetros

Parámetro Detalles
use_global_stats De la publicación de rohrbach del 2 de marzo de 2016 , quizás él sepa:
(use_global_stats) "De manera predeterminada, durante el tiempo de entrenamiento, la red está calculando estadísticas de media / varianza global a través de un promedio de ejecución, que luego se usa en el tiempo de prueba para permitir salidas deterministas para cada entrada. Puede alternar manualmente si la red se está acumulando o usando las estadísticas a través de la opción use_global_stats. IMPORTANTE: para que esta función funcione, DEBE establecer la velocidad de aprendizaje en cero para los tres parámetros de blobs, es decir, param {lr_mult: 0} tres veces en la definición de capa.
(use_global_stats) Esto significa que, de forma predeterminada (como se establece a continuación en batch_norm_layer.cpp), no tiene que establecer use_global_stats en absoluto en el prototxt. use_global_stats_ = this-> phase_ == TEST; "

Normalización de lotes Ejemplos relacionados