Para acceder a los documentos con el texto completo, por favor, siga el siguiente enlace: http://hdl.handle.net/2117/26625

Stopping criteria in contrastive divergence: Alternatives to the reconstruction error
Buchaca, David; Romero Merino, Enrique; Mazzanti Castrillejo, Fernando Pablo; Delgado Pin, Jordi
Universitat Politècnica de Catalunya. Departament de Ciències de la Computació; Universitat Politècnica de Catalunya. Departament de Física i Enginyeria Nuclear; Universitat Politècnica de Catalunya. SOCO - Soft Computing; Universitat Politècnica de Catalunya. SIMCON - Grup de Recerca de Simulació per Ordinador en Matèria Condensada; Universitat Politècnica de Catalunya. LARCA - Laboratori d'Algorísmia Relacional, Complexitat i Aprenentatge
Restricted Boltzmann Machines (RBMs) are general unsupervised learning devices to ascertain generative models of data distributions. RBMs are often trained using the Contrastive Divergence learning algorithm (CD), an approximation to the gradient of the data log-likelihood. A simple reconstruction error is often used to decide whether the approximation provided by the CD algorithm is good enough, though several authors (Schulz et al., 2010; Fischer & Igel, 2010) have raised doubts concerning the feasibility of this procedure. However, not many alternatives to the reconstruction error have been used in the literature. In this manuscript we investigate simple alternatives to the reconstruction error in order to detect as soon as possible the decrease in the log-likelihood during learning.
Peer Reviewed
Àrees temàtiques de la UPC::Informàtica::Intel·ligència artificial::Aprenentatge automàtic
Machine learning
Computer algorithms
Restricted Boltzmann Machines
RBMs: Contrastive divergence learning algorithm
Aprenentatge automàtic
Algorismes computacionals
Attribution-NonCommercial-NoDerivs 3.0 Spain
http://creativecommons.org/licenses/by-nc-nd/3.0/es/
info:eu-repo/semantics/publishedVersion
info:eu-repo/semantics/conferenceObject
         

Mostrar el registro completo del ítem

Documentos relacionados

Otros documentos del mismo autor/a

Rota, R; Casulleras Ambrós, Joaquín; Mazzanti Castrillejo, Fernando Pablo; Boronat Medico, Jordi
Macia Rey, Adrián; Mazzanti Castrillejo, Fernando Pablo; Boronat Medico, Jordi; Zillich, R.E.
Macia Rey, Adrián; Boronat Medico, Jordi; Mazzanti Castrillejo, Fernando Pablo