Improving sampling, optimization and feature extraction in Boltzmann machines

L’apprentissage supervisé de réseaux hiérarchiques à grande échelle connaît présentement un succès fulgurant. Malgré cette effervescence, l’apprentissage non-supervisé représente toujours, selon plusieurs chercheurs, un élément clé de l’Intelligence Artificielle, où les agents doivent apprendre à partir d’un nombre potentiellement limité de données. Cette thèse s’inscrit dans cette pensée et aborde divers sujets de recherche liés au problème d’estimation de densité par l’entremise des machines de Boltzmann (BM), modèles graphiques probabilistes au coeur de l’apprentissage profond. Nos contributions touchent les domaines de l’échantillonnage, l’estimation de fonctions de partition, l’optimisation ainsi que l’apprentissage de représentations invariantes. Cette thèse débute par l’exposition d’un nouvel algorithme d'échantillonnage adaptatif, qui ajuste (de fa ̧con automatique) la température des chaînes de Markov sous simulation, afin de maintenir une vitesse de convergence élevée tout au long de l’apprentissage. Lorsqu’utilisé dans le contexte de l’apprentissage par maximum de vraisemblance stochastique (SML), notre algorithme engendre une robustesse accrue face à la sélection du taux d’apprentissage, ainsi qu’une meilleure vitesse de convergence. Nos résultats sont présent ́es dans le domaine des BMs, mais la méthode est générale et applicable à l’apprentissage de tout modèle probabiliste exploitant l’échantillonnage par chaînes de Markov. Tandis que le gradient du maximum de vraisemblance peut-être approximé par échantillonnage, l’évaluation de la log-vraisemblance nécessite un estimé de la fonction de partition. Contrairement aux approches traditionnelles qui considèrent un modèle donné comme une boîte noire, nous proposons plutôt d’exploiter la dynamique de l’apprentissage en estimant les changements successifs de log-partition encourus à chaque mise à jour des paramètres. Le problème d’estimation est reformulé comme un problème d’inférence similaire au filtre de Kalman, mais sur un graphe bi-dimensionnel, où les dimensions correspondent aux axes du temps et au paramètre de température. Sur le thème de l’optimisation, nous présentons également un algorithme permettant d’appliquer, de manière efficace, le gradient naturel à des machines de Boltzmann comportant des milliers d’unités. Jusqu’à présent, son adoption était limitée par son haut coût computationel ainsi que sa demande en mémoire. Notre algorithme, Metric-Free Natural Gradient (MFNG), permet d’éviter le calcul explicite de la matrice d’information de Fisher (et son inverse) en exploitant un solveur linéaire combiné à un produit matrice-vecteur efficace. L’algorithme est prometteur: en terme du nombre d’évaluations de fonctions, MFNG converge plus rapidement que SML. Son implémentation demeure malheureusement inefficace en temps de calcul. Ces travaux explorent également les mécanismes sous-jacents à l’apprentissage de représentations invariantes. À cette fin, nous utilisons la famille de machines de Boltzmann restreintes “spike & slab” (ssRBM), que nous modifions afin de pouvoir modéliser des distributions binaires et parcimonieuses. Les variables latentes binaires de la ssRBM peuvent être rendues invariantes à un sous-espace vectoriel, en associant à chacune d’elles, un vecteur de variables latentes continues (dénommées “slabs”). Ceci se traduit par une invariance accrue au niveau de la représentation et un meilleur taux de classification lorsque peu de données étiquetées sont disponibles. Nous terminons cette thèse sur un sujet ambitieux: l’apprentissage de représentations pouvant séparer les facteurs de variations présents dans le signal d’entrée. Nous proposons une solution à base de ssRBM bilinéaire (avec deux groupes de facteurs latents) et formulons le problème comme l’un de “pooling” dans des sous-espaces vectoriels complémentaires.

Les effets à long terme d'une approche interpersonnelle pour le traitement de la phobie sociale : un suivi de 8 à 15 ans.

La phobie sociale est le plus souvent décrite comme suivant une trajectoire chronique. Afin de modifier ce cours clinique, plusieurs protocoles de traitement ont été développés, leur efficacité ayant été démontrée dans de nombreuses études. Toutefois, est-ce que les gains rapportés se maintiennent des années suivant la fin du traitement? Cette dissertation avait pour objectif d’examiner cette question. Une recension d’études a d’abord permis d’effectuer une analyse critique des évidences relatives à la durabilité des effets thérapeutiques des traitements contemporains. Cette recension a permis de constater que les études ayant inclus une période de suivi excédant un an sont peu nombreuses. Lorsque de telles études ont été recensées, la réduction de l’anxiété s’est avérée la retombée thérapeutique principalement investiguée. Les évidences demeurent parcellaires concernant la durabilité des gains sur d’autres dimensions de la phobie sociale, en l’occurrence le fonctionnement social, et quant au maintien de la rémission. Pour combler ces lacunes, la durabilité des gains thérapeutiques, 8 à 15 ans suivant la fin d’un traitement d’approche interpersonnelle (AI), a été évaluée. Cette approche vise la dissolution du pattern global d’auto-protection, en améliorant la participation sociale et en facilitant le développement de modes relationnels plus adaptés. Cinquante-huit individus, satisfaisant initialement les critères de la phobie sociale, ont pris part à cette étude. Ces derniers ont rapporté des gains significatifs, jusqu’à une relance d’un an suivant la fin du traitement. L’évolution de l’anxiété sociale, de la détresse générale et du fonctionnement social, de la relance d’un an à la relance de 8 à 15 ans, a donc été évaluée. La signification statistique et clinique des effets obtenus dans le temps, de même que les différences individuelles, ont été examinées. Les résultats révèlent que le protocole de traitement AI a produit des effets durables depuis la relance d’un an sur les variables examinées. La plupart des participants en rémission à la relance d’un an l’étaient encore une dizaine d’années plus tard. Les participants ayant rapporté une réduction cliniquement significative de la détresse sociale un an suivant la fin du traitement ont connu une trajectoire similaire. Une augmentation significative du taux de rémission a également été constatée. Une analyse fonctionnelle a d’ailleurs révélé une amélioration des répertoires de comportements sociaux chez la majorité des participants, suggérant une dynamique de changement reflétant le passage de l’auto-protection à la participation sociale. Par ailleurs, une hypothèse issue de la perspective interpersonnelle de la phobie sociale et de son traitement a été étayée : une convergence des changements relevés sur les dimensions anxieuse et interpersonnelle a été notée. En somme, l’ensemble de ces résultats soutient l’efficacité à long terme du traitement AI.

Étude des liens entre l’orientation mentale paternelle et le développement des manifestations morales à l’âge préscolaire

Essai présenté à la Faculté des arts et des sciences en vue de l’obtention du doctorat en psychologie (D.Psy.)

Ionization potentials and radii of atoms and ions of element 105 (unnilpentium) and ions of tantalum derived from multiconfiguration Dirac-Fock calculations

Multiconfiguration relativistic Dirac-Fock (MCDF) values were calculated for the first five ionization potentials of element 105 (unnilpentium) and of the other group 5b elements (V, Nb, and Ta). Some of these ionization potentials in electron volts (eV) with uncertainties are: 105(0), 7.4±0.4; 105(1 +), 16.3 ±0.2; 105(2 +), 24.3 ± 0.2; 105(3 + ), 34.9 ± 0.5; and 105(4 + ), 44.9 ± 0.1. Ionization potentials for Ta(1+), Ta(2 +), and Ta(3 + ) were also calculated. Accurate experimental values for these ionization potentials are not available. Ionic radii are presented for the 2+, 3+, 4 +, and 5+ ions of element 105 and for the + 2 ions of vanadium and niobium. These radii for vanadium and niobium are not available elsewhere. The ionization potentials and ionic radii obtained are used to determine some standard electrode potentials for element 105. Born-Haber cycles and a form of the Born equation for the Gibbs free energy of hydration of ions were used to calculate the standard electrode potentials.

Factorial Hidden Markov Models

We present a framework for learning in hidden Markov models with distributed state representations. Within this framework, we derive a learning algorithm based on the Expectation--Maximization (EM) procedure for maximum likelihood estimation. Analogous to the standard Baum-Welch update rules, the M-step of our algorithm is exact and can be solved analytically. However, due to the combinatorial nature of the hidden state representation, the exact E-step is intractable. A simple and tractable mean field approximation is derived. Empirical results on a set of problems suggest that both the mean field approximation and Gibbs sampling are viable alternatives to the computationally expensive exact algorithm.

Correlacion clinica-patologica de corioamnionitis en pacientes que ingresan al servicio ginecologia en el año 2009 en el Hospital Universitario Clinica San Rafael

Este trabajo tuvo como utilidad básica determinar cuál es la correlación del diagnóstico clínico con los criterios de Gibss y con el Gold estándar que es la patología en las paciente con corioamnionitis para así poder establecer si el diagnostico se realizó en forma adecuada y cuáles son los criterios más relevantes para su diagnóstico. Dicha investigación se realizó de la siguiente manera: 1. Se Identificaron las pacientes que ingresaron al servicio de urgencias o al servicio de ginecología de la Clínica san Rafael con diagnóstico de Corioamnionitis (teniendo en cuenta los criterios de Gibbs), pacientes que desarrollaron la entidad durante el trabajo de parto o a las cuales se les hizo el diagnostico durante el mismo parto se establecieron los criterios de Gibss para cada una como parte del diagnóstico clínico de corioamnionitis 2. se revisaron los estudios anatomo-patologico realizado a las placentas culminado el proceso de trabajo de parto ya fuera por vía vaginal o cesárea y se realizó un estudio de asociación entre el resultado patológico de corioamnionitis y el diagnóstico clínico. Con esta investigación se estableció el diagnóstico clínico se correlaciono con la patología en el 54% de los casos 1. la asociación de los criterios de Gibbs con el diagnostico patológico, encontrando que individualmente los criterios que se asocian con el diagnóstico definitivo de corioamnionitis fueron: la taquicardia materna OR (8,53), taquicardia fetal OR (7,7), y leucocitosis OR (2,86), la descarga vaginal fétida y la hipersensibilidad uterina tuvieron menor significancia con OR de 1,24 y 1,1 respectivamente. e En la regresión logística se encontró que los criterios de Gibbs fueron estadísticamente significativos en donde para la taquicardia materna OR (7,29), taquicardia fetal OR (4,107), hipersensibilidad uterina OR (2,96), leucocitosis OR (4,93) y descarga vaginal OR (2,65)

Palaeoclimate Change

Level 3 (BSc) module with lectures and practicals

Índice de pulsatilidad de arteria cerebral media como predictor para desenlaces desfavorables en fetos pequeños para la edad gestacional

Introducción: La aparición de vasodilatación aislada de la arteria cerebral media en fetos pequeños para la edad gestacional sin otros cambios en el doppler puede interpretarse como fisiológica o podría ser la manifestación inicial de una restricción de crecimiento intrauterino de inicio tardío. Se pretende evaluar la asociación de la disminución del índice de pulsatibilidad de la arteria cerebral media, como predictor de desenlaces perinatales adversos, en fetos con bajo peso para edad gestacional. Metodología: Se realizó un estudio de cohorte analítica de temporalidad histórica para determinar si el hallazgo de disminución de la pulsatibilidad en el doppler de arteria cerebral media se asocia con el pronóstico perinatal adverso, en fetos pequeños para edad gestacional mediante un muestreo no probabilístico. Resultados: Se recolectaron un total de 325 flujometría doppler de fetos pequeños para edad gestacional. El riesgo de parto pretérmino fue RR 2.6 IC95% 1.6-4.1, de hospitalización fue RR 1.4 IC95%1.1-1.9 y de muerte fue 2.1 IC95%1.5-3.2 cuando hay índice de pulsatilidad alterada en la arteria cerebral media. La regresión logística mostró que el riesgo de desenlaces desfavorables con alteraciones en la arteria cerebral media fue de RR 4.2 IC95% 2.5-7.1 ajustado por edad materna, edad gestacional y bajo peso al nacer. Discusión Los pacientes expuestos presentan mayor riesgo de desenlaces desfavorables con diferencias significativas, no así en otros estudios publicados. El presente estudio muestra asociaciones significativas que debe ser evaluada con estudios más amplios.

La insuficiencia de las disposiciones del pensamiento para cubrir la brecha del pensamiento crítico a la acción crítica

En esta tesis se evalúan las disposiciones del pensamiento crítico; se demuestra la circularidad de sus enunciados y, consecuencia de ello, su insuficiencia para cubrir la brecha que va de las habilidades del pensamiento crítico a la acción crítica.

La insuficiencia de las disposiciones del pensamiento para cubrir la brecha entre pensamiento crítico y acción crítica

En este artículo se evalúan las disposiciones del pensamiento crítico; se demuestra la circularidad de sus enunciados y, consecuencia de ello, su insuficiencia para cubrir la brecha que va de las habilidades del pensamiento crítico a la acción crítica.

Mejorar la ense??anza y el aprendizaje universitario mediante estrategias institucionales

Resumen del autor

Hipotensión arterial y variabilidad de la frecuencia cardiaca en pacientes embarazadas llevadas a cesarea bajo anestesia raquídea

INTRODUCCION La hipotensión arterial por anestesia raquídea en embarazadas llevadas a cesárea es frecuente y deletérea para la madre y el feto, sin que a la fecha exista una herramienta clínicamente útil para predecirla. La variabilidad de la frecuencia cardiaca es una medida que estima la actividad del sistema nervioso autónomo y algunos estudio iniciales indican una posible utilidad como herramienta predictiva de hipotensión arterial en esta población. METODOLOGIA Se realizó un estudio observacional descriptivo para examinar el comportamiento de la variabilidad de la frecuencia cardiaca, medida como razón de Baja frecuencia/Alta frecuencia, con un punto de corte de 2.5 tomada con un reloj POLAR RS800CX, en una población de pacientes con embarazo a término llevadas a cesárea, en un hospital de tercer nivel en Bogotá- Colombia entre Febrero y Abril del 2015. RESULTADOS El estudio incluyó 82 pacientes. Se determinó que la razón Baja frecuencia/Alta frecuencia mayor a 2,5 era poco frecuente en nuestra población (15.85%), y su asociación no fue significativa. DISCUSION El presente estudio demostró que la asociación entre la presencia de hipotensión y un índice Baja frecuencia/Alta frecuencia con punto de corte de 2.5 no es significativo para nuestra población de mujeres con embarazo a término llevadas a cesárea con anestesia espinal. Según los resultados se sugieres un punto de corte de 1.6 como punto de partida para la realización de nuevos estudios que permitan validar este valor.

Correlación y concordancia entre ecocardiografía y cateterismo cardiaco derecho para determinación de la presión sistólica de arteria pulmonar

Introducción. El cateterismo cardiaco derecho representa el estándar de referencia para el diagnóstico de hipertensión pulmonar, sin embargo el rendimiento de la ecocardiografía como estudio inicial ha mostrado buena correlación con las variables medidas por cateterismo. El presente estudio pretende describir el grado de correlación y concordancia entre la ecocardiografía y el cateterismo cardiaco derecho para la medición de la presión sistólica de la arteria pulmonar. Materiales y métodos. Se realizó un estudio observacional retrospectivo de los pacientes sometidos a cateterismo cardiaco derecho entre los años 2009 a 2014 y se compararon con los datos de ecocardiograma más cercano a este cateterismo, teniendo en cuenta la presión sistólica de la arteria pulmonar (PSAP) en las dos modalidades diagnósticas mediante correlación y concordancia estadística según los coeficientes de Pearson y el índice de Lin respectivamente. Resultados. Se recolectaron un total de 169 pacientes con un índice de correlación (r) obtenido para la medición de PSAP del total de la muestra de 0.73 p < 0.0001 mostrando un grado de correlación alto para toda la muestra evaluada. El análisis de concordancia obtenido para toda la población a partir del índice de Lin fue de 0.71 lo que determinó una pobre concordancia. Discusión. Se encontró buena correlación entre ecocardiografía y cateterismo cardiaco derecho para la medición de la PSAP, sin embargo la concordancia entre los métodos diagnósticos es pobre, por tanto el ecocardiograma no reemplaza al cateterismo cardiaco derecho como estudio de elección para diagnóstico y seguimiento de pacientes con hipertensión pulmonar.

Poder e influencia en el liderazgo transformacional

Como proyecto de grado, el presente trabajo consiste en una revisión teórica de los conceptos de liderazgo, poder e influencia, junto con las posibles relaciones que entre ellos se pueden presentar. Para ello, cada concepto es definido de manera individual, y con base en ello, se identifica la dependencia que tienen estos conceptos entre sí y la importancia dentro del desarrollo del liderazgo transformacional actual. Para lograr lo propuesto, se llevó a cabo la revisión de una parte de la literatura académica presente en libros, revistas académicas, bases de datos y documentos relacionados con los temas y conceptos tratados. A partir de ello, se entendió la evolución del concepto del liderazgo y los enfoques presentados desde la década de los 1920´s hasta la actualidad, junto con el modelo de rango total y el tipo transaccional y transformacional del liderazgo, para luego definir el papel y la importancia de los conceptos de poder, los tipos de poder, la influencia y las tácticas de influencia, y así, identificar las posibles relaciones que se presentan entre los conceptos y la importancia de estos en el entorno organizacional actual.