Improving sampling, optimization and feature extraction in Boltzmann machines

L’apprentissage supervisé de réseaux hiérarchiques à grande échelle connaît présentement un succès fulgurant. Malgré cette effervescence, l’apprentissage non-supervisé représente toujours, selon plusieurs chercheurs, un élément clé de l’Intelligence Artificielle, où les agents doivent apprendre à partir d’un nombre potentiellement limité de données. Cette thèse s’inscrit dans cette pensée et aborde divers sujets de recherche liés au problème d’estimation de densité par l’entremise des machines de Boltzmann (BM), modèles graphiques probabilistes au coeur de l’apprentissage profond. Nos contributions touchent les domaines de l’échantillonnage, l’estimation de fonctions de partition, l’optimisation ainsi que l’apprentissage de représentations invariantes. Cette thèse débute par l’exposition d’un nouvel algorithme d'échantillonnage adaptatif, qui ajuste (de fa ̧con automatique) la température des chaînes de Markov sous simulation, afin de maintenir une vitesse de convergence élevée tout au long de l’apprentissage. Lorsqu’utilisé dans le contexte de l’apprentissage par maximum de vraisemblance stochastique (SML), notre algorithme engendre une robustesse accrue face à la sélection du taux d’apprentissage, ainsi qu’une meilleure vitesse de convergence. Nos résultats sont présent ́es dans le domaine des BMs, mais la méthode est générale et applicable à l’apprentissage de tout modèle probabiliste exploitant l’échantillonnage par chaînes de Markov. Tandis que le gradient du maximum de vraisemblance peut-être approximé par échantillonnage, l’évaluation de la log-vraisemblance nécessite un estimé de la fonction de partition. Contrairement aux approches traditionnelles qui considèrent un modèle donné comme une boîte noire, nous proposons plutôt d’exploiter la dynamique de l’apprentissage en estimant les changements successifs de log-partition encourus à chaque mise à jour des paramètres. Le problème d’estimation est reformulé comme un problème d’inférence similaire au filtre de Kalman, mais sur un graphe bi-dimensionnel, où les dimensions correspondent aux axes du temps et au paramètre de température. Sur le thème de l’optimisation, nous présentons également un algorithme permettant d’appliquer, de manière efficace, le gradient naturel à des machines de Boltzmann comportant des milliers d’unités. Jusqu’à présent, son adoption était limitée par son haut coût computationel ainsi que sa demande en mémoire. Notre algorithme, Metric-Free Natural Gradient (MFNG), permet d’éviter le calcul explicite de la matrice d’information de Fisher (et son inverse) en exploitant un solveur linéaire combiné à un produit matrice-vecteur efficace. L’algorithme est prometteur: en terme du nombre d’évaluations de fonctions, MFNG converge plus rapidement que SML. Son implémentation demeure malheureusement inefficace en temps de calcul. Ces travaux explorent également les mécanismes sous-jacents à l’apprentissage de représentations invariantes. À cette fin, nous utilisons la famille de machines de Boltzmann restreintes “spike & slab” (ssRBM), que nous modifions afin de pouvoir modéliser des distributions binaires et parcimonieuses. Les variables latentes binaires de la ssRBM peuvent être rendues invariantes à un sous-espace vectoriel, en associant à chacune d’elles, un vecteur de variables latentes continues (dénommées “slabs”). Ceci se traduit par une invariance accrue au niveau de la représentation et un meilleur taux de classification lorsque peu de données étiquetées sont disponibles. Nous terminons cette thèse sur un sujet ambitieux: l’apprentissage de représentations pouvant séparer les facteurs de variations présents dans le signal d’entrée. Nous proposons une solution à base de ssRBM bilinéaire (avec deux groupes de facteurs latents) et formulons le problème comme l’un de “pooling” dans des sous-espaces vectoriels complémentaires.

Role of EFNBs and EphB4 in T cell development and function

Eph kinases are the largest family of cell surface receptor tyrosine kinases. The ligands of Ephs, ephrins (EFNs), are also cell surface molecules. Ephs interact with EFNs and the receptors and ligands transmit signals in both directions, i.e., from Ephs to EFNs and from EFNs to Ephs. Ephs and EFNs are widely involved in various developmental, physiological pathophysiological processes. Our group and others have reported the roles of Ephs/EFNs in the immune system. To further investigate the function of EphBs/EFNBs in T cell development and responses, we generated EFNB1, EFNB2, EphB4 conditional gene knockout (KO) mice and EFNB1/2 double KO mice. In the projects using EFNB1 and EFNB2 knockout mice, we specifically deleted EFNB1 or EFNB2 in T cells. The mice had normal size and cellularity of the thymus and spleen as well as normal T cell subpopulations in these organs. The bone marrow progenitors from KO mice and WT mice repopulated the host lymphoid organs to similar extents. The activation and proliferation of KO T cells was comparable to that of control mice. Naïve KO CD4 cells differentiated into Th1, Th2, Th17 and Treg cells similar to naïve control CD4 cells. In EFNB2 KO mice, we observed a significant relative increase of CD4CD8 double negative thymocytes in the thymus. Flowcytometry analysis revealed that there was a moderate increase in the DN3 subpopulation in the thymus. This suggests that EFNB2 is involved in thymocyte development. Our results indicate that the functions of EFNB1 and EFNB2 in the T cell compartment could be compensated by each other or by other members of the EFN family, and that such redundancy safeguards the pivotal roles of EFNB1 and EFNB2 in T cell development and function. In the project using EFNB1/B2 double knockout (dKO) model, we revealed a novel regulatory function of EFNb1 and EFNb2 in stabilizing IL-7Rα expression on the T cell surface. IL-7 plays important roles in thymocyte development, T cell homeostasis and survival. IL-7Rα undergoes internalization upon IL-7 binding. In the dKO mice, we observed reduced IL-7Rα expression in thymocytes and T cells. Moreover, the IL-7Rα internalization was accelerated in dKO CD4 cells upon IL-7 stimulation. In T cell lymphoma cell line, EL4, over-expression of either EFNB1 or EFNB2 retarded the internalization of IL-7Rα. We further demonstrated compromised IL-7 signaling and homeostatic proliferation of dKO T cells. Mechanism study using fluorescence resonance energy transfer and immunoprecipitation demonstrated that physical interaction of EFNB1 and EFNB2 with IL-7Rα was likely responsible for the retarded IL-7Rα internalization. In the last project, using medullary thymic epithelial cell (mTEC)-specific EphB4 knockout mice, we investigated T cell development and function after EphB4 deletion in mTEC. EphB4 KO mice demonstrated normal thymic weight and cellularity. T cell development and function were not influenced by the EphB4 deletion. Lastly, the KO mice developed normal delayed type hypersensitivity. Overall, our results suggest that comprehensive cross interaction between Eph and EFN family members could compensate function of a given deleted member in the T cell development, and only simultaneous deletion of multiple EFNBs will reveal their true function in the immune system. In fact, such redundancy signifies vital roles of Ephs and EFNs in the immune system.

Monoacylglycerol, alpha/beta-hydrolase domain-6, and the regulation of insulin secretion and energy metabolism

Le cycle glycérolipides/acides gras libres (GL/FFA) est une voie métabolique clé qui relie le métabolisme du glucose et des acides gras et il est composé de deux processus métaboliques appelés lipogenèse et lipolyse. Le cycle GL/FFA, en particulier la lipolyse des triglycérides, génère diverses molécules de signalisation pour réguler la sécrétion d'insuline dans les cellules bêta pancréatiques et la thermogenèse non-frissonnante dans les adipocytes. Actuellement, les lipides provenant spécifiquement de la lipolyse impliqués dans ce processus sont mal connus. L’hydrolyse des triglycérides dans les cellules β est réalisée par les actions successives de la triglycéride lipase adipocytaire pour produire le diacylglycérol, ensuite par la lipase hormono-sensible pour produire le monoacylglycérol (MAG) et enfin par la MAG lipase (MAGL) qui relâche du glycerol et des acides gras. Dans les cellules bêta, la MAGL classique est très peu exprimée et cette étude a démontré que l’hydrolyse de MAG dans les cellules β est principalement réalisée par l'α/β-Hydrolase Domain-6 (ABHD6) nouvellement identifiée. L’inhibition d’ABHD6 par son inhibiteur spécifique WWL70, conduit à une accumulation des 1-MAG à longues chaines saturées à l'intérieur des cellules, accompagnée d’une augmentation de la sécrétion d'insuline stimulée par le glucose (GSIS). Baisser les niveaux de MAG en surexprimant ABHD6 dans la lignée cellulaire bêta INS832/13 réduit la GSIS, tandis qu’une augmentation des niveaux de MAG par le « knockdown » d’ABHD6 améliore la GSIS. L'exposition aiguë des monoacylglycérols exogènes stimule la sécrétion d'insuline de manière dose-dépendante et restaure la GSIS supprimée par un inhibiteur de lipases appelé orlistat. En outre, les souris avec une inactivation du gène ABHD6 dans tous les tissus (ABHD6-KO) et celles avec une inactivation du gène ABHD6 spécifiquement dans la cellule β présentent une GSIS stimulée, et leurs îlots montrent une augmentation de la production de monoacylglycérol et de la sécrétion d'insuline en réponse au glucose. L’inhibition d’ABHD6 chez les souris diabétiques (modèle induit par de faibles doses de streptozotocine) restaure la GSIS et améliore la tolérance au glucose. De plus, les résultats montrent que les MAGs non seulement améliorent la GSIS, mais potentialisent également la sécrétion d’insuline induite par les acides gras libres ainsi que la sécrétion d’insuline induite par divers agents et hormones, sans altération de l'oxydation et l'utilisation du glucose ainsi que l'oxydation des acides gras. Nous avons démontré que le MAG se lie à la protéine d’amorçage des vésicules appelée Munc13-1 et l’active, induisant ainsi l’exocytose de l'insuline. Sur la base de ces observations, nous proposons que le 1-MAG à chaines saturées agit comme facteur de couplage métabolique pour réguler la sécrétion d'insuline et que ABHD6 est un modulateur négatif de la sécrétion d'insuline. En plus de son rôle dans les cellules bêta, ABHD6 est également fortement exprimé dans les adipocytes et son niveau est augmenté avec l'obésité. Les souris dépourvues globalement d’ABHD6 et nourris avec une diète riche en gras (HFD) montrent une faible diminution de la prise alimentaire, une diminution du gain de poids corporel et de la glycémie à jeun et une amélioration de la tolérance au glucose et de la sensibilité à l'insuline et ont une activité locomotrice accrue. En outre, les souris ABHD6-KO affichent une augmentation de la dépense énergétique et de la thermogenèse induite par le froid. En conformité avec ceci, ces souris présentent des niveaux élevés d’UCP1 dans les adipocytes blancs et bruns, indiquant le brunissement des adipocytes blancs. Le phénotype de brunissement est reproduit dans les souris soit en les traitant de manière chronique avec WWL70 (inhibiteur d’ABHD6) ou des oligonucléotides anti-sense ciblant l’ABHD6. Les tissus adipeux blanc et brun isolés de souris ABHD6-KO montrent des niveaux très élevés de 1-MAG, mais pas de 2-MAG. L'augmentation des niveaux de MAG soit par administration exogène in vitro de 1-MAG ou par inhibition ou délétion génétique d’ABHD6 provoque le brunissement des adipocytes blancs. Une autre évidence indique que les 1-MAGs sont capables de transactiver PPARα et PPARγ et que l'effet de brunissement induit par WWL70 ou le MAG exogène est aboli par les antagonistes de PPARα et PPARγ. L’administration in vivo de l’antagoniste de PPARα GW6471 à des souris ABHD6-KO inverse partiellement les effets causés par l’inactivation du gène ABHD6 sur le gain de poids corporel, et abolit l’augmentation de la thermogenèse, le brunissement du tissu adipeux blanc et l'oxydation des acides gras dans le tissu adipeux brun. L’ensemble de ces observations indique que ABHD6 régule non seulement l’homéostasie de l'insuline et du glucose, mais aussi l'homéostasie énergétique et la fonction des tissus adipeux. Ainsi, 1-MAG agit non seulement comme un facteur de couplage métabolique pour réguler la sécrétion d'insuline en activant Munc13-1 dans les cellules bêta, mais régule aussi le brunissement des adipocytes blancs et améliore la fonction de la graisse brune par l'activation de PPARα et PPARγ. Ces résultats indiquent que ABHD6 est une cible prometteuse pour le développement de thérapies contre l'obésité, le diabète de type 2 et le syndrome métabolique.