TONGA : un algorithme de gradient naturel pour les problèmes de grande taille

Mémoire numérisé par la Division de la gestion de documents et des archives de l'Université de Montréal

Urban Detection From Hyperspectral Images Using Dimension-Reduction Model and Fusion of Multiple Segmentations Based on Stuctural and Textural Features

Ce mémoire de maîtrise présente une nouvelle approche non supervisée pour détecter et segmenter les régions urbaines dans les images hyperspectrales. La méthode proposée n ́ecessite trois étapes. Tout d’abord, afin de réduire le coût calculatoire de notre algorithme, une image couleur du contenu spectral est estimée. A cette fin, une étape de réduction de dimensionalité non-linéaire, basée sur deux critères complémentaires mais contradictoires de bonne visualisation; à savoir la précision et le contraste, est réalisée pour l’affichage couleur de chaque image hyperspectrale. Ensuite, pour discriminer les régions urbaines des régions non urbaines, la seconde étape consiste à extraire quelques caractéristiques discriminantes (et complémentaires) sur cette image hyperspectrale couleur. A cette fin, nous avons extrait une série de paramètres discriminants pour décrire les caractéristiques d’une zone urbaine, principalement composée d’objets manufacturés de formes simples g ́eométriques et régulières. Nous avons utilisé des caractéristiques texturales basées sur les niveaux de gris, la magnitude du gradient ou des paramètres issus de la matrice de co-occurrence combinés avec des caractéristiques structurelles basées sur l’orientation locale du gradient de l’image et la détection locale de segments de droites. Afin de réduire encore la complexité de calcul de notre approche et éviter le problème de la ”malédiction de la dimensionnalité” quand on décide de regrouper des données de dimensions élevées, nous avons décidé de classifier individuellement, dans la dernière étape, chaque caractéristique texturale ou structurelle avec une simple procédure de K-moyennes et ensuite de combiner ces segmentations grossières, obtenues à faible coût, avec un modèle efficace de fusion de cartes de segmentations. Les expérimentations données dans ce rapport montrent que cette stratégie est efficace visuellement et se compare favorablement aux autres méthodes de détection et segmentation de zones urbaines à partir d’images hyperspectrales.

Improving sampling, optimization and feature extraction in Boltzmann machines

L’apprentissage supervisé de réseaux hiérarchiques à grande échelle connaît présentement un succès fulgurant. Malgré cette effervescence, l’apprentissage non-supervisé représente toujours, selon plusieurs chercheurs, un élément clé de l’Intelligence Artificielle, où les agents doivent apprendre à partir d’un nombre potentiellement limité de données. Cette thèse s’inscrit dans cette pensée et aborde divers sujets de recherche liés au problème d’estimation de densité par l’entremise des machines de Boltzmann (BM), modèles graphiques probabilistes au coeur de l’apprentissage profond. Nos contributions touchent les domaines de l’échantillonnage, l’estimation de fonctions de partition, l’optimisation ainsi que l’apprentissage de représentations invariantes. Cette thèse débute par l’exposition d’un nouvel algorithme d'échantillonnage adaptatif, qui ajuste (de fa ̧con automatique) la température des chaînes de Markov sous simulation, afin de maintenir une vitesse de convergence élevée tout au long de l’apprentissage. Lorsqu’utilisé dans le contexte de l’apprentissage par maximum de vraisemblance stochastique (SML), notre algorithme engendre une robustesse accrue face à la sélection du taux d’apprentissage, ainsi qu’une meilleure vitesse de convergence. Nos résultats sont présent ́es dans le domaine des BMs, mais la méthode est générale et applicable à l’apprentissage de tout modèle probabiliste exploitant l’échantillonnage par chaînes de Markov. Tandis que le gradient du maximum de vraisemblance peut-être approximé par échantillonnage, l’évaluation de la log-vraisemblance nécessite un estimé de la fonction de partition. Contrairement aux approches traditionnelles qui considèrent un modèle donné comme une boîte noire, nous proposons plutôt d’exploiter la dynamique de l’apprentissage en estimant les changements successifs de log-partition encourus à chaque mise à jour des paramètres. Le problème d’estimation est reformulé comme un problème d’inférence similaire au filtre de Kalman, mais sur un graphe bi-dimensionnel, où les dimensions correspondent aux axes du temps et au paramètre de température. Sur le thème de l’optimisation, nous présentons également un algorithme permettant d’appliquer, de manière efficace, le gradient naturel à des machines de Boltzmann comportant des milliers d’unités. Jusqu’à présent, son adoption était limitée par son haut coût computationel ainsi que sa demande en mémoire. Notre algorithme, Metric-Free Natural Gradient (MFNG), permet d’éviter le calcul explicite de la matrice d’information de Fisher (et son inverse) en exploitant un solveur linéaire combiné à un produit matrice-vecteur efficace. L’algorithme est prometteur: en terme du nombre d’évaluations de fonctions, MFNG converge plus rapidement que SML. Son implémentation demeure malheureusement inefficace en temps de calcul. Ces travaux explorent également les mécanismes sous-jacents à l’apprentissage de représentations invariantes. À cette fin, nous utilisons la famille de machines de Boltzmann restreintes “spike & slab” (ssRBM), que nous modifions afin de pouvoir modéliser des distributions binaires et parcimonieuses. Les variables latentes binaires de la ssRBM peuvent être rendues invariantes à un sous-espace vectoriel, en associant à chacune d’elles, un vecteur de variables latentes continues (dénommées “slabs”). Ceci se traduit par une invariance accrue au niveau de la représentation et un meilleur taux de classification lorsque peu de données étiquetées sont disponibles. Nous terminons cette thèse sur un sujet ambitieux: l’apprentissage de représentations pouvant séparer les facteurs de variations présents dans le signal d’entrée. Nous proposons une solution à base de ssRBM bilinéaire (avec deux groupes de facteurs latents) et formulons le problème comme l’un de “pooling” dans des sous-espaces vectoriels complémentaires.

Considering daily mobility in contextual studies of social inequalities in health : conceptual and empirical insights

Les études sur les milieux de vie et la santé ont traditionnellement porté sur le seul quartier de résidence. Des critiques ont été émises à cet égard, soulignant le fait que la mobilité quotidienne des individus n’était pas prise en compte et que l’accent mis sur le quartier de résidence se faisait au détriment d’autres milieux de vie où les individus passent du temps, c’est-à-dire leur espace d’activité. Bien que la mobilité quotidienne fasse l’objet d’un intérêt croissant en santé publique, peu d’études se sont intéressé aux inégalités sociales de santé. Ceci, même en dépit du fait que différents groupes sociaux n’ont pas nécessairement la même capacité à accéder à des milieux favorables pour la santé. Le lien entre les inégalités en matière de mobilité et les inégalités sociales de santé mérite d’être exploré. Dans cette thèse, je développe d'abord une proposition conceptuelle qui ancre la mobilité quotidienne dans le concept de potentiel de mobilité. Le potentiel de mobilité englobe les opportunités et les lieux que les individus peuvent choisir d’accéder en convertissant leur potentiel en mobilité réalisée. Le potentiel de mobilité est façonné par des caractéristiques individuelles (ex. le revenu) et géographiques (ex. la proximité des transports en commun), ainsi que par des règles régissant l’accès à certaines ressources et à certains lieux (ex. le droit). Ces caractéristiques et règles sont inégalement distribuées entre les groupes sociaux. Des inégalités sociales en matière de mobilité réalisée peuvent donc en découler, autant en termes de l'ampleur de la mobilité spatiale que des expositions contextuelles rencontrées dans l'espace d'activité. Je discute de différents processus par lesquels les inégalités en matière de mobilité réalisée peuvent mener à des inégalités sociales de santé. Par exemple, les groupes défavorisés sont plus susceptibles de vivre et de mener des activités dans des milieux défavorisés, comparativement à leurs homologues plus riches, ce qui pourrait contribuer aux différences de santé entre ces groupes. Cette proposition conceptuelle est mise à l’épreuve dans deux études empiriques. Les données de la première vague de collecte de l’étude Interdisciplinaire sur les inégalités sociales de santé (ISIS) menée à Montréal, Canada (2011-2012) ont été analysées. Dans cette étude, 2 093 jeunes adultes (18-25 ans) ont rempli un questionnaire et fourni des informations socio-démographiques, sur leur consommation de tabac et sur leurs lieux d’activités. Leur statut socio-économique a été opérationnalisé à l’aide de leur plus haut niveau d'éducation atteint. Les lieux de résidence et d'activité ont servi à créer des zones tampons de 500 mètres à partir du réseau routier. Des mesures de défavorisation et de disponibilité des détaillants de produits du tabac ont été agrégées au sein des ces zones tampons. Dans une première étude empirique je compare l'exposition à la défavorisation dans le quartier résidentiel et celle dans l'espace d’activité non-résidentiel entre les plus et les moins éduqués. J’identifie également des variables individuelles et du quartier de résidence associées au niveau de défavorisation mesuré dans l’espace d’activité. Les résultats démontrent qu’il y a un gradient social dans l’exposition à la défavorisation résidentielle et dans l’espace d’activité : elle augmente à mesure que le niveau d’éducation diminue. Chez les moins éduqués les écarts dans l’exposition à la défavorisation sont plus marquées dans l’espace d’activité que dans le quartier de résidence, alors que chez les moyennement éduqués, elle diminuent. Un niveau inférieur d'éducation, l'âge croissant, le fait d’être ni aux études, ni à l’emploi, ainsi que la défavorisation résidentielle sont positivement corrélés à la défavorisation dans l’espace d’activité. Dans la seconde étude empirique j'étudie l'association entre le tabagisme et deux expositions contextuelles (la défavorisation et la disponibilité de détaillants de tabac) mesurées dans le quartier de résidence et dans l’espace d’activité non-résidentiel. J'évalue si les inégalités sociales dans ces expositions contribuent à expliquer les inégalités sociales dans le tabagisme. J’observe que les jeunes dont les activités quotidiennes ont lieu dans des milieux défavorisés sont plus susceptibles de fumer. La présence de détaillants de tabac dans le quartier de résidence et dans l’espace d’activité est aussi associée à la probabilité de fumer, alors que le fait de vivre dans un quartier caractérisé par une forte défavorisation protège du tabagisme. En revanche, aucune des variables contextuelles n’affectent de manière significative l’association entre le niveau d’éducation et le tabagisme. Les résultats de cette thèse soulignent l’importance de considérer non seulement le quartier de résidence, mais aussi les lieux où les gens mènent leurs activités quotidiennes, pour comprendre le lien entre le contexte et les inégalités sociales de santé. En discussion, j’élabore sur l’idée de reconnaître la mobilité quotidienne comme facteur de différenciation sociale chez les jeunes adultes. En outre, je conclus que l’identification de facteurs favorisant ou contraignant la mobilité quotidienne des individus est nécessaire afin: 1 ) d’acquérir une meilleure compréhension de la façon dont les inégalités sociales en matière de mobilité (potentielle et réalisée) surviennent et influencent la santé et 2) d’identifier des cibles d’intervention en santé publique visant à créer des environnements sains et équitables.

Relating Dependent Terms in Information Retrieval

Les moteurs de recherche font partie de notre vie quotidienne. Actuellement, plus d’un tiers de la population mondiale utilise l’Internet. Les moteurs de recherche leur permettent de trouver rapidement les informations ou les produits qu'ils veulent. La recherche d'information (IR) est le fondement de moteurs de recherche modernes. Les approches traditionnelles de recherche d'information supposent que les termes d'indexation sont indépendants. Pourtant, les termes qui apparaissent dans le même contexte sont souvent dépendants. L’absence de la prise en compte de ces dépendances est une des causes de l’introduction de bruit dans le résultat (résultat non pertinents). Certaines études ont proposé d’intégrer certains types de dépendance, tels que la proximité, la cooccurrence, la contiguïté et de la dépendance grammaticale. Dans la plupart des cas, les modèles de dépendance sont construits séparément et ensuite combinés avec le modèle traditionnel de mots avec une importance constante. Par conséquent, ils ne peuvent pas capturer correctement la dépendance variable et la force de dépendance. Par exemple, la dépendance entre les mots adjacents "Black Friday" est plus importante que celle entre les mots "road constructions". Dans cette thèse, nous étudions différentes approches pour capturer les relations des termes et de leurs forces de dépendance. Nous avons proposé des méthodes suivantes: ─ Nous réexaminons l'approche de combinaison en utilisant différentes unités d'indexation pour la RI monolingue en chinois et la RI translinguistique entre anglais et chinois. En plus d’utiliser des mots, nous étudions la possibilité d'utiliser bi-gramme et uni-gramme comme unité de traduction pour le chinois. Plusieurs modèles de traduction sont construits pour traduire des mots anglais en uni-grammes, bi-grammes et mots chinois avec un corpus parallèle. Une requête en anglais est ensuite traduite de plusieurs façons, et un score classement est produit avec chaque traduction. Le score final de classement combine tous ces types de traduction. Nous considérons la dépendance entre les termes en utilisant la théorie d’évidence de Dempster-Shafer. Une occurrence d'un fragment de texte (de plusieurs mots) dans un document est considérée comme représentant l'ensemble de tous les termes constituants. La probabilité est assignée à un tel ensemble de termes plutôt qu’a chaque terme individuel. Au moment d’évaluation de requête, cette probabilité est redistribuée aux termes de la requête si ces derniers sont différents. Cette approche nous permet d'intégrer les relations de dépendance entre les termes. Nous proposons un modèle discriminant pour intégrer les différentes types de dépendance selon leur force et leur utilité pour la RI. Notamment, nous considérons la dépendance de contiguïté et de cooccurrence à de différentes distances, c’est-à-dire les bi-grammes et les paires de termes dans une fenêtre de 2, 4, 8 et 16 mots. Le poids d’un bi-gramme ou d’une paire de termes dépendants est déterminé selon un ensemble des caractères, en utilisant la régression SVM. Toutes les méthodes proposées sont évaluées sur plusieurs collections en anglais et/ou chinois, et les résultats expérimentaux montrent que ces méthodes produisent des améliorations substantielles sur l'état de l'art.

New Terms of Envatment

The argument against skepticism relying on content externalism, which was made famous by Hilary Putnam, has been considered inconclusive by many philosophers. However, some believe that this argument has precluded the possibility of skeptical hypotheses. These hypotheses typically are fictional scenarios where a deceptive power makes your experiences indistinguishable from those you would have if you were not in such a scenario, making most of your justified belief false. Some philosophers, such as Anthony Brueckner and Jon Altschul, have taken this problem seriously and, in response to Putnam, have developed an alternative to the argument from ignorance: the piecemeal fashion strategy. I wish to defend, contra Brueckner and Altschul, the idea that some skeptical hypotheses remain untouched by content externalism, making the piecemeal fashion strategy obsolete.

Gravity Modelling of the Crustal Structure Below Bavali Shear Zone And Adjacent Major Plutons Of Northern Kerala

The primary aim of the present study is to acquire a large amount of gravity data, to prepare gravity maps and interpret the data in terms of crustal structure below the Bavali shear zone and adjacent regions of northern Kerala. The gravity modeling is basically a tool to obtain knowledge of the subsurface extension of the exposed geological units and their structural relationship with the surroundings. The study is expected to throw light on the nature of the shear zone, crustal configuration below the high-grade granulite terrain and the tectonics operating during geological times in the region. The Bavali shear is manifested in the gravity profiles by a steep gravity gradient. The gravity models indicate that the Bavali shear coincides with steep plane that separates two contrasting crustal densities extending beyond a depth of 30 km possibly down to Moho, justifying it to be a Mantle fault. It is difficult to construct a generalized model of crustal evolution in terms of its varied manifestations using only the gravity data. However, the data constrains several aspects of crustal evolution and provides insights into some of the major events.

A multiple-building diffraction attenuation function expressed in terms of UTD coefficients for microcellular communications

This work presents an explicit formulation for multiple- edge diffraction for mobile radiowave propagation in terms of uniform theory of diffraction (UTD) coefficients when a spherical incident wave is considered. This solution can be used in an UTD context and sharply reduces the computing time over existing formulation. Results can be applied in the planning of microcellular systems

On Convergence Properties of the EM Algorithm for Gaussian Mixtures

"Expectation-Maximization'' (EM) algorithm and gradient-based approaches for maximum likelihood learning of finite Gaussian mixtures. We show that the EM step in parameter space is obtained from the gradient via a projection matrix $P$, and we provide an explicit expression for the matrix. We then analyze the convergence of EM in terms of special properties of $P$ and provide new results analyzing the effect that $P$ has on the likelihood surface. Based on these mathematical results, we present a comparative discussion of the advantages and disadvantages of EM and other algorithms for the learning of Gaussian mixture models.

Policy gradient based Reinforcement Learning for real autonomous underwater cable tracking

This paper proposes a field application of a high-level reinforcement learning (RL) control system for solving the action selection problem of an autonomous robot in cable tracking task. The learning system is characterized by using a direct policy search method for learning the internal state/action mapping. Policy only algorithms may suffer from long convergence times when dealing with real robotics. In order to speed up the process, the learning phase has been carried out in a simulated environment and, in a second step, the policy has been transferred and tested successfully on a real robot. Future steps plan to continue the learning process on-line while on the real robot while performing the mentioned task. We demonstrate its feasibility with real experiments on the underwater robot ICTINEU AUV

Self-medication and related terms: a conceptual reflection

Introduction: self-medication has become a growing practice in the world population. This phenomenon has been promoted as a form of self-care, with a positive impact on reducing spending in health systems, however there is concern about the potential negative effects related to inadequate diagnosis and treatment, which can affect health of individuals. This dual perception of the phenomenon is partly related to a variety of terms and concepts used, that make difficult its theoretical and empirical approach. Harmonization of the definitions involved is required in order to make adequate epidemiological comparisons. Objectives: analyze the concept of self medication and related terms from the definitions in the literature of the subject. Conclusions: in the last four decades it has been an evolution of both the wording and the definitions related to self-medication, from a very simple concept that implies the absence of prescription, to more complex ones that encompass very diverse behaviors, even those mediated by an act of prescription but not followed or not completed by the patient. Additionally the conceptual proliferation seen, justify the ordering of the terms related to self-medication. This paper presents a proposal for classification in four groups: a. self-medication, b. self care, c. pharmaceutical preparations and medicines, and d. prescription. This proposal should facilitate the exploration and analysis of the phenomenon and allow future theoretical approaches.

An analysis of the Spanish public universities missions in efficiency terms. 'Un análisis de las misiones de las universidades públicas españolas en términos de eficiencia'.

Resumen basado en el de la publicación

GCSE English technical terms : higher and foundation tiers.

Explica los elementos gramaticales para alumnos de catorce a dieceséis años de edad y de la etapa 4 (Key Stage 4), que preparan el General Certificate Secondary Education (GCSE) en la materia de lengua inglesa. En sus siete secciones define elementos como los nombres, los pronombres, los verbos, los adjetivos, los adverbios y las preposiciones; los signos de puntuación e imágenes rétoricas (metáfora, simil) y algunos ejemplos de escritos redactados en prosa y en verso.