Neural substrates and functional connectivity associated with sleep-dependent and independent consolidation of new motor skills

La mémoire n’est pas un processus unitaire et est souvent divisée en deux catégories majeures: la mémoire déclarative (pour les faits) et procédurale (pour les habitudes et habiletés motrices). Pour perdurer, une trace mnésique doit passer par la consolidation, un processus par lequel elle devient plus robuste et moins susceptible à l’interférence. Le sommeil est connu comme jouant un rôle clé pour permettre le processus de consolidation, particulièrement pour la mémoire déclarative. Depuis plusieurs années cependant, son rôle est aussi reconnu pour la mémoire procédurale. Il est par contre intéressant de noter que ce ne sont pas tous les types de mémoire procédurale qui requiert le sommeil afin d’être consolidée. Entre autres, le sommeil semble nécessaire pour consolider un apprentissage de séquences motrices (s’apparentant à l’apprentissage du piano), mais pas un apprentissage d’adaptation visuomotrice (tel qu’apprendre à rouler à bicyclette). Parallèlement, l’apprentissage à long terme de ces deux types d’habiletés semble également sous-tendu par des circuits neuronaux distincts; c’est-à-dire un réseau cortico-striatal et cortico-cérébelleux respectivement. Toutefois, l’implication de ces réseaux dans le processus de consolidation comme tel demeure incertain. Le but de cette thèse est donc de mieux comprendre le rôle du sommeil, en contrôlant pour le simple passage du temps, dans la consolidation de ces deux types d’apprentissage, à l’aide de l’imagerie par résonnance magnétique fonctionnelle et d’analyses de connectivité cérébrale. Nos résultats comportementaux supportent l’idée que seul l’apprentissage séquentiel requiert le sommeil pour déclencher le processus de consolidation. Nous suggérons de plus que le putamen est fortement associé à ce processus. En revanche, les performances d’un apprentissage visuomoteur s’améliorent indépendamment du sommeil et sont de plus corrélées à une plus grande activation du cervelet. Finalement, en explorant l’effet du sommeil sur la connectivité cérébrale, nos résultats démontrent qu’en fait, un système cortico-striatal semble être plus intégré suite à la consolidation. C’est-à-dire que l’interaction au sein des régions du système est plus forte lorsque la consolidation a eu lieu, après une nuit de sommeil. En opposition, le simple passage du temps semble nuire à l’intégration de ce réseau cortico-striatal. En somme, nous avons pu élargir les connaissances quant au rôle du sommeil pour la mémoire procédurale, notamment en démontrant que ce ne sont pas tous les types d’apprentissages qui requièrent le sommeil pour amorcer le processus de consolidation. D’ailleurs, nous avons également démontré que cette dissociation de l’effet du sommeil est également reflétée par l’implication de deux réseaux cérébraux distincts. À savoir, un réseau cortico-striatal et un réseau cortico-cérébelleux pour la consolidation respective de l’apprentissage de séquence et d’adaptation visuomotrice. Enfin, nous suggérons que la consolidation durant le sommeil permet de protéger et favoriser une meilleure cohésion au sein du réseau cortico-striatal associé à notre tâche; un phénomène qui, s’il est retrouvé avec d’autres types d’apprentissage, pourrait être considéré comme un nouveau marqueur de la consolidation.

Un outil d’évaluation neurocognitive des interactions humain-machine

De plus en plus de recherches sur les Interactions Humain-Machine (IHM) tentent d’effectuer des analyses fines de l’interaction afin de faire ressortir ce qui influence les comportements des utilisateurs. Tant au niveau de l’évaluation de la performance que de l’expérience des utilisateurs, on note qu’une attention particulière est maintenant portée aux réactions émotionnelles et cognitives lors de l’interaction. Les approches qualitatives standards sont limitées, car elles se fondent sur l’observation et des entrevues après l’interaction, limitant ainsi la précision du diagnostic. L’expérience utilisateur et les réactions émotionnelles étant de nature hautement dynamique et contextualisée, les approches d’évaluation doivent l’être de même afin de permettre un diagnostic précis de l’interaction. Cette thèse présente une approche d’évaluation quantitative et dynamique qui permet de contextualiser les réactions des utilisateurs afin d’en identifier les antécédents dans l’interaction avec un système. Pour ce faire, ce travail s’articule autour de trois axes. 1) La reconnaissance automatique des buts et de la structure de tâches de l’utilisateur, à l’aide de mesures oculométriques et d’activité dans l’environnement par apprentissage machine. 2) L’inférence de construits psychologiques (activation, valence émotionnelle et charge cognitive) via l’analyse des signaux physiologiques. 3) Le diagnostic de l‘interaction reposant sur le couplage dynamique des deux précédentes opérations. Les idées et le développement de notre approche sont illustrés par leur application dans deux contextes expérimentaux : le commerce électronique et l’apprentissage par simulation. Nous présentons aussi l’outil informatique complet qui a été implémenté afin de permettre à des professionnels en évaluation (ex. : ergonomes, concepteurs de jeux, formateurs) d’utiliser l’approche proposée pour l’évaluation d’IHM. Celui-ci est conçu de manière à faciliter la triangulation des appareils de mesure impliqués dans ce travail et à s’intégrer aux méthodes classiques d’évaluation de l’interaction (ex. : questionnaires et codage des observations).

Algorithmes d’apprentissage profonds supervisés et non-supervisés: applications et résultats théoriques

La liste des domaines touchés par l’apprentissage machine s’allonge rapidement. Au fur et à mesure que la quantité de données disponibles augmente, le développement d’algorithmes d’apprentissage de plus en plus puissants est crucial. Ce mémoire est constitué de trois parties: d’abord un survol des concepts de bases de l’apprentissage automatique et les détails nécessaires pour l’entraînement de réseaux de neurones, modèles qui se livrent bien à des architectures profondes. Ensuite, le premier article présente une application de l’apprentissage machine aux jeux vidéos, puis une méthode de mesure performance pour ceux-ci en tant que politique de décision. Finalement, le deuxième article présente des résultats théoriques concernant l’entraînement d’architectures profondes nonsupervisées. Les jeux vidéos sont un domaine particulièrement fertile pour l’apprentissage automatique: il estf facile d’accumuler d’importantes quantités de données, et les applications ne manquent pas. La formation d’équipes selon un critère donné est une tˆache commune pour les jeux en lignes. Le premier article compare différents algorithmes d’apprentissage à des réseaux de neurones profonds appliqués à la prédiction de la balance d’un match. Ensuite nous présentons une méthode par simulation pour évaluer les modèles ainsi obtenus utilisés dans le cadre d’une politique de décision en ligne. Dans un deuxième temps nous présentons une nouvelleméthode pour entraîner des modèles génératifs. Des résultats théoriques nous indiquent qu’il est possible d’entraîner par rétropropagation des modèles non-supervisés pouvant générer des échantillons qui suivent la distribution des données. Ceci est un résultat pertinent dans le cadre de la récente littérature scientifique investiguant les propriétés des autoencodeurs comme modèles génératifs. Ces résultats sont supportés avec des expériences qualitatives préliminaires ainsi que quelques résultats quantitatifs.

Une activité d'élaboration d'hypothèses pour soutenir le développement du RCI d'étudiantes en sciences infirmières

L'enseignement du raisonnement clinique infirmier (RCI) est une préoccupation importante des formateurs en sciences infirmières depuis plusieurs années. Les étudiantes en sciences infirmières éprouvent des difficultés à formuler des hypothèses cliniques, à savoir trouver les explications pouvant justifier la coexistence d'une combinaison de données cliniques. Pourtant, la formulation d’hypothèses constitue une étape déterminante du RCI. Dans cette étude qualitative exploratoire, nous avons mis à l'essai une activité d'apprentissage par vignette clinique courte (AVCC) qui fournit aux étudiantes l'occasion d'exercer spécifiquement la formulation d'hypothèses cliniques. L'étude visait à documenter la capacité d'étudiantes de troisième année au baccalauréat en sciences infirmières à formuler des hypothèses cliniques durant l'activité. Dix-sept étudiantes ont été recrutées par convenance et divisées en groupes selon leurs disponibilités. Au total, quatre séances ont eu lieu. Les participantes étaient invitées à réfléchir à une vignette clinique courte et à construire un algorithme qui incluait: 1) leurs hypothèses concernant la nature du problème clinique, 2) les éléments d'informations essentiels à rechercher pour vérifier chaque hypothèse et 3) les moyens pour trouver ces informations. L'observation participante, l'enregistrement audio-vidéo et un questionnaire auto-administré ont servi à collecter les données. Les stratégies de RCI décrites par Fonteyn (1998) ont servi de cadre théorique pour guider l’analyse, sous forme de matrices comprenant des verbatims et des notes de terrain. Les résultats suggèrent que l'AVCC stimule la formulation d'hypothèses cliniques et la réactivation des connaissances antérieures. Cette activité pourrait donc être utile en complément d'autres activités éducatives pour favoriser le développement du RCI chez les étudiantes en sciences infirmières.

L'école j'y tiens: programme de prévention au décrochage scolaire visant l'augmentation de l'engagement comportemental ainsi que la favorisation du développement des habiletés sociales

Rapport d'analyse d'intervention présenté à la Faculté des arts et sciences en vue de l'obtention du grade de Maîtrise ès sciences (M. Sc.) en psychoéducation.

Religiosité moderne et transformation personnelle : le cas des pratiquants de l'Ashtanga yoga à Montréal

Dans le contexte de l’expression moderne de la religiosité, l’étude explore comment les méthodes de l’Ashtanga yoga produisent l’expérience de la transformation chez les individus qui les pratiquent et qui atteint, dans une certaine mesure, leur entourage. Ethnographiquement, le mémoire se concentre sur le rituel principal de l’Ashtanga Vinyasa Yoga (AVY), les séances de style Mysore, telle qu’exercé par la communauté de pratiquants de la Sattva Yoga Shala à Montréal. En tant que performance, le rituel met en branle le potentiel de transformation. La pratique de ce yoga implique une discipline et un apprentissage draconien sur une longue échelle temporelle qui amènent, au fur et à mesure, des changements se répercutant dans/et influençant le vécu quotidien des adeptes. Le mémoire résume d’abord les bases littéraires du yoga, et le contexte historique de l’avènement de l’AVY ainsi que celui de sa venue à Montréal. Pour solidifier l’analyse, le travail poursuit par l’idéologie et la praxis du groupe d’étude. Le coeur de l’analyse suit. Nous examinons premièrement les modalités potentielles à la transformation du soi, c’est-à-dire les éléments rituels généraux et ceux spécifiques à l’AVY; puis, nous nous penchons sur ce que ces modalités développent, permettent, et changent chez les répondants, donc leurs impacts. Dans cette recherche, l’Ashtanga Vinyasa Yoga est à la fois une réalité empirique et une catégorie analytique servant à approfondir les connaissances anthropologiques sur le phénomène de la transformation personnelle selon le cadre expérientiel de la religiosité moderne.

Le travail de l’orthopédagogue quant au dépistage, à la référence et à la prise en charge d’un trouble spécifique d’apprentissage en lecture

Les difficultés reliées à la lecture constituent 80% des motifs de référence en orthopédagogie. Parfois, ces difficultés sont les précurseurs du trouble d’apprentissage le plus commun soit le trouble spécifique d’apprentissage en lecture (TSAL). Cette recherche porte sur le travail des orthopédagogues en lien avec les trois grandes étapes reliées au TSAL : (1) son dépistage, (2) son évaluation orthopédagogique et sa référence en neuropsychologie et finalement (3) sa prise en charge ainsi que sa rééducation en lien avec les recommandations neuropsychologiques. La collecte de données a été réalisée grâce à des entrevues avec trois orthopédagogues travaillant au primaire et autour d’un cas d’élève atteint de TSAL. Chacune des trois orthopédagogues a présenté un cas d’élève et a décrit sa pratique. Lors des rencontres, chaque participante a également remis au chercheur le dossier de l’élève contenant le rapport neuropsychologique confirmant le diagnostic. Les résultats de cette recherche indiquent que les signes précurseurs observés par les trois orthopédagogues ainsi que leurs interventions rééducatives sont très semblables. Toutefois, les outils d’évaluation utilisés diffèrent de l’une à l’autre tant en ce qui a trait au choix qu’à la manière de les utiliser. Les trois orthopédagogues optent pour la référence en neuropsychologie dans le but ultime de dresser un portrait global de leur élève quant à leurs habiletés cognitives et déficitaires pouvant être attribuables à un TSAL. Le rapport du neuropsychologue sert alors à confirmer l’impression diagnostique des orthopédagogues. Les résultats de notre étude montrent que les orthopédagogues entament de façon précoce les interventions rééducatives et offrent simultanément les mesures adaptatives relatives aux difficultés observées chez l’élève. Avec l’arrivée du diagnostic de TSAL, et les recommandations proposées dans le rapport neuropsychologique, les orthopédagogues valident et peuvent à l’occasion bonifier leurs interventions ou mesures. De plus, elles les officialisent en les ajoutant, si ce n’est pas déjà fait, au plan d’intervention de l’élève. Les interventions rééducatives et les mesures adaptées mises en place par les trois orthopédagogues sont également comparées à celles proposées par les neuropsychologues et analysées à la lumière de celles reconnues comme étant efficaces et profitables selon la littérature. Nos résultats mettent en évidence la grande similitude qui existe entre les interventions appliquées par les orthopédagogues, celles proposées par les neuropsychologues ainsi que celles répertoriées dans la littérature.

Évaluation d’un programme de développement professionnel en santé publique : le laboratoire de promotion de la santé

Il y a quelques décennies, l’émergence du discours de la promotion de la santé infléchissait un nouveau tournant à la santé publique, orientant sa pratique vers l’action communautaire, participative et intersectorielle. Parallèlement, au Québec, la réforme du système de santé de 2004 réorganisait le niveau de gouverne locale à travers la création des centres de santé et de services sociaux (CSSS). Ceux-ci doivent articuler les secteurs des soins et de la santé publique à travers un continuum de services qui va de la promotion de la santé aux soins palliatifs. Ces changements ont des implications majeures pour les acteurs de la santé et de la santé publique, qui doivent composer avec de nouveaux rôles professionnels et de nouvelles stratégies d’action. Le développement professionnel est considéré comme un levier potentiel pour soutenir ces changements. En 2009, une équipe de la Direction de la santé publique de l’Agence de santé et des services sociaux de Montréal concevait un programme de développement professionnel appelé le Laboratoire de promotion de la santé. Ce programme mise sur une approche d’apprentissage de groupe pour permettre aux professionnels des CSSS de développer de nouvelles compétences, une pratique réflexive ainsi que de nouvelles pratiques de promotion de la santé. Basée sur une méthodologie générale qualitative et une approche d’évaluation collaborative, cette thèse utilise plusieurs stratégies d’investigation afin d’évaluer le Laboratoire de promotion de la santé sous trois angles, qui renvoient à sa conceptualisation, à son implantation et à ses effets. Plus spécifiquement, elle vise à : (1) examiner la plausibilité de la théorie d’intervention du programme; (2) décrire et comprendre les processus d’apprentissage d’équipe ainsi que les facteurs qui les influencent; et (3) explorer, du point de vue des participants, les effets réflexifs du Laboratoire. Afin de répondre à ces objectifs, la thèse mobilise diverses perspectives théoriques liées à l’apprentissage individuel, d’équipe et organisationnel. Les résultats des analyses démontrent que : (1) malgré quelques améliorations possibles, le modèle du programme est généralement bien conçu pour parvenir aux résultats visés; (2) l’implantation de ce modèle dans deux sites a donné lieu à des processus d’apprentissage d’équipe différents, bien que conditionnés par des facteurs communs liés aux participants, à l’équipe, au contexte organisationnel et à l’implantation du programme; (3) tel que visé, les participants des deux sites ont développé de la réflexivité vis-à-vis leur pratique et leur rôle professionnel – cette réflexivité adoptant une fonction formative ou critique en regard de l’expérience professionnelle. Ces résultats soulignent le potentiel que représente l’évaluation de la théorie d’intervention pour améliorer la conceptualisation d’un programme de développement professionnel, ainsi que l’intérêt et la pertinence d’évaluer les processus d’apprentissage au niveau de l’équipe dans le cadre d’une approche collective de développement professionnel. De plus, ils appuient l’importance de l’apprentissage réflexif pour l’amélioration des pratiques et l’engagement social des professionnels. En ce sens, ils proposent différentes avenues qui ont le potentiel de consolider les capacités de la main-d’œuvre de santé publique et d’influer conséquemment sur son efficacité à améliorer la santé des collectivités dans le prochain siècle.

L’effet du stress sur la douleur aiguë et chronique

Objectif : Cette thèse a pour objectif de mieux comprendre l’effet du stress sur la douleur aiguë et chronique. Devis expérimental : 16 patients souffrant de douleur chronique lombalgique et 18 sujets contrôles ont participé à une étude d’imagerie par résonance magnétique (IRM) et ont collecté des échantillons de salive afin de quantifier les niveaux d’hormone de stress (i.e. cortisol) la journée de l’étude (réponse réactive) et durant les sept jours consécutifs suivants (réponse basale). Étude 1 : Une première étude a examiné le lien entre les niveaux de cortisol basal, le volume de l’hippocampe et l’activité cérébrale évoquée par la douleur thermique chez des patients souffrant de douleur chronique et les sujets contrôles. Les résultats révèlent que les patients souffrant de douleur chronique avaient des niveaux de cortisol plus élevés que ceux des sujets contrôles. Chez ces patients, un niveau élevé de cortisol était associé à un plus petit volume de l'hippocampe et à davantage d’activation dans le gyrus parahippocampique antérieure (une région impliquée dans l'anxiété anticipatoire et l'apprentissage associatif). De plus, une analyse de médiation a montré que le niveau de cortisol basal et la force de la réponse parahippocampique explique statistiquement l’association négative entre le volume de l'hippocampe et l'intensité de la douleur chronique. Ces résultats suggèrent que l’activité endocrinienne plus élevée chez les patients ayant un plus petit hippocampe modifie le fonctionnement du complexe hippocampique et contribue à l’intensité de la douleur chronique. Étude 2 : La deuxième étude a évalué la contribution de la réponse de stress réactif aux différences interindividuelles dans la perception de la douleur aiguë chez des patients souffrant de douleur chronique et chez des sujets normaux. Les deux groupes ont montré des augmentations significatives du niveau de cortisol en réponse à des stimulations nocives administrées dans un contexte d’IRM suggérant ainsi que la réactivité de l’axe hypothalamo-hypophyso-surrénalien est préservée chez les patients lombalgiques. De plus, les individus présentant une réponse hormonale de stress plus forte ont rapporté moins de douleur et ont montré une réduction de l'activation cérébrale dans le noyau accumbens, dans le cortex cingulaire antérieur (CCA), le cortex somatosensoriel primaire, et l'insula postérieure. Des analyses de médiation ont indiqué que la douleur liée à l'activité du CCA explique statistiquement la relation entre la réponse de stress et le désagrément de la douleur rapportée par les participants. Enfin, des analyses complémentaires ont révélé que le stress réduit la connectivité fonctionnelle entre le CCA et le tronc cérébral pendant la douleur aiguë. Ces résultats indiquent que le stress réactif module la douleur et contribue à la variabilité interindividuelle de l'activité cérébrale et la réponse affective à la douleur. Discussion : Conjointement, ces études suggèrent dans un premier temps que la douleur chronique peut être exacerbée par une réponse physiologique inadéquate de l'organisme exposé à un stress récurrent, et en un second temps, que le CCA contribuerait à l'analgésie induite par le stress. Sur le plan conceptuel, ces études renforcent le point de vue prédominant suggérant que la douleur chronique induit des changements dans les systèmes cérébraux régissant les fonctions motivationnelles et affective de la douleur.

Recognition of Facial Expressions with Autoencoders and Convolutional-Nets

Les humains communiquent via différents types de canaux: les mots, la voix, les gestes du corps, des émotions, etc. Pour cette raison, un ordinateur doit percevoir ces divers canaux de communication pour pouvoir interagir intelligemment avec les humains, par exemple en faisant usage de microphones et de webcams. Dans cette thèse, nous nous intéressons à déterminer les émotions humaines à partir d’images ou de vidéo de visages afin d’ensuite utiliser ces informations dans différents domaines d’applications. Ce mémoire débute par une brève introduction à l'apprentissage machine en s’attardant aux modèles et algorithmes que nous avons utilisés tels que les perceptrons multicouches, réseaux de neurones à convolution et autoencodeurs. Elle présente ensuite les résultats de l'application de ces modèles sur plusieurs ensembles de données d'expressions et émotions faciales. Nous nous concentrons sur l'étude des différents types d’autoencodeurs (autoencodeur débruitant, autoencodeur contractant, etc) afin de révéler certaines de leurs limitations, comme la possibilité d'obtenir de la coadaptation entre les filtres ou encore d’obtenir une courbe spectrale trop lisse, et étudions de nouvelles idées pour répondre à ces problèmes. Nous proposons également une nouvelle approche pour surmonter une limite des autoencodeurs traditionnellement entrainés de façon purement non-supervisée, c'est-à-dire sans utiliser aucune connaissance de la tâche que nous voulons finalement résoudre (comme la prévision des étiquettes de classe) en développant un nouveau critère d'apprentissage semi-supervisé qui exploite un faible nombre de données étiquetées en combinaison avec une grande quantité de données non-étiquetées afin d'apprendre une représentation adaptée à la tâche de classification, et d'obtenir une meilleure performance de classification. Finalement, nous décrivons le fonctionnement général de notre système de détection d'émotions et proposons de nouvelles idées pouvant mener à de futurs travaux.

Reconnaissance des actions humaines à partir d'une séquence vidéo

The work done in this master's thesis, presents a new system for the recognition of human actions from a video sequence. The system uses, as input, a video sequence taken by a static camera. A binary segmentation method of the the video sequence is first achieved, by a learning algorithm, in order to detect and extract the different people from the background. To recognize an action, the system then exploits a set of prototypes generated from an MDS-based dimensionality reduction technique, from two different points of view in the video sequence. This dimensionality reduction technique, according to two different viewpoints, allows us to model each human action of the training base with a set of prototypes (supposed to be similar for each class) represented in a low dimensional non-linear space. The prototypes, extracted according to the two viewpoints, are fed to a $K$-NN classifier which allows us to identify the human action that takes place in the video sequence. The experiments of our model conducted on the Weizmann dataset of human actions provide interesting results compared to the other state-of-the art (and often more complicated) methods. These experiments show first the sensitivity of our model for each viewpoint and its effectiveness to recognize the different actions, with a variable but satisfactory recognition rate and also the results obtained by the fusion of these two points of view, which allows us to achieve a high performance recognition rate.

La mise en scène du savoir-faire musical au cinéma

Ce mémoire de recherche-création vise d’abord à inventorier et à analyser les processus et procédés narratifs, rhétoriques et formels grâce auxquels trois films mettent en scène le savoir-faire musical, et particulièrement la situation d’apprentissage de la musique et la relation maître-élève. Ces trois films sont : All That Jazz, de Bob Fosse (1979), Bird, de Clint Eastwood (1988) et Tous les matins du monde, d’Alain Corneau (1991). Au terme de cet inventaire et de cette analyse, nous aurons repéré une dominante thématique : dans ces films, et peut-être au cinéma en général, la musique et l’enseignement de la musique sont représentés sous des traits socio-psychologiques particuliers : d’une part, la possession de l’autre, la soumission, le sacrifice et la perpétuelle insatisfaction. Mais aussi les multiples gratifications dont l’éducation et la formation du corps et de l’esprit sont gages. Il conviendra alors de vérifier une hypothèse : Est-ce que certains modes d’expression cinématographiques — ayant à voir avec certaines pratiques de cadrage, certaines figures du champ- contrechamp, etc. —, et certains modes de narration filmiques n’expliqueraient pas cette capacité du cinéma à mettre en scène les menaces affectives et sociales qui pèsent sur le maître de musique et l’apprenti musicien ? Ce sont ces mêmes processus et procédés, ce même thème et cette même hypothèse, qui seront explorés dans un scénario de long métrage, en faisant cette fois-ci confiance à la capacité de problématisation de l’écriture poétique.

Improving sampling, optimization and feature extraction in Boltzmann machines

L’apprentissage supervisé de réseaux hiérarchiques à grande échelle connaît présentement un succès fulgurant. Malgré cette effervescence, l’apprentissage non-supervisé représente toujours, selon plusieurs chercheurs, un élément clé de l’Intelligence Artificielle, où les agents doivent apprendre à partir d’un nombre potentiellement limité de données. Cette thèse s’inscrit dans cette pensée et aborde divers sujets de recherche liés au problème d’estimation de densité par l’entremise des machines de Boltzmann (BM), modèles graphiques probabilistes au coeur de l’apprentissage profond. Nos contributions touchent les domaines de l’échantillonnage, l’estimation de fonctions de partition, l’optimisation ainsi que l’apprentissage de représentations invariantes. Cette thèse débute par l’exposition d’un nouvel algorithme d'échantillonnage adaptatif, qui ajuste (de fa ̧con automatique) la température des chaînes de Markov sous simulation, afin de maintenir une vitesse de convergence élevée tout au long de l’apprentissage. Lorsqu’utilisé dans le contexte de l’apprentissage par maximum de vraisemblance stochastique (SML), notre algorithme engendre une robustesse accrue face à la sélection du taux d’apprentissage, ainsi qu’une meilleure vitesse de convergence. Nos résultats sont présent ́es dans le domaine des BMs, mais la méthode est générale et applicable à l’apprentissage de tout modèle probabiliste exploitant l’échantillonnage par chaînes de Markov. Tandis que le gradient du maximum de vraisemblance peut-être approximé par échantillonnage, l’évaluation de la log-vraisemblance nécessite un estimé de la fonction de partition. Contrairement aux approches traditionnelles qui considèrent un modèle donné comme une boîte noire, nous proposons plutôt d’exploiter la dynamique de l’apprentissage en estimant les changements successifs de log-partition encourus à chaque mise à jour des paramètres. Le problème d’estimation est reformulé comme un problème d’inférence similaire au filtre de Kalman, mais sur un graphe bi-dimensionnel, où les dimensions correspondent aux axes du temps et au paramètre de température. Sur le thème de l’optimisation, nous présentons également un algorithme permettant d’appliquer, de manière efficace, le gradient naturel à des machines de Boltzmann comportant des milliers d’unités. Jusqu’à présent, son adoption était limitée par son haut coût computationel ainsi que sa demande en mémoire. Notre algorithme, Metric-Free Natural Gradient (MFNG), permet d’éviter le calcul explicite de la matrice d’information de Fisher (et son inverse) en exploitant un solveur linéaire combiné à un produit matrice-vecteur efficace. L’algorithme est prometteur: en terme du nombre d’évaluations de fonctions, MFNG converge plus rapidement que SML. Son implémentation demeure malheureusement inefficace en temps de calcul. Ces travaux explorent également les mécanismes sous-jacents à l’apprentissage de représentations invariantes. À cette fin, nous utilisons la famille de machines de Boltzmann restreintes “spike & slab” (ssRBM), que nous modifions afin de pouvoir modéliser des distributions binaires et parcimonieuses. Les variables latentes binaires de la ssRBM peuvent être rendues invariantes à un sous-espace vectoriel, en associant à chacune d’elles, un vecteur de variables latentes continues (dénommées “slabs”). Ceci se traduit par une invariance accrue au niveau de la représentation et un meilleur taux de classification lorsque peu de données étiquetées sont disponibles. Nous terminons cette thèse sur un sujet ambitieux: l’apprentissage de représentations pouvant séparer les facteurs de variations présents dans le signal d’entrée. Nous proposons une solution à base de ssRBM bilinéaire (avec deux groupes de facteurs latents) et formulons le problème comme l’un de “pooling” dans des sous-espaces vectoriels complémentaires.

Utilisation de représentations de mots pour l’étiquetage de rôles sémantiques suivant FrameNet

Dans la sémantique des cadres de Fillmore, les mots prennent leur sens par rapport au contexte événementiel ou situationnel dans lequel ils s’inscrivent. FrameNet, une ressource lexicale pour l’anglais, définit environ 1000 cadres conceptuels, couvrant l’essentiel des contextes possibles. Dans un cadre conceptuel, un prédicat appelle des arguments pour remplir les différents rôles sémantiques associés au cadre (par exemple : Victime, Manière, Receveur, Locuteur). Nous cherchons à annoter automatiquement ces rôles sémantiques, étant donné le cadre sémantique et le prédicat. Pour cela, nous entrainons un algorithme d’apprentissage machine sur des arguments dont le rôle est connu, pour généraliser aux arguments dont le rôle est inconnu. On utilisera notamment des propriétés lexicales de proximité sémantique des mots les plus représentatifs des arguments, en particulier en utilisant des représentations vectorielles des mots du lexique.

Présentation personnalisée des informations environnementales

Nous présentons dans cette thèse notre travail dans le domaine de la visualisation. Nous nous sommes intéressés au problème de la génération des bulletins météorologiques. Étant donné une masse énorme d’information générée par Environnement Canada et un utilisateur, il faut lui générer une visualisation personnalisée qui répond à ses besoins et à ses préférences. Nous avons développé MeteoVis, un générateur de bulletin météorologique. Comme nous avons peu d’information sur le profil de l’utilisateur, nous nous sommes basés sur les utilisateurs similaires pour lui calculer ses besoins et ses préférences. Nous utilisons l'apprentissage non supervisé pour regrouper les utilisateurs similaires. Nous calculons le taux de similarité des profils utilisateurs dans le même cluster pour pondérer les besoins et les préférences. Nous avons mené, avec l’aide d'utilisateurs n’ayant aucun rapport avec le projet, des expériences d'évaluation et de comparaison de notre outil par rapport à celui utilisé actuellement par Environnement Canada. Les résultats de cette évaluation montrent que les visualisation générées par MeteoVis sont de loin meilleures que les bulletins actuels préparés par EC.