Apprentissage machine efficace : théorie et pratique

Malgré des progrès constants en termes de capacité de calcul, mémoire et quantité de données disponibles, les algorithmes d'apprentissage machine doivent se montrer efficaces dans l'utilisation de ces ressources. La minimisation des coûts est évidemment un facteur important, mais une autre motivation est la recherche de mécanismes d'apprentissage capables de reproduire le comportement d'êtres intelligents. Cette thèse aborde le problème de l'efficacité à travers plusieurs articles traitant d'algorithmes d'apprentissage variés : ce problème est vu non seulement du point de vue de l'efficacité computationnelle (temps de calcul et mémoire utilisés), mais aussi de celui de l'efficacité statistique (nombre d'exemples requis pour accomplir une tâche donnée). Une première contribution apportée par cette thèse est la mise en lumière d'inefficacités statistiques dans des algorithmes existants. Nous montrons ainsi que les arbres de décision généralisent mal pour certains types de tâches (chapitre 3), de même que les algorithmes classiques d'apprentissage semi-supervisé à base de graphe (chapitre 5), chacun étant affecté par une forme particulière de la malédiction de la dimensionalité. Pour une certaine classe de réseaux de neurones, appelés réseaux sommes-produits, nous montrons qu'il peut être exponentiellement moins efficace de représenter certaines fonctions par des réseaux à une seule couche cachée, comparé à des réseaux profonds (chapitre 4). Nos analyses permettent de mieux comprendre certains problèmes intrinsèques liés à ces algorithmes, et d'orienter la recherche dans des directions qui pourraient permettre de les résoudre. Nous identifions également des inefficacités computationnelles dans les algorithmes d'apprentissage semi-supervisé à base de graphe (chapitre 5), et dans l'apprentissage de mélanges de Gaussiennes en présence de valeurs manquantes (chapitre 6). Dans les deux cas, nous proposons de nouveaux algorithmes capables de traiter des ensembles de données significativement plus grands. Les deux derniers chapitres traitent de l'efficacité computationnelle sous un angle différent. Dans le chapitre 7, nous analysons de manière théorique un algorithme existant pour l'apprentissage efficace dans les machines de Boltzmann restreintes (la divergence contrastive), afin de mieux comprendre les raisons qui expliquent le succès de cet algorithme. Finalement, dans le chapitre 8 nous présentons une application de l'apprentissage machine dans le domaine des jeux vidéo, pour laquelle le problème de l'efficacité computationnelle est relié à des considérations d'ingénierie logicielle et matérielle, souvent ignorées en recherche mais ô combien importantes en pratique.

Modulation de l'apprentissage visuel par stimulation électrique transcrânienne à courant direct du cortex préfrontal

Le traitement visuel répété d’un visage inconnu entraîne une suppression de l’activité neuronale dans les régions préférentielles aux visages du cortex occipito-temporal. Cette «suppression neuronale» (SN) est un mécanisme primitif hautement impliqué dans l’apprentissage de visages, pouvant être détecté par une réduction de l’amplitude de la composante N170, un potentiel relié à l’événement (PRE), au-dessus du cortex occipito-temporal. Le cortex préfrontal dorsolatéral (CPDL) influence le traitement et l’encodage visuel, mais sa contribution à la SN de la N170 demeure inconnue. Nous avons utilisé la stimulation électrique transcrânienne à courant direct (SETCD) pour moduler l’excitabilité corticale du CPDL de 14 adultes sains lors de l’apprentissage de visages inconnus. Trois conditions de stimulation étaient utilisées: inhibition à droite, excitation à droite et placebo. Pendant l’apprentissage, l’EEG était enregistré afin d’évaluer la SN de la P100, la N170 et la P300. Trois jours suivant l’apprentissage, une tâche de reconnaissance était administrée où les performances en pourcentage de bonnes réponses et temps de réaction (TR) étaient enregistrées. Les résultats indiquent que la condition d’excitation à droite a facilité la SN de la N170 et a augmentée l’amplitude de la P300, entraînant une reconnaissance des visages plus rapide à long-terme. À l’inverse, la condition d’inhibition à droite a causé une augmentation de l’amplitude de la N170 et des TR plus lents, sans affecter la P300. Ces résultats sont les premiers à démontrer que la modulation d’excitabilité du CPDL puisse influencer l’encodage visuel de visages inconnus, soulignant l’importance du CPDL dans les mécanismes d’apprentissage de base.

La collaboration des parents de minorités visibles avec les services de la protection de la jeunesse : le rôle du soutien informel parental et des compétences de l’intervenant.

En réponse à la disproportion des familles de minorités visibles dans le système montréalais de la protection de la jeunesse, cette recherche explore, du point de vue de l'intervenant, le rôle de ses compétences culturelles et du soutien informel parental dans l’élaboration d'une relation de collaboration. L’analyse porte sur 24 entrevues individuelles, où 48 interventions sont racontées par des intervenants. Les résultats proposent une typologie, élaborée à partir de la collaboration des parents et de l’engagement de leur réseau informel dans l’intervention. Ils présentent ensuite une description des compétences culturelles et de leur utilisation auprès des dynamiques familiales comprises dans la typologie. La discussion aborde la résilience sociale, les stratégies d’intervention et le constructionnisme social. Trois principales idées sont évoquées : une conception de la collaboration qui inclut le réseau informel, une réflexion sur la notion de « compétences culturelles » et le développement d’une pratique réflexive.

Harmonisation des langues africaines transfrontalières par les TIC pour un enseignement-apprentissage plus efficient : le cas du Peul

Cette thèse s'inscrit dans le cadre de l'harmonisation des langues africaines transfrontalières à tradition écrite émergente au moyen des Technologies de l’information et de la communication.

Algorithmes d'apprentissage pour la recommandation

L'ère numérique dans laquelle nous sommes entrés apporte une quantité importante de nouveaux défis à relever dans une multitude de domaines. Le traitement automatique de l'abondante information à notre disposition est l'un de ces défis, et nous allons ici nous pencher sur des méthodes et techniques adaptées au filtrage et à la recommandation à l'utilisateur d'articles adaptés à ses goûts, dans le contexte particulier et sans précédent notable du jeu vidéo multi-joueurs en ligne. Notre objectif est de prédire l'appréciation des niveaux par les joueurs. Au moyen d'algorithmes d'apprentissage machine modernes tels que les réseaux de neurones profonds avec pré-entrainement non-supervisé, que nous décrivons après une introduction aux concepts nécessaires à leur bonne compréhension, nous proposons deux architectures aux caractéristiques différentes bien que basées sur ce même concept d'apprentissage profond. La première est un réseau de neurones multi-couches pour lequel nous tentons d'expliquer les performances variables que nous rapportons sur les expériences menées pour diverses variations de profondeur, d'heuristique d'entraînement, et des méthodes de pré-entraînement non-supervisé simple, débruitant et contractant. Pour la seconde architecture, nous nous inspirons des modèles à énergie et proposons de même une explication des résultats obtenus, variables eux aussi. Enfin, nous décrivons une première tentative fructueuse d'amélioration de cette seconde architecture au moyen d'un fine-tuning supervisé succédant le pré-entrainement, puis une seconde tentative où ce fine-tuning est fait au moyen d'un critère d'entraînement semi-supervisé multi-tâches. Nos expériences montrent des performances prometteuses, notament avec l'architecture inspirée des modèles à énergie, justifiant du moins l'utilisation d'algorithmes d'apprentissage profonds pour résoudre le problème de la recommandation.

Effet de la pratique mixte sur les processus de consolidation lors de l'apprentissage concomitant de deux tâches interférentes.

Si les bénéfices de la pratique physique sur l’apprentissage moteur ne sont plus à démontrer, de nombreuses études s’accordent sur le fait qu’il est également possible d’apprendre une nouvelle habileté en observant un modèle qui réalise la tâche à apprendre. De plus, plusieurs chercheurs ont montré que les mécanismes permettant l’acquisition d’une nouvelle habileté motrice par pratique physique et par observation sont semblables. Or, l’apprentissage se poursuit au-delà des séances de pratique par des « processus de consolidation » essentiels pour que les habiletés pratiquées soient retenues à long terme. À cet effet, Trempe, Sabourin, Rohbanfard et Proteau (2011), ont montré que la consolidation ne s'effectuait pas de la même façon selon que la pratique était faite physiquement ou par observation. Par conséquent, nous avons tenté de déterminer si pratiquer une tâche par pratique physique et l’autre par observation permet d'optimiser l'apprentissage concomitant de ces deux tâches bien qu’elles soient normalement interférentes. Nos résultats ont montré que la tâche A causait une interférence antérograde sur la tâche B peu importe le type de pratique effectué, ce qui suggère que les processus de consolidation prenant place suite à l’observation sont plutôt similaires à ceux qui prennent place suite à la pratique physique. Ainsi, il semble que la pratique mixte ne permet pas de réduire les interférences lors de l’apprentissage de deux tâches semblables.

Apprentissage dans une communauté de pratique : fansubbing et compétence linguistique

Fansub consiste à traduire et à sous-titrer les produits médiatiques étrangers tels que des films, des feuilletons ou des animes par des internautes bénévoles. Ce phénomène est aujourd’hui très répandu en Chine. Les amateurs s’organisent en groupes de fansub pour accomplir ce travail en collaboration. Les groupes de fansub se caractérisent par la virtualisation du lieu de travail, l’hétérogénéité des membres, la liberté de participation, la collaboration et la non-commercialité. Leur processus de travail et organisation est aussi particulier. Dans ce mémoire, je me suis intéressée à l’apprentissage des fansubbers, un aspect peu étudié dans la littérature sur le fansub. Le fansub a été abordé sous l’angle d’une communauté de pratiques pour comprendre comment les fansubbers acquièrent de nouvelles connaissances et améliorent leur compétence linguistique en sous-titrant les films de langue étrangère. L’étude est basée sur l’observation participative dans un groupe de fansub chinois-français, Fansub Yueyue. J’ai fait de l’observation participante auprès de ce groupe de fansub pour recueillir des traces du travail et des interactions entre les membres. Dix fansubbers du groupe ont aussi été interrogés. Les analyses ont indiqué que le groupe de fansub démontre les trois caractéristiques essentielles d’une communauté de pratique : l’entreprise commune, l’engagement mutuel et un répertoire partagé. Cet ensemble favorise l’existence du groupe ainsi que l’apprentissage des membres. Aussi, par l’analyse des erreurs fréquentes des fansubbers et leur autoévaluation, nous concluons que les pratiques de fansub aident les membres à améliorer leur compétence linguistique. L’apprentissage a lieu pendant le processus de travail de sous-titrage ainsi qu’à travers les interactions entre les membres ou avec des personnes hors de ce groupe.

Apprentissage des réseaux de neurones profonds et applications en traitement automatique de la langue naturelle

En apprentissage automatique, domaine qui consiste à utiliser des données pour apprendre une solution aux problèmes que nous voulons confier à la machine, le modèle des Réseaux de Neurones Artificiels (ANN) est un outil précieux. Il a été inventé voilà maintenant près de soixante ans, et pourtant, il est encore de nos jours le sujet d'une recherche active. Récemment, avec l'apprentissage profond, il a en effet permis d'améliorer l'état de l'art dans de nombreux champs d'applications comme la vision par ordinateur, le traitement de la parole et le traitement des langues naturelles. La quantité toujours grandissante de données disponibles et les améliorations du matériel informatique ont permis de faciliter l'apprentissage de modèles à haute capacité comme les ANNs profonds. Cependant, des difficultés inhérentes à l'entraînement de tels modèles, comme les minima locaux, ont encore un impact important. L'apprentissage profond vise donc à trouver des solutions, en régularisant ou en facilitant l'optimisation. Le pré-entraînnement non-supervisé, ou la technique du ``Dropout'', en sont des exemples. Les deux premiers travaux présentés dans cette thèse suivent cette ligne de recherche. Le premier étudie les problèmes de gradients diminuants/explosants dans les architectures profondes. Il montre que des choix simples, comme la fonction d'activation ou l'initialisation des poids du réseaux, ont une grande influence. Nous proposons l'initialisation normalisée pour faciliter l'apprentissage. Le second se focalise sur le choix de la fonction d'activation et présente le rectifieur, ou unité rectificatrice linéaire. Cette étude a été la première à mettre l'accent sur les fonctions d'activations linéaires par morceaux pour les réseaux de neurones profonds en apprentissage supervisé. Aujourd'hui, ce type de fonction d'activation est une composante essentielle des réseaux de neurones profonds. Les deux derniers travaux présentés se concentrent sur les applications des ANNs en traitement des langues naturelles. Le premier aborde le sujet de l'adaptation de domaine pour l'analyse de sentiment, en utilisant des Auto-Encodeurs Débruitants. Celui-ci est encore l'état de l'art de nos jours. Le second traite de l'apprentissage de données multi-relationnelles avec un modèle à base d'énergie, pouvant être utilisé pour la tâche de désambiguation de sens.

Apprentissage d'espaces sémantiques

Dans cette dissertation, nous présentons plusieurs techniques d’apprentissage d’espaces sémantiques pour plusieurs domaines, par exemple des mots et des images, mais aussi à l’intersection de différents domaines. Un espace de représentation est appelé sémantique si des entités jugées similaires par un être humain, ont leur similarité préservée dans cet espace. La première publication présente un enchaînement de méthodes d’apprentissage incluant plusieurs techniques d’apprentissage non supervisé qui nous a permis de remporter la compétition “Unsupervised and Transfer Learning Challenge” en 2011. Le deuxième article présente une manière d’extraire de l’information à partir d’un contexte structuré (177 détecteurs d’objets à différentes positions et échelles). On montrera que l’utilisation de la structure des données combinée à un apprentissage non supervisé permet de réduire la dimensionnalité de 97% tout en améliorant les performances de reconnaissance de scènes de +5% à +11% selon l’ensemble de données. Dans le troisième travail, on s’intéresse à la structure apprise par les réseaux de neurones profonds utilisés dans les deux précédentes publications. Plusieurs hypothèses sont présentées et testées expérimentalement montrant que l’espace appris a de meilleures propriétés de mixage (facilitant l’exploration de différentes classes durant le processus d’échantillonnage). Pour la quatrième publication, on s’intéresse à résoudre un problème d’analyse syntaxique et sémantique avec des réseaux de neurones récurrents appris sur des fenêtres de contexte de mots. Dans notre cinquième travail, nous proposons une façon d’effectuer de la recherche d’image ”augmentée” en apprenant un espace sémantique joint où une recherche d’image contenant un objet retournerait aussi des images des parties de l’objet, par exemple une recherche retournant des images de ”voiture” retournerait aussi des images de ”pare-brises”, ”coffres”, ”roues” en plus des images initiales.

Les simulations militaires pratiquées au sein d’organisations civiles au Québec : une analyse des apprentissages stratégiques, tactiques et opérationnels

La pratique de simulations militaires ne cesse de croître en popularité au sein de la population civile québécoise, et nous en savons jusqu’à maintenant très peu sur ces activités marginales et sur le risque que peuvent poser de tels entraînements. En considérant divers processus d’apprentissage, nous nous intéressons aux simulations militaires pour mieux comprendre la façon dont ces apprentissages peuvent mener à la création d’un capital préjudiciable pouvant expliquer un passage à des actes de violence extrême. Nous proposons et appuyons empiriquement une approche sociocriminologique visant à mieux comprendre ce qu’on appelle la radicalisation violente, en avançant que tout comportement délinquant doit être appris, au même titre que n’importe quel autre comportement, ce qui suggère inévitablement qu’une certaine compétence est nécessaire pour exécuter un acte délinquant. Ainsi, nous posons la question de recherche suivante : comment pourrions-nous mieux comprendre le processus menant à la commission d’un acte de violence extrême en nous intéressant aux apprentissages découlant de simulations militaires et menant au développement d’un capital préjudiciable? En utilisant une méthodologie mixte comprenant des observations, des questionnaires et des entretiens, nous faisons ressortir que l’étude de la radicalisation dans une perspective uniquement idéologique est insuffisante pour dresser un portrait complet de ce phénomène complexe. Même si nos résultats démontrent que, dans les communautés que nous avons étudiées, de nombreux affects positifs amènent les participants à adopter des comportements prosociaux, nous établissons aussi qu’ils développent un capital préjudiciable. Ces affects positifs se présentent sous différentes formes de contrôle social informel issues des normes sociales dominantes, de la pluralité des acteurs et des personnalités influentes du milieu. Quant au capital préjudiciable, il provient premièrement d’apprentissages de techniques de combat avancées pouvant faciliter la commission d’actes de violence extrême. Les participants apprennent notamment le maniement tactique d’armes à feu et d’autres engins explosifs improvisés. De plus, nous soutenons que ces activités peuvent avoir un impact sur leur jugement moral, puisqu’elles présentent plusieurs formes de banalisations pour des pratiques liées à la commission d’un acte violent. Parmi celles-ci, nous soulignons que l’activité consiste à pointer et tirer quelqu’un avec une arme de manière répétitive, alors que les participants rationalisent ces actions en utilisant un vocabulaire qui ne décrit pas concrètement les gestes violents qu’ils commettent.

L'apprentissage de l'approche systémique familiale dans la formation universitaire de premier cycle en sciences infirmières

Rapport de stage présenté à la Faculté des sciences infirmières en vue de l'obtention du grade de Maître ès sciences (M.Sc.) en sciences infirmières option expertise-conseil en soins infirmiers

La bilittératie chez les jeunes élèves allophones à Montréal : une réflexion en vue d’améliorer l’enseignement-apprentissage du français

Le présent article poursuit un double objectif. Le premier est de rendre compte de l’importance du concept de bilittératie pour la recherche et la pratique en éducation. Le second est de susciter la réflexion sur les différents enjeux didactiques et pédagogiques liés à la bilittératie chez les jeunes élèves allophones à Montréal. À cet effet, deux modèles complémentaires qui font partie de la matrice théorique de notre projet de recherche seront abordés. Il s’agit du modèle de la compétence sous-jacente commune de Cummins (2008, 1991, 1981, 1979), ainsi que du modèle des continuums de Hornberger (2004, 2003). Le texte illustre la nécessité de reconsidérer la pratique d’enseignement du français – langue de scolarisation au Québec – vu la réalité sociolinguistique dans laquelle évoluent les élèves allophones.

Des principes de responsabilité et de solidarité pour un accès équitable aux soins de santé : le cas des travailleurs de l'informel urbain du Cameroun en situation de vulnérabilité

La question de l’accès financier des personnes socialement défavorisées aux soins de santé est aujourd’hui un enjeu éthique de grande importance dans de nombreux pays à faible revenu ou en voie d’émergence. On peut se demander comment l’équité dans l’accès aux soins peut être rendue effective puisque l’égalité des chances pour tous et la santé sont des pré-requis aux choix de vie et à la réalisation de soi. Les soins de santé sont donc d’une importance éthique particulière du fait qu’ils contribuent à préserver notre statut comme citoyens pleinement fonctionnels. Au Cameroun, bien que des efforts considérables soient consentis par les pouvoirs publics et leurs partenaires extérieurs pour favoriser l’accès aux soins des personnes défavorisées, le secteur de la santé reste encore très marqué par l’inégalité dans l’accès financier aux prestations sanitaires. Les médicaments les plus essentiels ne sont pas financièrement à la portée de tous et les coûts d’accès aux soins ambulatoires et hospitaliers dans les formations sanitaires sont manifestement prohibitifs pour une large frange de la population. Lors des épisodes de maladie, l’accès aux soins se fait par le paiement direct au point d’accès, et la pratique de l’automédication s’est répandue du fait de l’incapacité des personnes socialement défavorisées à payer leurs soins sans courir le risque de perdre l’essentiel de leur revenu. Les mesures de prise en charge sociale ou des systèmes de financement qui garantissent la réduction des inégalités entre les classes sociales sont fortement limitées par les faibles capacités d’une économie qui repose essentiellement sur l’informel. Sur la base de cette réalité, cette thèse analyse à partir du cas des travailleurs vulnérables du secteur informel urbain, la pertinence du choix politique de la couverture universelle santé au Cameroun à travers les principes de responsabilité et de solidarité. La population d’étude choisie est celle des travailleurs vulnérables du secteur informel en considération des problématiques liées à leur accès aux soins de santé, de l’importance de leur apport dans l’économie du pays ( 90 % des travailleurs) et du rôle qu’elle pourrait jouer dans l’atteinte de l’objectif de la couverture universelle santé. La thèse analyse donc, d’une part, les conditions et les modalités de répartition des biens sociaux qui répondent à la nécessaire redistribution équitable des ressources, en l’occurrence l’accès aux soins de qualité. Après avoir montré les préoccupations d’ordre politique, social, économique et éthique liées au problème d’accès universel aux soins, la thèse propose des stratégies opérationnelles susceptibles de conduire à l’amélioration de la qualité des soins et à un assainissement de la gestion du secteur des services de soins (éthique du care et éthique de bonne gouvernance). Aussi, dans la perspective de la recherche d’un financement local soutenable et durable de l’accès de tous aux soins, la thèse propose une approche participative. L’exploration de cette perspective aboutit au résultat qu’une approche inclusive et intégrée de promotion de l’économie informelle (dynamisation de ses activités et potentialisation de ses acteurs) pourrait faire de ce secteur un véritable levier de développement économique et social. Un développement social et solidaire durable et susceptible, sur le long terme, de réaliser l’objectif de la couverture universelle santé. En d’autres termes, elle propose des stratégies de capabilisation et de responsabilisation des travailleurs du secteur informel, en vue d’une société plus impliquée, plus responsable et plus solidaire. Une approche susceptible de matérialiser le droit à la santé, de construire l’autonomie des travailleurs en situation de vulnérabilité et de renforcer leurs capacités contributives à travers une opérationnalisation adaptée au contexte des principes de responsabilité et de solidarité.

L'apprentissage de l'évaluation de la condition mentale dans la formation des infirmières.

Rapport de stage présenté à la Faculté des sciences infirmières en vue de l'obtention du grade de Maître ès sciences (M.Sc.), sciences infirmières option formation en soins infirmiers.

La métaphore pour structurer l'environnement d'apprentissage informatisé

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.