Apprentissage des réseaux de neurones profonds et applications en traitement automatique de la langue naturelle

En apprentissage automatique, domaine qui consiste à utiliser des données pour apprendre une solution aux problèmes que nous voulons confier à la machine, le modèle des Réseaux de Neurones Artificiels (ANN) est un outil précieux. Il a été inventé voilà maintenant près de soixante ans, et pourtant, il est encore de nos jours le sujet d'une recherche active. Récemment, avec l'apprentissage profond, il a en effet permis d'améliorer l'état de l'art dans de nombreux champs d'applications comme la vision par ordinateur, le traitement de la parole et le traitement des langues naturelles. La quantité toujours grandissante de données disponibles et les améliorations du matériel informatique ont permis de faciliter l'apprentissage de modèles à haute capacité comme les ANNs profonds. Cependant, des difficultés inhérentes à l'entraînement de tels modèles, comme les minima locaux, ont encore un impact important. L'apprentissage profond vise donc à trouver des solutions, en régularisant ou en facilitant l'optimisation. Le pré-entraînnement non-supervisé, ou la technique du ``Dropout'', en sont des exemples. Les deux premiers travaux présentés dans cette thèse suivent cette ligne de recherche. Le premier étudie les problèmes de gradients diminuants/explosants dans les architectures profondes. Il montre que des choix simples, comme la fonction d'activation ou l'initialisation des poids du réseaux, ont une grande influence. Nous proposons l'initialisation normalisée pour faciliter l'apprentissage. Le second se focalise sur le choix de la fonction d'activation et présente le rectifieur, ou unité rectificatrice linéaire. Cette étude a été la première à mettre l'accent sur les fonctions d'activations linéaires par morceaux pour les réseaux de neurones profonds en apprentissage supervisé. Aujourd'hui, ce type de fonction d'activation est une composante essentielle des réseaux de neurones profonds. Les deux derniers travaux présentés se concentrent sur les applications des ANNs en traitement des langues naturelles. Le premier aborde le sujet de l'adaptation de domaine pour l'analyse de sentiment, en utilisant des Auto-Encodeurs Débruitants. Celui-ci est encore l'état de l'art de nos jours. Le second traite de l'apprentissage de données multi-relationnelles avec un modèle à base d'énergie, pouvant être utilisé pour la tâche de désambiguation de sens.

Accélérer l'entraînement d'un modèle non-paramétrique de densité non normalisée par échantillonnage aléatoire

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Accélérer l'entraînement d'un modèle non-paramétrique de densité non normalisée par échantillonnage aléatoire

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Grammaire générale et raisonné : contenant les fondemens de l'art de parler ; expliquéz d'une maniere claire [et] naturelle ... ... et plusieurs remarques nouvelles sur la langue françoise/

Mode of access: Internet.

La prise en compte de la lumière naturelle pendant la conception architecturale à l'aide des outils informatiques : modèles et représentation

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

La prise en compte de la lumière naturelle pendant la conception architecturale à l'aide des outils informatiques : modèles et représentation

Un document accompagne le mémoire et est disponible pour consultation au Centre de conservation des bibliothèques de l'Université de Montréal (http://www.bib.umontreal.ca/conservation/).

Les collocations de la langue juridique française: problemátiques de l'enseignement/apprentissage à des apprenants lusophones

Tese apresentada para cumprimento dos requisitos necessários à obtenção do grau de Doutor em Linguística – Lexicologia/Lexicografia/Terminologia

LES LINGUISTIQUES DE L'EUROPE NOUVELLE : Analyse comparée de l'utilisation des représentations sur la langue et de la linguistique dans la construction de l'Europe de Versailles et de l'URSS (1914-1953)

Le but principal de ce travail est de comparer les idées sur la langue et sur la linguistique a l'intérieur de deux processus de « construction de monde », à savoir le réagencement de l'Europe après la Première guerre mondiale et la création du monde nouveau voulu par l'Union soviétique. La comparaison est rendue pertinente par le fait que ces deux « constructions de monde » eurent lieu dans des atmosphères idéologiques opposées, puisque la Première guerre mondiale et la révolution bolchevique s'opposent radicalement en représentant, respectivement, le triomphe des nations et celui de l'internationalisme de classe. La comparaison se fera aussi à l'intérieur de l'Union soviétique, puisque l'internationalisme des années 1920 laissera la place dans les années 1930 et jusqu'à la mort de Staline en 1953 à un nationalisme soviétique représenté par la métaphore de la « citadelle assiégée ». L'hypothèse du travail est la suivante : la façon d'utiliser les faits de langue et la linguistique, et la façon de considérer l'objet-langue dans un processus de construction étatique dépendent de l'atmosphère idéologique à l'intérieur de laquelle cette utilisation a lieu. Dans la première partie, nous analysons les idées de trois linguistes professionnels (Antoine Meillet, Aleksandar Belic et Jordan Ivanov) relatives au réagencement de l'Europe après la guerre. De l'analyse de ces trois corpus de textes ressortira une espèce de contradiction, puisque ces linguistes qui, au début du XXème siècle, entendaient user de la science linguistique pour asseoir sur des bases solides la nouvelle Europe, le firent avec une « conscience linguistique » d'inspiration romantique, tout droit sortie du XIXeme siècle. La nécessité de proposer pour l'Europe une solution pratique et durable a très certainement amené ces linguistes à privilégier, peut-être inconsciemment, des théories linguistiques certes dépassées, mais qui avaient l'avantage de considérer les langues comme des objets discontinus et homogènes. Dans notre deuxième partie consacrée à l'Union soviétique, nous analysons des textes (d'auteurs parfois méconnus) traitant de ce que nous avons appelé la « révolution en langue » : partant du principe que le monde nouveau de la dictature du prolétariat allait être totalement différent du monde que l'on avait connu précédemment, certains auteurs des années 1920 furent convaincus que ce monde nouveau allait avoir besoin d'une langue nouvelle. Mais au lieu d'attendre que cette langue nouvelle apparaisse spontanément, par évolution, certains proposèrent d'introduire consciemment dans la langue, par révolution, les changements selon eux nécessaires pour que la langue corresponde aux nouveaux besoins. Dans ce contexte, l'objet-langue est considéré comme un simple outil de communication qu'il est possible de modifier à sa guise, et la linguistique comme une discipline technique. Cette idée de changer la langue disparaîtra de l'URSS des années 1930, avec le passage vers le nationalisme soviétique. A la place, on préférera rappeler que les langues ne peuvent évoluer que par évolution, que l'on ne peut pas changer la langue, que l'on ne peut pas créer une langue selon notre volonté. Dans le contexte de la « citadelle assiégée », la langue russe deviendra le signe distinctif de l'Union soviétique qu'il sera impossible de toucher et de modifier. La langue n'est plus un outil, elle est désormais un symbole. Avec la comparaison de ces deux situations particulières (trois si l'on distingue les deux atmosphères de l'URSS), nous pensons avoir montré que l'apparition de certaines idées sur la langue et sur la linguistique est liée au contexte et aux besoins.