On Recurrent and Deep Neural Networks

L'apprentissage profond est un domaine de recherche en forte croissance en apprentissage automatique qui est parvenu à des résultats impressionnants dans différentes tâches allant de la classification d'images à la parole, en passant par la modélisation du langage. Les réseaux de neurones récurrents, une sous-classe d'architecture profonde, s'avèrent particulièrement prometteurs. Les réseaux récurrents peuvent capter la structure temporelle dans les données. Ils ont potentiellement la capacité d'apprendre des corrélations entre des événements éloignés dans le temps et d'emmagasiner indéfiniment des informations dans leur mémoire interne. Dans ce travail, nous tentons d'abord de comprendre pourquoi la profondeur est utile. Similairement à d'autres travaux de la littérature, nos résultats démontrent que les modèles profonds peuvent être plus efficaces pour représenter certaines familles de fonctions comparativement aux modèles peu profonds. Contrairement à ces travaux, nous effectuons notre analyse théorique sur des réseaux profonds acycliques munis de fonctions d'activation linéaires par parties, puisque ce type de modèle est actuellement l'état de l'art dans différentes tâches de classification. La deuxième partie de cette thèse porte sur le processus d'apprentissage. Nous analysons quelques techniques d'optimisation proposées récemment, telles l'optimisation Hessian free, la descente de gradient naturel et la descente des sous-espaces de Krylov. Nous proposons le cadre théorique des méthodes à région de confiance généralisées et nous montrons que plusieurs de ces algorithmes développés récemment peuvent être vus dans cette perspective. Nous argumentons que certains membres de cette famille d'approches peuvent être mieux adaptés que d'autres à l'optimisation non convexe. La dernière partie de ce document se concentre sur les réseaux de neurones récurrents. Nous étudions d'abord le concept de mémoire et tentons de répondre aux questions suivantes: Les réseaux récurrents peuvent-ils démontrer une mémoire sans limite? Ce comportement peut-il être appris? Nous montrons que cela est possible si des indices sont fournis durant l'apprentissage. Ensuite, nous explorons deux problèmes spécifiques à l'entraînement des réseaux récurrents, à savoir la dissipation et l'explosion du gradient. Notre analyse se termine par une solution au problème d'explosion du gradient qui implique de borner la norme du gradient. Nous proposons également un terme de régularisation conçu spécifiquement pour réduire le problème de dissipation du gradient. Sur un ensemble de données synthétique, nous montrons empiriquement que ces mécanismes peuvent permettre aux réseaux récurrents d'apprendre de façon autonome à mémoriser des informations pour une période de temps indéfinie. Finalement, nous explorons la notion de profondeur dans les réseaux de neurones récurrents. Comparativement aux réseaux acycliques, la définition de profondeur dans les réseaux récurrents est souvent ambiguë. Nous proposons différentes façons d'ajouter de la profondeur dans les réseaux récurrents et nous évaluons empiriquement ces propositions.

La maternité aux âges élevés : une analyse des trajectoires féminines au 18e siècle canadien.

Ce présent mémoire examine la probabilité qu'une Canadienne française née entre 1700-1749 et mariée fasse l’expérience d'au moins une naissance au cours de la quarantaine, en tenant compte des particularités de la trajectoire individuelle, des caractéristiques familiales et du contexte historique. Nos analyses confirment que sur les 14 727 femmes à risque d'une maternité entre 40 et 49 ans, 62 % d'entre elles donnent naissance après l'âge de 40 ans. Selon les différentes trajectoires féminines, des disparités tangibles se manifestent dans le fait d'enfanter à un âge avancé. Nos résultats suggèrent que la possibilité qu'une femme accouche dans la quarantaine est positivement associée à un ensemble de facteurs liés à son parcours de vie: une première union entre l’âge de 20 et de 24 ans, un conjoint du même âge ou un conjoint plus jeune, une union continue (ou sans décès du conjoint) jusqu’à 40 ans ou passé cet âge, un enfant précédent non survivant et un historique familial dans lequel la mère de cette femme et au moins l’une de ses sœurs ont donné naissance à un âge avancé. De plus, l'intensité du phénomène de la maternité tardive diminue de manière perceptible au court du temps, particulièrement chez les cohortes de femmes ayant accouché après 1765. La vie en milieu « urbain » influence également de manière négative les chances d'enfanter à un âge avancé. Il se peut que la détérioration des conditions de vie générales vers la fin du 18e siècle, cousinées à la récurrence de maladies infectieuses et l'insalubrité des villes durant cette période, explique la diminution du risque d'une maternité durant la quarantaine. Les résultats obtenus témoignent de la forte contribution des Canadiennes françaises en matière de fécondité tardive en contexte naturel. Notre étude exploratoire offre aussi une perspective utile permettant de mieux comprendre la maternité tardive contemporaine, sujet qui fait l’objet de nombreux débats actuellement.

Découverte de cellules souches potentielles de l’épithélium thymique

Le thymus subit un vieillissement précoce, appelé involution thymique, qui cause une perte de fonction du thymus avec l’âge. À ce jour, les mécanismes de renouvellement des cellules épithéliales thymiques (TECs) sont encore mal compris, c’est pourquoi nous avons voulu identifier les cellules souches de l’épithélium thymique. Comme les cellules souches sont quiescentes dans plusieurs tissus, les objectifs de notre étude étaient de déterminer si l’épithélium thymique contenait des cellules quiescentes et d’étudier la cinétique de prolifération des TECs chez les souris jeunes et adultes. Pour ce faire, nous avons utilisé une souris transgénique (H2B-GFP Tet-On) nous permettant d’identifier les cellules ne se divisant pas sur une longue période de temps (LRC, label-retaining cells¬). Nous avons d’abord montré que les TECs proliféraient plus rapidement chez les femelles que les mâles. De plus, nous avons trouvé plusieurs différences entre l’épithélium thymique post-natal et adulte : (1) les TECs corticales (cTECs) et médullaires (mTECs) ont un taux de prolifération similaire chez les jeunes souris, mais chez l’adulte, les cTECs prolifèrent plus lentement que les mTECs; (2) les TECs prolifèrent plus rapidement chez les souris jeunes que adultes; (3) des LRC sont détectées chez l’adulte, mais pas chez les jeunes souris. Les LRC, retrouvées dans le compartiment cTEC, sous-expriment des gènes associés à la sénescence et surexpriment des gènes importants pour le développement et le renouvellement des TECs. Ces résultats montrent que ces cellules sont quiescentes et suggèrent qu’elles pourraient bel et bien être les progéniteurs thymiques responsables du renouvellement des TECs adultes.

Détection d'évènements à partir de Twitter

Nous proposons dans cette thèse un système permettant de déterminer, à partir des données envoyées sur les microblogs, les évènements qui stimulent l’intérêt des utilisateurs durant une période donnée et les dates saillantes de chaque évènement. Étant donné son taux d’utilisation élevé et l’accessibilité de ses données, nous avons utilisé la plateforme Twitter comme source de nos données. Nous traitons dans ce travail les tweets portant sur la Tunisie dont la plupart sont écrits par des tunisiens. La première tâche de notre système consistait à extraire automatiquement les tweets d’une façon continue durant 67 jours (de 8 février au 15 avril 2012). Nous avons supposé qu’un évènement est représenté par plusieurs termes dont la fréquence augmente brusquement à un ou plusieurs moments durant la période analysée. Le manque des ressources nécessaires pour déterminer les termes (notamment les hashtags) portant sur un même sujet, nous a obligé à proposer des méthodes permettant de regrouper les termes similaires. Pour ce faire, nous avons eu recours à des méthodes phonétiques que nous avons adaptées au mode d’écriture utilisée par les tunisiens, ainsi que des méthodes statistiques. Pour déterminer la validité de nos méthodes, nous avons demandé à des experts, des locuteurs natifs du dialecte tunisien, d’évaluer les résultats retournés par nos méthodes. Ces groupes ont été utilisés pour déterminer le sujet de chaque tweet et/ou étendre les tweets par de nouveaux termes. Enfin, pour sélectionner l'ensemble des évènements (EV), nous nous sommes basés sur trois critères : fréquence, variation et TF-IDF. Les résultats que nous avons obtenus ont montré la robustesse de notre système.

Impact des troubles musculosquelettiques sur les mécanismes du contrôle postural chez les adolescents-hockeyeurs de niveau élite et intervention en Reconstruction Posturale®

Les adolescents-hockeyeurs peuvent être affligés de troubles musculosquelettiques (TMS) résultant d’un excès de tension musculaire lequel peut mener à des déformations ou déséquilibres musculaires ainsi qu’à une attitude posturale inadéquate. Les conséquences de ces changements mènent souvent à une surcharge inutile du système musculosquelettique (SMS), à la perturbation des mécanismes du contrôle postural et éventuellement à l’apparition de douleurs musculaires et articulaires. Les interventions qui s’attaquent aux TMS par une rééquilibration de la tension musculaire sont peu nombreuses. Les interventions qui s’attaquent aux TMS par une normalisation de la tension musculaire sont peu nombreuses. La Reconstruction Posturale® (RP), testée cliniquement, est l’une d’entre elles. Dans un premier temps, cette thèse visait à identifier les caractéristiques du contrôle postural chez les adolescents-hockeyeurs de niveau élite lorsque le système somatosensoriel est mis à l’épreuve en position debout quasi statique pieds nus et en patins. Dans un deuxième temps, nous avons évalué l’impact d’une intervention en RP sur des variables cliniques et biomécaniques, chez ces athlètes qui souffrent de TMS. Soixante-sept adolescents-hockeyeurs de niveau élite âgés de 15 à 18 ans ont participé à l’étude. Le contrôle postural de cinquante-sept joueurs a été évalué en position debout sur deux plateformes de force les yeux ouverts et les yeux fermés, pieds nus sur une surface dure et sur une mousse. De ce groupe, trente-cinq sujets ont également été évalués en patins, les yeux ouverts et les yeux fermés. Par la suite, neuf adolescents-hockeyeurs souffrant de TMS, ont été sélectionnés pour participer au protocole d’intervention thérapeutique en RP qui consistait en l’application de six séances de thérapie prodiguées sur une période de six semaines. Le déplacement du centre de pression (CP) sous les pieds a été calculé dans les directions antéro-postérieure (AP) et médio-latérale (ML). La vélocité moyenne du CP, le déplacement moyen du CP et l’étendue du CP ont été retenus pour rendre compte de la performance du contrôle posturale. D’autre part, l’asymétrie de mise en charge, la trajectoire du CP sous les pieds gauche et droit, le CPc pour rendre compte de la stratégie de chevilles et le CPv pour rendre compte de la stratégie de hanches ont été retenues pour identifier les stratégies utilisées pour maintenir l’équilibre. L’impact de l’intervention en RP a été évalué à l’aide de trois variables cliniques soit la douleur à l’aide de l’échelle visuelle analogue (ÉVA), la capacité fonctionnelle à l’aide d’un un questionnaire autoadministré et des photographies de la posture debout pour rendre compte des variables posturales biomécaniques. Nos résultats montrent que chez les adolescents-hockeyeurs la performance du contrôle postural en position debout statique est davantage perturbée par les changements somatosensoriels en direction ML alors qu’en AP, la perte d’informations visuelles ainsi que des changements somatosensoriels affectent la performance. Dans toutes les conditions expérimentales et dans les deux directions, nous avons observé une vélocité du CP remarquablement élevée, variant entre 18 et 22 mm/s. Au niveau des stratégies et indépendamment de la condition expérimentale, nous avons observé une dominance presque complète de la stratégie de cheville en AP alors qu’en ML, la stratégie de hanche dominait avec une contribution de la stratégie de cheville de plus de 20 %. En patins, en direction ML, aucun changement significatif de la performance n’a été observé. Toutefois en AP, nous avons observé une augmentation significative de la vélocité du CP, yeux ouverts et yeux fermés ainsi qu’une augmentation significative de l’étendue, yeux ouverts seulement. Au niveau des stratégies, la stratégie de cheville domine en AP et la stratégie de hanche domine en ML avec une contribution plus modeste de la stratégie de cheville qui était inférieure à 12 %. Chez les adolescents-hockeyeurs souffrant de TMS, post-intervention, nos résultats indiquent une diminution significative de la douleur et une amélioration des capacités fonctionnelles ainsi que de l’attitude posturale. Pré intervention en direction ML, nous avons observé une contribution significativement plus élevée de la stratégie de cheville au contrôle du CPnet et un retour vers des valeurs normales post-intervention. L’impact de l’intervention thérapeutique sur la performance du contrôle postural s’est avéré non significatif en ML et en AP.

Une ville bien arrosée : Montréal durant l'ère de la prohibition (1920-1933)

Au début des années 1920, la ville de Montréal se retrouve dans une situation assez unique. À l’époque, les États-Unis et toutes les provinces canadiennes à l’exception du Québec ont adopté la prohibition de la vente d’alcool. Mais même au Québec, environ la moitié de la population de la province est alors touchée par des prohibitions locales (votées au niveau municipal), des prohibitions qui ont largement perduré tout au long de la période à l’étude. Durant cette ère de prohibition de l’alcool nord-américaine, Montréal est la plus grande ville, et une des seules sur le continent non régie par une loi sur la prohibition. C’est aussi celle qui dispose des lois les plus libérales envers l’alcool des deux côtés du 49ème parallèle grâce à la création de la Commission des Liqueurs de Québec (CLQ), le premier système de contrôle gouvernemental de l’alcool en Amérique du Nord. C’est dans ce contexte que Montréal devient une rare oasis dans un continent assoiffé et le plus grand cobaye du modèle de contrôle gouvernemental de l’alcool. Ce mémoire examine les impacts de cette conjoncture sur le développement de cette ville, de son industrie touristique, de sa vie nocturne et de sa réputation. En premier lieu, le mémoire présente une mise en contexte de la situation aux États-Unis, au Canada et au Québec afin de faire ressortir le caractère unique de Montréal pendant cette période. En deuxième lieu, l’essor du tourisme dit « de liqueur » et de la vie nocturne montréalaise, à la fois légale et illicite, est exploré. En dernier lieu, le mémoire met au jour l’impact que cette conjoncture a eu sur la construction de la réputation de la ville à travers l’examen des écrits des anti- et pro-prohibitionnistes qui ont chacun propagé des visions idéalisées et démonisées de cette ville « bien arrosée », ainsi que des documents associés à l’essor du tourisme, tels que les chansons, les guides touristiques et les récits de voyage, qui, pour leur part, ont présenté un image plus romancée de la métropole et associée à un refuge festif de la prohibition. Malgré leurs différences, ces trois visions de Montréal l’ont néanmoins associée à la liberté, que ce soit une liberté ordonnée, dangereuse ou bien émancipatrice. Ainsi, à partir de l’expérience de la prohibition et du tourisme de liqueur, Montréal devient connue comme une ville « ouverte », dans ses acceptions à la fois positives et négatives.

Étude comparative de la pensée économique canadienne-française et canadienne-anglaise durant l'entre-deux-guerres

L’entre-deux-guerres représente une période charnière dans l’évolution de la pensée économique au Canada. Le contexte économique et social des années 1920-1940 est des plus favorables au foisonnement de nouvelles idées et de nouvelles approches. Face à la crise et à l’urgence d’en sortir, les économistes, les intellectuels et les milieux politiques commencent à se questionner sérieusement sur les dysfonctions du capitalisme et de l’économie de marché. Pénétrée par des courants émergents, dont le keynésianisme et le corporatisme, et en parallèle avec une discipline économique en pleine formation, la pensée économique évolue considérablement durant ces années alors que les économistes s’interrogent sur les orientations des politiques gouvernementales. L’étude des deux grandes revues d’économie-politique, L’Actualité économique et le Canadian Journal of Economics and Political Sciences, ainsi que l’analyse des travaux des principaux économistes de l’époque, incarnés par Harold A. Innis, W. A. Mackintosh, Esdras Minville et Édouard Montpetit, révèlent les nouvelles orientations face aux problèmes qui confronte le Canada.

La spécialisation du travail artisanal dans la civilisation de l'Indus

La civilisation de l’Indus marque les esprits par une apparente uniformité de la culture matérielle sur la totalité de son territoire (environ 1 million de km carré) durant sa période d’apogée (2600-1900 av. J.-C.). Cette étude cherche à tester deux hypothèses qui pourraient expliquer cette homogénéité : 1) Un pouvoir centralisateur contrôlant la production artisanale; et 2) Un vaste réseau d’échanges et de distribution de la production. Dans ce but, la grande majorité des publications accessibles portant sur la production artisanale d’objets en céramique, en pierres semi-précieuses, en coquillage et en métal ont été inventoriées et analysées. Axée sur la spécialisation du travail artisanal, l’étude a identifié quelques objets dits de prestige (perles classiques harappéennes, bracelets en grès cérame) très probablement liés à une élite. La nature de cette élite est ensuite examinée et un nouveau modèle d’organisation sociopolitique de cette civilisation est proposé.