Designing Regularizers and Architectures for Recurrent Neural Networks

Cette thèse contribue a la recherche vers l'intelligence artificielle en utilisant des méthodes connexionnistes. Les réseaux de neurones récurrents sont un ensemble de modèles séquentiels de plus en plus populaires capable en principe d'apprendre des algorithmes arbitraires. Ces modèles effectuent un apprentissage en profondeur, un type d'apprentissage machine. Sa généralité et son succès empirique en font un sujet intéressant pour la recherche et un outil prometteur pour la création de l'intelligence artificielle plus générale. Le premier chapitre de cette thèse donne un bref aperçu des sujets de fonds: l'intelligence artificielle, l'apprentissage machine, l'apprentissage en profondeur et les réseaux de neurones récurrents. Les trois chapitres suivants couvrent ces sujets de manière de plus en plus spécifiques. Enfin, nous présentons quelques contributions apportées aux réseaux de neurones récurrents. Le chapitre \ref{arxiv1} présente nos travaux de régularisation des réseaux de neurones récurrents. La régularisation vise à améliorer la capacité de généralisation du modèle, et joue un role clé dans la performance de plusieurs applications des réseaux de neurones récurrents, en particulier en reconnaissance vocale. Notre approche donne l'état de l'art sur TIMIT, un benchmark standard pour cette tâche. Le chapitre \ref{cpgp} présente une seconde ligne de travail, toujours en cours, qui explore une nouvelle architecture pour les réseaux de neurones récurrents. Les réseaux de neurones récurrents maintiennent un état caché qui représente leurs observations antérieures. L'idée de ce travail est de coder certaines dynamiques abstraites dans l'état caché, donnant au réseau une manière naturelle d'encoder des tendances cohérentes de l'état de son environnement. Notre travail est fondé sur un modèle existant; nous décrivons ce travail et nos contributions avec notamment une expérience préliminaire.

Plasticité du cortex visuel: «homéodynamie» des connexions neuronales et modèle d’effets d’antidépresseurs

Les informations sensorielles sont traitées dans le cortex par des réseaux de neurones co-activés qui forment des assemblées neuronales fonctionnelles. Le traitement visuel dans le cortex est régit par différents aspects des caractéristiques neuronales tels que l’aspect anatomique, électrophysiologique et moléculaire. Au sein du cortex visuel primaire, les neurones sont sélectifs à divers attributs des stimuli tels que l’orientation, la direction, le mouvement et la fréquence spatiale. Chacun de ces attributs conduit à une activité de décharge maximale pour une population neuronale spécifique. Les neurones du cortex visuel ont cependant la capacité de changer leur sélectivité en réponse à une exposition prolongée d’un stimulus approprié appelée apprentissage visuel ou adaptation visuelle à un stimulus non préférentiel. De ce fait, l’objectif principal de cette thèse est d’investiguer les mécanismes neuronaux qui régissent le traitement visuel durant une plasticité induite par adaptation chez des animaux adultes. Ces mécanismes sont traités sous différents aspects : la connectivité neuronale, la sélectivité neuronale, les propriétés électrophysiologiques des neurones et les effets des drogues (sérotonine et fluoxétine). Le modèle testé se base sur les colonnes d’orientation du cortex visuel primaire. La présente thèse est subdivisée en quatre principaux chapitres. Le premier chapitre (A) traite de la réorganisation du cortex visuel primaire suite à une plasticité induite par adaptation visuelle. Le second chapitre (B) examine la connectivité neuronale fonctionnelle en se basant sur des corrélations croisées entre paires neuronales ainsi que sur des corrélations d’activités de populations neuronales. Le troisième chapitre (C) met en liaison les aspects cités précédemment (les effets de l’adaptation visuelle et la connectivité fonctionnelle) aux propriétés électrophysiologiques des neurones (deux classes de neurones sont traitées : les neurones à décharge régulière et les neurones à décharge rapide ou burst). Enfin, le dernier chapitre (D) a pour objectif l’étude de l’effet du couplage de l’adaptation visuelle à l’administration de certaines drogues, notamment la sérotonine et la fluoxétine (inhibiteur sélectif de recapture de la sérotonine). Méthodes En utilisant des enregistrements extracellulaires d’activités neuronales dans le cortex visuel primaire (V1) combinés à un processus d’imagerie cérébrale optique intrinsèque, nous enregistrons l’activité de décharge de populations neuronales et nous examinons l’activité de neurones individuels extraite des signaux multi-unitaires. L’analyse de l’activité cérébrale se base sur différents algorithmes : la distinction des propriétés électrophysiologiques des neurones se fait par calcul de l’intervalle de temps entre la vallée et le pic maximal du potentiel d’action (largeur du potentiel d’action), la sélectivité des neurones est basée sur leur taux de décharge à différents stimuli, et la connectivité fonctionnelle utilise des calculs de corrélations croisées. L’utilisation des drogues se fait par administration locale sur la surface du cortex (après une craniotomie et une durotomie). Résultats et conclusions Dans le premier chapitre, nous démontrons la capacité des neurones à modifier leur sélectivité après une période d’adaptation visuelle à un stimulus particulier, ces changements aboutissent à une réorganisation des cartes corticales suivant un patron spécifique. Nous attribuons ce résultat à la flexibilité de groupes fonctionnels de neurones qui étaient longtemps considérés comme des unités anatomiques rigides. En effet, nous observons une restructuration extensive des domaines d’orientation dans le but de remodeler les colonnes d’orientation où chaque stimulus est représenté de façon égale. Ceci est d’autant plus confirmé dans le second chapitre où dans ce cas, les cartes de connectivité fonctionnelle sont investiguées. En accord avec les résultats énumérés précédemment, les cartes de connectivité montrent également une restructuration massive mais de façon intéressante, les neurones utilisent une stratégie de sommation afin de stabiliser leurs poids de connectivité totaux. Ces dynamiques de connectivité sont examinées dans le troisième chapitre en relation avec les propriétés électrophysiologiques des neurones. En effet, deux modes de décharge neuronale permettent la distinction entre deux classes neuronales. Leurs dynamiques de corrélations distinctes suggèrent que ces deux classes jouent des rôles clés différents dans l’encodage et l’intégration des stimuli visuels au sein d’une population neuronale. Enfin, dans le dernier chapitre, l’adaptation visuelle est combinée avec l’administration de certaines substances, notamment la sérotonine (neurotransmetteur) et la fluoxétine (inhibiteur sélectif de recapture de la sérotonine). Ces deux substances produisent un effet similaire en facilitant l’acquisition des stimuli imposés par adaptation. Lorsqu’un stimulus non optimal est présenté en présence de l’une des deux substances, nous observons une augmentation du taux de décharge des neurones en présentant ce stimulus. Nous présentons un modèle neuronal basé sur cette recherche afin d’expliquer les fluctuations du taux de décharge neuronale en présence ou en absence des drogues. Cette thèse présente de nouvelles perspectives quant à la compréhension de l’adaptation des neurones du cortex visuel primaire adulte dans le but de changer leur sélectivité dans un environnement d’apprentissage. Nous montrons qu’il y a un parfait équilibre entre leurs habiletés plastiques et leur dynamique d’homéostasie.

Gestionnaire de vie privée : un cadre pour la protection de la vie privée dans les interactions entre apprenants

L’évolution continue des besoins d’apprentissage vers plus d’efficacité et plus de personnalisation a favorisé l’émergence de nouveaux outils et dimensions dont l’objectif est de rendre l’apprentissage accessible à tout le monde et adapté aux contextes technologiques et sociaux. Cette évolution a donné naissance à ce que l’on appelle l'apprentissage social en ligne mettant l'accent sur l’interaction entre les apprenants. La considération de l’interaction a apporté de nombreux avantages pour l’apprenant, à savoir établir des connexions, échanger des expériences personnelles et bénéficier d’une assistance lui permettant d’améliorer son apprentissage. Cependant, la quantité d'informations personnelles que les apprenants divulguent parfois lors de ces interactions, mène, à des conséquences souvent désastreuses en matière de vie privée comme la cyberintimidation, le vol d’identité, etc. Malgré les préoccupations soulevées, la vie privée en tant que droit individuel représente une situation idéale, difficilement reconnaissable dans le contexte social d’aujourd’hui. En effet, on est passé d'une conceptualisation de la vie privée comme étant un noyau des données sensibles à protéger des pénétrations extérieures à une nouvelle vision centrée sur la négociation de la divulgation de ces données. L’enjeu pour les environnements sociaux d’apprentissage consiste donc à garantir un niveau maximal d’interaction pour les apprenants tout en préservant leurs vies privées. Au meilleur de nos connaissances, la plupart des innovations dans ces environnements ont porté sur l'élaboration des techniques d’interaction, sans aucune considération pour la vie privée, un élément portant nécessaire afin de créer un environnement favorable à l’apprentissage. Dans ce travail, nous proposons un cadre de vie privée que nous avons appelé « gestionnaire de vie privée». Plus précisément, ce gestionnaire se charge de gérer la protection des données personnelles et de la vie privée de l’apprenant durant ses interactions avec ses co-apprenants. En s’appuyant sur l’idée que l’interaction permet d’accéder à l’aide en ligne, nous analysons l’interaction comme une activité cognitive impliquant des facteurs contextuels, d’autres apprenants, et des aspects socio-émotionnels. L'objectif principal de cette thèse est donc de revoir les processus d’entraide entre les apprenants en mettant en oeuvre des outils nécessaires pour trouver un compromis entre l’interaction et la protection de la vie privée. ii Ceci a été effectué selon trois niveaux : le premier étant de considérer des aspects contextuels et sociaux de l’interaction telle que la confiance entre les apprenants et les émotions qui ont initié le besoin d’interagir. Le deuxième niveau de protection consiste à estimer les risques de cette divulgation et faciliter la décision de protection de la vie privée. Le troisième niveau de protection consiste à détecter toute divulgation de données personnelles en utilisant des techniques d’apprentissage machine et d’analyse sémantique.

Agents et modèles de l'adaptation publicitaire en agence de communication marketing

L’industrie de la publicité doit se renouveler sans cesse pour suivre la réalité en constante évolution des entreprises et de leurs consommateurs, afin de produire des messages qui toucheront, séduiront, puis convaincront les publics visés. Différents facteurs socioéconomiques, politiques mais également technologiques incitent les annonceurs à orchestrer de vastes campagnes multilingues et multiculturelles, où est présentée une idée unique, conforme à l’identité de la marque, qui sera adaptée dans différents marchés. Il s’agit d’une stratégie très différente de celle de la création de campagnes propres à chaque culture, par des agences locales. Le choix de l’adaptation, motivé par des raisons économiques bien sûr, mais également stratégiques, entraîne une évolution de la perception de l’acte traduisant et de ses acteurs au sein du milieu du marketing et de la publicité. Alors que nous assistons à un rapprochement des industries du marketing et de la traduction, principalement dans les marchés secondaires comme le Québec, ce projet doctoral propose une réflexion traductologique sur la place que peut occuper l’adaptation dans une stratégie en publicité marketing, et sur les différentes fonctions que peut remplir un traducteur intégré à une équipe de spécialistes de la communication. Par ailleurs, de la réception du mandat d’adaptation à l’agence de marketing jusqu’à la diffusion du message dans la culture cible, nous explorons dans notre travail les différentes avenues que peut prendre le processus d’adaptation publicitaire. Cette thèse par articles comprend six publications en traductologie, publiées ou acceptées par des comités scientifiques, qui étudient la question de l’adaptation publicitaire sous un angle traductologique, mais ce travail multidisciplinaire s’inspire aussi des contributions des experts des études sur l’adaptation, la culture ainsi que la communication publicitaire. D’abord, le premier chapitre définit les notions de traduction, d’adaptation et d’appropriation auxquelles nous référerons tout au long de la thèse, et les situe dans le contexte de la communication promotionnelle internationale, notamment. Le deuxième chapitre dresse un portrait pratique et théorique de l’adaptation publicitaire, et porte sur les relations de travail entre le traducteur et les autres professionnels de l’agence. Nous y énumérons notamment les raisons de la progression du marché mondial de l’adaptation, comparativement à celui des multiples créations locales. Ensuite, le chapitre 3 définit les défis variés de l’adaptation publicitaire, et en présente une classification inspirée par la taxonomie de la théorie fonctionnaliste en traductologie, formée de quatre problèmes et deux difficultés traductionnels. Le chapitre 4 présente une réflexion sur les mécanismes intellectuels de l’adaptation publicitaire et sur les différentes lectures que le traducteur doit faire du texte source pour produire un message efficace, respectivement la lecture analytique (rationnelle et raisonnée), puis la lecture empathique, où il anticipe la réaction émotive des cibles. Le cinquième chapitre se concentre sur un aspect de la traduction audiovisuelle presque exclusive à l’industrie publicitaire : la double version, où le traducteur traduit non pas des dialogues apposés à l’image originale, mais plutôt le scénario dans son entièreté, afin de produire un nouveau message vidéo avec des acteurs appartenant à la culture cible. Enfin, notre sixième chapitre est une étude de cas menée en agence de publicité, qui analyse la pratique professionnelle de traducteurs dans leur environnement de travail, les mandats qui leur sont confiés ainsi que les ressources dont ils disposent. Ensemble, ces six chapitres visent à mieux faire connaître la démarche intellectuelle de l’adaptation publicitaire, à comprendre comment différents facteurs influencent le rôle du traducteur au sein d’une agence, à déterminer comment mieux préparer les professionnels de demain à exceller dans le marché très prometteur du marketing international, et à contribuer à l’avancement de la réflexion traductologique par l’étude d’un type de traduction spécialisée qui se démarque par ses pratiques et ses défis aussi intéressants qu’uniques.

Des classes sociales aux classes cognitives

Dans ce texte, l’auteur poursuit deux objectifs. Première- ment, il tente de montrer que, désormais, les compétences cognitives priment la classe sociale lorsqu’il s’agit d’obtenir un emploi prestigieux. Pour ce faire, il examine cinq aspects : le statut social et les compétences cognitives, l’effet Flynn, l’interaction entre l’héritabilité et l’environne- mentalité, l’homogamie éducationnelle et la mondialisation. Deuxièmement, l’auteur présente quelques conséquences sociales de cet état de fait aux plans social et éducatif, dont l’idéologie méritocratique.

Pour le maintien de la mémoire sociétale : la pertinence de l’évaluation à l’ère du numérique

Travail réalisé à l’EBSI, Université de Montréal, sous la direction de M. Yvon Lemay dans le cadre du cours SCI6112 – Évaluation des archives, à l'hiver 2016

Les variations spatiales du comportement policier: l'exemple de la Sûreté du Québec

Travail dirigé présenté en vue de l’obtention du grade de maîtrise en criminologie option sécurité intérieure

Initiatives d’activisme en formation initiale de professeurs: préparer à l’action et à la transformation.

L’action collective raisonnée, connue sous le nom d’activisme, orientée vers la résolution de problèmes de la société, offre des possibilités d'apprentissage tout au long de la vie et permet aux étudiants de développer des connaissances du domaine de la science et de la technologie. Dans une société où les découvertes scientifiques et les progrès technologiques sont constants, les potentialités de cette approche sont également reconnues dans la formation de citoyens responsables, capables d'agir et de résoudre des problèmes, tout en essayant d'influencer d'autres citoyens à prendre des décisions sur les problèmes complexes tels que ceux que présentent les questions socialement vives. Considérant que la formation de jeunes et d’adultes plus responsables et scientifiquement informés est fondamentale, cette recherche-action visait: a) à munir les futurs enseignants de compétences dans la conception, la mise en oeuvre et l'évaluation des activités orientées vers l'action sociopolitique sur les questions socialement vives; b) promouvoir chez les participants les valeurs de citoyenneté et de sensibilisation à l'environnement; c) identifier les difficultés et le potentiel de ces initiatives; d) comprendre l'impact de ce type d'expérience éducative chez les futurs enseignants. Les participants à l'étude étaient des étudiants préparant une licence en éducation élémentaire (futurs professeurs des écoles primaires et maternelles) dans le contexte de la discipline d’Éducation à l’Environnement. L'analyse des narratives produites par les futurs enseignants a permis de constater que tous avaient développé des compétences au niveau de la planification et de l'intervention dans la société, en recourant à différents types d'initiatives. Cette expérience de formation a ainsi permis, aux participants le développement de capacités à l'action et à la transformation sociale et environnementale. Il a également été possible de sensibiliser le public-cible des actions réalisées par les futurs enseignants à agir de façon plus responsable sur l'environnement.

Systemic and local immune responses in sheep after Neospora caninum experimental infection at early, mid and late gestation.

Besides its importance in cattle, Neospora caninum may also pose a high risk as abortifacient for small ruminants. We have recently demonstrated that the outcome of experimental infection of pregnant sheep with 10(6) Nc-Spain7 tachyzoites is strongly dependent on the time of gestation. In the current study, we assessed peripheral and local immune response in those animals. Serological analysis revealed earlier and higher IFN-γ and IgG responses in ewes infected at early (G1) and mid (G2) gestation, when abortion occurred. IL-4 was not detected in sera from any sheep. Inflammatory infiltrates in the placenta mainly consisted of CD8+ and, to a lesser extent, CD4+ T cells and macrophages (CD163+). The infiltrate was more intense in sheep infected at mid-gestation. In the foetal mesenchyme, mostly free tachyzoites were found in animals infected at G1, while those infected in G2 displayed predominantly particulate antigen, and parasitophorous vacuoles were detected in sheep infected at G3. A similar pattern of placental cytokine mRNA expression was found in all groups, displaying a strengthened upregulation of IFN-γ and IL-4 and milder increases of TNF-α and IL-10, reminiscent of a mixed Th1 and Th2 response. IL-12 and IL-6 were only slightly upregulated in G2, and TGF-β was downregulated in G1 and G2, suggestive of limited T regulatory (Treg) cell activity. No significant expression of TLR2 or TLR4 could be detected. In summary, this study confirms the pivotal role of systemic and local immune responses at different times of gestation during N. caninum infection in sheep.

Pulmonary hypoplasia and anasarca syndrome in Cika cattle

BACKGROUND: Hydrops foetalis is defined as excessive fluid accumulation within the foetal extravascular compartments and body cavities. It has been described in human and veterinary medicine, but despite several descriptive studies its aetiology is still not fully clarified. Pulmonary hypoplasia and anasarca (PHA) syndrome is a rare congenital abnormality in cattle that is characterised by hydrops foetalis including extreme subcutaneous oedema (anasarca) and undeveloped or poorly formed lungs (pulmonary hypoplasia). Until now, sporadic cases of PHA were reported in cattle breeds like Australian Dexter, Belted Galloway, Maine-Anjou, and Shorthorn. This report describes the first known cases of PHA syndrome in Slovenian Cika cattle. CASE PRESENTATION: A 13-year-old cow aborted a male calf in the seventh month of pregnancy, while a male calf was delivered by caesarean section on the due date from a 14-year-old cow. The pedigree analysis showed that the calves were sired by the same bull, the dams were paternal half-sisters and the second calf was the product of a dam-son mating. Gross lesions were similar in both cases and characterized by severe anasarca, hydrothorax, hydropericardium, ascites, hypoplastic lungs, absence of lymph nodes, and an enlarged heart. The first calf was also athymic. Histopathology of the second affected calf confirmed severe oedema of the subcutis and interstitium of the organs, and pulmonary hypoplasia. The lymph vessels in the subcutis and other organs were severely dilated. Histopathology of the second calf revealed also lack of bronchus associated lymphoid tissue and adrenal gland hypoplasia. CONCLUSIONS: The findings were consistent with known forms of the bovine PHA syndrome. This is the first report of the PHA syndrome occurring in the local endangered breed of Cika cattle. Observed inbreeding practice supports that this lethal defect most likely follows an autosomal recessive mode of inheritance. In the light of the disease phenotype it is assumed that a mutation causing an impaired development of lymph vessels is responsible for the hydrops foetalis associated malformations in bovine PHA.