Advances in scaling deep learning algorithms

Les algorithmes d'apprentissage profond forment un nouvel ensemble de méthodes puissantes pour l'apprentissage automatique. L'idée est de combiner des couches de facteurs latents en hierarchies. Cela requiert souvent un coût computationel plus elevé et augmente aussi le nombre de paramètres du modèle. Ainsi, l'utilisation de ces méthodes sur des problèmes à plus grande échelle demande de réduire leur coût et aussi d'améliorer leur régularisation et leur optimization. Cette thèse adresse cette question sur ces trois perspectives. Nous étudions tout d'abord le problème de réduire le coût de certains algorithmes profonds. Nous proposons deux méthodes pour entrainer des machines de Boltzmann restreintes et des auto-encodeurs débruitants sur des distributions sparses à haute dimension. Ceci est important pour l'application de ces algorithmes pour le traitement de langues naturelles. Ces deux méthodes (Dauphin et al., 2011; Dauphin and Bengio, 2013) utilisent l'échantillonage par importance pour échantilloner l'objectif de ces modèles. Nous observons que cela réduit significativement le temps d'entrainement. L'accéleration atteint 2 ordres de magnitude sur plusieurs bancs d'essai. Deuxièmement, nous introduisont un puissant régularisateur pour les méthodes profondes. Les résultats expérimentaux démontrent qu'un bon régularisateur est crucial pour obtenir de bonnes performances avec des gros réseaux (Hinton et al., 2012). Dans Rifai et al. (2011), nous proposons un nouveau régularisateur qui combine l'apprentissage non-supervisé et la propagation de tangente (Simard et al., 1992). Cette méthode exploite des principes géometriques et permit au moment de la publication d'atteindre des résultats à l'état de l'art. Finalement, nous considérons le problème d'optimiser des surfaces non-convexes à haute dimensionalité comme celle des réseaux de neurones. Tradionellement, l'abondance de minimum locaux était considéré comme la principale difficulté dans ces problèmes. Dans Dauphin et al. (2014a) nous argumentons à partir de résultats en statistique physique, de la théorie des matrices aléatoires, de la théorie des réseaux de neurones et à partir de résultats expérimentaux qu'une difficulté plus profonde provient de la prolifération de points-selle. Dans ce papier nous proposons aussi une nouvelle méthode pour l'optimisation non-convexe.

Interventions infirmières de stratégies de transfert de connaissances pour prévenir et dépister le délirium chez la clientèle âgée

Rapport de stage présenté à la Faculté des sciences infirmières en vue de l’obtention du grade Maître ès sciences (M.Sc.) en sciences infirmières option expertise-conseil

An adaptive neighborhood search algorithm for optimizing stochastic mining complexes

Les métaheuristiques sont très utilisées dans le domaine de l'optimisation discrète. Elles permettent d’obtenir une solution de bonne qualité en un temps raisonnable, pour des problèmes qui sont de grande taille, complexes, et difficiles à résoudre. Souvent, les métaheuristiques ont beaucoup de paramètres que l’utilisateur doit ajuster manuellement pour un problème donné. L'objectif d'une métaheuristique adaptative est de permettre l'ajustement automatique de certains paramètres par la méthode, en se basant sur l’instance à résoudre. La métaheuristique adaptative, en utilisant les connaissances préalables dans la compréhension du problème, des notions de l'apprentissage machine et des domaines associés, crée une méthode plus générale et automatique pour résoudre des problèmes. L’optimisation globale des complexes miniers vise à établir les mouvements des matériaux dans les mines et les flux de traitement afin de maximiser la valeur économique du système. Souvent, en raison du grand nombre de variables entières dans le modèle, de la présence de contraintes complexes et de contraintes non-linéaires, il devient prohibitif de résoudre ces modèles en utilisant les optimiseurs disponibles dans l’industrie. Par conséquent, les métaheuristiques sont souvent utilisées pour l’optimisation de complexes miniers. Ce mémoire améliore un procédé de recuit simulé développé par Goodfellow & Dimitrakopoulos (2016) pour l’optimisation stochastique des complexes miniers stochastiques. La méthode développée par les auteurs nécessite beaucoup de paramètres pour fonctionner. Un de ceux-ci est de savoir comment la méthode de recuit simulé cherche dans le voisinage local de solutions. Ce mémoire implémente une méthode adaptative de recherche dans le voisinage pour améliorer la qualité d'une solution. Les résultats numériques montrent une augmentation jusqu'à 10% de la valeur de la fonction économique.

Culture du corps et technosciences : vers une « mise à niveau » technique de l’humain? Analyse des représentations du corps soutenues par le mouvement transhumaniste

L’intérêt marqué porté actuellement aux recherches NBIC (nano-bio-info-cognitivo technologies) visant l’optimisation des capacités humaines augure d’un profond bouleversement dans nos représentations du corps humain et du rapport humain-machine. Tour à tour, des travaux issus des domaines du génie génétique, de la pharmacologie, des biotechnologies ou des nanotechnologies nous promettent un corps moins sujet à la maladie, mieux « adapté » et surtout plus malléable. Cette construction en laboratoire d’un corps amélioré fait amplement écho aux préoccupations contemporaines concernant la santé parfaite, le processus de vieillissement, l’inaptitude, l’apparence, la performance, etc. En vue d’analyser les transformations qu’induisent ces recherches sur les représentations du corps, nous avons construit un modèle théorique appuyé, d’une part, sur des travaux en sociologie du corps et, d’autre part, sur des travaux en épistémologie des sciences. Puis, en scrutant différents textes de vulgarisation scientifique produits par des chercheurs transhumanistes – militant ouvertement en faveur d’une optimisation radicale des capacités humaines par le biais des technosciences –, il a été observé que les représentations du corps s’organisent autour de trois principaux noyaux. Le corps humain est présenté, dans ce discours, comme étant à la fois informationnel, technologiquement perfectible et obsolète. Cette représentation tripartite du corps permet aux transhumanistes d’ériger leur modèle d’action (i.e. amélioration des capacités physiques, intellectuelles, sensitives, émotionnelles, etc.) à titre de nécessité anthropologique. À leurs yeux, l’amélioration des conditions humaines doit passer par une mutation contrôlée de la biologie (i.e. une hybridation avec la machine) du fait que le corps serait « inadapté » au monde contemporain. Ainsi, les promesses NBIC, une fois récupérées par les chercheurs transhumanistes, se voient exacerbées et prennent une tonalité péremptoire. Ceci contribue vivement à la promotion du posthumain ou du cyborg, soit d’un individu transformé dans l’optique d’être plus robuste et intelligent, de moduler sa sensitivité et ses états émotifs et de vivre plus longtemps, voire indéfiniment. Enfin, situé à mi-chemin entre la science et la science-fiction, ce projet est qualifié de techno-prophétie en ce qu’il produit d’innombrables prévisions basées sur les avancées technoscientifiques actuelles et potentielles. Afin d’accroître l’acceptabilité sociale de leur modèle d’action, les transhumanistes ne font pas uniquement appel à la (potentielle) faisabilité technique; ils s’appuient également sur des valeurs socialement partagées, telles que l’autodétermination, la perfectibilité humaine, l’égalité, la liberté ou la dignité. Néanmoins, la lecture qu’ils en font est parfois surprenante et rompt très souvent avec les conceptions issues de la modernité. À leur avis, le perfectionnement humain doit s’opérer par le biais des technosciences (non des institutions sociales), sur le corps même des individus (non sur l’environnement) et en vertu de leur « droit » à l’autodétermination compris comme un droit individuel d’optimiser ses capacités. De même, les technosciences doivent, disent-ils, être démocratisées afin d’en garantir l’accessibilité, de réduire les inégalités biologiques et de permettre à chacun de renforcer son sentiment d’identité et d’accomplissement. L’analyse du discours transhumaniste nous a donc permis d’observer leurs représentations du corps de même que la résonance culturelle du projet qu’ils proposent.

In silico analysis of mitochondrial proteins

Le rôle important joué par la mitochondrie dans la cellule eucaryote est admis depuis longtemps. Cependant, la composition exacte des mitochondries, ainsi que les processus biologiques qui sy déroulent restent encore largement inconnus. Deux facteurs principaux permettent dexpliquer pourquoi létude des mitochondries progresse si lentement : le manque defficacité des méthodes didentification des protéines mitochondriales et le manque de précision dans lannotation de ces protéines. En conséquence, nous avons développé un nouvel outil informatique, YimLoc, qui permet de prédire avec succès les protéines mitochondriales à partir des séquences génomiques. Cet outil intègre plusieurs indicateurs existants, et sa performance est supérieure à celle des indicateurs considérés individuellement. Nous avons analysé environ 60 génomes fongiques avec YimLoc afin de lever la controverse concernant la localisation de la bêta-oxydation dans ces organismes. Contrairement à ce qui était généralement admis, nos résultats montrent que la plupart des groupes de Fungi possèdent une bêta-oxydation mitochondriale. Ce travail met également en évidence la diversité des processus de bêta-oxydation chez les champignons, en corrélation avec leur utilisation des acides gras comme source dénergie et de carbone. De plus, nous avons étudié le composant clef de la voie de bêta-oxydation mitochondriale, lacyl-CoA déshydrogénase (ACAD), dans 250 espèces, couvrant les 3 domaines de la vie, en combinant la prédiction de la localisation subcellulaire avec la classification en sous-familles et linférence phylogénétique. Notre étude suggère que les gènes ACAD font partie dune ancienne famille qui a adopté des stratégies évolutionnaires innovatrices afin de générer un large ensemble denzymes susceptibles dutiliser la plupart des acides gras et des acides aminés. Finalement, afin de permettre la prédiction de protéines mitochondriales à partir de données autres que les séquences génomiques, nous avons développé le logiciel TESTLoc qui utilise comme données des Expressed Sequence Tags (ESTs). La performance de TESTLoc est significativement supérieure à celle de tout autre outil de prédiction connu. En plus de fournir deux nouveaux outils de prédiction de la localisation subcellulaire utilisant différents types de données, nos travaux démontrent comment lassociation de la prédiction de la localisation subcellulaire à dautres méthodes danalyse in silico permet daméliorer la connaissance des protéines mitochondriales. De plus, ces travaux proposent des hypothèses claires et faciles à vérifier par des expériences, ce qui présente un grand potentiel pour faire progresser nos connaissances des métabolismes mitochondriaux.

Des femmes converties à l'islam en France et au Québec : religiosités d'un nouveau genre

En Europe et en Amérique du Nord, les phénomènes de conversion à l'islam suggèrent que modernité et sécularisation ont engendré de nouvelles formes de subjectivité, insolites au premier abord. Pourtant, l'apparente incompatibilité entre les identités musulmane d’un part, et québécoise ou française d’autre part, provient davantage du contexte sociopolitique dans lequel ces identités se produisent que d'une impossibilité inhérente aux paradigmes musulman et occidental en soi. Notre étude réalisée en France et au Québec montre que si le retour à l’islam s’inscrit dans un projet d’herméneutique du soi qui se réalise dans le cadre d’une démarche spirituelle, le geste de conversion est forgé par le contexte social et politique qui lui donne sens et portée. Ainsi, l’identité des nouvelles musulmanes se négocie dans les rapports sociaux qui traversent et dominent les univers du discours locaux; le projet social et politique qui en résulte vise à transcender ces modèles en proposant une alternative qui combine l’hérité et le choisi. Notre projet s’inscrit dans une perspective comparative au sein de deux espaces politiques se distinguant non seulement par leur mode de gestion de la diversité religieuse et ethnique, mais aussi par leur système de régulation du religieux dans l'espace public. Considérant que le changement de religion est un processus aussi subjectif que social, nous soutenons que la nouvelle identité du converti se distribue de façon continue et dynamique entre la réalisation du soi et la (re)construction de son appartenance sociale. Par conséquent, le geste de conversion traduit autant la quête d’une spiritualité et d’un mode de vie pieux, qu’il exprime un discours critique de son contexte social et politique, et constructif puisqu’il en propose une alternative. En nous inspirant des perspectives théoriques de Ricœur, de Foucault, et de Calhoun, nous examinons la formation du sujet et la construction de son identité, autant par la production d’un discours (récit de conversion), que par le modelage du corps (apprentissage des pratiques religieuses et sociales). Cette approche performative de la ritualité quotidienne met en évidence la fluidité, l'idiosyncrasie et l'historicité des appartenances et des subjectivités. Pour les femmes rencontrées, la mise en narration de la trajectoire de conversion joue un rôle clé dans le processus de constitution et d’actualisation du soi musulman. Par la réflexivité du sujet, elle produit en effet une nouvelle herméneutique du soi, motivée par un objectif d’accomplissement personnel, et travaillé par le médium de la spiritualité. Par ailleurs, nous identifions des discours standardisés qui constituent des points de tension autour desquels se forgent la piété, la subjectivité, et l’identité des converties. Parmi eux, le modèle de genre préconisé révèle le retour à une nouvelle morale de la pudeur, de l'intimité, du corps et du souci de soi qui revisite les rhétoriques polarisées entre le féminisme jugé extrême des sociétés occidentales, et les dérives patriarcales de l’islam politique. En ce sens, nous considérons les femmes converties à l’islam comme la figure archétype du sujet musulman féministe. La formation de ces identités originales révèle les forces sociales et politiques sous-jacentes les localités nationales et les dynamiques globales. En effet, les performances élaborées par les converties se situent en compétition avec certains discours construits, tant par les musulmans de naissance que par la société d'origine. La conversion induit ainsi une recomposition des identités genrées, religieuses, nationales ou biographiques des nouvelles musulmanes. Si les attributs de l’altérité désormais mêlés à ceux du soi sont travaillés aux limites des catégories de la modernité avancée (savoir, religion et genre), ils reconfigurent également les rapports sociaux et les frontières de nouveaux groupes d’inclusion et d’exclusion (ethnicité, piété, génération). Au Québec, l'attrait pour l'islam participe d’une reconquête du sens et d’une volonté d'adhésion à la rhétorique cosmopolite hégémonique, l’entrée dans l’islam célèbre alors le retour à des formes de solidarité communautaire, faisant suite à une phase de modernisation et de sécularisation accélérée. En France, elle manifeste une critique envers la différenciation sociale et un mode d'appartenance à une classe ghettoïsée. L’adhésion à la religion de la catégorie minoritaire et ostracisée met en évidence l’échec d'un modèle républicain qui a failli à sa prétention d’universalité. Cette voie alternative aux projets séculier et moderne dominants contribue à reconfigurer les domaines du privé et du public, et permet à ceux qui choisissent la marge, de révéler les apories du centre.