Deep learning of representations and its application to computer vision

L’objectif de cette thèse par articles est de présenter modestement quelques étapes du parcours qui mènera (on espère) à une solution générale du problème de l’intelligence artificielle. Cette thèse contient quatre articles qui présentent chacun une différente nouvelle méthode d’inférence perceptive en utilisant l’apprentissage machine et, plus particulièrement, les réseaux neuronaux profonds. Chacun de ces documents met en évidence l’utilité de sa méthode proposée dans le cadre d’une tâche de vision par ordinateur. Ces méthodes sont applicables dans un contexte plus général, et dans certains cas elles on tété appliquées ailleurs, mais ceci ne sera pas abordé dans le contexte de cette de thèse. Dans le premier article, nous présentons deux nouveaux algorithmes d’inférence variationelle pour le modèle génératif d’images appelé codage parcimonieux “spike- and-slab” (CPSS). Ces méthodes d’inférence plus rapides nous permettent d’utiliser des modèles CPSS de tailles beaucoup plus grandes qu’auparavant. Nous démontrons qu’elles sont meilleures pour extraire des détecteur de caractéristiques quand très peu d’exemples étiquetés sont disponibles pour l’entraînement. Partant d’un modèle CPSS, nous construisons ensuite une architecture profonde, la machine de Boltzmann profonde partiellement dirigée (MBP-PD). Ce modèle a été conçu de manière à simplifier d’entraînement des machines de Boltzmann profondes qui nécessitent normalement une phase de pré-entraînement glouton pour chaque couche. Ce problème est réglé dans une certaine mesure, mais le coût d’inférence dans le nouveau modèle est relativement trop élevé pour permettre de l’utiliser de manière pratique. Dans le deuxième article, nous revenons au problème d’entraînement joint de machines de Boltzmann profondes. Cette fois, au lieu de changer de famille de modèles, nous introduisons un nouveau critère d’entraînement qui donne naissance aux machines de Boltzmann profondes à multiples prédictions (MBP-MP). Les MBP-MP sont entraînables en une seule étape et ont un meilleur taux de succès en classification que les MBP classiques. Elles s’entraînent aussi avec des méthodes variationelles standard au lieu de nécessiter un classificateur discriminant pour obtenir un bon taux de succès en classification. Par contre, un des inconvénients de tels modèles est leur incapacité de générer deséchantillons, mais ceci n’est pas trop grave puisque la performance de classification des machines de Boltzmann profondes n’est plus une priorité étant donné les dernières avancées en apprentissage supervisé. Malgré cela, les MBP-MP demeurent intéressantes parce qu’elles sont capable d’accomplir certaines tâches que des modèles purement supervisés ne peuvent pas faire, telles que celle de classifier des données incomplètes ou encore celle de combler intelligemment l’information manquante dans ces données incomplètes. Le travail présenté dans cette thèse s’est déroulé au milieu d’une période de transformations importantes du domaine de l’apprentissage à réseaux neuronaux profonds qui a été déclenchée par la découverte de l’algorithme de “dropout” par Geoffrey Hinton. Dropout rend possible un entraînement purement supervisé d’architectures de propagation unidirectionnel sans être exposé au danger de sur- entraînement. Le troisième article présenté dans cette thèse introduit une nouvelle fonction d’activation spécialement con ̧cue pour aller avec l’algorithme de Dropout. Cette fonction d’activation, appelée maxout, permet l’utilisation de aggrégation multi-canal dans un contexte d’apprentissage purement supervisé. Nous démontrons comment plusieurs tâches de reconnaissance d’objets sont mieux accomplies par l’utilisation de maxout. Pour terminer, sont présentons un vrai cas d’utilisation dans l’industrie pour la transcription d’adresses de maisons à plusieurs chiffres. En combinant maxout avec une nouvelle sorte de couche de sortie pour des réseaux neuronaux de convolution, nous démontrons qu’il est possible d’atteindre un taux de succès comparable à celui des humains sur un ensemble de données coriace constitué de photos prises par les voitures de Google. Ce système a été déployé avec succès chez Google pour lire environ cent million d’adresses de maisons.

Evaluating perceptual maps of asymmetries for gait symmetry quantification and pathology detection

Le mouvement de la marche est un processus essentiel de l'activité humaine et aussi le résultat de nombreuses interactions collaboratives entre les systèmes neurologiques, articulaires et musculo-squelettiques fonctionnant ensemble efficacement. Ceci explique pourquoi une analyse de la marche est aujourd'hui de plus en plus utilisée pour le diagnostic (et aussi la prévention) de différents types de maladies (neurologiques, musculaires, orthopédique, etc.). Ce rapport présente une nouvelle méthode pour visualiser rapidement les différentes parties du corps humain liées à une possible asymétrie (temporellement invariante par translation) existant dans la démarche d'un patient pour une possible utilisation clinique quotidienne. L'objectif est de fournir une méthode à la fois facile et peu dispendieuse permettant la mesure et l'affichage visuel, d'une manière intuitive et perceptive, des différentes parties asymétriques d'une démarche. La méthode proposée repose sur l'utilisation d'un capteur de profondeur peu dispendieux (la Kinect) qui est très bien adaptée pour un diagnostique rapide effectué dans de petites salles médicales car ce capteur est d'une part facile à installer et ne nécessitant aucun marqueur. L'algorithme que nous allons présenter est basé sur le fait que la marche saine possède des propriétés de symétrie (relativement à une invariance temporelle) dans le plan coronal.

Une maison à soi : la favela et l'écriture de Carolina Maria de Jesus

Ce mémoire porte sur le rapport entre la maison et la littérature dans l’œuvre de Carolina Maria de Jesus, notamment dans son livre Quarto de despejo. Étant une écrivaine pauvre issue d’une favela de São Paulo, son œuvre déborde de réflexions, témoignages et vécus qui nous révèlent la relation intrinsèque entre écrire et bâtir, la littérature et la maison et entre l’habitation et l’écriture. Il s’agit dans ce mémoire d’accompagner de près les pas de Carolina bâtissant cette œuvre tout à fait inattendue, vu ses conditions matérielles et intellectuelles (elle vivait misérablement dans un barracão, et n’avait que deux ans d’instruction); il est question ici, également, de suivre la construction de ses demeures, d’abord le barracão où elle habitait qui a été édifié avec ses propres mains, ensuite la maison en brique qu’elle a pu acheter grâce au succès de son livre et, principalement, la vraie maison à soi qui s’avère être son écriture, ses mots, le mouvement double et inséparable de bâtir et écrire qui a dicté sa vie et son œuvre. Pour trouver le vocabulaire juste pour cette approche difficile, les mots du poète Edmond Jabès nous accompagneront tout au long de notre parcours, ainsi que la pensée perçante du philosophe Gaston Bachelard.

Nicole Brossard : le genre premier

Le fait est singulier : riche d’une trentaine de titres, le versant poétique de l’œuvre de Nicole Brossard, auquel ce dossier de Voix et Images est exclusivement consacré, a somme toute été peu étudié. Il n’est — pour le voir — que de le mettre en rapport avec la remarquable fortune critique de l’œuvre romanesque, dans le monde anglo-saxon comme au Québec. La bibliographie consacrée à l’écrivaine, que l’on trouvera en clôture de ce dossier, ne compte ni monographie, ni dossier de revue accordant à la poésie la première place ; ouvrages collectifs, mémoires et thèses universitaires se concentrent aussi presque essentiellement sur l’œuvre romanesque. De ce front uni en faveur du roman se détache, depuis le début des années 1980, un certain nombre d’analyses de la poésie de Brossard qui font toujours autorité, à commencer par les travaux de Louise Dupré et de Pierre Nepveu. Mais si l’œuvre poétique n’a pas encore, dans son ensemble, suffisamment retenu l’attention de la critique, Nicole Brossard n’est pas une inconnue à « Voix et Images ». Un numéro atypique et composite, publié en 1977 par la revue, porte le titre « Nicole Brossard », même si une entrevue avec l’auteure constitue, dans ce numéro sans dossier, la seule pièce touchant de facto le travail d’écriture de Nicole Brossard. Du constat de cette absence est né ce projet de dossier. [Introduction]

Sur les traces du virtuel : de la nature et du rôle de la dimension affective dans le processus de communication

La présente thèse rend compte de la dimension affective de la communication. Pour ce faire, l’expérience est d’abord considérée comme durée qualitative (Henri Bergson). Donc, l’expérience est mouvement. Point de départ : le mouvement comme caractéristique intrinsèque du corps qui, ainsi compris, devient un point de passage. Qu’est-ce qui le traverse? Des événements. Il se constitue par ce passage même, ce qui fait de lui un devenir-corps. Ici, toute expérience est acte de communication à son stade le plus pur. Qui est-ce qui communique? L’expérience est une occasion d’actualisation du virtuel. Il s’agit de l’actualisation d’une force virtuelle – que A. N. Whitehead appelle la forme subjective. Le sens du message est l’événement lui-même, c’est-à-dire ce qui émerge dans l’expérience (Gilles Deleuze). Non pas l’expérience subjective d’un sujet préconstitué, mais l’expérience pure, telle que définie par William James : une relationalité. Ce qui s’actualise est une tonalité affective (Whitehead), vécue comme qualité esthétique. Quels sont les facteurs constitutifs du sens? Élargissons la traditionnelle dualité sujet-objet à un complexe relationnel : nous pouvons ainsi percevoir des acteurs affectifs, perceptifs, humains et technologiques, dans un agencement qui se concrétise comme relationalité émergente. Tout événement est situé. Par conséquent, l’émergence du sens devient acte de co-création dans lequel participent les multiples facteurs qui conditionnent l’événement. Cette vision sort d’un anthropocentrisme pour concevoir l’événement lui-même comme sujet de ses propres expériences (Whitehead). De sorte que, tout comme chaque acte de communication, l’expérience des médias est aussi événement vécu. Ce dernier est incorporé par les dimensions du devenir-corps – la conscience-affective et la conscience-réflexive. Celles-ci sont si intimement interreliées qu’elles deviennent mutuellement inclusives dans l’expérience et totalement actives dans l’actualisation du sens.

Récits de croisade et digression : la conquête de Constantinople de Robert de Clari

Partant de la réputation naïve, colorée et digressive de La Conquête de Constantinople de Robert de Clari, ce mémoire propose une analyse méthodique de ce récit en prose vernaculaire de la quatrième croisade de façon à en circonscrire les moments de continuité et de rupture. En fonction de plusieurs facteurs, dont leurs formules d’introduction et de clôture, leur rapport au temps de la croisade, leur longueur relative ainsi que leur positionnement dans l’économie globale du texte, les épisodes divergents sont identifiés puis analysés en travaillant lestement avec trois caractéristiques fondamentales de la digression plutôt qu’avec une définition nucléaire du concept, ce qui permet de discerner des degrés de digressif et d’offrir un panorama nuancé de l’oeuvre. Afin d’adopter un regard plus large sur le phénomène de la digression, quatre autres récits de croisade sont étudiés, et tous, qu’ils soient écrits en prose ou en vers, en français ou en latin, sont à leur façon coupables de s’être laissés emporter par leur sujet dans des excursus qui trahissent la personnalité et les convictions de leur auteur. Tout comme Clari, Villehardouin, l’auteur de l’Estoire de la guerre sainte, Eudes de Deuil et Albert d’Aix laissent entrevoir leur propre histoire lorsque celle qu’ils mettent à l’écrit s’égare de la droite voie de sa narration. Les digressions contenues dans les récits de croisade constituent ainsi une fenêtre privilégiée sur l’histoire des mentalités du Moyen Âge central, une mine d’informations qui ne peut être adéquatement exploitée que par les efforts conjoints de l’histoire et de la littérature.