Modeling High-Dimensional Audio Sequences with Recurrent Neural Networks

Cette thèse étudie des modèles de séquences de haute dimension basés sur des réseaux de neurones récurrents (RNN) et leur application à la musique et à la parole. Bien qu'en principe les RNN puissent représenter les dépendances à long terme et la dynamique temporelle complexe propres aux séquences d'intérêt comme la vidéo, l'audio et la langue naturelle, ceux-ci n'ont pas été utilisés à leur plein potentiel depuis leur introduction par Rumelhart et al. (1986a) en raison de la difficulté de les entraîner efficacement par descente de gradient. Récemment, l'application fructueuse de l'optimisation Hessian-free et d'autres techniques d'entraînement avancées ont entraîné la recrudescence de leur utilisation dans plusieurs systèmes de l'état de l'art. Le travail de cette thèse prend part à ce développement. L'idée centrale consiste à exploiter la flexibilité des RNN pour apprendre une description probabiliste de séquences de symboles, c'est-à-dire une information de haut niveau associée aux signaux observés, qui en retour pourra servir d'à priori pour améliorer la précision de la recherche d'information. Par exemple, en modélisant l'évolution de groupes de notes dans la musique polyphonique, d'accords dans une progression harmonique, de phonèmes dans un énoncé oral ou encore de sources individuelles dans un mélange audio, nous pouvons améliorer significativement les méthodes de transcription polyphonique, de reconnaissance d'accords, de reconnaissance de la parole et de séparation de sources audio respectivement. L'application pratique de nos modèles à ces tâches est détaillée dans les quatre derniers articles présentés dans cette thèse. Dans le premier article, nous remplaçons la couche de sortie d'un RNN par des machines de Boltzmann restreintes conditionnelles pour décrire des distributions de sortie multimodales beaucoup plus riches. Dans le deuxième article, nous évaluons et proposons des méthodes avancées pour entraîner les RNN. Dans les quatre derniers articles, nous examinons différentes façons de combiner nos modèles symboliques à des réseaux profonds et à la factorisation matricielle non-négative, notamment par des produits d'experts, des architectures entrée/sortie et des cadres génératifs généralisant les modèles de Markov cachés. Nous proposons et analysons également des méthodes d'inférence efficaces pour ces modèles, telles la recherche vorace chronologique, la recherche en faisceau à haute dimension, la recherche en faisceau élagué et la descente de gradient. Finalement, nous abordons les questions de l'étiquette biaisée, du maître imposant, du lissage temporel, de la régularisation et du pré-entraînement.

Bounding The Hochschild Cohomological Dimension

Ce mémoire a deux objectifs principaux. Premièrement de développer et interpréter les groupes de cohomologie de Hochschild de basse dimension et deuxièmement de borner la dimension cohomologique des k-algèbres par dessous; montrant que presque aucune k-algèbre commutative est quasi-libre.

Le reporter comme théoricien : une dimension négligée du journalisme politique

Cette thèse examine les théories politiques profanes qui sont mises de l’avant dans les articles et les reportages des journalistes politiques. Par «théories profanes», nous entendons les constructions intellectuelles informelles qui aident les journalistes à appréhender et à concevoir la vie politique. Nous les définissons ici par opposition aux théories scientifiques des universitaires. Ces théories sont examinées sous trois angles différents, au travers de trois articles scientifiques distincts. Notre principal objectif est de déterminer dans quelle mesure et pour quelles raisons les théories journalistiques profanes convergent ou divergent des théories universitaires scientifiques. Au premier chapitre, nous nous demandons ce que les journalistes font, en nous attardant aux critères sur lesquels ces derniers s’appuient pour analyser la personnalité des chefs de partis politiques. Plus précisément, nous cherchons à savoir si les journalistes tiennent compte des considérations politiques jugées importantes par les citoyens. Afin d’atteindre cet objectif, nous réalisons une analyse de contenu des reportages diffusés dans les grands bulletins d’information télévisés au sujet de l’ex-chef du Parti québécois, André Boisclair. Au second chapitre, nous poussons notre réflexion un cran plus loin en nous demandant ce que les journalistes disent précisément dans les théories qu’ils développent. Pour ce faire, nous examinons les théories développées par les journalistes pour expliquer le comportement des parlementaires. De manière spécifique, nous contrastons les théories académiques de la dissidence politique avec ce qui s’est écrit dans les grands journaux canadiens à l’occasion de quatre votes particulièrement serrés ayant eu lieu à la Chambre des communes à propos de la prolongation de la mission canadienne en Afghanistan et de l’abolition du registre des armes d’épaule. Enfin, nous nous attardons à ce que les journalistes pensent de leurs propres théories, en les interrogeant sur les raisons qui les poussent à mettre ces dernières de l’avant et sur la manière dont ils s’y prennent pour les développer. Nous nous attardons aux mécanismes qui rythment la pensée des journalistes et nous portons notre regard sur les matériaux dont ceux-ci se servent pour construire les théories qu’ils incluent dans leurs reportages. Pour ce faire, nous réalisons des entrevues semi-dirigées avec des journalistes politiques affectés à la couverture de l’élection présidentielle française de 2012. Nos questions portent notamment sur le chemin intellectuel qu’ils parcourent lorsqu’ils tentent de comprendre et d’expliquer le comportement des politiciens, ainsi que sur la façon dont ils conçoivent les campagnes électorales et le rôle qu’ils sont appelés à jouer à l’intérieur de celles-ci. Nos conclusions sont à l’effet que les journalistes construisent bel et bien des théories profanes de la vie politique afin d’aller au-delà des simples comptes rendus factuels et de répondre à ce qu’ils considèrent être une nécessité de leur travail. Les théories qu’ils mettent de l’avant tiennent compte des considérations politiques jugées importantes par les électeurs, et elles ont des traits communs avec certaines des idées sous-tendues par les théories scientifiques des universitaires. Ces théories s’articulent autour des observations que font les journalistes, et des conversations auxquelles ils prennent part ou dont ils sont témoins. Elles reflètent la plupart du temps l’expérience ou le vécu du journaliste. Les théories journalistiques profanes se distinguent toutefois des théories scientifiques en ce qu’elles ne sont ni formalisées, ni explicitement nommées. Elles n’ont pas la sophistication des théories universitaires, et elles sont parfois reléguées à l’arrière-plan de la couverture médiatique au bénéfice d’aspects plus théâtraux de la vie politique. Les journalistes développent par contre des mécanismes pour valider leurs théories. La contribution de cette thèse à l’avancement des connaissances se manifeste sur les plans conceptuel, théorique et empirique. Sur le plan conceptuel, nous étayons davantage le concept des théories journalistiques. Notre thèse permet de mieux comprendre la couverture médiatique de la politique, en mettant en lumière un de ses aspects jusqu’ici négligé par les politologues, soit le fait que les journalistes construisent et utilisent des théories politiques qui leur sont propres pour appréhender l’univers au sein duquel ils évoluent. Sur le plan théorique, nous faisons ressortir les objectifs et les impératifs qui guident les journalistes qui développent ces théories. Enfin, sur le plan empirique, nous donnons pour une rare fois l’occasion aux journalistes de s’exprimer sur la manière dont ils perçoivent leur propre travail.

A unified framework for the comprehension of software's time dimension

Les logiciels sont de plus en plus complexes et leur développement est souvent fait par des équipes dispersées et changeantes. Par ailleurs, de nos jours, la majorité des logiciels sont recyclés au lieu d’être développés à partir de zéro. La tâche de compréhension, inhérente aux tâches de maintenance, consiste à analyser plusieurs dimensions du logiciel en parallèle. La dimension temps intervient à deux niveaux dans le logiciel : il change durant son évolution et durant son exécution. Ces changements prennent un sens particulier quand ils sont analysés avec d’autres dimensions du logiciel. L’analyse de données multidimensionnelles est un problème difficile à résoudre. Cependant, certaines méthodes permettent de contourner cette difficulté. Ainsi, les approches semi-automatiques, comme la visualisation du logiciel, permettent à l’usager d’intervenir durant l’analyse pour explorer et guider la recherche d’informations. Dans une première étape de la thèse, nous appliquons des techniques de visualisation pour mieux comprendre la dynamique des logiciels pendant l’évolution et l’exécution. Les changements dans le temps sont représentés par des heat maps. Ainsi, nous utilisons la même représentation graphique pour visualiser les changements pendant l’évolution et ceux pendant l’exécution. Une autre catégorie d’approches, qui permettent de comprendre certains aspects dynamiques du logiciel, concerne l’utilisation d’heuristiques. Dans une seconde étape de la thèse, nous nous intéressons à l’identification des phases pendant l’évolution ou pendant l’exécution en utilisant la même approche. Dans ce contexte, la prémisse est qu’il existe une cohérence inhérente dans les évènements, qui permet d’isoler des sous-ensembles comme des phases. Cette hypothèse de cohérence est ensuite définie spécifiquement pour les évènements de changements de code (évolution) ou de changements d’état (exécution). L’objectif de la thèse est d’étudier l’unification de ces deux dimensions du temps que sont l’évolution et l’exécution. Ceci s’inscrit dans notre volonté de rapprocher les deux domaines de recherche qui s’intéressent à une même catégorie de problèmes, mais selon deux perspectives différentes.

Sur la dimension éthique de l’argent : les phénomènes de fuite et de blanchiment de capitaux au Maroc

Full Text / Article complet

Investigating the Impact of Personal, Temporal and Participation Factors on Code Review Quality

La révision du code est un procédé essentiel quelque soit la maturité d'un projet; elle cherche à évaluer la contribution apportée par le code soumis par les développeurs. En principe, la révision du code améliore la qualité des changements de code (patches) avant qu'ils ne soient validés dans le repertoire maître du projet. En pratique, l'exécution de ce procédé n'exclu pas la possibilité que certains bugs passent inaperçus. Dans ce document, nous présentons une étude empirique enquétant la révision du code d'un grand projet open source. Nous investissons les relations entre les inspections des reviewers et les facteurs, sur les plans personnel et temporel, qui pourraient affecter la qualité de telles inspections.Premiérement, nous relatons une étude quantitative dans laquelle nous utilisons l'algorithme SSZ pour détecter les modifications et les changements de code favorisant la création de bogues (bug-inducing changes) que nous avons lié avec l'information contenue dans les révisions de code (code review information) extraites du systéme de traçage des erreurs (issue tracking system). Nous avons découvert que les raisons pour lesquelles les réviseurs manquent certains bogues était corrélées autant à leurs caractéristiques personnelles qu'aux propriétés techniques des corrections en cours de revue. Ensuite, nous relatons une étude qualitative invitant les développeurs de chez Mozilla à nous donner leur opinion concernant les attributs favorables à la bonne formulation d'une révision de code. Les résultats de notre sondage suggèrent que les développeurs considèrent les aspects techniques (taille de la correction, nombre de chunks et de modules) autant que les caractéristiques personnelles (l'expérience et review queue) comme des facteurs influant fortement la qualité des revues de code.

Sur les traces du virtuel : de la nature et du rôle de la dimension affective dans le processus de communication

La présente thèse rend compte de la dimension affective de la communication. Pour ce faire, l’expérience est d’abord considérée comme durée qualitative (Henri Bergson). Donc, l’expérience est mouvement. Point de départ : le mouvement comme caractéristique intrinsèque du corps qui, ainsi compris, devient un point de passage. Qu’est-ce qui le traverse? Des événements. Il se constitue par ce passage même, ce qui fait de lui un devenir-corps. Ici, toute expérience est acte de communication à son stade le plus pur. Qui est-ce qui communique? L’expérience est une occasion d’actualisation du virtuel. Il s’agit de l’actualisation d’une force virtuelle – que A. N. Whitehead appelle la forme subjective. Le sens du message est l’événement lui-même, c’est-à-dire ce qui émerge dans l’expérience (Gilles Deleuze). Non pas l’expérience subjective d’un sujet préconstitué, mais l’expérience pure, telle que définie par William James : une relationalité. Ce qui s’actualise est une tonalité affective (Whitehead), vécue comme qualité esthétique. Quels sont les facteurs constitutifs du sens? Élargissons la traditionnelle dualité sujet-objet à un complexe relationnel : nous pouvons ainsi percevoir des acteurs affectifs, perceptifs, humains et technologiques, dans un agencement qui se concrétise comme relationalité émergente. Tout événement est situé. Par conséquent, l’émergence du sens devient acte de co-création dans lequel participent les multiples facteurs qui conditionnent l’événement. Cette vision sort d’un anthropocentrisme pour concevoir l’événement lui-même comme sujet de ses propres expériences (Whitehead). De sorte que, tout comme chaque acte de communication, l’expérience des médias est aussi événement vécu. Ce dernier est incorporé par les dimensions du devenir-corps – la conscience-affective et la conscience-réflexive. Celles-ci sont si intimement interreliées qu’elles deviennent mutuellement inclusives dans l’expérience et totalement actives dans l’actualisation du sens.