Modèles de Markov cachés à haute précision dynamique

La reconnaissance vocale est une technologie sujette à amélioration. Malgré 40 ans de travaux, de nombreuses applications restent néanmoins hors de portée en raison d'une trop faible efficacité. De façon à pallier à ce problème, l'auteur propose une amélioration au cadre conceptuel classique. Plus précisément, une nouvelle méthode d'entraînement des modèles markoviens cachés est exposée de manière à augmenter la précision dynamique des classificateurs. Le présent document décrit en détail le résultat de trois ans de recherche et les contributions scientifiques qui en sont le produit. L'aboutissement final de cet effort est la production d'un article de journal proposant une nouvelle tentative d'approche à la communauté scientifique internationale. Dans cet article, les auteurs proposent que des topologies finement adaptées de modèles markoviens cachés (HMMs) soient essentielles à une modélisation temporelle de haute précision. Un cadre conceptuel pour l'apprentissage efficace de topologies par élagage de modèles génériques complexes est donc soumis. Des modèles HMM à topologie gauche-à-droite sont d'abord entraînés de façon classique. Des modèles complexes à topologie générique sont ensuite obtenus par écrasement des modèles gauche-à-droite. Finalement, un enchaînement successif d'élagages et d'entraînements Baum-Welch est fait de manière à augmenter la précision temporelle des modèles.

Designing Regularizers and Architectures for Recurrent Neural Networks

Cette thèse contribue a la recherche vers l'intelligence artificielle en utilisant des méthodes connexionnistes. Les réseaux de neurones récurrents sont un ensemble de modèles séquentiels de plus en plus populaires capable en principe d'apprendre des algorithmes arbitraires. Ces modèles effectuent un apprentissage en profondeur, un type d'apprentissage machine. Sa généralité et son succès empirique en font un sujet intéressant pour la recherche et un outil prometteur pour la création de l'intelligence artificielle plus générale. Le premier chapitre de cette thèse donne un bref aperçu des sujets de fonds: l'intelligence artificielle, l'apprentissage machine, l'apprentissage en profondeur et les réseaux de neurones récurrents. Les trois chapitres suivants couvrent ces sujets de manière de plus en plus spécifiques. Enfin, nous présentons quelques contributions apportées aux réseaux de neurones récurrents. Le chapitre \ref{arxiv1} présente nos travaux de régularisation des réseaux de neurones récurrents. La régularisation vise à améliorer la capacité de généralisation du modèle, et joue un role clé dans la performance de plusieurs applications des réseaux de neurones récurrents, en particulier en reconnaissance vocale. Notre approche donne l'état de l'art sur TIMIT, un benchmark standard pour cette tâche. Le chapitre \ref{cpgp} présente une seconde ligne de travail, toujours en cours, qui explore une nouvelle architecture pour les réseaux de neurones récurrents. Les réseaux de neurones récurrents maintiennent un état caché qui représente leurs observations antérieures. L'idée de ce travail est de coder certaines dynamiques abstraites dans l'état caché, donnant au réseau une manière naturelle d'encoder des tendances cohérentes de l'état de son environnement. Notre travail est fondé sur un modèle existant; nous décrivons ce travail et nos contributions avec notamment une expérience préliminaire.

Designing Regularizers and Architectures for Recurrent Neural Networks

Cette thèse contribue a la recherche vers l'intelligence artificielle en utilisant des méthodes connexionnistes. Les réseaux de neurones récurrents sont un ensemble de modèles séquentiels de plus en plus populaires capable en principe d'apprendre des algorithmes arbitraires. Ces modèles effectuent un apprentissage en profondeur, un type d'apprentissage machine. Sa généralité et son succès empirique en font un sujet intéressant pour la recherche et un outil prometteur pour la création de l'intelligence artificielle plus générale. Le premier chapitre de cette thèse donne un bref aperçu des sujets de fonds: l'intelligence artificielle, l'apprentissage machine, l'apprentissage en profondeur et les réseaux de neurones récurrents. Les trois chapitres suivants couvrent ces sujets de manière de plus en plus spécifiques. Enfin, nous présentons quelques contributions apportées aux réseaux de neurones récurrents. Le chapitre \ref{arxiv1} présente nos travaux de régularisation des réseaux de neurones récurrents. La régularisation vise à améliorer la capacité de généralisation du modèle, et joue un role clé dans la performance de plusieurs applications des réseaux de neurones récurrents, en particulier en reconnaissance vocale. Notre approche donne l'état de l'art sur TIMIT, un benchmark standard pour cette tâche. Le chapitre \ref{cpgp} présente une seconde ligne de travail, toujours en cours, qui explore une nouvelle architecture pour les réseaux de neurones récurrents. Les réseaux de neurones récurrents maintiennent un état caché qui représente leurs observations antérieures. L'idée de ce travail est de coder certaines dynamiques abstraites dans l'état caché, donnant au réseau une manière naturelle d'encoder des tendances cohérentes de l'état de son environnement. Notre travail est fondé sur un modèle existant; nous décrivons ce travail et nos contributions avec notamment une expérience préliminaire.

Décomposition automatique de signaux EMG intramusculaires

Thèse numérisée par la Direction des bibliothèques de l'Université de Montréal.

Décomposition automatique de signaux EMG intramusculaires

Thèse numérisée par la Direction des bibliothèques de l'Université de Montréal.

DNP3 network scanning and reconnaissance for critical infrastructure

The Distributed Network Protocol v3.0 (DNP3) is one of the most widely used protocols to control national infrastructure. The move from point-to-point serial connections to Ethernet-based network architectures, allowing for large and complex critical infrastructure networks. However, networks and con- figurations change, thus auditing tools are needed to aid in critical infrastructure network discovery. In this paper we present a series of intrusive techniques used for reconnaissance on DNP3 critical infrastructure. Our algorithms will discover DNP3 outstation slaves along with their DNP3 addresses, their corresponding master, and class object configurations. To validate our presented DNP3 reconnaissance algorithms and demonstrate it’s practicality, we present an implementation of a software tool using a DNP3 plug-in for Scapy. Our implementation validates the utility of our DNP3 reconnaissance technique. Our presented techniques will be useful for penetration testing, vulnerability assessments and DNP3 network discovery.

Reconnaissance of the ground-water resources of Baker County, Florida

Ground-water is not widely used in Baker County, but the presence of a high equipotential area in the artesian system beneath the County made it necessary that the resource be understood insofar as this high affected the ground-water resources of Nassau and Duval counties which were being intensively studied and mapped. The method and rates of movement of ground-water from one point to another in the artesian aquifer are understood more fully by use of the data in this report. (PDF contains 30 pages)

Reconnaissance of the ground-water resources of the Fernandina area, Nassau County, Florida

Practically all water for municipal and industrial use in the Fernandina area is supplied by artesian wells. In recent years, the use of artesian water in the area has increased to meet the needs of expanding industry and increasing population. The total industrial and municipal pumpage has increased from approximately 35 million gallons per day in 1941 to approximately 50 million gallons per day in 1959. Correlated with the increase in water use is the constant decline in the artesian pressure in the area. In many other areas in Florida, such a decline in artesian pressure has resulted in salt-water intrusion into the fresh-water supply.An intrusion of salt water in the Fernandina area would contaminate the existing fresh-water supply and would result in a hardship for the population and seriously injure the economy. Recognizing the threat to the fresh-water supplies of this area, the U. S. Geological Survey in cooperation with the Florida Geological Surveymade a reconnaissance to determineif there has been any intrusion of salt water into the fresh-water supply or if there is any danger of future intrusion. (PDF contains 28 pages.)

Reconnaissance of the geology and ground-water resources of Columbia County, Florida

The Floridan aquifer was found to be principal source of ground water in the area, containing artesian water in the northern part of Columbia County, and being recharged in the southern part of the county. A few wells in the northern part of the county tap water present in sediments that lie above the Floridan aquifer. These shallow waters are generally high in iron and tannic acid. The details on the geology and hydrology necessary to conserve and utilize the water available to the residents of Columbia County are presented in this study. (PDF contains 86 pages)

The potential risk from 222radon posed to archaeologists and earth scientists: reconnaissance study of radon concentrations, excavations and archaeological shelters in the Great cave of Niah, Sarawak, Malaysia

Gillmore, G. Gilbertson, D. Grattan, J. Hunt, C. McLaren, S. Pyatt, B. Banda, R. Barker, G. Denman, A. Phillips, P. Reynolds, T. The potential risk from 222radon posed to archaeologists and earth scientists: reconnaissance study of radon concentrations, excavations and archaeological shelters in the Great cave of Niah, Sarawak, Malaysia. Ecotoxicology and Environmental Safety. 2005. 60 pp 213-227.

Legacy Resource Management Program Archaeological Reconnaissance Survey, United States Naval Academy, Annapolis, MD.

The Archaeological Reconnaissance Survey of United States Naval Academy will provide the Navy with a rich understanding of the history of this property. A National Register of Historic Places District, such as the Academy, deserves a thorough analysis of its past, in order to preserve what exists and to plan for the future. The goal of this project is to investigate the history of the Academy through traditional historic research, innovative computer analysis of historic maps, oral history interviews, and tract histories. This information has been synthesized to provide the Navy with a planning tool for Public Works, a concise look at the cartographic history of the Academy, and reference manual of the vast amounts of information which have been gathered during the course of this project. This information can serve as a reference tool to help the Public Works department comply with Section 106 regulations of the Historic Sites Preservation Act, with regard to construction. It can also serve as a source of cartographic history for those interested in the Academy's physical development, and as a way of preserving the culture of residents in Annapolis. This program and archaeological survey will ultimately serve to add to the rich history of the United States Naval Academy while preserving an important part of our nation's heritage.

A Bacterial Enrichment Study and Overview of the Extractable Lipids from Paleosols in the Dry Valleys, Antarctica: Implications for Future Mars Reconnaissance

The Dry Valleys of Antarctica are one of the coldest and driest environments on Earth with paleosols in selected areas that date to the emplacement of tills by warm-based ice during the Early Miocene. Cited as an analogue to the martian surface, the ability of the Antarctic environment to support microbial life-forms is a matter of special interest, particularly with the upcoming NASA/ESA 2018 ExoMars mission. Lipid biomarkers were extracted and analyzed by gas chromatography-mass spectrometry to assess sources of organic carbon and evaluate the contribution of microbial species to the organic matter of the paleosols. Paleosol samples from the ice-free Dry Valleys were also subsampled and cultivated in a growth medium from which DNA was extracted with the explicit purpose of the positive identification of bacteria. Several species of bacteria were grown in solution and the genus identified. A similar match of the data to sequenced DNA showed that Alphaproteobacteria, Gamma-proteobacteria, Bacteriodetes, and Actinobacteridae species were cultivated. The results confirm the presence of bacteria within some paleosols, but no assumptions have been made with regard to in situ activity at present. These results underscore the need not only to further investigate Dry Valley cryosols but also to develop reconnaissance strategies to determine whether such likely Earth-like environments on the Red Planet also contain life.

Locating binding poses in protein-ligand systems using reconnaissance metadynamics

A molecular dynamics-based protocol is proposed for finding and scoring protein-ligand binding poses. This protocol uses the recently developed reconnaissance metadynamics method, which employs a self-learning algorithm to construct a bias that pushes the system away from the kinetic traps where it would otherwise remain. The exploration of phase space with this algorithm is shown to be roughly six to eight times faster than unbiased molecular dynamics and is only limited by the time taken to diffuse about the surface of the protein. We apply this method to the well-studied trypsin-benzamidine system and show that we are able to refind all the poses obtained from a reference EADock blind docking calculation. These poses can be scored based on the length of time the system remains trapped in the pose. Alternatively, one can perform dimensionality reduction on the output trajectory and obtain a map of phase space that can be used in more expensive free-energy calculations.

Exploring the free energy surfaces of clusters using reconnaissance metadynamics

A new approach is proposed for exploring the low-energy structures of small to medium-sized aggregates of atoms and molecules. This approach uses the recently proposed reconnaissance metadynamics method [G. A. Tribello, M. Ceriotti, and M. Parrinello. Proc. Natl. Acad. Sci. U.S.A. 107(41), 17509 (2010)] in tandem with collective variables that describe the average structure of the coordination sphere around the atoms/molecules. We demonstrate this method on both Lennard-Jones and water clusters and show how it is able to quickly find the global minimum in the potential energy surface, while exploring the finite temperature free energy surface. (C) 2011 American Institute of Physics. [doi: 10.1063/1.3628676]