Understanding deep architectures and the effect of unsupervised pre-training

Cette thèse porte sur une classe d'algorithmes d'apprentissage appelés architectures profondes. Il existe des résultats qui indiquent que les représentations peu profondes et locales ne sont pas suffisantes pour la modélisation des fonctions comportant plusieurs facteurs de variation. Nous sommes particulièrement intéressés par ce genre de données car nous espérons qu'un agent intelligent sera en mesure d'apprendre à les modéliser automatiquement; l'hypothèse est que les architectures profondes sont mieux adaptées pour les modéliser. Les travaux de Hinton (2006) furent une véritable percée, car l'idée d'utiliser un algorithme d'apprentissage non-supervisé, les machines de Boltzmann restreintes, pour l'initialisation des poids d'un réseau de neurones supervisé a été cruciale pour entraîner l'architecture profonde la plus populaire, soit les réseaux de neurones artificiels avec des poids totalement connectés. Cette idée a été reprise et reproduite avec succès dans plusieurs contextes et avec une variété de modèles. Dans le cadre de cette thèse, nous considérons les architectures profondes comme des biais inductifs. Ces biais sont représentés non seulement par les modèles eux-mêmes, mais aussi par les méthodes d'entraînement qui sont souvent utilisés en conjonction avec ceux-ci. Nous désirons définir les raisons pour lesquelles cette classe de fonctions généralise bien, les situations auxquelles ces fonctions pourront être appliquées, ainsi que les descriptions qualitatives de telles fonctions. L'objectif de cette thèse est d'obtenir une meilleure compréhension du succès des architectures profondes. Dans le premier article, nous testons la concordance entre nos intuitions---que les réseaux profonds sont nécessaires pour mieux apprendre avec des données comportant plusieurs facteurs de variation---et les résultats empiriques. Le second article est une étude approfondie de la question: pourquoi l'apprentissage non-supervisé aide à mieux généraliser dans un réseau profond? Nous explorons et évaluons plusieurs hypothèses tentant d'élucider le fonctionnement de ces modèles. Finalement, le troisième article cherche à définir de façon qualitative les fonctions modélisées par un réseau profond. Ces visualisations facilitent l'interprétation des représentations et invariances modélisées par une architecture profonde.

Some Applications of Markov Additive Processes as Models in Insurance and Financial Mathematics

Cette thèse est principalement constituée de trois articles traitant des processus markoviens additifs, des processus de Lévy et d'applications en finance et en assurance. Le premier chapitre est une introduction aux processus markoviens additifs (PMA), et une présentation du problème de ruine et de notions fondamentales des mathématiques financières. Le deuxième chapitre est essentiellement l'article "Lévy Systems and the Time Value of Ruin for Markov Additive Processes" écrit en collaboration avec Manuel Morales et publié dans la revue European Actuarial Journal. Cet article étudie le problème de ruine pour un processus de risque markovien additif. Une identification de systèmes de Lévy est obtenue et utilisée pour donner une expression de l'espérance de la fonction de pénalité actualisée lorsque le PMA est un processus de Lévy avec changement de régimes. Celle-ci est une généralisation des résultats existant dans la littérature pour les processus de risque de Lévy et les processus de risque markoviens additifs avec sauts "phase-type". Le troisième chapitre contient l'article "On a Generalization of the Expected Discounted Penalty Function to Include Deficits at and Beyond Ruin" qui est soumis pour publication. Cet article présente une extension de l'espérance de la fonction de pénalité actualisée pour un processus subordinateur de risque perturbé par un mouvement brownien. Cette extension contient une série de fonctions escomptée éspérée des minima successives dus aux sauts du processus de risque après la ruine. Celle-ci a des applications importantes en gestion de risque et est utilisée pour déterminer la valeur espérée du capital d'injection actualisé. Finallement, le quatrième chapitre contient l'article "The Minimal entropy martingale measure (MEMM) for a Markov-modulated exponential Lévy model" écrit en collaboration avec Romuald Hervé Momeya et publié dans la revue Asia-Pacific Financial Market. Cet article présente de nouveaux résultats en lien avec le problème de l'incomplétude dans un marché financier où le processus de prix de l'actif risqué est décrit par un modèle exponentiel markovien additif. Ces résultats consistent à charactériser la mesure martingale satisfaisant le critère de l'entropie. Cette mesure est utilisée pour calculer le prix d'une option, ainsi que des portefeuilles de couverture dans un modèle exponentiel de Lévy avec changement de régimes.

Dissecting the dynamic of Noc2p and its partners in pre-60S particles maturation

Plusieurs études ont permis la caractérisation de la structure et de la fonction du ribosome. En ce qui attrait à la biogénèse du ribosome, nombreux aspects restent à être découverts et compris de façon plus dynamique. En effet, cette biogénèse englobe une variété de voies de modifications et d’assemblages requises pour la maturation des ARNr et pour leurs liaisons avec les protéines ribosomales. De ce fait, les protéines Noc ont été caractérisées comme des facteurs d’assemblages et ont permis la découverte d’une des premières indications sur l’ordre spatio-temporel de la maturation du ribosome. Ainsi, en utilisant la levure comme modèle, notre objectif est d’étudier d’avantage l’échange des complexes composés des protéines Noc ainsi que leur localisation intranucléaire. Ainsi, la nature des interactions de Noc2p avec Noc1p et Noc3p et l’influence de l’arrêt du transport intranucléaire ont été étudiés en utilisant des promoteurs inductibles, la microscopie à fluorescence, des immunobuvardages, qRT-PCR et des purifications par affinité.

Développement d’une méthode de transfert de protéines présentes dans des sections tissulaires minces sur des cibles fonctionnalisées pour augmenter la spécificité de l’imagerie MS du protéome

L’imagerie par spectrométrie de masse (IMS) est une technique en pleine expansion et utilisée dans beaucoup d’études effectuées sur des systèmes biologiques tels que la corrélation entre l’expression moléculaire et l’état de santé d’un tissu et pour étudier la biologie du développement. Cependant, plus particulièrement lors de l’analyse de protéines, seulement les molécules les plus abondantes et/ou les plus facilement ionisables seront détectées. L’une des approches utilisées pour éviter cette limitation est de transférer les protéines de manière sélective à partir d’une section tissulaire mince vers une surface fonctionnalisée tout en maintenant leur organisation spatiale. Dans ce cas, seulement les protéines possédant une affinité pour la surface seront alors retenues alors que les autres seront éliminées. Donc, la nature chimique de cette surface est critique. Les travaux de recherches présentés dans ce mémoire portent sur le développement d’une méthode de transfert des protéines d’une section tissulaire vers une surface composée de nitrocellulose. Cette méthode utilise un système permettant d’effectuer le transfert sans contact physique direct entre les surfaces. De plus, lors du transfert, une pression physique est appliquée. Dans une première approche, la méthode développée a été appliquée en utilisant une section de rein de souris comme échantillon modèle. Des sections sérielles ont été collectées, soit pour être colorées à l’aide d’hématoxyline et d’éosine (H&E) afin de démontrer la régiospécificité du transfert, soit pour être analysées directement par IMS afin de déterminer si les protéines détectées après transfert sont également détecter dans les sections analysées directement. Les résultats obtenus ont démontré qu’un sous-ensemble de protéines a été transféré tout en conservant leur position spatiale initiale dans les sections. Certains signaux observés pour les protéines transférées sont uniques et/ou sont nettement mieux détectés que lors de l’analyse directe d’une section.

Centor : concept d’interface de spatialisation sonore additive

Cette recherche porte un regard critique sur les interfaces de spatialisation sonore et positionne la composition de musique spatiale, un champ d’étude en musique, à l’avant plan d’une recherche en design. Il détaille l’approche de recherche qui est centrée sur le processus de composition de musique spatiale et les modèles mentaux de compositeurs électroacoustiques afin de livrer des recommandations de design pour le développement d’une interface de spatialisation musicale nommée Centor. Cette recherche montre qu’un processus de design mené à l’intersection du design d’interface, du design d’interaction et de la théorie musicale peut mener à une proposition pertinente et innovatrice pour chacun des domaines d’étude. Nous présentons la recherche et le développement du concept de spatialisation additive, une méthode de spatialisation sonore par patrons qui applique le vocabulaire spectromorphologique de Denis Smalley. C’est un concept d’outil de spatialisation pour le studio qui complémente les interfaces de composition actuelles et ouvre un nouveau champ de possibilités pour l’exploration spatiale en musique électroacoustique. La démarche de recherche présentée ici se veut une contribution au domaine du design d’interfaces musicales, spécifiquement les interfaces de spatialisation, mais propose aussi un processus de design pour la création d’interfaces numériques d’expression artistique.

Analyse und Beschreibung des Innengewindefertigungsverfahrens Gewindefurchen auf Basis eines Modellversuchs

Das Gewindefurchen ist ein spanloses Fertigungsverfahren zur Herstellung von Innengewinden. Es bietet wesentliche Vorteile gegenüber der spanenden Innengewindeherstellung, wie z.B. keine Notwendigkeit zur Spanentsorgung, höhere Festigkeit der Gewindeflanken und eine erhöhte Prozessgeschwindigkeit. Um die Vorteile des Verfahrens unter wirtschaftlichen und technologischen Aspekten besser auszunutzen, bietet die Weiterentwicklung der Werkzeuggeometrie sowohl im makroskopischen als auch im mikroskopischen Bereich ein enormes Potential, welches nicht nur bezüglich der Standzeit bzw. Standmenge und Prozessgeschwindigkeit, sondern auch hinsichtlich der Qualität der erzeugten Gewinde erschlossen werden sollte. Durch die empirische Untersuchung der technischen und physikalischen Eigenschaften am Gewindefurcher sollen der Anformbereich und die Formkeilgeometrie in Abhängigkeit verschiedener Prozessparameter und Werkstoffe verbessert werden, um optimale Bearbeitungsergebnisse hinsichtlich der hergestellten Gewindefurchen und des auftretenden Verschleißes am Gewindefurcher bzw. Formkeils zu erreichen. Die Basis dieser Untersuchungen bildet ein neuartiger Modellversuch, bei dem modifizierte Gewindefurcher verwendet werden, die derart umgestaltet sind, dass von einem üblichen Gewindefurcher durch Umschleifen nur noch ein einzelner Gewindegang am Werkzeug verbleibt. Dadurch ist es möglich, in einer vergrößerten Vorbohrung mit einem Formkeil die einzelnen Umformstufen beim Gewindefurchen separat zu fertigen, die auftretenden Prozesskräfte während des Eingriffs in das Werkstück zu messen und das Bearbeitungsergebnis im Werkstück und den Verschleiß am Formkeil zu bewerten. Weiterhin wird eine rein theoretische Methode beschrieben, mit der die Berechnung der Umformkraft und darauf basierend der Furchmomente am Formkeil bzw. dem ganzen Gewindefurcher möglich ist. Durch die Kenntnis der berechneten Kräfte und Momente am einzelnen Formkeil bzw. dem Gewindefurcher kann bereits in der Konzeptionsphase eines Gewindefurchers eine Anpassung des Werkszeuges an die jeweiligen Bearbeitungsanforderungen durchgeführt werden, wodurch der Entwurf von Gewindefurchern wesentlich wirtschaftlicher realisierbar ist, als durch rein empirische Herangehensweisen.

Effect of within-litter birth weight variation on piglet survival and pre-weaning weight gain in a commercial herd

There are several factors that affect piglet survival and this has a bearing on sow productivity. Ten variables that influence pre-weaning vitality were analysed using records from the Pig Industry Board, Zimbabwe. These included individual piglet birth weight, piglet origin (nursed in original litter or fostered), sex, relative birth weight expressed as standard deviation units, sow parity, total number of piglets born, year and month of farrowing, within-litter variability and the presence of stillborn or mummified littermates. The main factors that influenced piglet mortality were fostering, parity and within-litter variability especially the weight of the individual piglet relative to the average of the litter (P<0.05). Presence of a mummified or stillborn littermate, which could be a proxy for unfavourable uterine environment or trauma during the birth process, did not influence pre-weaning mortality. Variability within a litter and the deviation of the weight of an individual piglet from the litter mean, influenced survival to weaning. It is, therefore, advisable for breeders to include uniformity within the litter as a selection criterion. The recording of various variables by farmers seems to be a useful management practice to identify piglets at risk so as to establish palliative measures. Further, farmers should know which litters and which piglets within a litter are at risk and require more attention.

Intervención psicológica pre y post-quirúrgica para pacientes adultos con amputación de miembros superiores y/o inferiores

La presente revisión de la literatura tiene el objetivo de identificar las intervenciones psicológicas pre y postquirúrgicas para pacientes con amputación no traumática. Se identifica que las amputaciones por artropatía diabética son más frecuentes que las causadas por otras enfermedades aunque las amputaciones por cáncer, arterioesclerosis e infección también son prevalentes. La amputación es un evento altamente significativo en el sujeto y demanda un costoso reajuste que se ve influenciado por variables sociodemográficas y que tiene consecuencias psicosociales que requieren de la atención y acompañamiento de un equipo interdisciplinario. En la fase preoperatoria, al manifestarse ansiedad y temores subjetivos con respecto la amputación, las intervenciones se dirigen a favorecer la verbalización e identificación de recursos. En la fase postoperatoria se acompaña el proceso de adaptación y rehabilitación con el manejo de las consecuencias psicosociales más demandantes para el sujeto. La terapia cognitivo conductual en el proceso postoperatorio es la más frecuentemente utilizada.

Estudio de pre factibilidad para el montaje de un tanque de enfriamiento de leche en el municipio de Machetá, Cundinamarca

Este proyecto hace parte del Convenio suscrito entre El Colegio Mayor de Nuestra Señora del Rosario y la Gobernación de Cundinamarca, para adelantar el proyecto de “Municipio Saludables como Polo de Desarrollo Local (MSPDL)”, cuyo objetivo general es mejorar la calidad de vida de los habitantes de tres (3) municipios escogidos por la Gobernación de Cundinamarca: Mesitas de El Colegio, ubicado en la Provincia del Tequendama, Sesquilé y Machetá, ubicados en la Provincia de Almeidas. En el desarrollo del proyecto la Facultad de Administración de la Universidad del Rosario encontró en el municipio de Machetà, la Asociación “Vuestra Honrosa Labranza, asociación, formada por miembros de tres (3) veredas en el municipio. En las visitas realizadas al municipio y en las charlas sostenidas con algunos de los socios, manifestaron interés por la implementación del proyecto en su asociación. En reuniones y conversaciones sostenidas con el Secretario de Desarrollo Social de la Gobernación de Cundinamarca, en los que se han presentado varios informes de avance del proyecto Municipio Saludable como Polo de Desarrollo Local (MSPDL), se comentó explícitamente la problemática planteada por la Asociación Vuestra Honrosa Labranza”, con el fin de conseguir una forma para apoyarlos, con el montaje de un tanque de enfriamiento de leche. Para el desarrollo del estudio de Pre factibilidad del montaje de un tanque para el enfriamiento de la leche, se desarrollaran los capítulos de mercado, técnico, administrativo, legal, ambiental y financiero, con el fin de evaluar si esta información es suficiente y decidir si la idea del proyecto es viable o no.

The Prize is more Peace: The EU should consolidate its enlargement process. CEPS Commentary, 8 November 2012

The sovereign debt crisis and the threat of financial collapse of some EU member states have triggered fierce debate about the economic, social and political finalité of the Union and curbed the appetite for further enlargement. The European Commission needs to find new ways to consolidate the enlargement agenda, gain full support of the member states for its implementation and assure a consistent application of the pre-accession requirements. Arguably, more time, more money and greater expertise are needed to pursue the vocation recognised by the Nobel Committee.

Who remembers Turkey's pre-accession? CEPS Special Report No. 74/December 2012

In 2005 the EU and Turkey officially started accession negotiations that were intended to lead to Turkey’s full membership of the EU. Yet today, the Turkish accession process has virtually ground to a halt and lost all credibility. Talk of alternatives to full membership can be heard from various sides; we highlight four instances of what we call ‘parallelism’, namely the elusive concept of a ‘privileged partnership’, the EU-Turkey customs union, the recently launched ‘Positive Agenda’ and Turkish participation in the Energy Community Treaty. While a privileged partnership represents a more comprehensive but still remote framework for EU-Turkish relations, the latter three are merely an escape route from preaccession. We conclude our analysis with a discussion on Turkey’s possible membership of the European Economic Area, which in effect would serve none of the parties involved. We conclude that both partners, the EU and Turkey, would be well advised to remember their pre-accession commitments of 13 years ago – for their mutual benefit.

Perceptual grouping and distance estimates in typical and atypical development: comparing performance across perception, drawing and construction tasks

Perceptual grouping is a pre-attentive process which serves to group local elements into global wholes, based on shared properties. One effect of perceptual grouping is to distort the ability to estimate the distance between two elements. In this study, biases in distance estimates, caused by four types of perceptual grouping, were measured across three tasks, a perception, a drawing and a construction task in both typical development (TD: Experiment 1) and in individuals with Williams syndrome (WS: Experiment 2). In Experiment 1, perceptual grouping distorted distance estimates across all three tasks. Interestingly, the effect of grouping by luminance was in the opposite direction to the effects of the remaining grouping types. We relate this to differences in the ability to inhibit perceptual grouping effects on distance estimates. Additive distorting influences were also observed in the drawing and the construction task, which are explained in terms of the points of reference employed in each task. Experiment 2 demonstrated that the above distortion effects are also observed in WS. Given the known deficit in the ability to use perceptual grouping in WS, this suggests a dissociation between the pre-attentive influence of and the attentive deployment of perceptual grouping in WS. The typical distortion in relation to drawing and construction points towards the presence of some typical location coding strategies in WS. The performance of the WS group differed from the TD participants on two counts. First, the pattern of overall distance estimates (averaged across interior and exterior distances) across the four perceptual grouping types, differed between groups. Second, the distorting influence of perceptual grouping was strongest for grouping by shape similarity in WS, which contrasts to a strength in grouping by proximity observed in the TD participants. (c) 2008 Elsevier Inc. All rights reserved.

Using an additive to control the electrospinning of fibres of poly(epsilon-caprolactone)

Electrospinning is a route to polymer fibres with diameters considerably smaller than available from most fibre-producing techniques. We explore the use of a low molecular weight compound as an effective control additive during the electrospinning of poly(epsilon-caprolactone). This approach extends the control variables for the electrospinning of nanoscale fibres from the more usual ones such as the polymer molecular weight, solvent and concentration. We show that through the use of dual solvent systems, we can alter the impact of the additive on the electrospinning process so that finer as well as thicker fibres can be prepared under otherwise identical conditions. As well as the size of the fibres and the number of beads, the use of the additive allows us to alter the level of crystallinity as well as the level of preferred orientation of the poly(epsilon-caprolactone) crystals. This approach, involving the use of a dual solvent and a low molar mass compound, offers considerable potential for application to other polymer systems. (C) 2010 Society of Chemical Industry

Liquidity in commercial property markets: deconstructing the transaction process

This paper draws from a wider research programme in the UK undertaken for the Investment Property Forum examining liquidity in commercial property. One aspect of liquidity is the process by which transactions occur including both how properties are selected for sale and the time taken to transact. The paper analyses data from three organisations; a property company, a major financial institution and an asset management company, formally a major public sector pension fund. The data covers three market states and includes sales completed in 1995, 2000 and 2002 in the UK. The research interviewed key individuals within the three organisations to identify any common patterns of activity within the sale process and also identified the timing of 187 actual transactions from inception of the sale to completion. The research developed a taxonomy of the transaction process. Interviews with vendors indicated that decisions to sell were a product of a combination of portfolio, specific property and market based issues. Properties were generally not kept in a “readiness for sale” state. The average time from first decision to sell the actual property to completion had a mean time of 298 days and a median of 190 days. It is concluded that this study may underestimate the true length of the time to transact for two reasons. Firstly, the pre-marketing period is rarely recorded in transaction files. Secondly, and more fundamentally, studies of sold properties may contain selection bias. The research indicated that vendors tended to sell properties which it was perceived could be sold at a ‘fair’ price in a reasonable period of time.

Improved process topology for membrane distillation

In membrane distillation in a conventional membrane module, the enthalpies of vaporisation and condensation are supplied and removed by changes in the temperatures of the feed and permeate streams, respectively. Less than 5% of the feed can be distilled in a single pass, because the potential changes in the enthalpies of the liquid streams are much smaller than the enthalpy of vaporisation. Furthermore, the driving force for mass transfer reduces as the feed stream temperature and vapour pressure fall during distillation. These restrictions can be avoided if the enthalpy of vaporisation is uncoupled from the heat capacities of the feed and permeate streams. A specified distillation can then be effected continuously in a single module. Calculations are presented which estimate the performance of a flat plate unit in which the enthalpy of distillation is supplied and removed by the condensing and boiling of thermal fluids in separate circuits, and the imposed temperature difference is independent of position. Because the mass flux through the membrane is dependent on vapour pressure, membrane distillation is suited to applications with a high membrane temperature. The maximum mass flux in the proposed module geometry is predicted to be 30 kg/m2 per h at atmospheric pressure when the membrane temperature is 65°C. Operation at higher membrane temperatures is predicted to raise the mass flux, for example to 85 kg/m2 per h at a membrane temperature of 100°C. This would require pressurisation to 20 bar to prevent boiling at the heating plate of the feed channel. Pre-pressurisation of the membrane pores and control of the dissolved gas concentrations in the feed and the recyled permeate should be investigated as a means to achieve high temperature membrane distillation without pore penetration and wetting.