Revisiting optimization algorithms for maximum likelihood estimation

Parmi les méthodes d’estimation de paramètres de loi de probabilité en statistique, le maximum de vraisemblance est une des techniques les plus populaires, comme, sous des conditions l´egères, les estimateurs ainsi produits sont consistants et asymptotiquement efficaces. Les problèmes de maximum de vraisemblance peuvent être traités comme des problèmes de programmation non linéaires, éventuellement non convexe, pour lesquels deux grandes classes de méthodes de résolution sont les techniques de région de confiance et les méthodes de recherche linéaire. En outre, il est possible d’exploiter la structure de ces problèmes pour tenter d’accélerer la convergence de ces méthodes, sous certaines hypothèses. Dans ce travail, nous revisitons certaines approches classiques ou récemment d´eveloppées en optimisation non linéaire, dans le contexte particulier de l’estimation de maximum de vraisemblance. Nous développons également de nouveaux algorithmes pour résoudre ce problème, reconsidérant différentes techniques d’approximation de hessiens, et proposons de nouvelles méthodes de calcul de pas, en particulier dans le cadre des algorithmes de recherche linéaire. Il s’agit notamment d’algorithmes nous permettant de changer d’approximation de hessien et d’adapter la longueur du pas dans une direction de recherche fixée. Finalement, nous évaluons l’efficacité numérique des méthodes proposées dans le cadre de l’estimation de modèles de choix discrets, en particulier les modèles logit mélangés.

Dynamic Programming Approaches for Estimating and Applying Large-scale Discrete Choice Models

People go through their life making all kinds of decisions, and some of these decisions affect their demand for transportation, for example, their choices of where to live and where to work, how and when to travel and which route to take. Transport related choices are typically time dependent and characterized by large number of alternatives that can be spatially correlated. This thesis deals with models that can be used to analyze and predict discrete choices in large-scale networks. The proposed models and methods are highly relevant for, but not limited to, transport applications. We model decisions as sequences of choices within the dynamic discrete choice framework, also known as parametric Markov decision processes. Such models are known to be difficult to estimate and to apply to make predictions because dynamic programming problems need to be solved in order to compute choice probabilities. In this thesis we show that it is possible to explore the network structure and the flexibility of dynamic programming so that the dynamic discrete choice modeling approach is not only useful to model time dependent choices, but also makes it easier to model large-scale static choices. The thesis consists of seven articles containing a number of models and methods for estimating, applying and testing large-scale discrete choice models. In the following we group the contributions under three themes: route choice modeling, large-scale multivariate extreme value (MEV) model estimation and nonlinear optimization algorithms. Five articles are related to route choice modeling. We propose different dynamic discrete choice models that allow paths to be correlated based on the MEV and mixed logit models. The resulting route choice models become expensive to estimate and we deal with this challenge by proposing innovative methods that allow to reduce the estimation cost. For example, we propose a decomposition method that not only opens up for possibility of mixing, but also speeds up the estimation for simple logit models, which has implications also for traffic simulation. Moreover, we compare the utility maximization and regret minimization decision rules, and we propose a misspecification test for logit-based route choice models. The second theme is related to the estimation of static discrete choice models with large choice sets. We establish that a class of MEV models can be reformulated as dynamic discrete choice models on the networks of correlation structures. These dynamic models can then be estimated quickly using dynamic programming techniques and an efficient nonlinear optimization algorithm. Finally, the third theme focuses on structured quasi-Newton techniques for estimating discrete choice models by maximum likelihood. We examine and adapt switching methods that can be easily integrated into usual optimization algorithms (line search and trust region) to accelerate the estimation process. The proposed dynamic discrete choice models and estimation methods can be used in various discrete choice applications. In the area of big data analytics, models that can deal with large choice sets and sequential choices are important. Our research can therefore be of interest in various demand analysis applications (predictive analytics) or can be integrated with optimization models (prescriptive analytics). Furthermore, our studies indicate the potential of dynamic programming techniques in this context, even for static models, which opens up a variety of future research directions.

Dynamic Programming Approaches for Estimating and Applying Large-scale Discrete Choice Models

People go through their life making all kinds of decisions, and some of these decisions affect their demand for transportation, for example, their choices of where to live and where to work, how and when to travel and which route to take. Transport related choices are typically time dependent and characterized by large number of alternatives that can be spatially correlated. This thesis deals with models that can be used to analyze and predict discrete choices in large-scale networks. The proposed models and methods are highly relevant for, but not limited to, transport applications. We model decisions as sequences of choices within the dynamic discrete choice framework, also known as parametric Markov decision processes. Such models are known to be difficult to estimate and to apply to make predictions because dynamic programming problems need to be solved in order to compute choice probabilities. In this thesis we show that it is possible to explore the network structure and the flexibility of dynamic programming so that the dynamic discrete choice modeling approach is not only useful to model time dependent choices, but also makes it easier to model large-scale static choices. The thesis consists of seven articles containing a number of models and methods for estimating, applying and testing large-scale discrete choice models. In the following we group the contributions under three themes: route choice modeling, large-scale multivariate extreme value (MEV) model estimation and nonlinear optimization algorithms. Five articles are related to route choice modeling. We propose different dynamic discrete choice models that allow paths to be correlated based on the MEV and mixed logit models. The resulting route choice models become expensive to estimate and we deal with this challenge by proposing innovative methods that allow to reduce the estimation cost. For example, we propose a decomposition method that not only opens up for possibility of mixing, but also speeds up the estimation for simple logit models, which has implications also for traffic simulation. Moreover, we compare the utility maximization and regret minimization decision rules, and we propose a misspecification test for logit-based route choice models. The second theme is related to the estimation of static discrete choice models with large choice sets. We establish that a class of MEV models can be reformulated as dynamic discrete choice models on the networks of correlation structures. These dynamic models can then be estimated quickly using dynamic programming techniques and an efficient nonlinear optimization algorithm. Finally, the third theme focuses on structured quasi-Newton techniques for estimating discrete choice models by maximum likelihood. We examine and adapt switching methods that can be easily integrated into usual optimization algorithms (line search and trust region) to accelerate the estimation process. The proposed dynamic discrete choice models and estimation methods can be used in various discrete choice applications. In the area of big data analytics, models that can deal with large choice sets and sequential choices are important. Our research can therefore be of interest in various demand analysis applications (predictive analytics) or can be integrated with optimization models (prescriptive analytics). Furthermore, our studies indicate the potential of dynamic programming techniques in this context, even for static models, which opens up a variety of future research directions.

L'utilisation du bootstrap pour tester la stationnarité des taux de change réels avec un modèle non linéaire. L'évidence pour le Canada.

Rapport de recherche

L'impasse de la non-normalité : estimateurs d'ordres supérieurs pour modèles de régression linéaire avec erreurs de mesure.

Rapport de recherche

Recherche sur les effets de l'analgésie périopératoire optimale (RAPO) sur la douleur et la fonction après chirurgie de la main

Essai cinique randomisé

Recherche de champs magnétiques chez les étoiles Wolf-Rayet par l'analyse d'observations spectropolarimétriques.

Cette thèse de doctorat présente les résultats d'un relevé spectropolarimétrique visant la détection directe de champs magnétiques dans le vent d'étoiles Wolf-Rayet (WR). Les observations furent entièrement obtenues à partir du spectropolarimètre ESPaDOnS, installé sur le télescope de l'observatoire Canada-France-Hawaii. Ce projet débuta par l'observation d'un étoile très variable de type WN4 appelée EZ CMa = WR6 = HD 50896 et se poursuivit par l'observation de 11 autres étoiles WR de notre galaxie. La méthode analytique utilisée dans cette étude vise à examiner les spectres de polarisation circulaire (Stokes V) et à identifier, au travers des raies d'émission, les signatures spectrales engendrées par la présence de champs magnétiques de type split monopole dans les vents des étoiles observées. Afin de pallier à la présence de polarisation linéaire dans les données de polarisation circulaire, le cross-talk entre les spectres Stokes Q et U et le spectre Stokes V fut modélisé et éliminé avant de procéder à l'analyse magnétique. En somme, aucun champ magnétique n'est détecté de manière significative dans les 12 étoiles observées. Toutefois, une détection marginale est signalée pour les étoiles WR134, WR137 et WR138 puisque quelques-unes de leur raies spectrales semblent indiquer la présence d'une signature magnétique. Pour chacune de ces trois étoiles, la valeur la plus probable du champ magnétique présent dans le vent stellaire est respectivement de B ~ 200, 130 et 80 G. En ce qui concerne les autres étoiles pour lesquelles aucune détection magnétique ne fut obtenue, la limite supérieure moyenne de l'intensité du champ qui pourrait être présent dans les données, sans toutefois être détecté, est évaluée à 500 G. Finalement, les résultats de cette étude ne peuvent confirmer l'origine magnétique des régions d'interaction en co-rotation (CIR) observées chez plusieurs étoiles WR. En effet, aucun champ magnétique n'est détecté de façon convaincante chez les quatre étoiles pour lesquelles la présence de CIR est soupçonnée.

Du Linéaire au Stellaire, du film au webdocumentaire : un dispositif de réflexion et de communication sur le réel

Ce texte de mémoire est accompagné du webdocumentaire interactif : De la chaise à la mer, disponible à l'adresse http://www.delachaisealamer.net.

Recensão de: CHARLOT, Bernard (1999). Le Rapport au Savoir en milieu populaire. Une recherche dans les Lycées Professionnels de banlieue. Paris: Anthropos, 390 p.

Revista Lusófona de Educação

Ethno-pragmatique et prosodie. Présentation d'une hypothèse de recherche pluridisciplinaire dans le domaine des sciences du langage et de la culture

L'hypothèse de recherche que nous souhaitons vous présenter ici a pour objet l&s fonctions pragmatiques de Ia prosodie. L'ensemble de notre Projet de Recherche s'organise en effet autour d'une seule (mais fondamentale) hypothèse de travail: c'est dans et par Ia prosodie que pour Vessentiel le langage contribue activement à Ia construction du lien social. La formulation de cette hypothèse resulte des travaux que nous avons menés dans le champ de FAnthropologie des rites, étudiés dans une perspective sémiologique (au sens large), visant à mieux saisir dans quelle mesure et selon quelles modalités, dans et par le rite, Vordre du signe est signe de 1'ordreK Le rite constitue un système complexe de comrpunication symbolique qui contribue en effet activement à definir sur le plan sémantique et à structurer sur le plan dramaturgique les situations d'interaction sociale.

Petites villes européenes au bas Moyen Âge: perspectives de recherche

Fundação para a Ciência e Tecnologia,

Le Q-sort, un outil pour la recherche en soins le cas des représentations chez les infirmiers en psychiatrie de l'âge avancé [Q-sort, a useful research method in care in cases of psychiatric nursing of the aged]

Q-sort is a research method which allows defining profiles of attitudes toward a set of statements, ordered in relation to each other. Pertaining to the Q Methodology, the qualitative analysis of the Q-sorts is based on quantitative techniques. This method is of particular interest for research in health professions, a field in which attitudes of patients and professionals are very important. The method is presented in this article, along with an example of application in nursing in old age psychiatry.

Itinéraires : les guides de voyage en Suisse de la fin du XVIIIe siècle à 1914 : contribution à une histoire culturelle du tourisme

Menée dans une approche d'histoire culturelle, cette thèse de doctorat prend pour objet un corpus de guides de voyage en Suisse entre la fin du XVIIIe et le début du XXe siècle. Centrée sur les guides, ces livres qui entretiennent plus que d'autres des liens étroits avec le monde physique, elle a deux grands axes. Le premier est une lecture interdisciplinaire des guides de voyage, qui mêle littérature, bibliographie matérielle, histoire et histoire de l'art. Elle a cherché à comprendre les raisons et logiques du genre, en s'attachant particulièrement à ses fonctions et à ses formes (tant structurelles que textuelles et iconographiques). Cette partie de l'étude est importante, car elle n'a encore jamais été menée. Elle s'articule en deux volets : un volet théorique qui s'intéresse à l'histoire et à la forme des guides de voyage ; et une étude de cas qui s'attache à la lecture plus rapprochée de 6 guides : ceux de Thomas Martyr (1788, 1790 & 1794), Heinrich August Ottokar Reichard (1793 & 1802) et Johann Gottfried Ebel (1793, 1805, 1810-11 & 1817-18) pour la fin du XVIIIe siècle et le tournant du XIXe, et ceux de John Murray (1838 & 1886), Adolphe Joanne (1841, 1865, 1874, 1882 & 1908) et Karl Baedeker (1844, 1852, 1859, 1869, 1876, 1883, 1893, 1901 & 1913) pour le XIXe et la Belle Epoque. Le second axe de cette recherche est une réflexion sur les manières de mettre en scène l'espace dans un texte. En étudiant les itinéraires de voyage en Suisse (mais jusqu'au début du XXe siècle, « la Suisse »est pour les guides de voyage indifféremment un pays et une région supranationale : «les Alpes »), quatre types de mises en forme ont pu être identifiés : le voyage en boucle (linéaire, il part d'un point A pour y revenir), le voyage en marguerite (linéaire avec excursions), le voyage éclaté de l'ordre alphabétique, et enfin le voyage par «routes », fragments d'espace que l'on combine comme les pièces d'un puzzle, créant son chemin au fur et à mesure de sa progression. Ce faisant, on peut affirmer que les guides de voyage modernes (dont la forme se fixe dans les années 1830-1840 avec les premiers Murray, Baedeker et Joanne) se sont construits -malgré tout ce que l'on a pu dire sur la normativité prescriptive du tourisme -autour d'une liberté de plus en plus grande accordée aux voyageurs. Chacune de ces formes et chacun de ces types ayant une histoire et des conditions de possibilités, c'est en s'appuyant sur celles-ci que l'on peut mieux comprendre non seulement l'évolution du voyage et de ses pratiques, mais aussi la constitution de la forme littéraire qui l'a accompagné et permis. Ce faisant, des jalons pour une histoire culturelle du tourisme ont aussi été posés, histoire culturelle que j'appelle maintenant de mes voeux : il est quand même surprenant que, dans le pays de tourisme qu'est la Suisse, quand on s'est jusqu'à présent attaché à l'histoire du tourisme, on n'ait parlé qu'économie, société, infrastructures, loisirs ou santé, voire, plus récemment, écologie et bien-être. Redonner son creuset culturel à ce phénomène, c'est aussi retrouver une part du nôtre, car ces mémoires s'entremêlent indissociablement.