Designing Regularizers and Architectures for Recurrent Neural Networks

Cette thèse contribue a la recherche vers l'intelligence artificielle en utilisant des méthodes connexionnistes. Les réseaux de neurones récurrents sont un ensemble de modèles séquentiels de plus en plus populaires capable en principe d'apprendre des algorithmes arbitraires. Ces modèles effectuent un apprentissage en profondeur, un type d'apprentissage machine. Sa généralité et son succès empirique en font un sujet intéressant pour la recherche et un outil prometteur pour la création de l'intelligence artificielle plus générale. Le premier chapitre de cette thèse donne un bref aperçu des sujets de fonds: l'intelligence artificielle, l'apprentissage machine, l'apprentissage en profondeur et les réseaux de neurones récurrents. Les trois chapitres suivants couvrent ces sujets de manière de plus en plus spécifiques. Enfin, nous présentons quelques contributions apportées aux réseaux de neurones récurrents. Le chapitre \ref{arxiv1} présente nos travaux de régularisation des réseaux de neurones récurrents. La régularisation vise à améliorer la capacité de généralisation du modèle, et joue un role clé dans la performance de plusieurs applications des réseaux de neurones récurrents, en particulier en reconnaissance vocale. Notre approche donne l'état de l'art sur TIMIT, un benchmark standard pour cette tâche. Le chapitre \ref{cpgp} présente une seconde ligne de travail, toujours en cours, qui explore une nouvelle architecture pour les réseaux de neurones récurrents. Les réseaux de neurones récurrents maintiennent un état caché qui représente leurs observations antérieures. L'idée de ce travail est de coder certaines dynamiques abstraites dans l'état caché, donnant au réseau une manière naturelle d'encoder des tendances cohérentes de l'état de son environnement. Notre travail est fondé sur un modèle existant; nous décrivons ce travail et nos contributions avec notamment une expérience préliminaire.

Pkd1 transgenic mice: Adult model of polycystic kidney disease with extrarenal and renal phenotypes

While high levels of Pkd1 expression are detected in tissues of patients with autosomal dominant polycystic kidney disease (ADPKD), it is unclear whether enhanced expression could be a pathogenetic mechanism for this systemic disorder. Three transgenic mouse lines were generated from a Pkd1-BAC modified by introducing a silent tag via homologous recombination to target a sustained wild type genomic Pkd1 expression within the native tissue and temporal regulation. These mice specifically overexpressed the Pkd1 transgene in extrarenal and renal tissues from approximately 2- to 15-fold over Pkd1 endogenous levels in a copy-dependent manner. All transgenic mice reproducibly developed tubular and glomerular cysts leading to renal insufficiency. Interestingly, Pkd1(TAG) mice also exhibited renal fibrosis and calcium deposits in papilla reminiscent of nephrolithiasis as frequently observed in ADPKD. Similar to human ADPKD, these mice consistently displayed hepatic fibrosis and approximately 15% intrahepatic cysts of the bile ducts affecting females preferentially. Moreover, a significant proportion of mice developed cardiac anomalies with severe left ventricular hypertrophy, marked aortic arch distention and/or valvular stenosis and calcification that had profound functional impact. Of significance, Pkd1(TAG) mice displayed occasional cerebral lesions with evidence of ruptured and unruptured cerebral aneurysms. This Pkd1(TAG) mouse model demonstrates that overexpression of wildtype Pkd1 can trigger the typical adult renal and extrarenal phenotypes resembling human ADPKD.

Evaluation of a novel transcortical pin-sleeve system in a calf model

Le desserrage des tiges est une complication fréquente des plâtres avec tiges transcorticales (TP) chez les grands animaux, nécessitant souvent leur retrait prématuré avant la guérison des fractures. Les charges excessives centrées sur le cortex à l’interface os-tige proximo-externe et disto-interne causent de l'ostéolyse. En utilisant un modèle de veau nouveau-né, ce projet a évalué un nouveau système de tige-manchon et anneau integré dans un plâtre (PS) optimisé pour réduire la contrainte péri-implant et le stress à l'interface os-implant. On a émis l'hypothèse que les PS se traduiraient par une ostéolyse péri-implant moindre par rapport aux TP. Dix veaux en bonne santé, de 3 semaines d'âge, ont été implantés avec les TP ou PS dans le métacarpe droit, à raison de 2 implants par veau. Les veaux ont été observés quotidiennement pour le confort et la boiterie et ont été euthanasiés à 28 jours. Les données recueillies comprenaient les radiographies à la chirurgie et à l'euthanasie et les mesures histomorphométriques de contact os-implant sur des échantillons non-décalcifiés avec les implants in situ. Les données ont été analysées en utilisant le test de Cochran-Mantel-Haenszel, une valeur de P <0,05 a été considérée comme significative. L'épaisseur corticale était plus importante pour les implants distaux que proximaux pour les deux groupes lors de la chirurgie (P = 0,03), mais était similaire entre les groupes (P > 0,3). Les veaux avec TP ont développé une boiterie plus tôt (au jour 21) que les veaux avec PS (P = 0,04). Histologiquement, il y avait plus de contact direct os-implant cortical pour les implants PS distaux que les implants TP (P = 0,04). La jonction métaphyso-diaphysaire osseuse où les implants proximaux étaient situés est impropre aux deux systèmes; chacun a un minimum de contact os-implant et de l'ostéolyse extensive. Le système PS n'ayant pas causé une ostéolyse importante lorsque implantés dans l'os diaphysaire et peut-être une alternative convenable aux TP pour des fractures comminutives des membres distaux.

Social Movement Casework and the Law and Organizing Ideal : Toward a modified law and organizing model

En Amérique du Nord, les militants et les juristes ont longtemps cru que les avocats progressistes pourraient offrir des avantages tactiques importants aux mouvements sociaux. Cette perspective optimiste a cédé la place pendant les années 1970 à une attitude critique à l'égard des avocats et des litiges. Les chercheurs se sont interrogés sur l’efficacité d’assimiler les revendications politiques à des atteintes aux droits individuels, pour être ensuite présentées devant les tribunaux. Le litige était perçu comme source d’une influence négative qui favorise l’isolement et l’individualisme. De plus, les chercheurs ont remarqué qu’il y avait le potentiel pour les avocats militants – bien qu’ils soient bien intentionnés – d’exercer leur profession d’une manière qui pourrait donner un sentiment d’impuissance aux autres participants du mouvement social. Les premières versions de cette critique vont souvent assimiler la « stratégie juridique » avec le litige présenté devant les tribunaux judiciaires et géré par les avocats. Une réponse inspirante à cette critique a développée au début des années 2000, avec l'émergence d’un modèle de pratique que les chercheurs aux États-Unis ont nommé « law and organizing ». Des études normatives sur ce modèle offrent des arguments nuancés en faveur d’une pratique militante interdisciplinaire, partagée entre les avocats et les organisateurs. Ces études continuent à attribuer les risques d’individualisation et d’impuissance aux avocats et aux litiges. Selon ce modèle, au lieu de diriger la stratégie, les avocats travaillent en collaboration avec les travailleurs sociaux, les organisateurs et les citoyens pour planifier la stratégie du mouvement social, tout en favorisant l'autonomisation et la mobilisation de la collectivité. La présente thèse offre un examen critique de ce modèle, à travers l'une de ses tactiques bien connues: le traitement des problèmes juridiques individuels par les organisations militantes. La thèse examine les hypothèses fondatrices du modèle « law and organizing », en réinterprétant les problèmes d’individualisation et d’impuissance comme étant des enjeux reconnus dans de multiples disciplines, partout où les acteurs font de l’intervention sur une base individuelle afin de provoquer un changement systémique. La thèse soutient qu’un modèle de la pratique engagée du droit qui associe l'individualisation et l'impuissance exclusivement à la profession d'avocat risque de répondre de façon inadéquate aux deux problèmes. La recherche propose un modèle modifié qui met l'accent sur les options juridiques accessibles aux militants, tout en reconnaissant que la mobilisation et l'autonomisation sont des priorités qui sont partagées entre plusieurs disciplines, même si elles peuvent être traitées de façon particulière à l’intérieur de la profession juridique.

Patient-specific model of a scoliotic torso for surgical planning

A method for the construction of a patient-specific model of a scoliotic torso for surgical planning via inter- patient registration is presented. Magnetic Resonance Images (MRI) of a generic model are registered to surface topography (TP) and X-ray data of a test patient. A partial model is first obtained via thin-plate spline registration between TP and X-ray data of the test patient. The MRIs from the generic model are then fit into the test patient using articulated model registration between the vertebrae of the generic model’s MRIs in prone position and the test patient’s X-rays in standing position. A non-rigid deformation of the soft tissues is performed using a modified thin-plate spline constrained to maintain bone rigidity and to fit in the space between the vertebrae and the surface of the torso. Results show average Dice values of 0.975 ± 0.012 between the MRIs following inter-patient registration and the surface topography of the test patient, which is comparable to the average value of 0.976 ± 0.009 previously obtained following intra-patient registration. The results also show a significant improvement compared to rigid inter-patient registration. Future work includes validating the method on a larger cohort of patients and incorporating soft tissue stiffness constraints. The method developed can be used to obtain a geometric model of a patient including bone structures, soft tissues and the surface of the torso which can be incorporated in a surgical simulator in order to better predict the outcome of scoliosis surgery, even if MRI data cannot be acquired for the patient.