Monte Carlo Methods in Parameter Estimation of Nonlinear Models

Yksi keskeisimmistä tehtävistä matemaattisten mallien tilastollisessa analyysissä on mallien tuntemattomien parametrien estimointi. Tässä diplomityössä ollaan kiinnostuneita tuntemattomien parametrien jakaumista ja niiden muodostamiseen sopivista numeerisista menetelmistä, etenkin tapauksissa, joissa malli on epälineaarinen parametrien suhteen. Erilaisten numeeristen menetelmien osalta pääpaino on Markovin ketju Monte Carlo -menetelmissä (MCMC). Nämä laskentaintensiiviset menetelmät ovat viime aikoina kasvattaneet suosiotaan lähinnä kasvaneen laskentatehon vuoksi. Sekä Markovin ketjujen että Monte Carlo -simuloinnin teoriaa on esitelty työssä siinä määrin, että menetelmien toimivuus saadaan perusteltua. Viime aikoina kehitetyistä menetelmistä tarkastellaan etenkin adaptiivisia MCMC menetelmiä. Työn lähestymistapa on käytännönläheinen ja erilaisia MCMC -menetelmien toteutukseen liittyviä asioita korostetaan. Työn empiirisessä osuudessa tarkastellaan viiden esimerkkimallin tuntemattomien parametrien jakaumaa käyttäen hyväksi teoriaosassa esitettyjä menetelmiä. Mallit kuvaavat kemiallisia reaktioita ja kuvataan tavallisina differentiaaliyhtälöryhminä. Mallit on kerätty kemisteiltä Lappeenrannan teknillisestä yliopistosta ja Åbo Akademista, Turusta.

Gas-liquid mass transfer in bubbly flow: Estimation of mass transfer, bubble size and reactor performance in various applications

Gas-liquid mass transfer is an important issue in the design and operation of many chemical unit operations. Despite its importance, the evaluation of gas-liquid mass transfer is not straightforward due to the complex nature of the phenomena involved. In this thesis gas-liquid mass transfer was evaluated in three different gas-liquid reactors in a traditional way by measuring the volumetric mass transfer coefficient (kLa). The studied reactors were a bubble column with a T-junction two-phase nozzle for gas dispersion, an industrial scale bubble column reactor for the oxidation of tetrahydroanthrahydroquinone and a concurrent downflow structured bed.The main drawback of this approach is that the obtained correlations give only the average volumetric mass transfer coefficient, which is dependent on average conditions. Moreover, the obtained correlations are valid only for the studied geometry and for the chemical system used in the measurements. In principle, a more fundamental approach is to estimate the interfacial area available for mass transfer from bubble size distributions obtained by solution of population balance equations. This approach has been used in this thesis by developing a population balance model for a bubble column together with phenomenological models for bubble breakage and coalescence. The parameters of the bubble breakage rate and coalescence rate models were estimated by comparing the measured and calculated bubble sizes. The coalescence models always have at least one experimental parameter. This is because the bubble coalescence depends on liquid composition in a way which is difficult to evaluate using known physical properties. The coalescence properties of some model solutions were evaluated by measuring the time that a bubble rests at the free liquid-gas interface before coalescing (the so-calledpersistence time or rest time). The measured persistence times range from 10 msup to 15 s depending on the solution. The coalescence was never found to be instantaneous. The bubble oscillates up and down at the interface at least a coupleof times before coalescence takes place. The measured persistence times were compared to coalescence times obtained by parameter fitting using measured bubble size distributions in a bubble column and a bubble column population balance model. For short persistence times, the persistence and coalescence times are in good agreement. For longer persistence times, however, the persistence times are at least an order of magnitude longer than the corresponding coalescence times from parameter fitting. This discrepancy may be attributed to the uncertainties concerning the estimation of energy dissipation rates, collision rates and mechanisms and contact times of the bubbles.

Genes outside The Hla Region affecting Susceptibility to Type 1 Diabetes - The Role of Iddm2 and Iddm9 in the Finnish Population

Tyypin 1 diabeteksen perinnöllinen alttius Suomessa - HLA-alueen ulkopuolisten alttiuslokusten IDDM2 ja IDDM9 rooli taudin periytymisessä HLA-alue, joka sijaitsee kromosomissa 6p21.3, vastaa noin puolesta perinnöllisestä alttiudesta sairastua tyypin 1 diabetekseen. Myös HLA-alueen ulkopuolisten lokusten on todettu liittyvän sairausalttiuteen. Näistä kolmen lokuksen on varmistettu olevan todellisia alttiuslokuksia ja lisäksi useiden muiden, vielä varmistamattomien lokusten, on todettu liittyvän sairausalttiuteen. Tässä tutkimuksessa 12:n HLA-alueen ulkopuolisen alttiuslokuksen kytkentä tyypin 1 diabetekseen tutkittiin käyttäen 107:aa suomalaista multiplex-perhettä. Jatkotutkimuksessa analysoitiin IDDM9-alueen kytkentä ja assosiaatio sairauteen laajennetuissa perhemateriaaleissa sekä IDDM2-alueen mahdollinen interaktio HLA-alueen kanssa sairauden muodostumisessa. Lisäksi suoritettiin IDDM2-alueen suojaavien haplotyyppien alatyypitys tarkoituksena tutkia eri haplotyyppien käyttökelpoisuutta sairastumisriskin tarkempaa ennustamista varten. Ensimmäisessä kytkentätutkimuksessa ei löytynyt koko genomin tasolla merkitsevää tai viitteellistä kytkentää tutkituista HLA-alueen ulkopuolisista lokuksista. Voimakkain havaittu nimellisen merkitsevyyden tavoittava kytkentä nähtiin IDDM9-alueen markkerilla D3S3576 (MLS=1.05). Tutkimuksessa ei kyetty varmistamaan tai sulkemaan pois aiempia kytkentähavaintoja tutkituilla lokuksilla, mutta IDDM9-alueen jatkotutkimuksessa havaittu voimakas kytkentä (MLS=3.4) ja merkitsevä assosiaatio (TDT p=0.0002) viittaa vahvasti siihen, että 3q21-alueella sijaitsee todellinen tyypin 1 diabeteksen alttiusgeeni, jolloin alueen kattava assosiaatiotutkimus olisi perusteltu jatkotoimenpide. Sairauteen altistava IDDM2-alueen MspI-2221 genotyyppi CC oli nimellisesti yleisempi matalan tai kohtalaisen HLA-sairastumisriskin diabeetikoilla, verrattuna korkean HLA-riskin potilaisiin (p=0.05). Myös genotyyppijakauman vertailu osoitti merkitsevää eroa ryhmien välillä (p=0.01). VNTR-haplotyyppitutkimus osoitti, että IIIA/IIIA-homotsygootin sairaudelta suojaava vaikutus on merkitsevästi voimakkaampi kuin muiden luokka III:n genotyypeillä. Nämä tulokset viittaavat IDDM2-HLA -vuorovaikutukseen sekä siihen että IDDM2-alueen haplotyyppien välillä esiintyy etiologista heterogeniaa. Tämän johdosta IDDM2-alueen haplotyyppien tarkempi määrittäminen voisi tehostaa tyypin 1 diabeteksen riskiarviointia.

Bayesian methods for estimation, optimization and experimental design

Mathematical models often contain parameters that need to be calibrated from measured data. The emergence of efficient Markov Chain Monte Carlo (MCMC) methods has made the Bayesian approach a standard tool in quantifying the uncertainty in the parameters. With MCMC, the parameter estimation problem can be solved in a fully statistical manner, and the whole distribution of the parameters can be explored, instead of obtaining point estimates and using, e.g., Gaussian approximations. In this thesis, MCMC methods are applied to parameter estimation problems in chemical reaction engineering, population ecology, and climate modeling. Motivated by the climate model experiments, the methods are developed further to make them more suitable for problems where the model is computationally intensive. After the parameters are estimated, one can start to use the model for various tasks. Two such tasks are studied in this thesis: optimal design of experiments, where the task is to design the next measurements so that the parameter uncertainty is minimized, and model-based optimization, where a model-based quantity, such as the product yield in a chemical reaction model, is optimized. In this thesis, novel ways to perform these tasks are developed, based on the output of MCMC parameter estimation. A separate topic is dynamical state estimation, where the task is to estimate the dynamically changing model state, instead of static parameters. For example, in numerical weather prediction, an estimate of the state of the atmosphere must constantly be updated based on the recently obtained measurements. In this thesis, a novel hybrid state estimation method is developed, which combines elements from deterministic and random sampling methods.