Adaptive Markov chain Monte Carlo and Bayesian filtering for state space models

This thesis is concerned with the state and parameter estimation in state space models. The estimation of states and parameters is an important task when mathematical modeling is applied to many different application areas such as the global positioning systems, target tracking, navigation, brain imaging, spread of infectious diseases, biological processes, telecommunications, audio signal processing, stochastic optimal control, machine learning, and physical systems. In Bayesian settings, the estimation of states or parameters amounts to computation of the posterior probability density function. Except for a very restricted number of models, it is impossible to compute this density function in a closed form. Hence, we need approximation methods. A state estimation problem involves estimating the states (latent variables) that are not directly observed in the output of the system. In this thesis, we use the Kalman filter, extended Kalman filter, Gauss–Hermite filters, and particle filters to estimate the states based on available measurements. Among these filters, particle filters are numerical methods for approximating the filtering distributions of non-linear non-Gaussian state space models via Monte Carlo. The performance of a particle filter heavily depends on the chosen importance distribution. For instance, inappropriate choice of the importance distribution can lead to the failure of convergence of the particle filter algorithm. In this thesis, we analyze the theoretical Lᵖ particle filter convergence with general importance distributions, where p ≥2 is an integer. A parameter estimation problem is considered with inferring the model parameters from measurements. For high-dimensional complex models, estimation of parameters can be done by Markov chain Monte Carlo (MCMC) methods. In its operation, the MCMC method requires the unnormalized posterior distribution of the parameters and a proposal distribution. In this thesis, we show how the posterior density function of the parameters of a state space model can be computed by filtering based methods, where the states are integrated out. This type of computation is then applied to estimate parameters of stochastic differential equations. Furthermore, we compute the partial derivatives of the log-posterior density function and use the hybrid Monte Carlo and scaled conjugate gradient methods to infer the parameters of stochastic differential equations. The computational efficiency of MCMC methods is highly depend on the chosen proposal distribution. A commonly used proposal distribution is Gaussian. In this kind of proposal, the covariance matrix must be well tuned. To tune it, adaptive MCMC methods can be used. In this thesis, we propose a new way of updating the covariance matrix using the variational Bayesian adaptive Kalman filter algorithm.

Teollinen öljyn erotus koalesenssisuodatuksella väliaineessa

Koalesenssi on ilmiö, jossa dispergoidun faasin pisarat pyrkivät muodostamaan suurempia pisaroita kunnes erotettava faasi muodostuu. Koalesenssi tapahtuu kolmessa päävaiheessa, jotka ovat lähestyminen, kiinnittyminen ja irrotus. Lähestymiseen vaikuttavat mekanismit ovat muuan muassa sieppaus, diffuusio, törmäysvaikutus, sedimentaatio, sähköiset repul-siovoimat ja van der Waalsin voimat. Kiinnittymisvaiheessa dispergoidun faasin pisarat syrjäyttävät väliaineen nestekalvon samalla kostuttaen väliaineen pinnan. Irrotusvaiheessa pisaran hydrodynaaminen voima voittaa pisaran ja väliaineen välisen adheesiovoiman. Koalesenssin tehokkuuteen vaikuttavat useat eri parametrit kuten virtausnopeus, pedin ominaisuudet, väliaineen ominaisuudet sekä emulsion ominaisuudet. Nämä kaikki asiat tulee ottaa huomioon koalesenssisuodatuksen suunnittelussa. Koalesenssisuodatus lukeutuu syväsuodatusmenetelmiin, jotka on ollut käytössä jo yli 100 vuotta. Koalesenssisuodatusmenetelmä on tehokas menetelmä pienten pisaroiden erottami-seen. Menetelmää käytetään esimerkiksi öljyisten jätevesien puhdistuksessa. Teollisen öljyn syväsuodatuksen etuihin kuuluu muun muassa sen kompakti koko, alhaisemmat käyt-tökustannukset, korkea erotusaste, kyky erotella pienetkin pisarat sekä helppo operointi, automatisointi ja huolto. Suurin haittapuoli on kuitenkin väliaineen tukkeutuminen, joten prosessi vaatii puhdistuksen tai väliaineen uusimisen. Tämän kandidaatintyön tarkoituksena oli koota kirjallisuustyö öljyn koalesenssisuodatuk-sesta. Työssä kartoitettiin koalesenssisuodatuksen lähtökohdat, teoria, tärkeimmät teolli-suuden sovellukset sekä väliaineet.