Comparing hybrid data assimilation methods on the Lorenz 1963 model with increasing nonlinearity

We systematically compare the performance of ETKF-4DVAR, 4DVAR-BEN and 4DENVAR with respect to two traditional methods (4DVAR and ETKF) and an ensemble transform Kalman smoother (ETKS) on the Lorenz 1963 model. We specifically investigated this performance with increasing nonlinearity and using a quasi-static variational assimilation algorithm as a comparison. Using the analysis root mean square error (RMSE) as a metric, these methods have been compared considering (1) assimilation window length and observation interval size and (2) ensemble size to investigate the influence of hybrid background error covariance matrices and nonlinearity on the performance of the methods. For short assimilation windows with close to linear dynamics, it has been shown that all hybrid methods show an improvement in RMSE compared to the traditional methods. For long assimilation window lengths in which nonlinear dynamics are substantial, the variational framework can have diffculties fnding the global minimum of the cost function, so we explore a quasi-static variational assimilation (QSVA) framework. Of the hybrid methods, it is seen that under certain parameters, hybrid methods which do not use a climatological background error covariance do not need QSVA to perform accurately. Generally, results show that the ETKS and hybrid methods that do not use a climatological background error covariance matrix with QSVA outperform all other methods due to the full flow dependency of the background error covariance matrix which also allows for the most nonlinearity.

The effect of the equivalent-weights particle filter on dynamical balance in a primitive equation model

The disadvantage of the majority of data assimilation schemes is the assumption that the conditional probability density function of the state of the system given the observations [posterior probability density function (PDF)] is distributed either locally or globally as a Gaussian. The advantage, however, is that through various different mechanisms they ensure initial conditions that are predominantly in linear balance and therefore spurious gravity wave generation is suppressed. The equivalent-weights particle filter is a data assimilation scheme that allows for a representation of a potentially multimodal posterior PDF. It does this via proposal densities that lead to extra terms being added to the model equations and means the advantage of the traditional data assimilation schemes, in generating predominantly balanced initial conditions, is no longer guaranteed. This paper looks in detail at the impact the equivalent-weights particle filter has on dynamical balance and gravity wave generation in a primitive equation model. The primary conclusions are that (i) provided the model error covariance matrix imposes geostrophic balance, then each additional term required by the equivalent-weights particle filter is also geostrophically balanced; (ii) the relaxation term required to ensure the particles are in the locality of the observations has little effect on gravity waves and actually induces a reduction in gravity wave energy if sufficiently large; and (iii) the equivalent-weights term, which leads to the particles having equivalent significance in the posterior PDF, produces a change in gravity wave energy comparable to the stochastic model error. Thus, the scheme does not produce significant spurious gravity wave energy and so has potential for application in real high-dimensional geophysical applications.

Diagnosing observation error correlations for Doppler radar radial winds in the Met Office UKV model using observation-minus-background and observation-minus-analysis statistics

With the development of convection-permitting numerical weather prediction the efficient use of high resolution observations in data assimilation is becoming increasingly important. The operational assimilation of these observations, such as Dopplerradar radial winds, is now common, though to avoid violating the assumption of un- correlated observation errors the observation density is severely reduced. To improve the quantity of observations used and the impact that they have on the forecast will require the introduction of the full, potentially correlated, error statistics. In this work, observation error statistics are calculated for the Doppler radar radial winds that are assimilated into the Met Office high resolution UK model using a diagnostic that makes use of statistical averages of observation-minus-background and observation-minus-analysis residuals. This is the first in-depth study using the diagnostic to estimate both horizontal and along-beam correlated observation errors. By considering the new results obtained it is found that the Doppler radar radial wind error standard deviations are similar to those used operationally and increase as the observation height increases. Surprisingly the estimated observation error correlation length scales are longer than the operational thinning distance. They are dependent on both the height of the observation and on the distance of the observation away from the radar. Further tests show that the long correlations cannot be attributed to the use of superobservations or the background error covariance matrix used in the assimilation. The large horizontal correlation length scales are, however, in part, a result of using a simplified observation operator.

Sparse density estimation on multinomial manifold combining local component analysis

A new sparse kernel density estimator is introduced based on the minimum integrated square error criterion combining local component analysis for the finite mixture model. We start with a Parzen window estimator which has the Gaussian kernels with a common covariance matrix, the local component analysis is initially applied to find the covariance matrix using expectation maximization algorithm. Since the constraint on the mixing coefficients of a finite mixture model is on the multinomial manifold, we then use the well-known Riemannian trust-region algorithm to find the set of sparse mixing coefficients. The first and second order Riemannian geometry of the multinomial manifold are utilized in the Riemannian trust-region algorithm. Numerical examples are employed to demonstrate that the proposed approach is effective in constructing sparse kernel density estimators with competitive accuracy to existing kernel density estimators.

Assessment of inbreeding depression in a Guzerat dairy herd: Effects of individual increase in inbreeding coefficients on production and reproduction

Influences of inbreeding on daily milk yield (DMY), age at first calving (AFC), and calving intervals (CI) were determined on a highly inbred zebu dairy subpopulation of the Guzerat breed. Variance components were estimated using animal models in single-trait analyses. Two approaches were employed to estimate inbreeding depression: using individual increase in inbreeding coefficients or using inbreeding coefficients as possible covariates included in the statistical models. The pedigree file included 9,915 animals, of which 9,055 were inbred, with an average inbreeding coefficient of 15.2%. The maximum inbreeding coefficient observed was 49.45%, and the average inbreeding for the females still in the herd during the analysis was 26.42%. Heritability estimates were 0.27 for DMY and 0.38 for AFC. The genetic variance ratio estimated with the random regression model for CI ranged around 0.10. Increased inbreeding caused poorer performance in DMY, AFC, and CI. However, some of the cows with the highest milk yield were among the highly inbred animals in this subpopulation. Individual increase in inbreeding used as a covariate in the statistical models accounted for inbreeding depression while avoiding overestimation that may result when fitting inbreeding coefficients.

Improved testing inference in mixed linear models

Mixed linear models are commonly used in repeated measures studies. They account for the dependence amongst observations obtained from the same experimental unit. Often, the number of observations is small, and it is thus important to use inference strategies that incorporate small sample corrections. In this paper, we develop modified versions of the likelihood ratio test for fixed effects inference in mixed linear models. In particular, we derive a Bartlett correction to such a test, and also to a test obtained from a modified profile likelihood function. Our results generalize those in [Zucker, D.M., Lieberman, O., Manor, O., 2000. Improved small sample inference in the mixed linear model: Bartlett correction and adjusted likelihood. Journal of the Royal Statistical Society B, 62,827-838] by allowing the parameter of interest to be vector-valued. Additionally, our Bartlett corrections allow for random effects nonlinear covariance matrix structure. We report simulation results which show that the proposed tests display superior finite sample behavior relative to the standard likelihood ratio test. An application is also presented and discussed. (C) 2008 Elsevier B.V. All rights reserved.

Bias correction in a multivariate normal regression model with general parameterization

This paper derives the second-order biases Of maximum likelihood estimates from a multivariate normal model where the mean vector and the covariance matrix have parameters in common. We show that the second order bias can always be obtained by means of ordinary weighted least-squares regressions. We conduct simulation studies which indicate that the bias correction scheme yields nearly unbiased estimators. (C) 2009 Elsevier B.V. All rights reserved.

Uso da análise discriminante regularizada (RDA) no reconhecimento de padrões em imagens digitais hiperespectral de sensoriamento remoto

Em cenas naturais, ocorrem com certa freqüência classes espectralmente muito similares, isto é, os vetores média são muito próximos. Em situações como esta, dados de baixa dimensionalidade (LandSat-TM, Spot) não permitem uma classificação acurada da cena. Por outro lado, sabe-se que dados em alta dimensionalidade [FUK 90] tornam possível a separação destas classes, desde que as matrizes covariância sejam suficientemente distintas. Neste caso, o problema de natureza prática que surge é o da estimação dos parâmetros que caracterizam a distribuição de cada classe. Na medida em que a dimensionalidade dos dados cresce, aumenta o número de parâmetros a serem estimados, especialmente na matriz covariância. Contudo, é sabido que, no mundo real, a quantidade de amostras de treinamento disponíveis, é freqüentemente muito limitada, ocasionando problemas na estimação dos parâmetros necessários ao classificador, degradando portanto a acurácia do processo de classificação, na medida em que a dimensionalidade dos dados aumenta. O Efeito de Hughes, como é chamado este fenômeno, já é bem conhecido no meio científico, e estudos vêm sendo realizados com o objetivo de mitigar este efeito. Entre as alternativas propostas com a finalidade de mitigar o Efeito de Hughes, encontram-se as técnicas de regularização da matriz covariância. Deste modo, técnicas de regularização para a estimação da matriz covariância das classes, tornam-se um tópico interessante de estudo, bem como o comportamento destas técnicas em ambientes de dados de imagens digitais de alta dimensionalidade em sensoriamento remoto, como por exemplo, os dados fornecidos pelo sensor AVIRIS. Neste estudo, é feita uma contextualização em sensoriamento remoto, descrito o sistema sensor AVIRIS, os princípios da análise discriminante linear (LDA), quadrática (QDA) e regularizada (RDA) são apresentados, bem como os experimentos práticos dos métodos, usando dados reais do sensor. Os resultados mostram que, com um número limitado de amostras de treinamento, as técnicas de regularização da matriz covariância foram eficientes em reduzir o Efeito de Hughes. Quanto à acurácia, em alguns casos o modelo quadrático continua sendo o melhor, apesar do Efeito de Hughes, e em outros casos o método de regularização é superior, além de suavizar este efeito. Esta dissertação está organizada da seguinte maneira: No primeiro capítulo é feita uma introdução aos temas: sensoriamento remoto (radiação eletromagnética, espectro eletromagnético, bandas espectrais, assinatura espectral), são também descritos os conceitos, funcionamento do sensor hiperespectral AVIRIS, e os conceitos básicos de reconhecimento de padrões e da abordagem estatística. No segundo capítulo, é feita uma revisão bibliográfica sobre os problemas associados à dimensionalidade dos dados, à descrição das técnicas paramétricas citadas anteriormente, aos métodos de QDA, LDA e RDA, e testes realizados com outros tipos de dados e seus resultados.O terceiro capítulo versa sobre a metodologia que será utilizada nos dados hiperespectrais disponíveis. O quarto capítulo apresenta os testes e experimentos da Análise Discriminante Regularizada (RDA) em imagens hiperespectrais obtidos pelo sensor AVIRIS. No quinto capítulo são apresentados as conclusões e análise final. A contribuição científica deste estudo, relaciona-se à utilização de métodos de regularização da matriz covariância, originalmente propostos por Friedman [FRI 89] para classificação de dados em alta dimensionalidade (dados sintéticos, dados de enologia), para o caso especifico de dados de sensoriamento remoto em alta dimensionalidade (imagens hiperespectrais). A conclusão principal desta dissertação é que o método RDA é útil no processo de classificação de imagens com dados em alta dimensionalidade e classes com características espectrais muito próximas.

A conditional likelihood ratio test for structural models

This paper develops a general method for constructing similar tests based on the conditional distribution of nonpivotal statistics in a simultaneous equations model with normal errors and known reducedform covariance matrix. The test based on the likelihood ratio statistic is particularly simple and has good power properties. When identification is strong, the power curve of this conditional likelihood ratio test is essentially equal to the power envelope for similar tests. Monte Carlo simulations also suggest that this test dominates the Anderson- Rubin test and the score test. Dropping the restrictive assumption of disturbances normally distributed with known covariance matrix, approximate conditional tests are found that behave well in small samples even when identification is weak.

Microsatellite analysis of pacu broodstocks used in the stocking program of Paranapanema River, Brazil

O monitoramento da diversidade genética é fundamental em um programa de repovoamento. Avaliouse a diversidade genética de pacu Piaractus mesopotamicus (Holmberg, 1887) em duas estações de piscicultura em Andirá -Paraná, Brasil, utilizadas no programa de repovoamento do Rio Paranapanema. Foram amplificados seis loci microssatélite para avaliar 60 amostras de nadadeira. O estoque de reprodutores B apresentou maior número de alelos e heterozigose (alelos: 22 e H O: 0,628) que o estoque de reprodutores A (alelos: 21 e H O: 0,600). Alelos com baixos níveis de frequência foram observados nos dois estoques. Os coeficientes positivos de endogamia no locus Pme2 (estoque A: F IS = 0,30 e estoque B: F IS = 0,20), Pme5 (estoque B: F IS = 0,15), Pme14 (estoque A: F IS = 0,07) e Pme28 (estoque A: F IS = 0,24 e estoque B: F IS = 0,20), indicaram deficiência de heterozigotos. Foi detectada a presença de um alelo nulo no lócus Pme2. As estimativas negativas nos loci Pme4 (estoque A: F IS = -0,43 e estoque B: F IS= -0,37), Pme5 (estoque A: F IS = - 0,11), Pme14 (estoque B: F IS = - 0,15) e Pme32 (estoque A: F IS = - 0,93 e estoque B: F IS = - 0,60) foram indicativas de excesso de heterozigotos. Foi evidenciado desequilíbrio de ligação e riqueza alélica baixa só no estoque A. A diversidade genética de Nei foi alta nos dois estoques. A distância (0,085) e identidade (0,918) genética mostraram similaridade entre os estoques, o qual reflete uma possível origem comum. 6,05% da variância genética total foi devida a diferenças entre os estoques. Foi observado um recente efeito gargalo nos dois estoques. Os resultados indicaram uma alta diversidade genética nos estoques de reprodutores e baixa diferenciação genética entre eles, o que foi causado pelo manejo reprodutivo das pisciculturas, redução do tamanho populacional e intercâmbio genético entre as pisciculturas.

Avaliação dos parâmetros genéticos em progênies de meio-irmãos de uma sub-população de milho composto Flint para resistência à lagarta-da-espiga Helicoverpa zea (Bod.)

Foram estudadas 100 progênies de meio-irmãos de uma sub-população de milho (Zea mays L.) Composto Flint com o objetivo de avaliar a resistência de genótipos à lagarta-da-espiga Helicoverpa zea (Bod.). Foram obtidos os valores de danos médios da lagarta-da-espiga de 1,14 cm de comprimento na espiga determinado pela escala de Widstrom e coeficiente de variação experimental (CVE) de 23,4%. Dos parâmetros genéticos avaliados, a estimativa de herdabilidade (h²) foi de 6%, variância genética (VG) de 0,0015 cm² e variância fenotípica (VF) de 0,025 cm² para danos de H. zea. No entanto, o comprimento da ponta da bráctea e compactação da bráctea alcançaram resultados de herdabilidade de 75% e 72% respectivamente. Essa sub-população de milho apresenta variabilidade genética suficiente para utilização em programas de melhoramento, sendo que a resistência à lagarta-da-espiga pode ser obtida através da melhoria dos caracteres morfológicos diretamente relacionados à praga, como a compactação e comprimento da bráctea.

Componentes da variância em caracteres agronômicos de acerola

Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP)

Heritability estimation in early generations of two-way crosses in soybean

Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP)

Eficiência reprodutiva e produtiva em rebanhos leiteiros comerciais monitorados por sistema informatizado

O estudo foi conduzido com os objetivos de analisar o desempenho produtivo e algumas medidas de eficiência reprodutiva de 1877 vacas provenientes de quatro grupos genéticos Holandês ¾ Zebu e estimar os parâmetros genéticos pertinentes. Os animais pertenciam a três rebanhos comerciais que foram monitorados pelo Sistema Computacional de Informação DAISY (The Dairy Information System), durante período de 1989 a 1998. Para consistência dos dados, formação dos arquivos e análises preliminares foram usados os procedimentos disponíveis no SAS (Statistical Analysis System), enquanto os componentes de (co)variância foram estimados pelo método de máxima verossimilhança restrita livre de derivada (MTDFREML), sob um modelo animal. Os efeitos de grupo genético e ano do parto foram significativos sobre a idade da vaca ao primeiro parto (IPC), intervalo parto - primeiro serviço (PP1S), duração da lactação(DL), produção total de leite (PT) e produção de leite por dia de intervalo de parto (PLIEP). As estimativas de herdabilidade (h²) para as características reprodutivas ficaram próximas de zero, evidenciando grande dependência do manejo oferecido aos rebanhos, enquanto o valor de 0,28 para a h² da PT mostrou variância genética aditiva média. A correlação genética entre PT e DL de 0,81 pode ser considerada de alta magnitude.

Efeitos genéticos e não-genéticos sobre o intervalo de parto em fêmeas suínas no Sudeste do Brasil

The effect of environmental and genetic effects on the farrowing interval in Dalland (C-40) sows in the Southeast of Brazil was studied. Data consisting of 1,013 farrowing intervals recorded in two herds were analyzed, using a model that included the sire and the dam as random effects and the year of farrowing, the herd and the farrowing season as fixed effects, plus the covariables sow's age at farrowing, litter size at birth, lactation length and weaning-estrus interval. For the farrowing interval first only, variance components were estimated by REML, with an animal model that included, as fixed effect, a contemporary group and, as random effects, the additive genetic variance and the error. The mean farrowing interval was 140.9+5.7 days, with a 4.0% coefficient of variation. Variance analysis showed no effect of either year, season of farrowing or herd on the farrowing interval. The sire effect was not important for the farrowing interval, but the dam represented an important source of variation. The total number of piglets born and the sow's age at farrowing had no influence on the farrowing interval. The length of lactation exerted an influence on the farrowing interval, accounting for 19.4% of the total variation of this trait. Likewise, the linear regression of the weaning-estrus interval in relation to the farrowing interval was highly significant, accounting for 51.7% of the total variation. The heritability estimate was 0.00, suggesting that no genetic gain can be obtained by selection for a shorter farrowing interval.