A stochastic neighborhood conditional autoregressive model for spatial data

A spatial process observed over a lattice or a set of irregular regions is usually modeled using a conditionally autoregressive (CAR) model. The neighborhoods within a CAR model are generally formed deterministically using the inter-distances or boundaries between the regions. An extension of CAR model is proposed in this article where the selection of the neighborhood depends on unknown parameter(s). This extension is called a Stochastic Neighborhood CAR (SNCAR) model. The resulting model shows flexibility in accurately estimating covariance structures for data generated from a variety of spatial covariance models. Specific examples are illustrated using data generated from some common spatial covariance functions as well as real data concerning radioactive contamination of the soil in Switzerland after the Chernobyl accident.

Gaussian processes for machine learning (GPML) toolbox

The GPML toolbox provides a wide range of functionality for Gaussian process (GP) inference and prediction. GPs are specified by mean and covariance functions; we offer a library of simple mean and covariance functions and mechanisms to compose more complex ones. Several likelihood functions are supported including Gaussian and heavy-tailed for regression as well as others suitable for classification. Finally, a range of inference methods is provided, including exact and variational inference, Expectation Propagation, and Laplace’s method dealing with non-Gaussian likelihoods and FITC for dealing with large regression tasks.

Avoiding pathologies in very deep networks

Choosing appropriate architectures and regularization strategies of deep networks is crucial to good predictive performance. To shed light on this problem, we analyze the analogous problem of constructing useful priors on compositions of functions. Specifically, we study the deep Gaussian process, a type of infinitely-wide, deep neural network. We show that in standard architectures, the representational capacity of the network tends to capture fewer degrees of freedom as the number of layers increases, retaining only a single degree of freedom in the limit. We propose an alternate network architecture which does not suffer from this pathology. We also examine deep covariance functions, obtained by composing infinitely many feature transforms. Lastly, we characterize the class of models obtained by performing dropout on Gaussian processes.

Geostatistical Fisher discriminant analysis

A geostatistical version of the classical Fisher rule (linear discriminant analysis) is presented.This method is applicable when a large dataset of multivariate observations is available within a domain split in several known subdomains, and it assumes that the variograms (or covariance functions) are comparable between subdomains, which only differ in the mean values of the available variables. The method consists on finding the eigen-decomposition of the matrix W-1B, where W is the matrix of sills of all direct- and cross-variograms, and B is the covariance matrix of the vectors of weighted means within each subdomain, obtained by generalized least squares. The method is used to map peat blanket occurrence in Northern Ireland, with data from the Tellus
survey, which requires a minimal change to the general recipe: to use compositionally-compliant variogram tools and models, and work with log-ratio transformed data.

Machine learning Vasicek model calibration with Gaussian processes

In this article, we calibrate the Vasicek interest rate model under the risk neutral measure by learning the model parameters using Gaussian processes for machine learning regression. The calibration is done by maximizing the likelihood of zero coupon bond log prices, using mean and covariance functions computed analytically, as well as likelihood derivatives with respect to the parameters. The maximization method used is the conjugate gradients. The only prices needed for calibration are zero coupon bond prices and the parameters are directly obtained in the arbitrage free risk neutral measure.

Estimation of genetic parameters for partial egg production periods by means of random regression models

Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq)

Utilização de modelos de regressão aleatória para produção de leite no dia do controle, com diferentes estruturas de variâncias residuais

Foram utilizados quatorze modelos de regressão aleatória, para ajustar 86.598 dados de produção de leite no dia do controle de 2.155 primeiras lactações de vacas Caracu, truncadas aos 305 dias. Os modelos incluíram os efeitos fixos de grupo contemporâneo e a covariável idade da vaca ao parto. Uma regressão ortogonal de ordem cúbica foi usada para modelar a trajetória média da população. Os efeitos genéticos aditivos e de ambiente permanente foram modelados por meio de regressões aleatórias, usando polinômios ortogonais de Legendre, de ordens cúbicas. Diferentes estruturas de variâncias residuais foram testadas e consideradas por meio de classes contendo 1, 10, 15 e 43 variâncias residuais e de funções de variâncias (FV) usando polinômios ordinários e ortogonais, cujas ordens variaram de quadrática até sêxtupla. Os modelos foram comparados usando o teste da razão de verossimilhança, o Critério de Informação de Akaike e o Critério de Informação Bayesiano de Schwar. Os testes indicaram que, quanto maior a ordem da função de variâncias, melhor o ajuste. Dos polinômios ordinários, a função de sexta ordem foi superior. Os modelos com classes de variâncias residuais foram aparentemente superiores àqueles com funções de variância. O modelo com homogeneidade de variâncias foi inadequado. O modelo com 15 classes heterogêneas foi o que melhor ajustou às variâncias residuais, entretanto, os parâmetros genéticos estimados foram muito próximos para os modelos com 10, 15 ou 43 classes de variâncias ou com FV de sexta ordem.

Estimativas de parâmetros genéticos para produção de leite e persistência da lactação em vacas Gir, aplicando modelos de regressão aleatória

Com o objetivo de estimar parâmetros genéticos para a produção de leite no dia do controle (PLDC), foram usadas as 2.440 primeiras lactações de vacas da raça Gir leiteira, com partos registrados entre 1990 e 2005. As PLDC foram consideradas em dez classes mensais e analisadas por meio de modelo de regressão aleatória (MRA) utilizando-se como efeitos aleatórios o genético-aditivo, o de ambiente permanente e o residual e, como efeitos fixos, o grupo de contemporâneos (GC), a co-variável idade da vaca ao parto (efeito linear e quadrático) e a curva média de lactação da população. Os efeitos genético-aditivos e de ambiente permanente foram modelados utilizando-se as funções de Wilmink (WIL) e Ali e Schaeffer (AS). As variâncias residuais foram modeladas utilizando-se 1, 4, 6 ou 10 classes. Os grupos de contemporâneos foram definidos como rebanho-ano-estação do controle contendo no mínimo três animais. Os testes indicaram que o modelo com quatro classes de variâncias usando a função paramétrica AS foi o que melhor se ajustou aos dados. As estimativas de herdabilidade variaram de 0,21 a 0,33 para a função AS e de 0,17 a 0,30 para WIL e foram maiores na primeira metade da lactação. As correlações genéticas entre as PLDC foram positivas e elevadas entre os controles adjacentes e diminuiram quando a distância entre os controles aumentou. Para o melhor modelo, foram estimados os valores genéticos para a produção de leite acumulada até os 305 dias e, para períodos parciais da lactação, foram obtidas como médias dos valores genéticos preditos naquele período. Os valores genéticos foram comparados, por meio da correlação de posto, ao valor genético predito para a produção acumulada até os 305 dias, pelo método tradicional. As correlações entre os valores genéticos indicaram que podem ocorrer divergências na classificação dos animais pelos critérios estudados.

Estimação de parâmetros genéticos para peso do nascimento aos 550 dias de idade para animais da raça Tabapuã utilizando-se modelos de regressão aleatória

Foram utilizados 21.762 registros de peso do nascimento aos 550 dias de idade de 4.221 animais para estimativa das funções de covariância empregando modelos de regressão aleatória. Os modelos incluíram, como aleatórios, os efeitos genéticos aditivo direto e materno, de ambiente permanente de animal e de ambiente permanente materno e, como fixos, os efeitos de grupo contemporâneo, a idade da vaca ao parto (linear e quadrático) e o polinômio ortogonal de Legendre da idade do animal (regressão cúbica), como covariáveis. As variâncias residuais foram modeladas por uma função de variâncias com ordens de 2 a 6. Análises com polinômios ortogonais de diversas ordens foram realizadas para os efeitos genético aditivo direto, genético aditivo materno, de ambiente permanente de animal e de ambiente permanente materno. Os modelos foram comparados pelos critérios de informação Bayesiano de Schwarz (BIC) e Akaike (AIC). O melhor modelo indicado por todos os critérios foi o que considerou o efeito genético aditivo direto ajustado por um polinômio cúbico, o efeito genético materno ajustado por um polinômio quadrático, o efeito de ambiente permanente de animal ajustado por polinômio quártico e o efeito de ambiente permanente materno ajustado por polinômio linear. As estimativas de herdabilidade para o efeito direto foram maiores no início e no final do período estudado, com valores de 0,28 ao nascimento, 0,21 aos 240 dias e 0,24 aos 550 dias de idade. As estimativas de herdabilidade materna foram maiores aos 160 dias de idade (0,10) que nas demais fases do crescimento. As correlações genéticas variaram de moderadas a altas, diminuindo conforme o aumento da distância entre as idades. Maior eficiência na seleção para peso pode ser obtida considerando os pesos pós-desmama, período em que as estimativas de variância genética e herdabilidade foram superiores.

Estimação de funções de covariância para características de crescimento da raça Tabapuã utilizando modelos de regressão aleatória

Foram utilizados 35.732 registros de peso do nascimento aos 660 dias de idade de 8.458 animais da raça Tabapuã para estimar funções de covariância utilizando modelos de regressão aleatória sobre polinômios de Legendre. Os modelos incluíram: como aleatórios, os efeitos genético aditivo direto, materno, de ambiente permanente de animal e materno; como fixos, os efeitos de grupo de contemporâneo; como covariáveis, a idade do animal à pesagem e a idade da vaca ao parto (linear e quadrática); e sobre a idade à pesagem, polinômio ortogonal de Legendre (regressão cúbica) foi considerado para modelar a curva média da população. O resíduo foi modelado considerando sete classes de variância e os modelos foram comparados pelos critérios de informação Bayesiano de Schwarz e Akaike. O melhor modelo apresentou ordens 4, 3, 6, 3 para os efeitos genético aditivo direto e materno, de ambiente permanente de animal e materno, respectivamente. As estimativas de covariância e herdabilidades, obtidas utilizando modelo bicaracter, e de regressão aleatória foram semelhantes. As estimativas de herdabilidade para o efeito genético aditivo direto, obtidas com o modelo de regressão aleatória, aumentaram do nascimento (0,15) aos 660 dias de idade (0,45). Maiores estimativas de herdabilidade materna foram obtidas para pesos medidos logo após o nascimento. As correlações genéticas variaram de moderadas a altas e diminuíram com o aumento da distância entre as pesagens. A seleção para maiores pesos em qualquer idade promove maior ganho de peso do nascimento aos 660 dias de idade.

Bayesian analysis of random regression models using B-splines to model test-day milk yield of Holstein cattle in Brazil

Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq)

Random regression models to estimate genetic parameters for test-day milk yield in Brazilian Murrah buffaloes

Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)

Random regression models to estimate test-day milk yield genetic parameters Holstein cows in Southeastern Brazil

Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP)

Funções de covariância para produção de leite no dia do controle em bovinos Gir leiteiro

Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq)

Variance component estimates applying random regression models for test-day milk yield in Caracu heifers (Bos taurus Artiodactyla, Bovidae)

Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq)