On the Noise Model of Support Vector Machine Regression

Support Vector Machines Regression (SVMR) is a regression technique which has been recently introduced by V. Vapnik and his collaborators (Vapnik, 1995; Vapnik, Golowich and Smola, 1996). In SVMR the goodness of fit is measured not by the usual quadratic loss function (the mean square error), but by a different loss function called Vapnik"s $epsilon$- insensitive loss function, which is similar to the "robust" loss functions introduced by Huber (Huber, 1981). The quadratic loss function is well justified under the assumption of Gaussian additive noise. However, the noise model underlying the choice of Vapnik's loss function is less clear. In this paper the use of Vapnik's loss function is shown to be equivalent to a model of additive and Gaussian noise, where the variance and mean of the Gaussian are random variables. The probability distributions for the variance and mean will be stated explicitly. While this work is presented in the framework of SVMR, it can be extended to justify non-quadratic loss functions in any Maximum Likelihood or Maximum A Posteriori approach. It applies not only to Vapnik's loss function, but to a much broader class of loss functions.

On the V(subscript gamma) Dimension for Regression in Reproducing Kernel Hilbert Spaces

This paper presents a computation of the $V_gamma$ dimension for regression in bounded subspaces of Reproducing Kernel Hilbert Spaces (RKHS) for the Support Vector Machine (SVM) regression $epsilon$-insensitive loss function, and general $L_p$ loss functions. Finiteness of the RV_gamma$ dimension is shown, which also proves uniform convergence in probability for regression machines in RKHS subspaces that use the $L_epsilon$ or general $L_p$ loss functions. This paper presenta a novel proof of this result also for the case that a bias is added to the functions in the RKHS.

Time-series regression models to study the short-term effects of environmental factors on health

Time series regression models are especially suitable in epidemiology for evaluating short-term effects of time-varying exposures on health. The problem is that potential for confounding in time series regression is very high. Thus, it is important that trend and seasonality are properly accounted for. Our paper reviews the statistical models commonly used in time-series regression methods, specially allowing for serial correlation, make them potentially useful for selected epidemiological purposes. In particular, we discuss the use of time-series regression for counts using a wide range Generalised Linear Models as well as Generalised Additive Models. In addition, recently critical points in using statistical software for GAM were stressed, and reanalyses of time series data on air pollution and health were performed in order to update already published. Applications are offered through an example on the relationship between asthma emergency admissions and photochemical air pollutants

Regression analysis of compositional data when both the dependent variable and independent variable are components

It is well known that regression analyses involving compositional data need special attention because the data are not of full rank. For a regression analysis where both the dependent and independent variable are components we propose a transformation of the components emphasizing their role as dependent and independent variables. A simple linear regression can be performed on the transformed components. The regression line can be depicted in a ternary diagram facilitating the interpretation of the analysis in terms of components. An exemple with time-budgets illustrates the method and the graphical features

An alternative method for dating unknown tephras based on a segmented regression model

In CoDaWork’05, we presented an application of discriminant function analysis (DFA) to 4 different compositional datasets and modelled the first canonical variable using a segmented regression model solely based on an observation about the scatter plots. In this paper, multiple linear regressions are applied to different datasets to confirm the validity of our proposed model. In addition to dating the unknown tephras by calibration as discussed previously, another method of mapping the unknown tephras into samples of the reference set or missing samples in between consecutive reference samples is proposed. The application of these methodologies is demonstrated with both simulated and real datasets. This new proposed methodology provides an alternative, more acceptable approach for geologists as their focus is on mapping the unknown tephra with relevant eruptive events rather than estimating the age of unknown tephra. Kew words: Tephrochronology; Segmented regression

Regression periods in infancy. A case study from Catalonia.

Based on Rijt-Plooij and Plooij’s (1992) research on emergence of regression periods in the first two years of life, the presence of such periods in a group of 18 babies (10 boys and 8 girls, aged between 3 weeks and 14 months) from a Catalonian population was analyzed. The measurements were a questionnaire filled in by the infants’ mothers, a semi-structured weekly tape-recorded interview, and observations in their homes. The procedure and the instruments used in the project follow those proposed by Rijt-Plooij and Plooij. Our results confirm the existence of the regression periods in the first year of children’s life. Inter-coder agreement for trained coders was 78.2% and within-coder agreement was 90.1 %. In the discussion, the possible meaning and relevance of regression periods in order to understand development from a psychobiological and social framework is commented upon

Proteína c reactiva ultrasensible (PCR-h) en el dolor torácico de probabilidad intermedia para síndrome coronario agudo

INTRODUCCION: El dolor torácico es una de las principales causas de consulta en los servicios de urgencias y cardiología, se convierte en un reto clasificar a los pacientes empleando una herramienta diagnóstica lo suficientemente sensible y especifica para establecer riesgo y pronóstico, la estrecha relación existente entre enfermedad aterosclerótica e inflamación ha dirigido su atención al papel de marcadores plasmáticos de inflamación como predictores de riesgo de eventos cardiovasculares. La Proteína C reactiva (PCR) ha sido ampliamente estudiada en pacientes con factores de riesgo cardiovascular y Eventos coronarios Agudos, pero se desconoce el comportamiento en pacientes con dolor torácico de probabilidad intermedia. OBJETIVOS: Determinar la utilidad y comportamiento de la Proteína C reactiva en pacientes con dolor torácico de probabilidad Intermedia para síndrome coronario. MATERIALES Y METODOS: Este estudio fue realizado entre junio 2008 y febrero de 2009 en una institución de referencia en cardiológica ( Fundación Cardio Infantil, Bogotá-Colombia), Se Estudiaron pacientes con EKG normal o no diagnostico y marcadores de injuria miocardica negativos. Los pacientes continuaron su estudio según las recomendaciones y guías internacionales para dolor torácico. Nosotros realizamos dos tomas de PCR, Una PCR antes de 12 horas de iniciado el dolor torácico y otra PCR después de las 18 Hrs de iniciado el dolor torácico, se realizo la deferencia entre estas dos PCR (PCR 18 hrs vs PCR basal) Con estos 3 resultados se hizo el análisis estadístico para hallar sensibilidad, especificidad, valor predictivo positivo, valor predictivo negativo, comparándolo contra las pruebas de provocación de isquemia y cateterismo. RESULTADOS: Un total de 203 pacientes fueron analizaron. Con un promedio de edad fue de 60.8 ± 11 años, Los dos géneros tuvieron una distribución sin diferencia significativas. Los factores de riesgo asociados fueron: Hipertensión arterial 76%(n=155), Dislipidemia 68.1%(n=139), Diabetes Mellitus 20.6%(n=42), Obesidad 7.4%(n=15) y tabaquismo 9.3%(n=19). El total de cateterismos realizados fueron 66 pruebas: Normal el 27%(n=18), lesiones no significativas el 25.8%(n=17) y lesiones Obstructivas 47%(n=31). La PCR tuvo una utilidad diagnostica baja, la PCR a las 18 horas es la mejor prueba diagnóstica , con un mejor comportamiento del área de la curva ROC 0.74 (IC , 0.64-0.83), con sensibilidad del 16.13% (IC 95%, 1.57-30.69), especificidad del 98.26%( IC 955, 96.01-100), un valor predictivo negativo de 86.67%(IC 95%, 81.64-91.69). En el seguimiento a los 30 días no encontró nuevas hospitalizaciones de causa cardiovascular. CONCLUSIONES: Nuestro estudio muestra una utilidad diagnostico baja de la PCR en el dolor torácico de probabilidad intermedia para enfermedad coronaria, el mejor comportamiento diagnostico se encontró en la PCR a las 18 hrs con una alta especificidad y un alto Valor predictivo negativo para un valor de PCR > de 3mg/dl, siendo menor la utilidad de la PCR basal y diferencia de la PCR. diferencia de la PCR. Estos hallazgos no se correlacionaron con estudios previos. No se pudo establecer un punto de Corte de la PCR diferente a los ya existentes debido a la variabilidad de la PCR entre la población de estudio. Las limitaciones encontradas en nuestro estudio hacen necesaria la realización de un estudio multicéntrico.

Correlación entre niveles séricos de PCR ultrasensible y riesgo cardiovascular en una cohorte de mujeres adultas

La PCR es el marcador de inflamación vascular más estudiado y validado hasta la fecha. Los niveles de PCR ultrasensible pueden predecir el riesgo de enfermedad cardiovascular. En el programa “salud integral para la mujer” de la fundación cardio-infantil se realizan estratificaciones de riesgo cardiovascular a mujeres adultas. Se midieron los niveles de PCR en este grupo de pacientes entre Octubre del 2007 y Mayo del 2009 y se evaluó la correlación entre la estratificación del riesgo cardiovascular por escala de Framingham y niveles de PCR en esta población. Objetivo: establecer el grado de correlación entre los niveles de PCR ultrasensible y el grado de riesgo cardiovascular y otros factores de riesgo cardiovascular. Resultados: Edad promedio 48 años (18 a 98 años). 62 pacientes hipertensas (40,7%). 19 pacientes con cifras alteradas de glicemia en ayunas (12%). Hay un 83% de la población estudiada con dislipidemia (127 pacientes). 78 pacientes con sobrepeso u obesidad. El 87% de la población tiene al menos un factor de riesgo presente. Discusión y resultados: En la población estudiada existe una alta prevalencia de factores de riesgo cardiovasculares, dentro de los cuales predomina los trastornos del metabolismo de los lípidos. Sin embargo no hay correlación entre los niveles de PCR ultrasensible y el riesgo cardiovascular según la escala de Framingham. En la literatura médica publicada sobre PCR ultrasensible y su relación con el riesgo cardiovascular los resultados son muy divergentes con los encontrados en este estudio.

Use of multilevel logistic regression to identify the causes of differential item functioning

Resumen tomado de la publicaci??n

Regression-based techniques for statistical decision making in singlecase designs

Resumen tomado de la publicaci??n

Asociación entre PCR y riesgo cardiovascular en una cohorte de mujeres que asisten al programa salud de la mujer en la Fundación Cardioinfantil

La proteína C reactiva ultrasensible es un biomarcador de inflamación vascular más estudiado y validado hasta la fecha. En el presente estudio se determino la correlación entre la PCR y el riesgo cardiovascular estratificado mediante la escala europea y el método de farmingham, en pacientes incluidas desde septiembre de 2007 hasta septiembre de 2011. Objetivo: establecer el grado de correlación entre los niveles de PCR ultrasensible y el grado de riesgo cardiovascular. Resultados: se incluyeron un total (N=299) mujeres mayores de 18 años, con promedio de edad de 48 años; según los niveles de PCR (89%) N= 269 tenían riesgo cardiovascular bajo. Con la estratificación de riesgo según la escala europea solo un (0.66%) N=2 se catalogaban como alto riesgo cardiovascular, implementando la escala de framingham un (74%) N=222 estaban en bajo riesgo. Predominando el riesgo cardiovascular bajo y datos de PCR en riesgo bajo. Encontramos muy débil correlación positiva entre los niveles de PCR y el riesgo cardiovascular calculado por el método de framingham para las pacientes (correlación de Pearson 0.323 con significancia estadística de 0,01) Finalmente encontramos una correlación inversa entre los niveles de PCR y HDL en la muestra estudiada estadísticamente significativa. Discusión: En la población estudiada existe una alta prevalencia de factores de riesgo cardiovasculares, destacamos la utilidad del método de framingham para discriminar riesgo cardiovascular en comparación con la escala europea. Además en el presente estudio, se destacan las correlaciones de la PCR con el perfil lipídico. Finalmente encontramos un correlación inversa entre los niveles de PCR y HDL en la muestra estudiada estadísticamente significativa, con lo cual podemos concluir posible utilidad tanto para el diagnostico y alternativa de estratificación en riesgo cardiovascular en nuestra población.

Additional regression techniques_Solutions_2009.ppt (19)

PowerPoint Slides relating to theory and use of SPSS. Used in Research Skills for Biomedical Science