Supervised Aggregative Feature Extraction for Big Data Time Series Regression

In many applications, and especially those where batch processes are involved, a target scalar output of interest is often dependent on one or more time series of data. With the exponential growth in data logging in modern industries such time series are increasingly available for statistical modeling in soft sensing applications. In order to exploit time series data for predictive modelling, it is necessary to summarise the information they contain as a set of features to use as model regressors. Typically this is done in an unsupervised fashion using simple techniques such as computing statistical moments, principal components or wavelet decompositions, often leading to significant information loss and hence suboptimal predictive models. In this paper, a functional learning paradigm is exploited in a supervised fashion to derive continuous, smooth estimates of time series data (yielding aggregated local information), while simultaneously estimating a continuous shape function yielding optimal predictions. The proposed Supervised Aggregative Feature Extraction (SAFE) methodology can be extended to support nonlinear predictive models by embedding the functional learning framework in a Reproducing Kernel Hilbert Spaces setting. SAFE has a number of attractive features including closed form solution and the ability to explicitly incorporate first and second order derivative information. Using simulation studies and a practical semiconductor manufacturing case study we highlight the strengths of the new methodology with respect to standard unsupervised feature extraction approaches.

Spatio-temporal Rich Model Based Video Steganalysis on Cross Sections of Motion Vector Planes

A rich model based motion vector steganalysis benefiting from both temporal and spatial correlations of motion vectors is proposed in this work. The proposed steganalysis method has a substantially superior detection accuracy than the previous methods, even the targeted ones. The improvement in detection accuracy lies in several novel approaches introduced in this work. Firstly, it is shown that there is a strong correlation, not only spatially but also temporally, among neighbouring motion vectors for longer distances. Therefore, temporal motion vector dependency along side the spatial dependency is utilized for rigorous motion vector steganalysis. Secondly, unlike the filters previously used, which were heuristically designed against a specific motion vector steganography, a diverse set of many filters which can capture aberrations introduced by various motion vector steganography methods is used. The variety and also the number of the filter kernels are substantially more than that of used in previous ones. Besides that, filters up to fifth order are employed whereas the previous methods use at most second order filters. As a result of these, the proposed system captures various decorrelations in a wide spatio-temporal range and provides a better cover model. The proposed method is tested against the most prominent motion vector steganalysis and steganography methods. To the best knowledge of the authors, the experiments section has the most comprehensive tests in motion vector steganalysis field including five stego and seven steganalysis methods. Test results show that the proposed method yields around 20% detection accuracy increase in low payloads and 5% in higher payloads.

Novel furan polymer materials based on the reversible Diels-Alder reaction

A futura e inevitável escassez dos recursos fósseis, juntamente com o aumento imprevisível dos seus preços, levou, nas últimas décadas, a um aumento impressionante de iniciativas dedicadas não só à procura de fontes alternativas de fornecedores de energia, mas também de produtos químicos e polímeros a partir de fontes renováveis, em particular da biomassa vegetal. Entre estes, os polímeros derivados de monómeros furânicos constituem uma classe única de materiais cujas estruturas podem, em princípio, simular virtualmente os seus homólogos actualmente derivados de recursos fósseis. O anel furânico é uma estrutura heterocíclica com um carácter diénico pronunciado, o que torna-o um dieno particularmente apropriado para a reacção de Diels-Alder (DA) com dienófilos como a maleimida. Um dos aspectos mais relevantes da reacção de DA é a sua reversibilidade em função da temperatura, a qual permite que os aductos sejam facilmente revertidos nos seus precursores por aumento da temperatura (reacção de retro-DA). No caso específico da combinação furano-maleimida, a formação do aducto predomina até cerca de 60ºC, enquanto a reacção inversa é dominante acima de 100ºC. A combinação desta característica da reacção de DA com a química de compostos furânicos pode abrir um novo caminho para a preparação de materiais macromoleculares funcionais com base em fontes renováveis e com aplicações promissoras como auto-reparação e reciclabilidade. O principal objectivo desta Tese, é a síntese e caracterização de novos materiais poliméricos termo-reversíveis, aplicando a reacção de DA a monómeros complementares com estruturas dos tipos furânico (o dieno, designado por A) e de maleimida (o dienófilo, designado por B). A primeira etapa neste trabalho envolveu a síntese, purificação e caracterização de novos monómeros furânicos e de maleimida do tipo AA, A3, BB, B3, AB, AB2, cada um com diferentes grupos separadores das funções reactivas. Posteriormente, estes monómeros foram polimerizados e despolimerizados por ciclos de DA/retro-DA utilizando diferentes combinações. A formação e dissociação de todos os aductos de DA foram seguidas por ambas espectroscopias de UV e RMN de 1H. O primeiro sistema de DA estudado foi uma combinação modelo entre reagentes mono-funcionais (-A+-B), nomeadamente o acetato furfurílico (FA) e a N-metilmaleimida (MM), ambos comercialmente disponíveis. O objectivo desta abordagem foi estudar a cinética e o equilíbrio da formação/dissociação dos aductos de DA e obter indicações sobre as condições mais adequadas a serem usadas na preparação dos correspondentes novos materiais macromoleculares. Além disso, pretendia-se verificar a presença ou ausência de reacções secundárias que poderiam intervir em ambas as vias directa e inversa das reacções, mesmo após vários ciclos. A espectroscopia de UV forneceu informação quantitativa sobre a cinética de formação do aducto através da diminuição progressiva da absorvência máxima a 293 nm correspondente ao grupo maleimida, a diferentes temperaturas (35, 50, 65 ºC) Reciprocamente, a correspondente reacção de retro-DA foi seguida a 90 ºC através do aumento do mesmo pico. A reversibilidade destes sistemas foi verificada com sucesso após uma sequência de ciclos de DA/retro-DA. Adicionalmente, verificou-se que os espectros originaram um ponto isosbéstico, provando que estes sistemas não envolvem quaisquer reacções secundárias. Uma vez que foi usado um excesso de FA, as reacções de DA modelo apresentaram um comportamento cinético de pseudo-primeira ordem, com a constante de velocidade k mais alta (2.1x10-5 dm3mol-1s-1) para T=65 ºC. A correspondente energia de activação foi de 39.0 kJ.mol-1. A reacção de retro-DA seguiu um comportamento de primeira ordem, com constante de velocidade de 1.6x10-6 s-1. A evolução deste sistema por RMN de 1H a 65ºC deu-nos informações mais detalhadas sobre a sua evolução estrutural, ou seja, à medida que a intensidade dos picos atribuídos à formação do aducto aumentaram progressivamente ao longo do tempo, os pertencentes aos reagentes iniciais diminuiram proporcionalmente. O “rendimento final”, calculado após 20 dias à temperatura ambiente, foi de aproximadamente 70%. A reacção de retro-DA foi depois seguida a 90ºC, observando-se tal como na espectroscopia de UV, o deslocamento da reacção no sentido da regeneração dos reagentes de partida. A viabilidade de múltiplos ciclos de DA/retro-DA estabelecidos pela espectroscopia de UV foi igualmente confirmada por RMN de 1H. O passo seguinte envolveu o estudo de um sistema de policondensação linear baseado no crescimento gradual por reacção de DA entre um monómero bisfurânico A-A e um do tipo bismaleimida B-B, seguindo a mesma abordagem que no sistema modelo. O poliaducto linear foi obtido a partir de soluções equimolares dos monómeros, por reacção de DA a 65ºC. O progresso desta polimerização foi seguido por espectroscopia de UV e RMN de 1H e, mais qualitativamente, pelo aumento da viscosidade do meio. A reacção seguiu um comportamento de segunda ordem, com uma constante de velocidade de 9.4x10-6 dm3mol-1s-1, e observou-se novamente um ponto isosbéstico nos dados de UV. Os espectros de RMN apresentaram o padrão esperado, nomeadamente o aumento progressivo dos sinais associados ao aducto e a correspondente diminuição dos grupos furano e maleimida livres. A despolimerização do poliaducto através da reacção de retro-DA foi seguida a 110ºC usando as mesmas técnicas. Os dados de UV mostraram o retorno progressivo da absorção dos grupos de maleimida, seguindo um comportamento cinético de primeira ordem, com constante de velocidade de 2.5x10-6 s-1, até à completa regeneração de ambos os monómeros. Os espectros de RMN providenciaram mais uma vez informação estrutural sobre o progresso da despolimerização, a qual foi acompanhada por uma diminuição progressiva da viscosidade. Adicionalmente, para seguir a retro- DA, adicionou-se um excesso de composto furânico monofuncional, nomeadamente o 2,5-dimetilfurano (DMFu), ao sistema de modo a bloquear as funções maleimida complementares, evitando assim a repolimerização após arrefecimento. Os productos isolados foram então o monómero bisfurânico AA, DMFu que não reagiu e o bisaducto não-polimerizável de BB com DMFu. Este resultado indicou claramente que o polímero foi de facto revertido nos seus monómeros durante a reacção de retro-DA. O terceiro sistema estudado foi outra polimerização linear, seguindo as mesmas condições experimentais que os anteriores, mas com uma estratégia diferente de modo a contornar o problema clássico de assegurar a estequiometria exacta dos monómeros. As estruturas dos monómeros utilizados incorporam ambos os grupos reactivos, i.e, moléculas do tipo A-B. A polimerização prematura destes monómeros intrinsecamente reactivos foi evitada com a protecção do grupo maleimida na forma de um aducto de DA com furano, até a incorporação do substituinte furânico na outra extremidade. Portanto, a policondensação destes monómeros foi iniciada após a desprotecção in situ deste composto mediante aquecimento, seguido de arrefecimento até à temperatura adequada para polimerizar. Os resultados obtidos por UV e RMN sugerem que de facto o uso de monómeros do tipo A-B oferece um melhor sistema linear. Em seguida, foram estudados sistemas de policondensação não-linear por reacção de DA, entre monómeros (um ou ambos) com funcionalidade superior a dois, nomeadamente sistemas do tipo A3+B-B ou A-A+B3, seguindo mais uma vez as mesmas condições experimentais. Uma vez que utilizam monómeros complementares contendo, em média, mais de duas funcionalidades, estes sistemas conduzem a materiais reticulados. Nestes estudos, foram usadas três razões molares de [maleimida]/[furano], nomeadamente 1.0, 0.75 e 0.5, de modo a estudar ambas as situações de não-gelificação e reticulação. Ambos sistemas apresentaram um comportamento regular e boa reciclabilidade quer para gerar situações que possam conduzir à formação de redes a diferentes graus de conversão, ou que possam parar antes da sua obtenção, conforme previsto pela equação de Flory-Stockmayer. Como esperado, a utilização de grupos complementares em quantidades estequiométricas produziu o espessamento mais rápido e a reticulação quase completa; à medida que a quantidade relativa de monómero trifuncional decresceu, as reacções pararam antes da reticulação, ou seja, originaram meios altamente viscosos contendo polímeros solúveis altamente ramificados. As reacções de retro-DA a 110 ºC conduziram à gradual dissolução das partículas de gel (quando presentes), tendo sido comprovado pelos espectros de UV e de RMN de 1H, evidenciado a regeneração dos monómeros. Tal como no sistema do tipo A-A+B-B, a reacção de retro-DA foi seguida adicionando um excesso de DMFu ao sistema reaccional. Como esperado, os produtos finais foram os monómeros furânicos, o DMFu em excesso e o trisaducto ou o bisaducto maleimida-DMFu, o que confirma a eficiência da despolimerização com regeneração dos monómeros iniciais. O último sistema de policondensação por reacção de DA envolveu um monómero assimetricamente substituído do tipo AB2, capaz de originar estruturas macromoleculares hiper-ramificadas que não reticulam. Este estudo preliminar deste sistema foi seguido nas mesmas condições experimentais que os anteriores, apresentando um comportamento com as características esperadas.

Polarization effects in fiber-optic communication systems

In this thesis we perform a detailed analysis of the state of polarization (SOP) of light scattering process using a concatenation of ber-coil based polarization controllers (PCs). We propose a polarization-mode dispersion (PMD) emulator, built through the concatenation of bercoil based PCs and polarization-maintaining bers (PMFs), capable of generate accurate rst- and second-order PMD statistics. We analyze the co-propagation of two optical waves inside a highbirefringence ber. The evolution along the ber of the relative SOP between the two signals is modeled by the de nition of the degree of co-polarization parameter. We validate the model for the degree of co-polarization experimentally, exploring the polarization dependence of the four-wave mixing e ect into a ber with high birefringence. We also study the interaction between signal and noise mediated by Kerr e ect in optical bers. A model accurately describing ampli ed spontaneous emission noise in systems with distributed Raman gain is derived. We show that the noise statistics depends on the propagation distance and on the signal power, and that for distances longer than 120 km and signal powers higher than 6 mW it deviates signi catively from the Gaussian distribution. We explore the all-optical polarization control process based on the stimulated Raman scattering e ect. Mapping parameters like the degree of polarization (DOP), we show that the preferred ampli cation of one particular polarization component of the signal allows a polarization pulling over a wavelength range of 60 nm. The e ciency of the process is higher close to the maximum Raman gain wavelength, where the DOP is roughly constant for a wavelength range of 15 nm. Finally, we study the polarization control in quantum key distribution (QKD) systems with polarization encoding. A model for the quantum bit error rate estimation in QKD systems with time-division multiplexing and wavelength-division multiplexing based polarization control schemes is derived.

Fractional calculus on time scales - Cálculo fraccional em escalas temporais

Introduzimos um cálculo das variações fraccional nas escalas temporais ℤ e (hℤ)!. Estabelecemos a primeira e a segunda condição necessária de optimalidade. São dados alguns exemplos numéricos que ilustram o uso quer da nova condição de Euler–Lagrange quer da nova condição do tipo de Legendre. Introduzimos também novas definições de derivada fraccional e de integral fraccional numa escala temporal com recurso à transformada inversa generalizada de Laplace.

Efeito da presença de outros metais na remoção de mercúrio com cortiça

O Homem sempre utilizou processos produtivos com o intuito de satisfazer as suas necessidades básicas. Com o aumento da população mundial, atualmente superior a sete mil milhões de indivíduos, a quantidade de resíduos produzidos pela atividade humana, através da atividade industrial e descarga de resíduos domésticos e agrícolas, tomou dimensões desmesuradas, que são responsáveis por gerar um elevado volume de resíduos contendo diversos elementos e compostos prejudiciais ao ambiente, e, consequentemente, para a saúde humana, entre os quais se incluem alguns metais. O presente trabalho tem como principais objetivos estudar a remoção de mercúrio pela cortiça em águas sintéticas (agua MilliQ) e naturais (água de abastecimento público), na presença de outros metais (Cd, Pb e Cu) e avaliar a influência destes metais no processo de remoção. Os resultados permitiram verificar que 2,5mg/L de cortiça é uma quantidade adequada para remover mercúrio de uma solução com concentração inicial de 50μg/L de metal (percentagem de remoção de 70%), na ausência de outros contaminantes (cádmio, chumbo e cobre). Nestas condições, a quantidade máxima de mercúrio removido pela cortiça após 96 horas de contacto foi de 11,6mg de mercúrio por grama de cortiça. A presença de chumbo e cobre ou uma mistura deles reduziu a taxa de remoção de mercúrio pela cortiça e a velocidade inicial de remoção; a presença de cádmio afetou a velocidade inicial de remoção. Mesmo com a adição de outros contaminantes, como cádmio, chumbo e cobre e na presença de água de abastecimento público, observou-se que a cortiça apresenta capacidade de remoção de mercúrio. O modelo de pseudo segunda ordem foi o que apresentou um melhor ajuste aos resultados obtidos e o processo de remoção de mercúrio pela cortiça aparenta ser controlado quer pela difusão no filme quer pela difusão no poro.

Quantum criptography in optical fibers

As comunicações quânticas aplicam as leis fundamentais da física quântica para codificar, transmitir, guardar e processar informação. A mais importante e bem-sucedida aplicação é a distribuição de chaves quânticas (QKD). Os sistemas de QKD são suportados por tecnologias capazes de processar fotões únicos. Nesta tese analisamos a geração, transmissão e deteção de fotões únicos e entrelaçados em fibras óticas. É proposta uma fonte de fotões única baseada no processo clássico de mistura de quatro ondas (FWM) em fibras óticas num regime de baixas potências. Implementamos essa fonte no laboratório, e desenvolvemos um modelo teórico capaz de descrever corretamente o processo de geração de fotões únicos. O modelo teórico considera o papel das nãolinearidades da fibra e os efeitos da polarização na geração de fotões através do processo de FWM. Analisamos a estatística da fonte de fotões baseada no processo clássico de FWM em fibras óticas. Derivamos um modelo teórico capaz de descrever a estatística dessa fonte de fotões. Mostramos que a estatística da fonte de fotões evolui de térmica num regime de baixas potências óticas, para Poissoniana num regime de potências óticas moderadas. Validamos experimentalmente o modelo teórico, através do uso de fotodetetores de avalanche, do método estimativo da máxima verossimilhança e do algoritmo de maximização de expectativa. Estudamos o processo espontâneo de FWM como uma fonte condicional de fotões únicos. Analisamos a estatística dessa fonte em termos da função condicional de coerência de segunda ordem, considerando o espalhamento de Raman na geração de pares de fotões, e a perda durante a propagação de fotões numa fibra ótica padrão. Identificamos regimes apropriados onde a fonte é quase ideal. Fontes de pares de fotões implementadas em fibras óticas fornecem uma solução prática ao problema de acoplamento que surge quando os pares de fotões são gerados fora da fibra. Exploramos a geração de pares de fotões através do processo espontâneo de FWM no interior de guias de onda com suceptibilidade elétrica de terceira ordem. Descrevemos a geração de pares de fotões em meios com elevado coeficiente de absorção, e identificamos regimes ótimos para o rácio contagens coincidentes/acidentais (CAR) e para a desigualdade de Clauser, Horne, Shimony, and Holt (CHSH), para o qual o compromisso entre perda do guia de onda e não-linearidades maximiza esses parâmetros.

A hybrid training method for B-spline neural networks

Current and past research has brought up new views related to the optimization of neural networks. For a fixed structure, second order methods are seen as the most promising. From previous works we have shown how second order methods are of easy applicability to a neural network. Namely, we have proved how the Levenberg-Marquard possesses not only better convergence but how it can assure the convergence to a local minima. However, as any gradient-based method, the results obtained depend on the startup point. In this work, a reformulated Evolutionary algorithm - the Bacterial Programming for Levenberg-Marquardt is proposed, as an heuristic which can be used to determine the most suitable starting points, therefore achieving, in most cases, the global optimum.

Real-time parameter estimation of dynamic temperature and humidity models for greenhouse adaptive climate control

A real-time parameter estimator for the climate discrete-time dynamic models of a greenhouse located at the North of Portugal are presented. The experiments showed that the second order models identified for the air temperature and humidity achieve a close agreement between simulated and experimantal data.

Predicting the greenhouse inside air temperature with RBF neural networks

The application of the Radial Basis Function (RBF) Neural Network (NN) to greenhouse inside air temperature modelling has been previously investigated (Ferreira et al., 2000a). In those studies, the inside air temperature is modelled as a function of the inside relative humidity and of the outside temperature and solar radiation. A second-order model structure previously selected (Cunha et al., 1996) in the context of dynamic temperature models identification, is used.

MASH structures for bandpass sigma-delta modulators

The paper presents simulation results from investigating the behaviour of multistage (MASH) oversampled bandpass sigma-delta (Σ-Δ) modulators for use in analogue to digital converters for high frequency narrowband applications such as the signals out of the intermediate frequency (IF) section of a superheterodyne radio receiver. The bandpass configurations under consideration have in their loop filter a cascade of second-order resonator structures in order to achieve acceptable noise shaping. The quantisation noise in each stage is suppressed by feeding the error of each section into the input of the following stages. It is demonstrated that the triple effective-first-order bandpass MASH structure has significantly better performance compared with the effective-second-order effective-first-order bandpass MASH structure.

Compact high linearity switchable dual-mode microstrip bandpass filters

A compact highly linear microstrip dual-mode electronically switchable filter is presented. The key characteristics of the dual-mode switchable filter are investigated and described. A second order filter design procedure is outlined to facilitate the realisation of Butterworth and Chebyshev functions. The proposed filter was built and tested with NXP pin diode model BAP65-03. The measured and simulated results are in good agreement. The measured insertion loss in the ON state was 3.0 dB the isolation in the OFF state was 45 dB at the centre frequency. An evaluation of filter distortion is presented for digitally modulated 16 QAM and QPSK signals.

Nonlinear distortion evaluation of reconfigurable RF circuits in wireless communication systems

A compact highly linear microstrip dual - mode optically switchable filter and a reconfigurable power amplifier are presented. The key characteristics of the dual - mode switchable filter are investigated and described. A second order filter design procedure is outlined to facilitate the realisation of Butterworth and Chebyshev functions. The proposed filter was built and tested with an optical switch, which comprised of a silicon dice acti vated using near infrared light. The measured and simulated results are in good agreement. The measured insertion loss in the ON state was 3.0 dB the isolation in the OFF state was 45 dB at the centre frequency. An evaluation of filter distortion is presen ted for digitally modulated M - QAM and M - QAM OFDM singals.

Copper and lead removal by peanut hulls: equilibrium and kinetic studies

This research work aims to study the use of peanut hulls, an agricultural and food industry waste, for copper and lead removal through equilibrium and kinetic parameters evaluation. Equilibrium batch studies were performed in a batch adsorber. The influence of initial pH was evaluated (3–5) and it was selected between 4.0 and 4.5. The maximum sorption capacities obtained for the Langmuir model were 0.21 ± 0.03 and 0.18 ± 0.02 mmol/g, respectively for copper and lead. In bi-component systems, competitive sorption of copper and lead was verified, the total amount adsorbed being around 0.21 mmol of metal per gram of material in both mono and bi-component systems. In the kinetic studies equilibrium was reached after 200 min contact time using a 400 rpm stirring rate, achieving 78% and 58% removal, in mono-component system, for copper and lead respectively. Their removal follows a pseudo-second-order kinetics. These studies show that most of the metals removal occurred in the first 20 min of contact, which shows a good uptake rate in all systems.

Uncertainty analysis based on sensitivity applied to angle-ply composite structures

This article describes a finite element-based formulation for the statistical analysis of the response of stochastic structural composite systems whose material properties are described by random fields. A first-order technique is used to obtain the second-order statistics for the structural response considering means and variances of the displacement and stress fields of plate or shell composite structures. Propagation of uncertainties depends on sensitivities taken as measurement of variation effects. The adjoint variable method is used to obtain the sensitivity matrix. This method is appropriated for composite structures due to the large number of random input parameters. Dominant effects on the stochastic characteristics are studied analyzing the influence of different random parameters. In particular, a study of the anisotropy influence on uncertainties propagation of angle-ply composites is carried out based on the proposed approach.