Regularization for sparsity in statistical analysis and machine learning

Pragmatism is the leading motivation of regularization. We can understand regularization as a modification of the maximum-likelihood estimator so that a reasonable answer could be given in an unstable or ill-posed situation. To mention some typical examples, this happens when fitting parametric or non-parametric models with more parameters than data or when estimating large covariance matrices. Regularization is usually used, in addition, to improve the bias-variance tradeoff of an estimation. Then, the definition of regularization is quite general, and, although the introduction of a penalty is probably the most popular type, it is just one out of multiple forms of regularization. In this dissertation, we focus on the applications of regularization for obtaining sparse or parsimonious representations, where only a subset of the inputs is used. A particular form of regularization, L1-regularization, plays a key role for reaching sparsity. Most of the contributions presented here revolve around L1-regularization, although other forms of regularization are explored (also pursuing sparsity in some sense). In addition to present a compact review of L1-regularization and its applications in statistical and machine learning, we devise methodology for regression, supervised classification and structure induction of graphical models. Within the regression paradigm, we focus on kernel smoothing learning, proposing techniques for kernel design that are suitable for high dimensional settings and sparse regression functions. We also present an application of regularized regression techniques for modeling the response of biological neurons. Supervised classification advances deal, on the one hand, with the application of regularization for obtaining a na¨ıve Bayes classifier and, on the other hand, with a novel algorithm for brain-computer interface design that uses group regularization in an efficient manner. Finally, we present a heuristic for inducing structures of Gaussian Bayesian networks using L1-regularization as a filter. El pragmatismo es la principal motivación de la regularización. Podemos entender la regularización como una modificación del estimador de máxima verosimilitud, de tal manera que se pueda dar una respuesta cuando la configuración del problema es inestable. A modo de ejemplo, podemos mencionar el ajuste de modelos paramétricos o no paramétricos cuando hay más parámetros que casos en el conjunto de datos, o la estimación de grandes matrices de covarianzas. Se suele recurrir a la regularización, además, para mejorar el compromiso sesgo-varianza en una estimación. Por tanto, la definición de regularización es muy general y, aunque la introducción de una función de penalización es probablemente el método más popular, éste es sólo uno de entre varias posibilidades. En esta tesis se ha trabajado en aplicaciones de regularización para obtener representaciones dispersas, donde sólo se usa un subconjunto de las entradas. En particular, la regularización L1 juega un papel clave en la búsqueda de dicha dispersión. La mayor parte de las contribuciones presentadas en la tesis giran alrededor de la regularización L1, aunque también se exploran otras formas de regularización (que igualmente persiguen un modelo disperso). Además de presentar una revisión de la regularización L1 y sus aplicaciones en estadística y aprendizaje de máquina, se ha desarrollado metodología para regresión, clasificación supervisada y aprendizaje de estructura en modelos gráficos. Dentro de la regresión, se ha trabajado principalmente en métodos de regresión local, proponiendo técnicas de diseño del kernel que sean adecuadas a configuraciones de alta dimensionalidad y funciones de regresión dispersas. También se presenta una aplicación de las técnicas de regresión regularizada para modelar la respuesta de neuronas reales. Los avances en clasificación supervisada tratan, por una parte, con el uso de regularización para obtener un clasificador naive Bayes y, por otra parte, con el desarrollo de un algoritmo que usa regularización por grupos de una manera eficiente y que se ha aplicado al diseño de interfaces cerebromáquina. Finalmente, se presenta una heurística para inducir la estructura de redes Bayesianas Gaussianas usando regularización L1 a modo de filtro.

Proyectar la verdad: aportaciones del proyecto de arquitectura a la noción de realidad: la casa Wittgenstein

La actuación de personajes ajenos -a la disciplina de la arquitectura- sobre la misma subyace en la misma base de los condicionantes históricos desde los que se conforma el proyecto de arquitectura. El carácter áulico de las grandes obras, o la permanencia en un tiempo más amplio que el de la vida humana han atraído al ser humano desde tiempos sin registro. No supondría mayor novedad el que un filósofo, en la convulsa Viena de entreguerras, se interesara en una vivienda que su hermana deseaba construirse en los extramuros de una ciudad en plena transformación postindustrial. Despierta nuestro interés los personajes concretos, siendo el filósofo Ludwig Wittgenstein, el filósofo de la lógica regulada del Tractatus, amigo íntimo de Adolf Loos; y su hermana, Margaret Stonborough-Wittgenstein, una de las mecenas más solicitadas de la cultura vienesa de la época. Y aquella casa, no es sino el palais Wittgenstein, llevado a la realidad entre 1925 y 1929, en el tiempo germinal del Movimiento Moderno. Esta casa toma el nombre de Wittgenstein, que, lejos de la coincidencia con el de su propietaria, sintetiza la atribución que la crítica y la historiografía ?tanto arquitectónica como filosófica- ha hecho de ella. Esta casa es, en apariencia, el fruto de un filósofo obsesionado con el concepto de la verdad; que ha erigido un palacete suburbano con os rígidos principios de un discurso estructuralista. La casa ha sido y es leída como ?lógica encarnada en casa? -según las propias palabras de su propietaria-. Un intento de dotar de orden metalingüístico al elenco material y técnico que es un proyecto de arquitectura. Con ese carácter mitificado, algunos estudios sobre la misma son publicados desde los inicios de la década de los 80. Remueve conciencias postmodernas, al poder ser presentada como un arranque atípico del Movimiento Moderno, y por la búsqueda de esa excepción su estatus permanece invariablemente fijado en los márgenes de aquel. Sin embargo, cuando la casa es estudiada documentalmente, se descubren contradicciones iniciadas en el ambiguo papel de Paul Engelmann -el arquitecto que comenzaba el proyecto- y que llegan hasta las deficiencias en la res aedificatoria básica de una vivienda. Cuando la casa es habitada, se descubre una complejidad espacial que dista mucho de los acotados espacios que conforman la planta, una extraña posición respecto al entorno, una construcción realizada con elementos radicalmente reducidos. Una casa que al ser descubierta contrasta con lo que la crítica dice mayoritariamente de ella, una casa que al ser estudiada desvela un proceso de proyecto que, por complejo, es terriblemente actual; una casa cuya realización no es fruto del pragmatismo moderno aunque finja serlo. Y al estudiarla, se presenta una casa que no es sólo un proyecto de arquitectura, sino un instrumento de investigación que enriquece la percepción que de la realidad tenía Wittgenstein, y con este desplazamiento en su pensamiento nos facilita, aún hoy, el incremento de la riqueza de nuestro mirar.

Normalizar la utopía: Un proyecto de sistematización de la normativa en vivienda social = Normalizing Utopia: A Project of Systematization of Regulations on Social Housing

La presente tesis doctoral aborda el estudio del proyecto de vivienda colectiva social desde la noción de norma, entendida desde la sistematización o normalización de los instrumentos del proyecto arquitectónico de vivienda protegida. Esto es, desde una idea de tipificación taxonómica en cuanto ajuste a un conjunto de reglas comunes productoras de sistemas normativos. La hipótesis de partida se basa en la consideración de la vivienda pública como un laboratorio de estudio histórico de los ideales de confort y calidad de vida. Este campo de pruebas ha constituido una sólida base que ha servido como punto de encuentro muy particular entre proyecto y normativa desde las primeras vanguardias europeas hasta la actualidad. El principal objetivo de la investigación es la revalorización de una normativa de vivienda que ha producido ejemplos de innegable calidad en el contexto nacional e internacional, así como un intento de actualización de su codificación. La investigación se sirve de los instrumentos específicos de la disciplina arquitectónica para explicar una disociación detectada desde la segunda mitad del siglo pasado entre la utopía del proyecto social de vivienda y el pragmatismo de la norma que lo regula, más allá de los aspectos sociales y culturales asociados a las nuevas composiciones familiares, las tecnologías cambiantes, los ritos domésticos contemporáneos o el valor creciente del tiempo libre. La propuesta de una nueva terminología que aborde nuevas relaciones en el acercamiento al proyecto de vivienda desde la normativa española deriva en un conjunto de estrategias de proyecto desde las que proponer sistemas normativos. Dichas estrategias se basan principalmente en mecanismos de cualificación espacial que permitan un nuevo acercamiento entre dichas normas y las formas de habitar actuales. ABSTRACT This doctoral thesis deals with the study of the project of social collective housing from the notion of rule, understanding it from the systematization or standardization of the instruments of architectural project for social housing. Thus, it deals with an idea of taxonomic typification as an adjustment to a set of common rules which produce regulation systems. The initial hypothesis is based on the consideration of public housing as a laboratory for studying the historical ideals of comfort and quality of life. This testing ground has been a solid base that has served as a very specific meeting point between project and regulations from the first European avant‐garde to nowadays. The main objective of this research is the revaluation of housing regulations, which have produced examples of undeniable quality in the national and international stage, as well as an attempt to update their codification. The research assumes the specific tools of the discipline of architecture for explaining a dissociation detected between the utopia of the project for social housing and the pragmatism of the regulations from the second half of last century, beyond social and cultural aspects associated to the new family arrangements, the changing technologies, the contemporary domestic rituals or the rising value of leisure time. The proposal of a new terminology that tackles new relations in the approach to housing project from the Spanish legislation results in a set of strategies to propose regulation systems. Those strategies are mainly based on mechanisms for spatial qualification which allow a new approach between these rules and the current ways of living.

Los sueños dibujados de Casto Fernández-Shaw. Búsqueda de una arquitectura imaginada entre el futurismo y la utopía.

En 1949 el arquitecto Casto Fernández-Shaw realiza un viaje de dos meses a diversas ciudades de EEUU (Los Ángeles, Nueva York, Washington...), y según sus propias palabras: "Confieso que me encontré en mi elemento. Por una parte veía realizados... mis sueños... En mi álbum de imágenes impactantes ocupa un puesto de honor la del helicóptero con la correspondencia aterrizando en la terraza de la Casa de Correos de Los Ángeles, como yo deseaba para mi Estación de Enlace madrileña". El proyecto, no realizado, al que se refiere Casto, está fechado en 1933 (reformado en 1936), adelantándose en su imaginación casi veinte años a lo que después visitó con admiración. Casto Fernández-Shaw (1896-1978), titulado en 1919, puede considerarse posiblemente el discípulo más cercano al arquitecto gallego Antonio Palacios, pero con un lenguaje personal contemporáneo. Como sugiere Miguel Ángel Baldellou: "Fernández-Shaw es capaz de reinterpretar y dar salida en forma de vanguardia a una tradición sustentada por Palacios de forma magistral." Así pues, sus referentes se mueven entre lo quimérico y el pragmatismo racionalista de principios del siglo XX, con importantes influencias de la arquitectura regionalista e historicista de sus maestros, Aníbal Álvarez, Modesto López Otero y, sobre todo, Antonio Palacios. En sus dibujos de ciudades aerostáticas y acorazadas, de garajes radiales, de torres espectáculo, de monumentos a la ciencia, de autogiródromos, casas aerotransportadas y hangares aerodinámicos..., descubrimos a un arquitecto que emprende un camino desde el futurismo más cercano a las ensoñaciones de una ciudad industrial dominada por la tecnología hasta una utopía basada en la creencia del triunfo de la civilización, las grandes conquistas de la humanidad y la paz universal. El objetivo de esta comunicación es analizar la búsqueda de Casto de una respuesta formal a su viaje interior hacia la utopía a través de las vanguardias figurativas de comienzos del siglo XX. Estudiaremos sus proyectos no construidos a través de sus dibujos, que representan grandes edificios futuristas, descontextualizados del entorno, obras másicas y monumentalistas de fuerte contenido simbólico. Y los compararemos con otras obras no materializadas de arquitectos contemporáneos como Sant¿Elia, Tchernikov, Tatlin, Poelzig... que tuvieron mayor o menor influencia en su carrera

Gravedad Cero : la producción del espacio en los paraísos fiscales.

Este es el Trabajo Final del Máster en Proyectos Arquitectónicos Avanzados, en la línea de Paisaje y Gran Escala, y se centra en los aspectos espaciales de las formas de producción en los paraísos fiscales, en el contexto de las rápidas transformaciones que han experimentado en las últimas décadas. En muchos sentidos este TFM es una continuación de otros trabajos desarrollados dentro del programa académico del MPAA. Hereda su temática del Taller de Paisaje de la Primavera de 2013, titulado #crimescapes. El planteamiento era explorar las ambiguas relaciones entre la ley, el crimen, y la producción del espacio. Se enfocaba el crimen ‘como una forma de comprensión del funcionamiento de situaciones contemporáneas donde diferentes actores (sociales, materiales, naturales, políticos, económicos, etc.) se entremezclan’. Se entendía el marco legal ‘como una construcción espacial’, y el crimen ‘como una forma de transformar esas relaciones´. Esta investigación también recoge algunas conclusiones de los trabajos y las discusiones del Laboratorio de Paisaje del cuatrimestre de otoño de 2013, desarrollado bajo el título de “pragmatismo utópico - utopismo pragmático”. Vimos que el pensamiento utópico y el pragmático, aparentemente enfrentados, pueden confluir en determinados proyectos ideológicos y productos espaciales, siendo los paraísos fiscales un buen ejemplo.

Objetos tenaces : adaptive reuse en Meatpacking, 1970–1985

OBJETOS TENACES versa sobre la práctica del adaptive reuse (la “reutilización adaptativa”, la reconversión) explicado a través del fenómeno de ruptura, suspensión y reconfiguración de vínculos que el objeto arquitectónico tiene con respecto a su medio económico, sociocultural, normativo y de utilitas. Se trata de un fenómeno en tres fases, muy próximo al mecanismo empleado por el readymade y por el display, que en arquitectura parte de la crisis que supone un cambio de circunstancias, un desarraigo del objeto respecto de su ámbito anterior. El mecanismo tiene vocación de intervención mínima, desde un posicionamiento actual que comprende el mundo construido como una realidad “ya hecha”, y donde las operaciones de proyecto son acciones de transformación que llevan de una situación de obsolescencia a otra de vigencia renovada, es decir, de una realidad completa a otra igualmente completa. Para ello, la investigación se sirve de tres ejemplos de un mismo entorno geográfico (el área en torno a Meatpacking, en el lado oeste del bajo Manhattan, Nueva York) y temporal (las últimas décadas del siglo XX, en las que los casos se solapan a pesar de tener desarrollos cronológicos diversos). Bell Telephone Laboratories, The West Side Improvement y The National Biscuit Company, reconvertidos a Westbeth, a The High Line y a Chelsea Market, construyen juntos el argumento por suma de conceptos, por adición de fenómenos, estudiando las cualidades y las circunstancias que hacen posible la continuidad de las estructuras, es decir, su supervivencia. El texto forma un corpus que proporciona algunas de las claves del objeto denominado como tenaz a través del análisis sincrónico del antes y el después de su puesta en crisis. A tal efecto, se exponen una serie de figuras razonadas entre las cuales figuran el lijado del barniz, los hilos compartidos, la máscara, la momificación y la vitrina, el puente sobre le desfiladero, el enfriamiento, o las reliquias, incrustaciones y adherencias, todas ellas encaminadas a explicar el proceso de renovación del artefacto como un cambio en el sentido, en el significado, y no tanto en lo material. Entre las consideraciones de la tesis está, por un lado, el carácter relativo del término tenacidad, concepto que define a los objetos que se encuentran y se reconocen en su idoneidad, que tienen capacidad de adaptación, y que precisan finalmente de grandes dosis de pragmatismo para su reconfiguración, siendo todas éstas condiciones necesarias pero sólo suficientes a posteriori. Por otro lado, el texto reflexiona acerca del intangible que comparten todos los objetos así llamados y que consiste en la condición, quizá formidable, de ser reconocibles por parte de los sucesivos intervinientes de su historia, convencidos de que su renovación supone una oportunidad; su desaparición, una pérdida. Finalmente, la investigación apunta hacia el concepto de anacronismo como justificación para los objetos que se demuestran adaptables a épocas sucesivas, y que encajan en el tiempo de forma compleja. ABSTRACT TENACIOUS OBJECTS deals with the practice of the adaptive reuse explained by means of the phenomenon of rupture, suspension and reconfiguration of links that the architectural object has vis-à-vis its economic, socio-cultural and regulatory environment, and its utilitas. It is a phenomenon structured in three stages, very close to the mechanism used by the readymade and by the display, which in architecture arise from the crisis that leads to a change in circumstances, an alienation of the object regarding its previous environment. The mechanism aims to the minimum intervention, from a current positioning which understands the world built as a reality “already made”, and where the operations of the project are transformative actions that take us from a situation of obsolescence to a situation of renewed validity, that is, from a complete reality to one just as complete. For this purpose, the research makes use of three examples in the same geographical area (the Meatpacking Discrict, in the Lower West Side of Manhattan, New York) and the same period (the last decades of the 20th century, in which the cases overlap in spite of their diverse chronological developments). Bell Telephone Laboratories, The West Side Improvement and The National Biscuit Company, reconverted into Westbeth, The High Line and Chelsea Market, make up, together, the argument as a sum of concepts, and addition of phenomena, studying the qualities and circumstances which make the continuity of the structures possible, that is, their survival. The text forms a corpus that provides some of the keys of the so-called tenacious object by means of the synchronic analysis of before and after its crisis. To this end, a series of reasoned figures is presented, including the sanding of varnish, the shared threads, the mask, the mummification and the display cabinet, the bridge over the gorge, cooling, or the relics, incrustations and adherences, all of them aimed at explaining the renovation process of the artifact as a change in the sense and the meaning, rather than the material. The considerations of this dissertation include, on the one hand, the relative nature of the term tenacity, a concept which defines the objects found and recognized in their suitability, that are capable of adapting and which finally require large doses of pragmatism for their reconfiguration, all these conditions being necessary but only sufficient a posteriori. On the other hand, the text reflects on the intangible shared among all the so-called objects, and which consists of the condition, perhaps extraordinary, of being recognized by the subsequent interveners of their history, convinced that their renovation represents an opportunity; their disappearance, a loss. Finally, the dissertation studies the concept of anachronism as a justification for the objects that prove to adapt to subsequent periods, and which fit in time in a complex manner.