Are Deep Learning Approaches Suitable for Natural Language Processing?

In recent years, Deep Learning (DL) techniques have gained much at-tention from Artificial Intelligence (AI) and Natural Language Processing (NLP) research communities because these approaches can often learn features from data without the need for human design or engineering interventions. In addition, DL approaches have achieved some remarkable results. In this paper, we have surveyed major recent contributions that use DL techniques for NLP tasks. All these reviewed topics have been limited to show contributions to text understand-ing, such as sentence modelling, sentiment classification, semantic role labelling, question answering, etc. We provide an overview of deep learning architectures based on Artificial Neural Networks (ANNs), Convolutional Neural Networks (CNNs), Long Short-Term Memory (LSTM), and Recursive Neural Networks (RNNs).

Utilisation de représentations de mots pour l’étiquetage de rôles sémantiques suivant FrameNet

Dans la sémantique des cadres de Fillmore, les mots prennent leur sens par rapport au contexte événementiel ou situationnel dans lequel ils s’inscrivent. FrameNet, une ressource lexicale pour l’anglais, définit environ 1000 cadres conceptuels, couvrant l’essentiel des contextes possibles. Dans un cadre conceptuel, un prédicat appelle des arguments pour remplir les différents rôles sémantiques associés au cadre (par exemple : Victime, Manière, Receveur, Locuteur). Nous cherchons à annoter automatiquement ces rôles sémantiques, étant donné le cadre sémantique et le prédicat. Pour cela, nous entrainons un algorithme d’apprentissage machine sur des arguments dont le rôle est connu, pour généraliser aux arguments dont le rôle est inconnu. On utilisera notamment des propriétés lexicales de proximité sémantique des mots les plus représentatifs des arguments, en particulier en utilisant des représentations vectorielles des mots du lexique.

Synonymity and Semantic Variability in Medieval French and Middle English

Rothwell, W., 'Synonymity and Semantic Variability in Medieval French and Middle English', Modern Language Review (2007) 102(2) pp.363-380 RAE2008

Advances in Research on Semantic Roles

Especially in functional-typological linguistics, semantic roles have been studied thoroughly, because they constitute a good starting point for any study on argument marking due to their semantically defined nature. However, the very concept of semantic roles is far from being without problems, and there is still no consensus on how the roles are best defined. In this volume, the notion will be discussed from novel perspectives with the aim of providing new insights into our understanding of semantic roles. Two of the papers deal with semantic role clusters, one with semantic roles in verbless constructions, one with diachrony of semantic roles and two with individual semantic roles that have not been studied in too much detail in previous studies. The book may not offer answers to all questions the readers may have, but at least it raises interesting further questions relevant to arriving at a better understanding of semantic roles.

A concept-based retrieval method for entity-oriented search

Entity-oriented retrieval aims to return a list of relevant entities rather than documents to provide exact answers for user queries. The nature of entity-oriented retrieval requires identifying the semantic intent of user queries, i.e., understanding the semantic role of query terms and determining the semantic categories which indicate the class of target entities. Existing methods are not able to exploit the semantic intent by capturing the semantic relationship between terms in a query and in a document that contains entity related information. To improve the understanding of the semantic intent of user queries, we propose concept-based retrieval method that not only automatically identifies the semantic intent of user queries, i.e., Intent Type and Intent Modifier but introduces concepts represented by Wikipedia articles to user queries. We evaluate our proposed method on entity profile documents annotated by concepts from Wikipedia category and list structure. Empirical analysis reveals that the proposed method outperforms several state-of-the-art approaches.

Rol semantikoen etiketatze automatikoa : rol multzoak eta hautapen murriztapenak

158 p. : graf.

A Data Model for Content Modelling of Temporal Media

This paper describes a data model for content representation of temporal media in an IP based sensor network. The model is formed by introducing the idea of semantic-role from linguistics into the underlying concepts of formal event representation with the aim of developing a common event model. The architecture of a prototype system for a multi camera surveillance system, based on the proposed model is described. The important aspects of the proposed model are its expressiveness, its ability to model content of temporal media, and its suitability for use with a natural language interface. It also provides a platform for temporal information fusion, as well as organizing sensor annotations by help of ontologies.

Annotation syntaxico-sémantique des actants en corpus spécialisé

L’annotation en rôles sémantiques est une tâche qui permet d’attribuer des étiquettes de rôles telles que Agent, Patient, Instrument, Lieu, Destination etc. aux différents participants actants ou circonstants (arguments ou adjoints) d’une lexie prédicative. Cette tâche nécessite des ressources lexicales riches ou des corpus importants contenant des phrases annotées manuellement par des linguistes sur lesquels peuvent s’appuyer certaines approches d’automatisation (statistiques ou apprentissage machine). Les travaux antérieurs dans ce domaine ont porté essentiellement sur la langue anglaise qui dispose de ressources riches, telles que PropBank, VerbNet et FrameNet, qui ont servi à alimenter les systèmes d’annotation automatisés. L’annotation dans d’autres langues, pour lesquelles on ne dispose pas d’un corpus annoté manuellement, repose souvent sur le FrameNet anglais. Une ressource telle que FrameNet de l’anglais est plus que nécessaire pour les systèmes d’annotation automatisé et l’annotation manuelle de milliers de phrases par des linguistes est une tâche fastidieuse et exigeante en temps. Nous avons proposé dans cette thèse un système automatique pour aider les linguistes dans cette tâche qui pourraient alors se limiter à la validation des annotations proposées par le système. Dans notre travail, nous ne considérons que les verbes qui sont plus susceptibles que les noms d’être accompagnés par des actants réalisés dans les phrases. Ces verbes concernent les termes de spécialité d’informatique et d’Internet (ex. accéder, configurer, naviguer, télécharger) dont la structure actancielle est enrichie manuellement par des rôles sémantiques. La structure actancielle des lexies verbales est décrite selon les principes de la Lexicologie Explicative et Combinatoire, LEC de Mel’čuk et fait appel partiellement (en ce qui concerne les rôles sémantiques) à la notion de Frame Element tel que décrit dans la théorie Frame Semantics (FS) de Fillmore. Ces deux théories ont ceci de commun qu’elles mènent toutes les deux à la construction de dictionnaires différents de ceux issus des approches traditionnelles. Les lexies verbales d’informatique et d’Internet qui ont été annotées manuellement dans plusieurs contextes constituent notre corpus spécialisé. Notre système qui attribue automatiquement des rôles sémantiques aux actants est basé sur des règles ou classificateurs entraînés sur plus de 2300 contextes. Nous sommes limités à une liste de rôles restreinte car certains rôles dans notre corpus n’ont pas assez d’exemples annotés manuellement. Dans notre système, nous n’avons traité que les rôles Patient, Agent et Destination dont le nombre d’exemple est supérieur à 300. Nous avons crée une classe que nous avons nommé Autre où nous avons rassemblé les autres rôles dont le nombre d’exemples annotés est inférieur à 100. Nous avons subdivisé la tâche d’annotation en sous-tâches : identifier les participants actants et circonstants et attribuer des rôles sémantiques uniquement aux actants qui contribuent au sens de la lexie verbale. Nous avons soumis les phrases de notre corpus à l’analyseur syntaxique Syntex afin d’extraire les informations syntaxiques qui décrivent les différents participants d’une lexie verbale dans une phrase. Ces informations ont servi de traits (features) dans notre modèle d’apprentissage. Nous avons proposé deux techniques pour l’identification des participants : une technique à base de règles où nous avons extrait une trentaine de règles et une autre technique basée sur l’apprentissage machine. Ces mêmes techniques ont été utilisées pour la tâche de distinguer les actants des circonstants. Nous avons proposé pour la tâche d’attribuer des rôles sémantiques aux actants, une méthode de partitionnement (clustering) semi supervisé des instances que nous avons comparée à la méthode de classification de rôles sémantiques. Nous avons utilisé CHAMÉLÉON, un algorithme hiérarchique ascendant.

A relação gramatical objeto direto : implicações para o ensino de língua materna

This paper attempts to investigate the discourse manifestations of the grammatical relation direct object with respect to the syntactic, semantic and pragmatic properties that underlie this element. The research adopts theoretical orientation of the functionalism from North American and Brazilian schools inspired in Givón (1995, 2001), Hopper and Thompson (1980), Chafe (1979), Furtado da Cunha, Oliveira, Martelotta (2003) inter alia. From functionalism, the research uses principles of iconicity, markedness and informativity and it analize categories of transitivity, grounding and animacy. This research is anchored in prototype model (TAYLOR 1995); construction grammar model (GOLDBERG 1996, 2002). Both theoretical orientations share the view that language is a malleable living organism subject to socio-cultural context. Grammar is then the result of created, maintained, and systematized linguistic patterns developed from and used for language use. According to a functional linguistics and cognitivist linguistics verbs are stored in the speakers lexicon in syntactic-semantic frames which are more frequent. These frames carry information concerning obligatory and optional arguments and the semantic roles these arguments take in the clause. The analysis focuses on the semantic type of the verbs and its relationship with the argument encoded as a direct object observing the aspectual nature of verbs. Direct objects are classified according to their morphology (lexical or pronominal noun phrase), semantic role, informational content and animacy. This study discusses pedagogical implications with relation to how the grammatical concepts touched on this paper are treated in school textbooks. The empirical data come from Corpus Discurso & Gramática: a língua falada e escrita na cidade do Natal (FURTADO DA CUNHA, 1998). This corpus is composed of texts that contain spoken and written modalities. These modalities are in turn organized according to different types: personal narratives, retold narrative, description of preferred place, procedural place, procedural description and report on argumentation. The sample data totals 40 texts produced by four language consultants of the last graduation date. The paper shows that the same syntactic structures (formed through Subject-Verb-Object) correspond to different semantic-pragmatic structures in relation to specific communicative purposes even verb is an event, process or state. The argument structure are not aleatory but are related to experience; that is the way humans conceptualize the world and talk about it

Predicados matrizes adjetivais de orações subjetivas no Português brasileiro: gramaticalização e dessentencialização

Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP)

Benefaction proper and surrogation

The semantic role of beneficiary is usually conceptualized in very general terms, typically without an intensive definition of what can constitute a benefit in the particular construction under study. Among those accounts that have proposed to discuss benefaction as related to the notion(s) of surrogation, substituting, and/or deputing, Kittilä (2005) proposes a distinction between recipients, beneficiaries, and recipient-beneficiaries based on the binary features [reception] and [substitutive benefaction]; the recipient includes only reception (and the beneficiary only substitutive benefaction), whereas both features are relevant with recipient-beneficiaries. This paper proposes an alternative account (i) by defining benefaction proper in terms of a prototype related to possession (and thereby to reception) and a periphery, and (ii) by defining surrogation as a separate notion that can, but need not, coalesce with benefaction proper. Thus, the beneficiaries’ condition improves because they are relieved from having to carry out a given action themselves.

Lexicografia bilingue e tratamento digital na elaboração de um glossário eletrônico de verbos médios do grego antigo em Apolodoro

Presentación de la metodología empleada en el montaje del glosario electrónico de los verbos griegos medios presentes en la obra Biblioteca de Apolodoro. Después de algunas reflexiones sobre el concepto de la voz media en griego y el reconocimiento de las apariciones en el corpus mencionado, presentamos una pequeña lista de palabras, con algunos lemas previamente seleccionados, con la clasificación de los verbos medios según la función semántica señalada por el sujeto oracional

La sintaxis griega hoy

Este artículo presenta una discusión sobre algunas nociones que emplea la sintaxis actual del griego clásico. En primer lugar, expone el ámbito que ocupa la sintaxis en el marco de la lingüística y la filología. En segundo y tercer lugar, expone el concepto de enunciado y de sintagma aplicados a la sintaxis del griego clásico. En cuarto lugar, expone brevemente algunos criterios distribucionales empleados para identificar las funciones desempeñadas por los complementos en la oración. A continuación, se exponen los conceptos de papel semántico, noción relacional, función semántica, función sintáctica y función pragmática. La sección 7 resume la estructura de la oración y defiende la idea de que hay que distinguir una serie de niveles o capas en los que se alojan los complementos. El parágrafo final contiene una breve conclusión. El artículo se cierra con una lista de libros sobre sintaxis griega publicados desde 1991 hasta 2003.

La sintaxis griega hoy

Este artículo presenta una discusión sobre algunas nociones que emplea la sintaxis actual del griego clásico. En primer lugar, expone el ámbito que ocupa la sintaxis en el marco de la lingüística y la filología. En segundo y tercer lugar, expone el concepto de enunciado y de sintagma aplicados a la sintaxis del griego clásico. En cuarto lugar, expone brevemente algunos criterios distribucionales empleados para identificar las funciones desempeñadas por los complementos en la oración. A continuación, se exponen los conceptos de papel semántico, noción relacional, función semántica, función sintáctica y función pragmática. La sección 7 resume la estructura de la oración y defiende la idea de que hay que distinguir una serie de niveles o capas en los que se alojan los complementos. El parágrafo final contiene una breve conclusión. El artículo se cierra con una lista de libros sobre sintaxis griega publicados desde 1991 hasta 2003.