Detección de eventos violentos en publicaciones de redes sociales

Detection of violent events in social media publications

Esteban Ponce León (2023, [Tesis de maestría])

En los últimos años, ha habido un interés creciente en el monitoreo de redes sociales para recopilar información y, en algunos casos, para examinar la ocurrencia de delitos. Sin embargo, gran parte de las investigaciones hasta ahora solo se han centrado en ciudades de EE. UU. o extranjeras, y por ende, en publicaciones y conjuntos de datos en inglés El objetivo principal de esta tesis es diseñar un método que permita la identificación de publicaciones de eventos violentos en español y en Twitter, utilizando información multimodal y técnicas de aumento de datos que mejoren el rendimiento de los modelos. Para esto, el trabajo de investigación se dividió en dos fases experimentales. La primera orientada a identificar publicaciones a partir de solo texto, explorando diferentes técnicas de aumento de datos para texto y modelos de aprendizaje máquina y profundo. En la segunda fase, se extendió el método propuesto para abordar la identificación en un contexto multimodal, es decir, considerando tanto los textos de los tweets como las imágenes compartidas que los acompañan. En este caso el método propuesto consideró utilizar descripciones textuales de las imágenes y abordar la problemática desde el dominio textual, además se hicieron 2 tipos de aumento de datos para cada tipo de información. La evaluación de los métodos se hizo utilizando las colecciones de la tarea de evaluación DA-VINCIS 2022 y 2023. Los resultados demostraron una mejora en el rendimiento de los modelos al considerar el uso de información multimodal y el uso de aumento de datos.

In recent years, there has been a growing interest in monitoring social networks to gather information and, in some cases, to examine the occurrence of crime. However, much of the research so far has only focused on US or foreign cities, and thus on English-language publications and data sets. The main objective of this thesis is to design a method that allows the identification of publications of violent events in Spanish and on Twitter, using multimodal information and data augmentation techniques that improve the performance of the models. For this, the research work was divided into two experimental phases. The first aimed at identifying publications from only text, exploring different data augmentation techniques for text and machine and deep learning models. In the second phase, the proposed method was extended to address identification in a multimodal context, that is, considering both the texts of the tweets and the shared images that accompany them. In this case, the proposed method considered using textual descriptions of the images and addressing the problem from the textual domain, in addition, 2 types of data augmentation were made for each type of information. The evaluation of the methods was done using the collections of the DA-VINCIS 2022 and 2023 evaluation task. The results demonstrated an improvement in the performance of the models when considering the use of multimodal information and the use of data augmentation.

Detección de Violencia, Redes Sociales, Aumento de Datos, Procesamiento del Lenguaje Natural, BERT, BETO, Descripción de Imágenes Violence Detection, Social Networks, Data Augmentation, Natural Language Processing, BERT, BETO, Image Captioning INGENIERÍA Y TECNOLOGÍA CIENCIAS TECNOLÓGICAS TECNOLOGÍA DE LOS ORDENADORES MODELOS CAUSALES MODELOS CAUSALES

Reconocimiento continuo de la Lengua de Señas Mexicana

Continuous recognition of Mexican Sign Language

Ricardo Fernando Morfín Chávez (2023, [Tesis de maestría])

La Lengua de Señas Mexicana (LSM) es la lengua utilizada por la comunidad Sorda en México, y, a menudo, subestimada y pasada por alto por la comunidad oyente, lo que resulta en la exclusión sistemática de las personas Sordas en diversos aspectos de la vida. Sin embargo, la tecnología puede desempeñar un papel fundamental en acercar a la comunidad Sorda con la comunidad oyente, promoviendo una mayor inclusión y comprensión entre ambas. El objetivo principal de este trabajo es diseñar, implementar y evaluar un sistema de reconocimiento continuo de señas estáticas en LSM mediante, visión por computadora y técnicas de aprendizaje máquina. Se establecieron objetivos específicos, que incluyen la generación de un conjunto de datos de señas estáticas, pertenecientes al alfabeto manual de la LSM, el diseño de un modelo de reconocimiento, y la evaluación del sistema, tanto en la modalidad aislada como en la continua. La metodología involucra dos evaluaciones distintas. La primera se enfoca en el reconocimiento de señas estáticas en el dominio aislado, para ello se capturaron datos de 20 participantes realizando movimientos de la mano en múltiples ángulos. Se evaluaron diversas técnicas de aprendizaje automático, destacando que el enfoque basado en Máquinas de Soporte Vectorial (SVM) obtuvo los mejores resultados (F1-Score promedio del 0.91). La segunda evaluación se concentra en el reconocimiento continuo de señas estáticas, con datos recopilados de seis participantes con diferentes niveles de competencia en LSM, logrando un rendimiento sólido con errores cercanos al 7 %. Además, se evaluó la viabilidad del sistema en aplicaciones de tiempo real, demostrando un excelente desempeño (velocidad promedio de procesamiento de 45 cuadros por segundo). A pesar de los logros alcanzados, es importante reconocer que este proyecto se centró en el reconocimiento continuo de señas estáticas en LSM. Queda pendiente, como un desafío interesante, la exploración del reconocimiento continuo de señas dinámicas en LSM para futuras investigaciones. Se considera esencial explorar enfoques orientados a la escalabilidad y aplicaciones en tiempo real en investigaciones posteriores.

This study focuses on the continuous recognition of static signs in Mexican Sign Language (Lengua de Señas Mexicana (LSM)), the language used by the Deaf community in Mexico. Despite its significance, LSM is often underestimated and overlooked, leading to the systematic exclusion of Deaf individuals in various aspects of life. The primary objective of this work is to design, implement, and evaluate a continuous static sign recognition system in LSM using computer vision and machine learning techniques. Specific goals were established, including the creation of a dataset of static signs belonging to the manual alphabet of LSM, the design of a recognition model, and the evaluation of the system in both isolated and continuous modes. The methodology involves two distinct evaluations. The first one focuses on the recognition of static signs in the isolated domain, for which data from 20 participants performing hand movements at various angles were collected. Various machine learning techniques were evaluated, with the Máquinas de Soporte Vectorial (SVM)-based approach achieving the best results (average F1-Score of 0.91). The second evaluation centers on the continuous recognition of static signs, using data collected from six participants with varying levels of competence in LSM, achieving robust performance with errors close to 7 %. Furthermore, the feasibility of the system in real-time applications was assessed, demonstrating excellent performance (average processing speed of 45 frames per second). Despite the achievements, it is important to recognize that this project focused on continuous recognition of static signs in LSM. It remains an interesting challenge to explore the continuous recognition of dynamic signs in LSM for future research. It is considered essential to explore scalability-oriented approaches and real-time applications in subsequent investigations.

Lengua de Señas Mexicana (LSM), visión por computadora, aprendizaje automático, alfabeto manual de la LSM, reconocimiento automático de señas estáticas, reconocimiento aislado de señas, reconocimiento continuo de señas, aplicacion Mexican Sign Language (LSM), computer vision, machine learning, LSM manual alpahbet, automatic recognition of static signs, isolated sign recognition, continuous sign recognition, real-time aplications INGENIERÍA Y TECNOLOGÍA CIENCIAS TECNOLÓGICAS TECNOLOGÍA DE LOS ORDENADORES ENSEÑANZA CON AYUDA DE ORDENADOR ENSEÑANZA CON AYUDA DE ORDENADOR