Detección de comportamiento no verbal en interacción humano-robot

Detection of non-verbal behavior in human-robot interaction

Ernesto Adrián Lozano De la Parra (2023, [Tesis de maestría])

La comunicación no verbal desempeña un papel vital en la interacción humana. En el contexto de la interacción humano-robot (IHR), los robots sociales están diseñados principalmente para la comunicación verbal con los humanos, dejando a la comunicación no verbal como un área de investigación abierta. En este trabajo, se presenta una arquitectura flexible y abierta llamada Software Arquitechture for Nonverbal Interaction in Human-Robot Interaction (SANI-HRI) diseñada para facilitar las interacciones no verbales en IHR. Entre sus componentes se encuentra un Cuaderno Computacional P2P basado en navegador web, aprovechado para codificar, ejecutar y compartir programas reactivos. Pueden incluirse modelos de aprendizaje automático para el reconocimiento en tiempo real de gestos, poses y estados de ´animo, empleando protocolos como MQTT. Otro componente clave es un Broker para distribuir datos entre distintos dispositivos físicos, como robots, dispositivos vestibles y sensores ambientales, así como modelos de aprendizaje automático que comprendan diferentes tipos de datos. Se demuestra la utilidad de esta arquitectura mediante tres escenarios de interacción: (i) el primero que emplea la proxémica y la dirección de la mirada para iniciar un encuentro improvisado, (ii) un segundo que utiliza técnicas de visión por computadora para detectar y analizar expresiones faciales y corporales, así como el uso sensores biométricos para obtener datos de ritmo cardiaco durante una rutina de ejercicio, y (iii) un tercero que incorpora el reconocimiento de objetos y Modelos de Lenguaje Grandes para sugerir comidas a cocinar en función de los ingredientes disponibles. Estos escenarios ilustran cómo los componentes de la arquitectura pueden integrarse para abordar nuevos escenarios, en los que los robots necesitan inferir señales no verbales de los usuarios.

Nonverbal communication plays a vital role in human interaction. In the context of Human-Robot Interaction (HRI), social robots are designed primarily for verbal-based communication with humans, making nonverbal communication an open research area. We present a flexible, open framework called Software Architecture for Nonverbal Interaction in Human-Robot Interaction (SANI-HRI) designed to facilitate nonverbal interactions in HRI. Among its components it has a P2P Browser-Based Computational Notebook, leveraged to code, run, and share reactive programs. Machine-learning models can be included for real-time recognition of gestures, poses, and moods, employing protocols such as MQTT. Another key component is a broker for distributing data among different physical devices like the robot, wearables, and environmental sensors and also machine learning models. We demonstrate this framework’s utility through three interaction scenarios: (i) the first one employing proxemics and gaze direction to initiate an impromptu encounter, (ii) a second that uses computer vision techniques to detect and analyze facial and body expressions, as well as the use of biometric sensors to obtain heart rate data during a workout routine, and (iii) a third one incorporating object recognition and a Large-Language Model to suggest meals to be cooked based on available ingredients. These scenarios illustrate how the framework’s components can be seamlessly integrated to address new scenarios, where robots need to infer nonverbal cues from users.

Interacción humano-robot, Comunicación no verbal, Broker MQTT, Notebook computacional, Modelos linguísticos grandes, SANI-HRI Human-robot interaction, Nonverbal communication, Broker MQTT, Computational notebook, Large language models, SANI-HRI INGENIERÍA Y TECNOLOGÍA CIENCIAS TECNOLÓGICAS TECNOLOGÍA DE LOS ORDENADORES SISTEMAS DE RECONOCIMIENTO DE CARACTERES SISTEMAS DE RECONOCIMIENTO DE CARACTERES

Realidad virtual en fenómenos del espacio interestelar

Antonio Luciano Hernández Padilla (2024, [Tesis de maestría])

153 páginas. Maestría en Diseño y Visualización de la Información.

El proyecto es un prototipo que se distribuye en varias etapas y sigue un enfoque de diseño de videojuegos para crear una experiencia de realidad virtual (también conocida como VR Virtual Reality) organizada y coherente. Requiere una fusión de conceptos multidisciplinarios, incluyendo ingeniería, diseño tridimensional y programación, lo que demanda a los profesionales involucrados tener sólidos conocimientos y habilidades creativas. El diseño de videojuegos se valora como un proceso que exige dedicación y pasión, aunque también se destaca la importancia de establecer reglas y géneros para orientar el desarrollo del juego. En este proyecto, el juego se clasifica como una aventura en primera persona centrada en la exploración del espacio interestelar, donde el jugador debe seguir reglas preestablecidas para alcanzar objetivos. La ludología, como estudio académico de los juegos, resalta la constante esencia de jugar, aprender y socializar en los juegos. La construcción del mundo del juego se basa en un Game Design Document que describe la visión, género y objetivos del juego. "Space Travel" se centra en la exploración espacial y cuenta con una nave espacial minimalista y un exoplaneta rocoso y gélido. Las mecánicas del juego se centran en la recolección de objetos y su activación, con reglas que guían la interacción del jugador con el entorno. Este proyecto busca ofrecer una experiencia de VR inmersiva y atractiva, centrada en el usuario. El enfoque en los principios de diseño de videojuegos y la planificación a través del Game Design Document demuestran un compromiso con la creación de una experiencia gratificante y significativa. La atención a la inmersión y las mecánicas de juego respaldan la afirmación de que es un desarrollo centrado en la experiencia del usuario.

The ongoing project is a prototype in various stages, following a game design approach to create an organized and coherent virtual reality experience. It requires a fusion of multidisciplinary concepts, including engineering, three-dimensional design, and programming, demanding that involved professionals possess strong knowledge and creative skills. Game design is valued as a process that demands dedication and passion, while also emphasizing the importance of establishing rules and genres to guide game development. In this project, the game is classified as a first-person adventure focused on interstellar space exploration, where the player must adhere to preset rules to achieve objectives. Ludology, as an academic study of games, highlights the constant essence of playing, learning, and socializing within games. The construction of the game world is based on a Game Design Document describing the vision, genre, and objectives of the game. "Space Travel" focuses on space exploration, featuring a minimalist spaceship and an icy, rocky exoplanet. Game mechanics revolve around object collection and activation, with rules guiding the player's interaction with the environment. This project aims to deliver an immersive and engaging virtual reality experience centered on the user. The focus on game design principles and planning through the Game Design Document demonstrates a commitment to creating a rewarding and meaningful experience. Attention to immersion and game mechanics supports the assertion that it's a user experience focused development.

Espacio, realidad, virtual, interactividad, diseño, experiencia, usuario. Space, Virtual, Reality, interactivity, design, user, experience. Video games--Design. Outer space--Exploration. Video games--Programming. VRML (Computer program language) Three-dimensional display systems. Videojuegos -- Diseño. Espacio exterior -- Exploración. Diseño de sistemas centrado en el usuario. QA76.76.C672 INGENIERÍA Y TECNOLOGÍA CIENCIAS TECNOLÓGICAS TECNOLOGÍA DE LOS ORDENADORES DISEÑO CON AYUDA DE ORDENADOR

FEMINISMOS SUBTERRÁNEOS: CONFLICTOS, IDENTIDADES Y AFECTIVIDADES ENTRE LAS COMERCIANTES POPULARES Y LAS COLECTIVAS FEMINISTAS EN EL METRO DE LA CIUDAD DE MÉXICO

Flor Daniela Estrada Gutiérrez (2023, [Tesis de maestría])

"La presente investigación se concentra en el estudio de un proceso de la vida social que inicia con el encuentro de dos grupos de mujeres. Este encuentro es motivado por la crisis laboral desencadenada por la pandemia de la COVID-19 y comienza el 3 de octubre de 2020, con la instalación de las mercaditas de protesta económica dentro de los pasillos del Metro de la ciudad de México, como una manera de denunciar la criminalización hacia las mujeres que realizaban la entrega de productos en las instalaciones de ese transporte. Las mercaditas son una manifestación del movimiento feminista, que consiste en la creación de una red de apoyo y sustento entre mujeres para ocupar los lugares públicos y denunciar la violencia y la falta de reconocimiento sobre la participación económica de las mujeres, mediante la instalación de carteles de protesta y de mantas en las cuales exhiben productos elaborados por ellas mismas o de segundo uso. Las mercaditas se sostienen por principios morales y económicos como la autogestión y la sororidad. En aras de evitar las respuestas radicales por parte de las colectivas feministas que instalaron las mercaditas de protesta y como una forma de lanzar un mensaje de apoyo hacia las mujeres y al movimiento feminista, las autoridades del gobierno de la Ciudad de México otorgaron una permisividad diferenciada, en cuanto al ejercicio de venta de las comerciantes populares, para la instalación de las mercaditas en los pasillos del metro, lo cual no termina por frenar la persecución y los abusos de autoridad de los que son objeto. Como una respuesta ante la permisividad de la instalación de las mercaditas, desde la indignación las comerciantes populares, mejor conocidas como vagoneras se propusieron explorar la forma de vida de la protesta feminista, con el objetivo de…”.

Economía feminista. Vagoneras - Ciudad de México - Sistema de Transporte Colectivo. Vendedoras ambulantes - Ciudad de México. Ciudad de México - Sistema de Transporte Colectivo. Tesis - Maestría en Antropología Social, CDMX. CIENCIAS SOCIALES SOCIOLOGÍA GRUPOS SOCIALES POSICIÓN SOCIAL DE LA MUJER POSICIÓN SOCIAL DE LA MUJER

Evaluación de la cinética de liberación de compuestos hidrofílicos y lipofílicos a partir de nanopartículas híbridas polímero-lípido

Evaluation of the release kinetics of hydrophilic and lipophilic compounds from polymer-lipid hybrid nanoparticles

Juan Pablo Carmona Almazán (2023, [Tesis de maestría])

En el tratamiento de enfermedades, la administración de dosis múltiples es una estrategia común para mantener la concentración de los fármacos dentro de un margen terapéutico. Sin embargo, la adherencia de los pacientes a este tipo de tratamiento puede ser un desafío, llevando a una administración irregular de dosis. Una alternativa utilizada para abordar este reto son las nanopartículas híbridas polímero/lípido(NPPLs), las cuales, con menos administraciones, tienen el potencial de alcanzar la dosis necesaria en el tratamiento, posibilitando entonces el incremento del apego al tratamiento. En nuestro proyecto, se llevó a cabo la síntesis de nanopartículas de ácido poli láctico-co-glicólico (PLGA) recubiertas de lecitina de soya, por medio de técnicas de nanoprecipitación y autoensamblaje. Además, integramos estas nanopartículas en una matriz polimérica a base de aerogeles de gelatina de manera que estuvieran distribuidas de manera homogénea y concentrada. Nuestro enfoque central radica en entender la cinética de liberación de un compuesto hidrofílico (ácido gálico) y uno lipofílico (quercetina) a partir de este sistema. Logramos sintetizar nanopartículas con un diámetro hidrodinámico de 100 ± 15 nm, 153 ± 33 y149±21 nm, en el caso de las nanopartículas vacías y cargadas con ácido gálico y cargadas con quercetina, respectivamente. La eficiencia de encapsulación del ácido gálico fue del 90 ± 5 % y de la quercetina fue del 70 ± 10 %. Los resultados que obtuvimos muestran que el ácido gálico sigue una cinética del modelo de Korsmeyer-Peppas, con un valor de n = 1.01 y la quercetina una cinética de primer orden. Dado que los compuestos encapsulados tuvieron una liberación más lenta con respecto a los compuestos libres en los aerogeles de gelatina, nuestro trabajo indica que el encapsulamiento en NPPLs de un compuesto bioactivo, independientemente de su naturaleza química, puede ayudar a retrasar su liberación y reducir el número de dosis administradas, en consecuencia, esto pudiera contribuir a incrementar el apego de un paciente al tratamiento.

In the treatment of diseases, the administration of multiple doses is a common strategy to maintain drug concentrations within a therapeutic range. However, patient adherence to this type of treatment can be challenging, resulting in irregular dosing. An alternative approach used to address this challenge involves polymer/lipid hybrid nanoparticles (NPPLs), which have the potential to achieve the necessary drug dose with fewer administrations, thereby increasing treatment adherence. In our project, we synthesized poly(lactic-co-glycolic acid) (PLGA) nanoparticles coated with soy lecithin using nanoprecipitation and self-assembly techniques. These nanoparticles were then integrated into a polymer matrix based on gelatin aerogels to ensure homogeneous and concentrated distribution. Our main focus was to understand the release kinetics of a hydrophilic compound (gallic acid) and a lipophilic one (quercetin) from this system. We successfully synthesized nanoparticles with a hydrodynamic diameter of 100 ± 15 nm, 153 ± 33 nm, and 149 ± 21 nm for empty nanoparticles, gallic acid-loaded, and quercetin-loaded nanoparticles, respectively. The encapsulation efficiency was 90 ± 5 % for gallic acid and 70 ± 10 % for quercetin. The results we obtained indicate that gallic acid follows Korsmeyer-Peppas kinetics with a value of n = 1.01, while quercetin exhibits first-order kinetics. Since the encapsulated compounds showed slower release compared to free compounds in gelatin aerogels, our work suggests that encapsulation in NPPLs with a bioactive compound, regardless of its chemical nature, can help delay its release and reduce the number of doses administered. Consequently, this could contribute to improve patient treatment adherence.

nanopartículas híbridas, cinética de liberación, sistemas poliméricos, PLGA/lecitina, compuestos hidrofílicos y lipofílicos hybrid nanoparticles, release kinetics, polymeric systems, PLGA/lecithin, hydrophilic and lipophilic compounds INGENIERÍA Y TECNOLOGÍA CIENCIAS TECNOLÓGICAS INGENIERÍA Y TECNOLOGÍA QUÍMICAS ANÁLISIS DE POLÍMEROS ANÁLISIS DE POLÍMEROS

Usando la descomposición de un grafo Halin para el diseño de algoritmos autoestabilizantes

Using Halin graph decomposition for the design of self-stabilizing algorithm

Daniel Uriel Orozco Lomelí (2023, [Tesis de maestría])

Sea G = (V, E) un grafo no dirigido. El problema de encontrar un conjunto independiente fuerte en G, es identificar un conjunto S ⊆ V , tal que dados dos vértices arbitrarios de S, éstos estén separados entre sí por el menos tres aristas. Encontrar un conjunto S de tamaño máximo pertenece a la clase NP-Difícil. Por otro lado, el problema de encontrar un conjunto dominante total en G es identificar un conjunto D ⊆ V , tal que cualquier vértice en V tenga al menos un vecino que pertenezca a D. Encontrar un conjunto D de tamaño mínimo también pertenece a la clase NP-Difícil. En este trabajo de tesis se diseñaron dos algoritmos, uno que resuelve el problema de encontrar un conjunto independiente fuerte maximal y otro que resuelve el problema de encontrar un conjunto dominante total minimal. Estos dos problemas son menos restrictivos que las versiones de optimización descritas al principio de este texto y se sabe que pertenecen a la clase P. Los algoritmos diseñados corren en un sistema distribuido, son autoestabilizantes, son tolerantes a fallas transitorias y funcionan para grafos Halin. Los grafos Halin pertenecen a la clase de grafos 2-outerplanares y tienen la propiedad de que se pueden partir en dos subgrafos muy conocidos, un árbol y un ciclo. Los algoritmos propuestos aprovechan la propiedad anterior para disminuir la complejidad de los mismos. Hasta donde tenemos conocimiento, los algoritmos propuestos, que corren en tiempo lineal en el número de vértices, son los algoritmos más rápidos existentes para los problemas del conjunto independiente fuerte maximal y el conjunto dominante total minimal.

Let G = (V, E) be an undirected graph. The problem of finding a strong stable set in G, is to identify a set S ⊆ V , such that given two arbitrary vertices of S, they are separated from each other by at least three edges. Finding a set S of maximum size belongs to the class NP-Hard. On the other hand, the problem of finding a total dominanting set in G is to identify a set D ⊆ V , such that any vertex in V has at least one neighbor belonging to D. Finding a set D of minimum size also belongs to the class NP-Hard. In this thesis work, two algorithms were designed, one that solves the problem of finding a maximal strong stable set and one that solves the problem of finding a minimal total dominanting set. These two problems are less restrictive than the optimization versions described at the beginning of this text and are known to belong to the P class. The designed algorithms run on a distributed system, are self-stabilizing, are transient fault tolerant, and work for Halin graphs. Halin graphs belong to the 2-outerplanar class of graphs and have the property that they can be split into two well-known subgraphs, a tree and a cycle. The proposed algorithms take advantage of the above property to decrease the complexity of the algorithms. To the best of our knowledge, the proposed algorithms, which run in linear time in the number of vertices, are the fastest existing algorithms for the maximal strong stable set and minimal total dominating set problems.

Grafo Halin, Sistemas Distribuidos, Autoestabilización, Conjunto Independiente Fuerte, Conjunto Dominante Total Halin Graph, Distributed Systems, Self-stabilizing, Strong Stable Set, Total Dominating Set INGENIERÍA Y TECNOLOGÍA CIENCIAS TECNOLÓGICAS TECNOLOGÍA DE LOS ORDENADORES LENGUAJES ALGORÍTMICOS LENGUAJES ALGORÍTMICOS

Evaluación del aporte hidrológico superficial en el sistema de bloque de montaña de la subcuenca Ojos Negros

Surface hydrological contribution evaluation in the mountain block system of the Ojos Negros subbasin

Ricardo Adolfo Hidalgo Rodríguez (2023, [Tesis de maestría])

Este trabajo se realizó en la sección de la subcuenca Ojos Negros, sobre el bloque de montaña de la Sierra de Juárez (denominado Sistema de Bloque de Montaña de la Subcuenca Ojos Negros, SBMON), en el estado de Baja California, México. Se llevó a cabo un modelado hidrológico del escurrimiento en el periodo 1981-2020 para cuantificar el aporte hidrológico de salida hacia el Valle de Ojos Negros. En cumplimiento del objetivo, se diseñó una base de datos meteorológicos compuesta por los registros diarios de las estaciones meteorológicas en la región y del modelo de forzamiento de superficie NLDAS2. Se recopiló un conjunto de información edafológica, forestal, geológica, satelital y topográfica dentro del área de estudio. Con la información recolectada, se elaboraron dos modelos de escurrimiento empleando el método de las curvas numeradas (CN) del Departamento de Agricultura de los Estados Unidos (USDA). Los modelos fueron ajustados con los valores de sustracción inicial, Ia, de 0.2 (modelo A) y 0.05 (modelo B). Las series generadas se compararon con los resultados del modelo GCN250, basado en los datos edafológicos y forestales de la Agencia Espacial Europea (ESA). A nivel regional, se observó un aporte de escurrimiento anual de 9.2 Mm3 (GCN250), 10.9 Mm3 (modelo A) y 4.7 Mm3 (modelo B). La sección oriental del SBMON mostró el mayor potencial de infiltración, pero también fue la zona con mayor producción de escurrimiento en todos los modelos. Desde la perspectiva estacional, se identificaron periodos donde los escurrimientos formados a partir de las lluvias en verano superaron a los generados en la temporada invernal. Con base a los resultados obtenidos, el aporte de escurrimiento dentro del SBMON es significativa, no obstante, los procesos de escurrimiento subsuperficial y subterráneo pueden tener un papel todavía más importante en la recarga hacia el Valle de Ojos Negros. Se recomienda dar seguimiento a la variación del contenido de humedad en los suelos del SBMON, a los patrones anuales y estacionales de precipitación, así como la contribución hídrica del derretimiento de la nieve en la Sierra de Juárez.

This work was realized in the section of the Ojos Negros sub-basin, on the Sierra de Juárez mountain block (denominated Mountain Block System of the Ojos Negros Sub-Basin, SBMON), in the state of Baja California, Mexico. A hydrological runoff modeling was carried out for the period 1981-2020 to quantify the output hydrological contribution toward the Ojos Negros Valley. In compliance with the objective, a meteorological database consisting of the daily records of the meteorological stations and the NLDAS-2 surface forcing model was designed. A set of edaphological, forestry, geological, satellite, and topographical information was collected within the study area. Based on the collected information, two runoff models were developed using the Curve Number (CN) method from the United States Department of Agriculture (USDA). The models were adjusted with the initial subtraction values, Ia, of 0.2 (model A) and 0.05 (model B). The generated series were compared with the results of the GCN250 model, based on soil and forestry data from the European Space Agency (ESA). Regionally, an annual runoff contribution of 9.2 Mm3 (GCN250), 10.9 Mm3 (model A), and 4.7 Mm3 (model B) was observed. The eastern section of the SBMON showed the highest infiltration potential, but it was also the area with the highest runoff production in all models. From the seasonal perspective, periods were identified where the runoff formed from summer rains exceeded that generated in the winter season. Based on the results obtained, the runoff contribution within the SBMON is significant, however, the subsurface and underground runoff processes may have an even more key role in the recharge toward the Ojos Negros Valley. It is recommended to monitor the variation of the moisture content in the SBMON soils, the annual and seasonal patterns of precipitation, as well as the water contribution from the snow melting in the Sierra de Juárez.

Sistema de bloque de montaña de la subcuenca Ojos Negros, escurrimiento, infiltración, método de las Curvas Numeradas, GCN250 Mountain Block System of the Ojos Negros Sub-Basin, runoff, infiltration, Curve Number method, GCN250 CIENCIAS FÍSICO MATEMÁTICAS Y CIENCIAS DE LA TIERRA CIENCIAS DE LA TIERRA Y DEL ESPACIO OTRAS ESPECIALIDADES DE LA TIERRA, ESPACIO O ENTORNO OTRAS OTRAS

Control de sistemas usando aprendizaje de máquina

Systems control using machine learning

Jesús Martín Miguel Martínez (2023, [Tesis de maestría])

El aprendizaje por refuerzo es un paradigma del aprendizaje de máquina con un amplio desarrollo y una creciente demanda en aplicaciones que involucran toma de decisiones y control. Es un paradigma que permite el diseño de controladores que no dependen directamente del modelo que describe la dinámica del sistema. Esto es importante ya que en aplicaciones reales es frecuente que no se disponga de dichos modelos de manera precisa. Esta tesis tiene como objetivo implementar un controlador óptimo en tiempo discreto libre de modelo. La metodología elegida se basa en algoritmos de aprendizaje por refuerzo, enfocados en sistemas con espacios de estado y acción continuos a través de modelos discretos. Se utiliza el concepto de función de valor (Q-función y función V ) y la ecuación de Bellman para resolver el problema del regulador cuadrático lineal para un sistema mecánico masa-resorte-amortiguador, en casos donde se tiene conocimiento parcial y desconocimiento total del modelo. Para ambos casos las funciones de valor son definidas explícitamente por la estructura de un aproximador paramétrico, donde el vector de pesos del aproximador es sintonizado a través de un proceso iterativo de estimación de parámetros. Cuando se tiene conocimiento parcial de la dinámica se usa el método de aprendizaje por diferencias temporales en un entrenamiento episódico, que utiliza el esquema de mínimos cuadrados con mínimos cuadrados recursivos en la sintonización del crítico y descenso del gradiente en la sintonización del actor, el mejor resultado para este esquema es usando el algoritmo de iteración de valor para la solución de la ecuación de Bellman, con un resultado significativo en términos de precisión en comparación a los valores óptimos (función DLQR). Cuando se tiene desconocimiento de la dinámica se usa el algoritmo Q-learning en entrenamiento continuo, con el esquema de mínimos cuadrados con mínimos cuadrados recursivos y el esquema de mínimos cuadrados con descenso del gradiente. Ambos esquemas usan el algoritmo de iteración de política para la solución de la ecuación de Bellman, y se obtienen resultados de aproximadamente 0.001 en la medición del error cuadrático medio. Se realiza una prueba de adaptabilidad considerando variaciones que puedan suceder en los parámetros de la planta, siendo el esquema de mínimos cuadrados con mínimos cuadrados recursivos el que tiene los mejores resultados, reduciendo significativamente ...

Reinforcement learning is a machine learning paradigm with extensive development and growing demand in decision-making and control applications. This technique allows the design of controllers that do not directly depend on the model describing the system dynamics. It is useful in real-world applications, where accurate models are often unavailable. The objective of this work is to implement a modelfree discrete-time optimal controller. Through discrete models, we implemented reinforcement learning algorithms focused on systems with continuous state and action spaces. The concepts of value-function, Q-function, V -function, and the Bellman equation are employed to solve the linear quadratic regulator problem for a mass-spring-damper system in a partially known and utterly unknown model. For both cases, the value functions are explicitly defined by a parametric approximator’s structure, where the weight vector is tuned through an iterative parameter estimation process. When partial knowledge of the dynamics is available, the temporal difference learning method is used under episodic training, utilizing the least squares with a recursive least squares scheme for tuning the critic and gradient descent for the actor´s tuning. The best result for this scheme is achieved using the value iteration algorithm for solving the Bellman equation, yielding significant improvements in approximating the optimal values (DLQR function). When the dynamics are entirely unknown, the Q-learning algorithm is employed in continuous training, employing the least squares with recursive least squares and the gradient descent schemes. Both schemes use the policy iteration algorithm to solve the Bellman equation, and the system’s response using the obtained values was compared to the one using the theoretical optimal values, yielding approximately zero mean squared error between them. An adaptability test is conducted considering variations that may occur in plant parameters, with the least squares with recursive least squares scheme yielding the best results, significantly reducing the number of iterations required for convergence to optimal values.

aprendizaje por refuerzo, control óptimo, control adaptativo, sistemas mecánicos, libre de modelo, dinámica totalmente desconocida, aproximación paramétrica, Q-learning, iteración de política reinforcement learning, optimal control, adaptive control, mechanical systems, modelfree, utterly unknown dynamics, parametric approximation, Q-learning, policy iteration INGENIERÍA Y TECNOLOGÍA CIENCIAS TECNOLÓGICAS TECNOLOGÍA DE LOS ORDENADORES INTELIGENCIA ARTIFICIAL INTELIGENCIA ARTIFICIAL