Métodos para mejorar la seguridad de las respuestas en un chatbot que proporciona información sobre suicidio en castellano

Ponente: César Domínguez Pérez (Grupo PSYCOTRIP, Universidad de La Rioja).

Lugar: Seminario Mirian Andrés (Edificio CCT).

Hora: viernes 19 de septiembre de 2025, 10:00.

Resumen: Los chatbots tienen un gran potencial para proporcionar información valiosa en campos sensibles como la salud mental. Sin embargo, garantizar la fiabilidad y la seguridad de estos sistemas es fundamental y representa un paso crucial antes del despliegue de los chatbots. En esta charla, presentamos nuestro trabajo orientado a mejorar la seguridad de un chatbot en español basado en el modelo Retrieval-Augmented Generation (RAG) y diseñado para ofrecer información sobre el suicidio. A través de un proceso de validación en múltiples etapas, identificamos y clasificamos las respuestas inseguras del chatbot utilizando modelos de clasificación de red-teaming y mediante una validación manual por parte de expertos. Este proceso nos permitió descubrir varias fuentes de respuestas inseguras y aplicar estrategias específicas para mitigarlas. Como resultado, menos del 1 por mil de las preguntas formuladas por los usuarios y menos del 5 por mil de las preguntas de red-teaming fueron clasificadas como inseguras. Las acciones propuestas se centraron en mejorar los componentes clave del chatbot (incluyendo la base de datos de documentos, el diseño del prompt y el modelo de lenguaje) y pueden extrapolarse para mejorar la seguridad de otros chatbots similares basados en RAG.

Nota: La charla es una prueba de tiempo de la ponencia que presentará César en el XLI Congreso Internacional de la Sociedad Española para el Procesamiento del Lenguaje Natural que se celebrará en Zaragoza del 23 al 26 de septiembre.

“Riders” y el algoritmo

Ponente: César Domínguez Pérez (Grupo PSYCOTRIP, Universidad de La Rioja).

Lugar: Seminario Mirian Andrés (Edificio CCT).

Hora: miércoles 28 de febrero de 2024, 11:00.

Resumen: En esta charla se explicarán distintos problemas de enrutamiento y los diversos tipos de algoritmos que se han desarrollado para darles solución. Estos problemas incluyen el problema del viajante o el problema del enrutamiento de vehículos. Son problemas NP-duros y a lo largo de 50 años se han diseñado distintos tipos de algoritmos dentro de la Inteligencia Artificial que tratan de encontrar soluciones aproximadas a los mismos. Actualmente, se están aplicando técnicas dentro del aprendizaje profundo, basados en grandes bancos de datos adquiridos por sensores. Estos algoritmos están detrás de las aplicaciones informáticas que gestionan a los “riders” en el reparto de mercancías.

Nota: Se trata de una presentación de la charla que se impartirá en la jornada titulada «Una mirada feminista a la economía de plataforma y la inteligencia artificial», organizada por el Colectivo de Inteligencia Artificial e Inteligencia Social (CIAIS), que tendrá lugar el jueves 7 de marzo a las 17:00 en el Salón de Actos del Edificio CCT (Universidad de La Rioja).

Explicabilidad en aprendizaje automático

Ponente: César Domínguez Pérez (Universidad de La Rioja).

Lugar: Aula 103 (Edificio CCT — aforo limitado –) y online (https://bit.ly/salaDMC).

Hora: miércoles 14 de julio, 12:00.

Resumen: En esta charla debatiremos sobre los conceptos de explicabilidad e interpretabilidad en aprendizaje automático. Reflexionaremos sobre los beneficios que aportan y esbozaremos una taxonomía de métodos existentes. Finalmente, introduciremos alguno de los métodos más utilizados actualmente a la hora de trabajar con datos estructurados.

Iniciativas en el marco de la Unidad Mixta de Innovación TIC

Ponentes: César Domínguez Pérez (Universidad de La Rioja), Emilio Rodríguez Priego (Dirección General de Agenda Digital, Comunidad Autónoma de La Rioja)

Lugar: Seminario Mirian Andrés (Edificio CCT)

Hora: jueves 30 de mayo, 12:00

Resumen: Tras casi un año desde la firma del convenio interadministrativo entre la Consejería de Administración Pública y Hacienda de la Comunidad Autónoma de La Rioja y la Universidad de La Rioja para impulsar la investigación en tecnologías de la información y comunicación en el ámbito de la Agenda Digital de La Rioja (2020), en este seminario se pretende describir las diferentes iniciativas que se están proponiendo a través de dicho convenio.

Introducción a Neo4j

Ponente: César Domínguez

Lugar: Seminario Mirian Andrés (Edificio CCT)

Hora: jueves 19 de enero, 12:00

Resumen: en la charla se hará una breve introducción a las bases de datos y paradigmas «NoSQL». A continuación, se profundizará en las bases de datos orientadas a grafos, en particular a Neo4j. En la charla se presentará el modelo de datos y de relaciones que implementan, casos de uso en los que su aplicación puede presentar una ventaja significativa, y algunos ejemplos de su utilización.

El punto de vista del alumno sobre los ECTS como herramienta para la coordinación del Grado en Ingeniería Informática

Ponente: César Domínguez Pérez (Universidad de La Rioja)

Lugar: Seminario Mirian Andrés (Edificio CCT)

Hora: miércoles 29 de junio, 12:15

En esta sesión se presentarán y debatirán los resultados obtenidos en el proyecto de innovación docente que se ha desarrollado a lo largo del curso académico 2015/2016 y que tiene como título el mismo de esta sesión.