La inteligencia artificial está avanzando a una velocidad extraordinaria y, con ella, también evolucionan sus riesgos. Algunos llevan años siendo objeto de estudio; otros están apareciendo a medida que los sistemas adquieren mayores capacidades y autonomía.

Enlace para el Online: Próximamente

El Ateneo Mercantil de Valencia acogerá el próximo miércoles 14 de octubre de 2026, a las 19:00 horas, la conferencia «De los sesgos a los ataques: los riesgos reales de la IA», impartida por César Ferri Ramírez, catedrático de Informática de la Universitat Politècnica de València (UPV), director de la Cátedra de Inteligencia Artificial aplicada a la Administración Pública (UPV-GVA) y miembro del Instituto Valenciano de Investigación en Inteligencia Artificial (VRAIN).

La conferencia, coordinada por Vicente Bosch, propone un recorrido por los riesgos de la IA desde los conocidos hasta los más recientes: del sesgo que puede introducirse a través de una variable aparentemente neutra a los modelos que ya son capaces de ejecutar ataques por su cuenta.

Cuando una variable aparentemente neutra deja de serlo

Uno de los grandes desafíos de la inteligencia artificial se encuentra en los propios datos con los que trabajan los algoritmos.

Determinadas variables que, en apariencia, podrían considerarse neutrales pueden estar relacionadas con otras características y terminar introduciendo sesgos en los resultados obtenidos por un sistema de IA.

Este fenómeno adquiere especial relevancia cuando los algoritmos intervienen en procesos que afectan a personas, organizaciones o administraciones. La conferencia permitirá comprender cómo pueden aparecer estos sesgos y por qué conocerlos resulta fundamental para evaluar adecuadamente las decisiones y resultados producidos por sistemas automatizados.

De los sesgos a una nueva generación de riesgos

Pero los riesgos asociados a la inteligencia artificial ya no terminan en los datos o en las respuestas incorrectas que pueda proporcionar un modelo.

El rápido desarrollo de estos sistemas está abriendo un nuevo escenario en el que determinadas herramientas de IA disponen de una capacidad de actuación cada vez mayor, ampliando también las consecuencias de un uso inadecuado, de una vulnerabilidad o de una utilización maliciosa.

La conferencia avanzará así desde los riesgos más conocidos hasta algunos de los fenómenos más recientes, prestando especial atención a la evolución desde sistemas que simplemente generan información hacia modelos capaces de realizar acciones y ejecutar tareas de manera autónoma.

¿Puede una inteligencia artificial ejecutar un ataque?

Este será uno de los aspectos más actuales de la conferencia. La aparición de sistemas con mayores niveles de autonomía obliga a plantearse nuevos interrogantes sobre seguridad, supervisión y control. Ya no se trata únicamente de preguntarnos qué información puede generar una IA, sino también qué puede llegar a hacer cuando dispone de herramientas y capacidad para actuar.

Precisamente ahí se encuentra uno de los cambios que plantea la conferencia de César Ferri: pasar de analizar los riesgos derivados de lo que un modelo dice o predice a estudiar también aquellos que pueden surgir de lo que un modelo es capaz de ejecutar.

Un escenario que plantea nuevos desafíos técnicos y obliga a seguir evolucionando en los mecanismos destinados a garantizar un desarrollo y una utilización segura de estas tecnologías.

Comprender los riesgos reales de la inteligencia artificial

Frente a visiones excesivamente alarmistas o, en el extremo contrario, excesivamente confiadas sobre la inteligencia artificial, la conferencia propone aproximarse a sus riesgos desde el conocimiento técnico y el análisis de situaciones concretas.

Desde los sesgos que pueden introducirse de manera inadvertida hasta las nuevas capacidades de actuación de los modelos, el encuentro permitirá comprender cómo la evolución de la IA está modificando también la naturaleza de los problemas asociados a ella.

Una oportunidad para conocer qué riesgos existen realmente, cómo están evolucionando y por qué algunos de los desafíos que hasta hace poco parecían lejanos empiezan a formar parte del debate actual sobre inteligencia artificial.

Sobre el ponente:

César Ferri Ramírez es catedrático de Informática de la Universitat Politècnica de València (UPV) y desarrolla su actividad académica e investigadora en el ámbito de la inteligencia artificial.

Es director de la Cátedra de Inteligencia Artificial aplicada a la Administración Pública (UPV-GVA) y miembro del Instituto Valenciano de Investigación en Inteligencia Artificial (VRAIN).

Su participación permitirá abordar los riesgos de la inteligencia artificial desde una perspectiva especializada, conectando cuestiones relacionadas con los algoritmos, los datos y los sesgos con los nuevos desafíos derivados del incremento de las capacidades y autonomía de los modelos.

Una tecnología cada vez más capaz exige comprender mejor sus riesgos

«De los sesgos a los ataques: los riesgos reales de la IA» propone, en definitiva, mirar más allá de las posibilidades que ofrece esta tecnología para detenerse en los problemas que acompañan a su evolución.

Porque cuanto mayores son las capacidades de los sistemas de inteligencia artificial, más importante resulta comprender cómo funcionan, dónde pueden fallar y qué sucede cuando dejan de limitarse a proporcionar una respuesta y comienzan también a actuar.

Datos de interés:

Conferencia: De los sesgos a los ataques: los riesgos reales de la IA

Conferenciante: César Ferri Ramírez

Coordina: Vicente Bosch

Fecha: Miércoles, 14 de octubre de 2026

Hora: 19:00 horas

Lugar: Teatro Ateneo – Ateneo Mercantil de Valencia

Entrada libre y gratuita