- La XIII Cumbre de Mujeres Juristas del ICAM concluye con un mensaje de esperanza y plantea en sus conclusiones una hoja de ruta para prevenir la discriminación algorítmica y la violencia digital en el desarrollo de la IA
- El despliegue de esta tecnología solo será compatible con una democracia avanzada si se somete a mecanismos efectivos de transparencia, rendición de cuentas y supervisión humana
- Más de 300 personas han seguido a las jornadas organizadas por el Colegio de la Abogacía de Madrid en el Congreso de los Diputados
La XIII Cumbre de Mujeres Juristas del Colegio de la Abogacía de Madrid (ICAM) ha concluido este viernes en el Congreso de los Diputados con un llamamiento a reforzar las garantías jurídicas frente a los riesgos que plantea la inteligencia artificial para la igualdad y los derechos fundamentales, desde la discriminación algorítmica hasta la violencia digital amplificada por tecnologías automatizadas.
Las conclusiones del encuentro, en el que han participado más de 300 juristas, subrayan que el despliegue de estas tecnologías solo será compatible con una democracia avanzada si se somete a mecanismos efectivos de transparencia, rendición de cuentas y supervisión humana, especialmente en aquellos ámbitos donde el impacto social de los sistemas automatizados es mayor. Una tarea en la que la abogacía está llamada a desempeñar un papel fundamental para asegurar un uso ético, seguro y responsable desde la mirada transversal de la igualdad.
“Estamos a tiempo de controlar los efectos perversos que la IA puede generar”, ha reconocido la vicedecana del ICAM, Isabel Winkels, defendiendo la necesidad de reforzar la trazabilidad de los datos, identificar los factores que intervienen en las decisiones automatizadas y auditar los procesos algorítmicos que ya influyen en múltiples ámbitos de la vida social y profesional.
“La Inteligencia Artificial está reconfigurando la forma en que se toman decisiones en ámbitos esenciales: empleo, crédito, seguridad, información, justicia. Y cuando cambian los mecanismos de decisión, cambia también la arquitectura del poder”, ha advertido por su parte el decano del ICAM. Si la abogacía quiere seguir siendo garante de derechos, señala Eugenio Ribón, “debe comprender en profundidad cómo funcionan estos sistemas, cómo se entrenan, qué sesgos pueden incorporar y qué efectos generan”. El reto, por tanto, “no es frenar la innovación, sino impedir que avance al margen de los principios que sostienen el Estado de Derecho”, concluyó el decano.
Con ese objetivo, el Colegio de la Abogacía de Madrid ha articulado en las conclusiones de la Cumbre una hoja de ruta jurídica orientada a reforzar las garantías frente a los riesgos asociados al uso de sistemas automatizados. El documento identifica una serie de prioridades inmediatas —desde la prevención de la discriminación algorítmica hasta el refuerzo de las herramientas jurídicas frente a la violencia digital— y sitúa en el centro del debate la necesidad de garantizar la transparencia, la trazabilidad y la supervisión humana de los sistemas de inteligencia artificial.
Algoritmos, discriminación y responsabilidad jurídica
Presentadas por los diputados de la Junta de Gobierno del ICAM José Ignacio Monedero y Ana Buitrago, una de las principales conclusiones de la Cumbre es que la inteligencia artificial no es neutral. Los sistemas automatizados pueden incorporar sesgos derivados de los datos con los que se entrenan, de los objetivos para los que se diseñan o del contexto organizativo en el que se utilizan. Sin mecanismos de transparencia y supervisión, advirtieron los participantes, existe el riesgo de que esas desigualdades se consoliden y resulten más difíciles de detectar o impugnar jurídicamente.
En este sentido, las conclusiones del encuentro subrayan que la responsabilidad jurídica no puede transferirse al algoritmo. Toda decisión automatizada con efectos relevantes debe contar con un responsable identificable, supervisión humana efectiva y mecanismos reales de revisión e impugnación.
Este principio resulta especialmente relevante en ámbitos sensibles como el empleo, el acceso a servicios esenciales o determinados procesos administrativos, donde el uso de sistemas automatizados puede tener consecuencias directas sobre los derechos de las personas.
Otro de los ejes centrales del debate fue la necesidad de convertir los principios de transparencia y explicabilidad en herramientas operativas de control jurídico.
Las conclusiones destacan que la confianza pública en los sistemas de inteligencia artificial exige documentación verificable sobre su funcionamiento, incluyendo la finalidad del sistema, la lógica general del algoritmo, los datos utilizados, las métricas de evaluación, los mecanismos de control y las incidencias detectadas durante su funcionamiento.
Esta trazabilidad resulta especialmente relevante en contextos de litigio o de investigación administrativa, donde la posibilidad de preservar pruebas, registros y evidencias técnicas puede ser determinante para detectar y acreditar situaciones de discriminación.
Regulación europea y gobernanza tecnológica
La Cumbre valoró positivamente el nuevo Reglamento Europeo de Inteligencia Artificial (AI Act), que introduce un marco regulatorio basado en niveles de riesgo y establece restricciones estrictas para aquellos sistemas que puedan afectar a derechos fundamentales.
No obstante, los participantes coincidieron en que la eficacia de este marco normativo dependerá en gran medida de su aplicación práctica y de la existencia de mecanismos complementarios de gobernanza, supervisión y auditoría capaces de adaptarse a la rápida evolución tecnológica.
En esa misma línea, Ribón advirtió de que el desafío que plantea la inteligencia artificial trasciende el plano estrictamente técnico y afecta a la propia arquitectura del poder en las sociedades contemporáneas. “La Inteligencia Artificial está reconfigurando la forma en que se toman decisiones en ámbitos esenciales: empleo, crédito, seguridad, información, justicia”, señaló, recordando que cuando cambian los mecanismos de decisión “cambia también la arquitectura del poder”.
En este contexto, se destacó también el papel del Reglamento General de Protección de Datos y de la Ley 15/2022 de igualdad de trato y no discriminación como instrumentos jurídicos ya vigentes para abordar los riesgos de discriminación algorítmica, especialmente en lo relativo a la calidad de los datos, la minimización del tratamiento y la transparencia en la toma de decisiones automatizadas.
Violencia digital y anonimato en la red
Las conclusiones del encuentro alertan igualmente del impacto de la inteligencia artificial en la violencia digital, un fenómeno que afecta de manera desproporcionada a mujeres y niñas y que puede amplificarse mediante tecnologías automatizadas capaces de multiplicar la difusión de contenidos degradantes o humillantes.
En este contexto, la Cumbre abrió también el debate sobre el anonimato en internet y su relación con la impunidad en determinados entornos digitales.
Las conclusiones apuntan a la necesidad de explorar fórmulas que permitan reducir esa impunidad mediante mecanismos de identificación en determinados contextos, siempre con salvaguardas suficientes para garantizar la libertad de expresión, especialmente en aquellos países o situaciones en los que internet constituye el único espacio posible para la crítica pública.
Prioridades estratégicas: igualdad, transparencia y formación
Entre los objetivos estratégicos identificados por la Cumbre destacan la necesidad de reducir el riesgo de discriminación algorítmica en ámbitos críticos como el empleo, la educación, la justicia o el acceso a servicios; convertir la transparencia, la auditabilidad y la explicabilidad de los sistemas en estándares contractuales tanto en el sector público como en el privado; y reforzar las capacidades profesionales en alfabetización tecnológica, deontología y litigación en contextos algorítmicos.
Asimismo, se subraya la necesidad de articular una respuesta integral frente a la violencia digital de género que combine prevención, protección a las víctimas, obtención de pruebas digitales y coordinación institucional.
Las conclusiones de la Cumbre fueron presentadas públicamente por José Ignacio Monedero, secretario de la Junta de Gobierno del ICAM, y Ana Buitrago, diputada del Colegio, quienes dieron lectura al documento final que recoge las principales líneas de actuación identificadas durante las jornadas de debate.
Una agenda jurídica para la inteligencia artificial
La XIII Cumbre de Mujeres Juristas concluye finalmente que el desarrollo de la inteligencia artificial exige consolidar una cultura de responsabilidad jurídica y control democrático de la tecnología, capaz de garantizar que la innovación se mantenga dentro del marco del Estado de derecho.
En este contexto, la abogacía asume un papel central: hacer exigibles las garantías jurídicas, acompañar a las personas afectadas y contribuir a que el desarrollo de la inteligencia artificial se alinee con la igualdad real y efectiva y con la protección de los derechos fundamentales.
Las conclusiones del encuentro subrayan además que el avance de estas tecnologías exige una implicación activa de la profesión jurídica en la definición de sus límites y garantías. “La IA está aquí para quedarse y desde la Abogacía debemos asegurar un uso ético, seguro y responsable y desde la mirada transversal de la igualdad”, recoge el documento final aprobado por la Cumbre.
Acto de clausura
Tras la lectura de las conclusiones, el acto de clausura contó con el testimonio de la activista iraní Nilufar Saberi, presentada por el diputado del ICAM responsable de Justicia Gratuita, Juan Manuel Mayllo. Saberi, exiliada en España desde 1980, es una reconocida defensora de los derechos humanos y una de las voces más activas en la denuncia internacional de la represión contra las mujeres en Irán y del movimiento Mujer, Vida y Libertad.
Finalmente, la decana del Ilustre Colegio de la Abogacía de Barcelona (ICAB), Cristina Vallejo, puso el broche final a la Cumbre junto al decano y la vicedecana del ICAM, Eugenio Ribón e Isabel Winkels. En su intervención, Vallejo advirtió de que a las brechas tradicionales se suma hoy una brecha tecnológica de género que limita la presencia de mujeres en los espacios donde se diseñan y toman decisiones sobre estas tecnologías, y subrayó la necesidad de incorporar la perspectiva de igualdad en el desarrollo y gobernanza de la inteligencia artificial.
XIII Cumbre de Mujeres Juristas
A lo largo de dos jornadas de debate celebradas en la Sala Ernest Lluch del Congreso de los Diputados, la XIII Cumbre de Mujeres Juristas ha reunido a destacadas voces del ámbito jurídico, institucional y académico para analizar el impacto de la inteligencia artificial en la igualdad y los derechos fundamentales. La filósofa Amelia Valcárcel, el magistrado del Tribunal Supremo Manuel Marchena, y el presidente de la Agencia Española de Protección de Datos, Lorenzo Cotino, entre otros, han formado parte de un programa que ha contado también con la participación activa de miembros de la Junta de Gobierno del ICAM, entre ellos los diputados Mabel Klimt, José Ramón Couso, Lola Fernández, José Ignacio Monedero, Ana Buitrago o Ester Mocholí, que han moderado y participado en distintas mesas del encuentro.
Información relacionada
Del anonimato en Internet a los sesgos algorítmicos: retos jurídicos de la IA, a debate
Resumen Día 1 | Sesgo algorítmico y nueva violencia digital centran la primera jornada
Sonia Calaza, Pilar Menor, Telefónica y Compass reciben los Premios de Liderazgo e Igualdad del ICAM