La XIII Cumbre de Mujeres Juristas del ICAM, celebrada en la Sala Ernest Lluch del Congreso de los Diputados, ha concluido con una hoja de ruta clara: la inteligencia artificial solo será compatible con una democracia avanzada si se somete a garantías efectivas, verificables y exigibles que preserven la igualdad y los derechos fundamentales.
Las conclusiones aprobadas por las personas asistentes fijan como ejes la transparencia y la trazabilidad, la auditabilidad y la explicabilidad como estándares —también contractuales—, junto a una rendición de cuentas indelegable: la responsabilidad jurídica no se transfiere al algoritmo y debe existir un responsable identificable, supervisión humana efectiva y vías reales de revisión e impugnación.
La Cumbre ha abordado el despliegue de la IA desde una perspectiva transversal: desde el AI Act y su aplicación práctica, pasando por los límites y garantías del RGPD y la Ley 15/2022, hasta la evolución de la práctica profesional (incluidas auditorías de IA en procesos de due diligence).
Asimismo, ha alertado del impacto desproporcionado de la violencia digital sobre mujeres y niñas y de la necesidad de una respuesta integral: identificar responsables y, a la vez, detener la revictimización con retirada rápida de contenidos y preservación de prueba técnicamente válida.
En la apertura, el decano Eugenio Ribón enmarcó la IA como una cuestión de derechos fundamentales y poder, advirtiendo de que los algoritmos no son neutrales y de que, sin controles jurídicos reales, la discriminación puede quedar oculta tras una apariencia de objetividad: sin transparencia, la discriminación se vuelve invisible. La vicedecana Isabel Winkels reforzó el enfoque de rendición de cuentas: la IA “no es buena ni mala en abstracto” y todo depende de dónde se aplica, con qué datos y bajo qué controles. Por eso, defendió llevar el debate al terreno de las garantías: quien sufra un perjuicio por una decisión automatizada debe poder obtener respuestas verificables (evaluación de impacto en igualdad, auditorías de datos, trazabilidad y supervisión humana efectiva).
La conferencia inaugural de Amelia Valcárcel situó el debate en la defensa de la democracia y la igualdad como conquista política, alertando de sesgos misóginos que pueden operar sin dejar rastro visible: la misoginia en un algoritmo “simplemente funciona” si no hay mecanismos de control.
Durante la Cumbre se abordaron, entre otros ejes, la aplicación práctica del marco europeo y las garantías existentes. En ese contexto, el presidente de la AEPD, Lorenzo Cotino, subrayó que muchos riesgos no derivan de la tecnología en sí, sino de errores humanos de diseño e implementación, reivindicando el RGPD como anclaje de garantías (calidad y minimización de datos, transparencia y explicabilidad) para detectar y acreditar discriminaciones.
El bloque dedicado a la violencia digital puso sobre la mesa la necesidad de reforzar la respuesta penal y la protección de las víctimas. El presidente de la Sala Segunda del Tribunal Supremo, Manuel Marchena, apuntó a la impunidad favorecida por identidades ficticias y defendió que la protección de la dignidad en el entorno online requiere un instrumento clave: acabar con el anonimato en la red.
La segunda jornada amplió el foco hacia los riesgos de discriminación en el ámbito laboral, el feminismo jurídico y la gobernanza algorítmica, y el papel de la educación, la formación y los medios de comunicación para prevenir sesgos, reforzar capacidades profesionales y acercar las garantías al debate público.
Crónicas y piezas ampliadas:
- El ICAM reclama en el Congreso garantías jurídicas para blindar la igualdad ante la Inteligencia Artificial
- Del anonimato en Internet a los sesgos algorítmicos: retos jurídicos de la IA, a debate
- Resumen Día 1 | Sesgo algorítmico y nueva violencia digital centran la primera jornada
- Sonia Calaza, Pilar Menor, Telefónica y Compass reciben los Premios de Liderazgo e Igualdad del ICAM
- RESUMEN DE LA CUMBRE: DÍA 2 | La segunda jornada de la XIII Cumbre de Mujeres Juristas debate sobre inteligencia artificial, derechos laborales y gobernanza algorítmica
- CONCLUSIONES DE LA XIII CUMBRE DE MUJERES JURISTAS | “Estamos a tiempo de controlar los efectos perversos de la Inteligencia Artificial”