La Universidade da Coruña celebró el pasado 2 de octubre la cuarta edición de las Jornadas de IA y Sesgos de Género: oportunidades para la igualdad. El encuentro, organizado por Laura Morán y Teresa Piñeiro, investigadoras del CITIC de la UDC, reunió a especialistas para reflexionar sobre los sesgos de género, sociales y discriminatorios presentes en los sistemas de inteligencia artificial (IA) y los retos éticos y tecnológicos que surgen de su desarrollo.
Durante la jornada se abordaron cuestiones como la reproducción de prejuicios en los algoritmos, el impacto de la IA en la salud mental, la detección del discurso de odio y del machismo en las redes sociales, modelos tecnológicos alternativos basados en los cuidados y los riesgos de discriminación en el sector asegurador.
El rector de la UDC advirtió que la inteligencia artificial no es neutral y tiende a reproducir y amplificar los sesgos sociales existentes. Recordó ejemplos de algoritmos discriminatorios en selección de personal, concesión de créditos o reconocimiento facial. Subrayó que la solución requiere no solo desarrollo técnico, sino también ciudadanía crítica, alfabetización digital, equipos de desarrollo diversos y mecanismos de supervisión. "La IA es un apoyo extraordinario, pero el criterio y la responsabilidad final deben seguir siendo humanos", concluyó.
Helena Matute, catedrática de Psicología Experimental de la Universidad de Deusto, centró su intervención en la capacidad de la IA para heredar y transmitir sesgos, amplificando prejuicios e influyendo en la toma de decisiones. Eurídice Cabañes propuso una reflexión crítica sobre los fundamentos ideológicos y económicos de la IA, cuestionando enfoques patriarcales y defendiendo "tecnologías de la vida" orientadas a los cuidados y al beneficio común.
Ana Freire, investigadora de la Universitat Pompeu Fabra, expuso el potencial de la IA para detectar problemas de salud mental a través del análisis de redes sociales, alertando de que el volumen de datos no garantiza sistemas más justos si hay colectivos infrarrepresentados. Lucía Álvarez, de la UDC, presentó avances en herramientas para detectar el machismo en gallego, destacando la importancia de recursos tecnológicos propios para lenguas minorizadas.
Paloma Piot, investigadora del CITIC, analizó los sesgos demográficos en la detección del discurso de odio y cómo la IA puede reducir discriminaciones en la clasificación automatizada. Rafael Colina alertó sobre los riesgos de discriminación en el sector asegurador debido a la personalización de contratos con sistemas inteligentes, que pueden ocultar prejuicios por la complejidad de los algoritmos.
La participación del CITIC de la UDC en estas jornadas subraya su implicación en el análisis de los retos sociales de la IA, promoviendo la ética, la igualdad y la responsabilidad social en el desarrollo tecnológico para una IA más inclusiva.
