La inteligencia artificial (IA) se ha erigido como una fuerza transformadora en diversos ámbitos, prometiendo una nueva era de eficiencia y precisión sin precedentes. Desde los avances en medicina hasta las sofisticadas herramientas financieras, la IA parece estar destinada a revolucionar nuestras vidas. Sin embargo, detrás de esta fachada de progreso, se esconden problemáticas profundamente arraigadas que amenazan con socavar los beneficios de esta tecnología.
Uno de los desafíos más preocupantes que enfrenta la IA es la perpetuación de los sesgos de género y la violencia machista. Estos sesgos no son simples fallas técnicas, sino reflejos de las desigualdades y prejuicios presentes en nuestra sociedad, que se filtran en los sistemas de IA a través de los datos y algoritmos utilizados para crearlos.
Los ejemplos de estos sesgos son numerosos y alarmantes. Desde sistemas de reconocimiento facial que tienen dificultades para identificar rostros de mujeres con tez oscura, hasta herramientas de evaluación de riesgos que califican injustamente a los hombres negros como "de alto riesgo", la IA ha demostrado una tendencia preocupante a reflejar y amplificar los estereotipos y las desigualdades existentes.
En mi experiencia como docente de Violencia de Género, es difícil deconstruír los estereotipos y prejuicios que están arraigados fuertemente en la comunidad y se perpetúan sin revisión y reflexión en éste sentido. Es sencillo declamar derechos y equidad, pero a la hora de deponer algunos privilegios que se asientan en esos desequilibrios, los discursos se acaban y vuelven a aparecer las desigualdades.
Respecto al tema que nos ocupa, los sesgos de género no se limitan a los algoritmos. Incluso los asistentes virtuales, diseñados para interactuar con los usuarios, han sido objeto de críticas por su lenguaje y comportamiento denigrante hacia las mujeres. En 2016, el chatbot Tay de Microsoft tuvo que ser retirado después de solo 16 horas en línea debido a que comenzó a generar comentarios misóginos y ofensivos después de interactuar con usuarios de Internet.
Estos incidentes no son meros contratiempos técnicos; son síntomas de un problema más profundo enraizado en la forma en que se diseñan, desarrollan e implementan los sistemas de IA. Si no se abordan adecuadamente, estos sesgos pueden conducir a decisiones discriminatorias y perpetuar la violencia simbólica y estructural contra las mujeres y otros grupos históricamente marginados.
Es crucial que los desarrolladores de IA sean conscientes de estos sesgos y tomen medidas proactivas para mitigarlos. Esto implica diversificar los conjuntos de datos utilizados para entrenar los algoritmos, implementar auditorías de ética y equidad, y fomentar una mayor participación de mujeres y otros grupos subrepresentados en el campo de la IA.
Además, es esencial que los usuarios finales sean críticos y cuestionen los resultados y recomendaciones generados por los sistemas de IA, en lugar de aceptarlos ciegamente como verdades objetivas. La IA es una herramienta poderosa, pero no es infalible ni está libre de sesgos.
Solo con iniciativas como las del Municipio de Lleida, se podrán abordar estos problemas de manera proactiva y colaborativa, podremos garantizar que la IA sea una herramienta verdaderamente inclusiva y equitativa, en lugar de perpetuar las desigualdades existentes. La responsabilidad recae en todos nosotros, desde los desarrolladores hasta los usuarios finales, para exigir sistemas de IA éticos y libres de prejuicios.
