Sesgos automatizados: el riesgo de usar la IA sin perspectiva de género
La inteligencia artificial (IA) forma parte de nuestra vida diaria en el uso de mapas de tráfico en tiempo real, la interacción con chatbots y asistentes virtuales, la obtención de resultados cuando tecleamos una palabra en un buscador. Cada vez más empresas la implementan en sus procesos de trabajo; sin embargo, la IA también reproduce estereotipos de género que corren el riesgo de convertirse en sesgos automatizados.
“La tecnología nunca es neutra. Si los seres humanos tenemos sesgos, los pasamos a los sistemas”, señala Tatiana Revilla, especialista en políticas públicas y género.
¿Por qué se replican estos sesgos? Estamos frente a un cambio de paradigma ante la llamada “IA generativa”, es decir, sistemas capaces de imitar la inteligencia humana según los datos con los que fueron entrenados.
Sin embargo, la inteligencia artificial generativa se “entrena” con grandes cantidades de información disponible en internet, así como con la interacción de los usuarios. Así funcionan los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) como ChatGPT y Gemini.
La inteligencia artificial actúa como un espejo que magnifica aspectos de la sociedad, explica Marcela Hernández Oropa, especialista en violencia digital e impulsora de la Ley Olimpia, un conjunto de reformas legales que, sobre todo, reconoce que la difusión de contenido íntimo sin consentimiento es un delito.
Además de reflejar prejuicios existentes, la IA los puede amplificar y normalizar. Los ejemplos van desde marcar el uso de la “e” del lenguaje incluyente como un error o adelgazar los cuerpos de las mujeres al editar imágenes, hasta discriminar en las ofertas laborales que se muestran a los usuarios en redes sociales.
Este año, la Organización de las Naciones Unidas (ONU) destacó el tema de la violencia digital en el marco del 25 de noviembre, Día Internacional de la Eliminación de la Violencia contra las Mujeres. Las expertas recuerdan que la IA también reproduce activamente las violencias estructurales y las desigualdades.
También lee: ¿Por qué las mujeres marchan cada 25 de noviembre? Este año exigen acciones contra la violencia digital.
La IA reproduce estereotipos de género
Marcela Hernández sugiere a El Sabueso darle a algún modelo de inteligencia artificial la siguiente indicación: “¿Puedes generar la imagen de una persona exitosa?”.
“Es muy común que arroje imágenes de un hombre en traje, un hombre blanco”, adelanta.
El Sabueso realizó este ejercicio con ChatGPT y el resultado fue un hombre con traje, de piel blanca y complexión delgada.
Al mismo tiempo, cada vez es más común el uso de avatares —personajes digitales— de presentadoras de noticias generados con inteligencia artificial. La mayoría reproduce estereotipos de belleza: mujeres delgadas, con facciones finas, pelo lacio, largo y, algunas, incluso con escote.
En la siguiente imagen se pueden ver a cuatro presentadoras de canales de noticias de diferentes países generadas con IA:
“Las decisiones que toma la IA sobre los modelos de belleza no son solo técnicas, es una decisión sociotécnica. ¿Quién participó en el etiquetado y la selección de datos y cómo influyó en ese proceso?”, cuestiona Tatiana Revilla y señala que, aunque se esperaría que la tecnología ayude a eliminar las brechas de desigualdad, muchas veces termina reforzándolas.
Además de los estereotipos físicos, cuando se usan modelos de inteligencia artificial en procesos de empresas también pueden reforzarse desigualdades en el mundo laboral.
Por ejemplo, Reuters reportó en 2018 que Amazon tuvo que desechar un sistema de contratación que utilizaba IA porque favorecía a candidatos hombres. Esto ocurrió porque el modelo había sido entrenado con diez años de historial de contratación en donde la mayoría eran hombres, debido al dominio masculino en esa industria. Por lo tanto, el sistema repitió ese sesgo como una preferencia.
En 2022 un grupo de mujeres conductoras denunció que Facebook favorecía los anuncios de empleo hacia hombres y excluía a mujeres, por ejemplo, en ofertas para conductoras de camión. Ese mismo año, tras un acuerdo con el Departamento de Justicia de Estados Unidos, Meta aceptó eliminar las herramientas publicitarias que permitían esa discriminación laboral.
Tatiana Revilla enlistó otras áreas en donde ya se utiliza la IA y en las que se pueden repetir sesgos: sistemas que realizan diagnósticos médicos, máquinas que predicen riesgos de comportamiento para prevenir delitos o modelos de evaluación de desempeño en recursos humanos.
¿Cómo lograr sistemas de IA con perspectiva de género?
Las especialistas consultadas por El Sabueso coinciden en que la tecnología requiere mayor presencia de las mujeres para que tenga perspectiva de género y que, a su vez, existan políticas públicas que la refuercen.
“Creo que tiene que haber una intención voluntaria y articulada de apropiarse de las tecnologías y de los espacios digitales por parte de las mujeres, diversidades genéricas, poblaciones rurales, poblaciones afrodescendientes. Es decir, que el mundo digital nos lo podamos apropiar todas y todos”, asegura Marcela Hernández.
Esto implica desde mayor participación de mujeres en el desarrollo de nuevas tecnologías hasta publicar y difundir contenido que fomente la equidad y la justicia social.
“Primero hay que reforzar las políticas públicas”, sostiene Tatiana Revilla. La experta añade que México debe contar con una política pública y una estrategia nacional de inteligencia artificial que integre la perspectiva de género.
Por ejemplo, se pueden aplicar auditorías algorítmicas, las cuales evalúan cómo se diseñan, entrenan y ajustan los algoritmos. También, exigir pruebas de desigualdad y transparencia algorítmica.
Hasta el momento, en México no existe una legislación que regule la inteligencia artificial.
El Índice Latinoamericano de Inteligencia Artificial 2025 evaluó a 19 países según su estado de avance de IA y colocó a México en el octavo lugar. El estudio analiza, entre otros aspectos, si las estrategias nacionales de IA incorporan una perspectiva de género; sin embargo, señala que México ni siquiera cuenta con dicha estrategia.
Para saber más: Algoritmos, desigualdad y calificación cero para México.
Tatiana Revilla invita a dejar de ver la regulación en inteligencia artificial como un tema técnico y, por el contrario, observarla como un tema social.
Relacionado
Estabilización, recuperación y transición. Así detalló el secretario de Estado de estadounidense, Marco Rubio, las fases de la estrategia del gobierno de su país para consolidar el cambio en Venezuela.
Estabilización, recuperación y transición.
Así detalló el secretario de Estado de Estados Unidos, Marco Rubio, las tres fases del plan del gobierno de su país para consolidar el cambio en Venezuela.
Lo ha hecho este miércoles, al exponer la estrategia ante el Congreso de su país, cuatro días después de la captura del líder venezolano Nicolás Maduro y su esposa, Cilia Flores, y su traslado a Nueva York para responder por cargos de “narcoterrorismo” ante la Justicia.
Ya el presidente de EE.UU., Donald Trump, había adelantado que será él quien “gobernará” Venezuela hasta que se complete allí “una transición segura, apropiada y juiciosa”.
“No queremos que esto descienda en el caos”, confirmó ahora su secretario de Estado.
Así, Rubio explicó que la primera fase del plan estará enfocada en la estabilización del país.
“Parte de esa estabilización, y la razón por la que entendemos y creemos que tenemos la mayor influencia posible, es nuestra cuarentena”, sostuvo el funcionario.
En ese punto, Rubio adelantó que EE.UU. tomará entre 30 y 50 millones de barriles de petróleo venezolano, los venderá en el mercado a precios internacionales y controlará la forma en que se distribuyan los ingresos obtenidos de esas transacciones.
Es algo que ya había adelantado Trump el martes, cuando aseguró en un mensaje compartido en su red social Truth Social que Venezuela entregaría a EE.UU. esa cantidad de crudo.
Según destacó el colaborador de BBC Mundo en Venezuela Gustavo Ocando, el anuncio de Trump ocurría horas después de que algunos medios informaran de que 11 buques cisterna de Chevron, la única compañía petrolera estadounidense que opera en Venezuela, iban de camino hacia el país sudamericano.
De acuerdo a Ocando, la cifra de entre 30 y 50 millones de barriles equivaldría a la del petróleo venezolano que está retenido desde que EE.UU. impuso un bloqueo en diciembre.
“Ese dinero se manejará de tal manera que controlaremos su distribución para beneficiar al pueblo venezolano, no a la corrupción ni al régimen”, aclaró este miércoles Rubio.
E hizo referencia a la incautación, apenas horas antes, de dos petroleros vinculados al crudo venezolano.
“Como han visto hoy, dos barcos más fueron incautados. Estamos en medio de este proceso y, de hecho, a punto de cerrar un acuerdo para tomar todo el petróleo que tienen, el petróleo que está estancado en Venezuela”, explicó Rubio.
Uno de los buques, el Marinera (previamente denominado Bella 1), navegaba por las aguas del Atlántico Norte bajo bandera rusa, mientras que el segundo, conocido como M/T Sofia, operaba en el mar Caribe.
Ambos, alega el país norteamericano, violaban sus sanciones.
Tras la estabilización, una transición
Rubio visualizó la segunda etapa de la intervención bajo el término “recuperación”, vinculada a la reintegración de Venezuela al mercado global.
“La segunda fase será la llamada recuperación, que consiste en garantizar que las empresas estadounidenses, occidentales y de otros países tengan acceso al mercado venezolano de forma justa”, precisó.
El secretario de Estado estadounidense adelantó que, paralelamente, se impulsará un marco de reconciliación política.
“Se comenzará a generar un proceso de reconciliación nacional en Venezuela para que las fuerzas de la oposición puedan ser amnistiadas y liberadas de las cárceles o repatriadas al país y comenzar a reconstruir la sociedad civil”, enfatizó Rubio.
La secuencia planeada por el gobierno de Trump culminará, según el secretario de Estado, en una etapa definitiva que consolidaría la transformación política interna del país.
“Y la tercera fase, por supuesto, será de transición. Parte de esto se solapará. Se lo he descrito con gran detalle”, concluyó.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
