Home
>
Analisis
>
Autores
>
Animatrix
>
Igualdad de género y ética en la Inteligencia Artificial en México
Animatrix
Animatrix
Náufraga reincidente de internet, bloguera empedernida, defensora de los animales, aficionada a la fotografía y... Continuar Leyendo
6 minutos de lectura

Igualdad de género y ética en la Inteligencia Artificial en México

Si los datos y el diseño de los algoritmos no son inclusivos y no consideran la diversidad y la igualdad de género, la Inteligencia Artificial puede amplificar los sesgos existentes, perpetuando la discriminación, las desigualdades y la pobreza.
09 de julio, 2024
Por: Claudia Calvin

Hace unos días en el Senado mexicano se presentó el Reporte de Evaluación del Estadio de Preparación en Inteligencia Artificial de México, impulsado por la UNESCO en colaboración con la Alianza Nacional de Inteligencia Artificial (ANIA) y la participación del Centro-i.

Este documento proporciona una visión detallada de las fortalezas y debilidades del país en el ámbito de la inteligencia artificial (IA), una herramienta -y una realidad- que hoy está definiendo en gran medida el futuro del país y del mundo.

A continuación presento algunos de los principales resultados:

  1. Marco jurídico y regulatorio: México cuenta con un marco jurídico robusto en materia de protección de datos personales y privacidad, no discriminación y derechos humanos. Sin embargo, carece de un plan o estrategia nacional específica para la inteligencia artificial, así como de mecanismos claros de gobernanza y atribución de responsabilidades entre las autoridades y las entidades vinculadas.
  2. Inclusión y diversidad: Existe una significativa brecha de género en las carreras STEM (Ciencia, Tecnología, Ingeniería y Matemáticas), con sólo el 32 % de egresadas mujeres y el doble de egresados hombres. El marco jurídico apoya la igualdad en el acceso de mujeres y hombres a las TIC; sin embargo, las brechas aún existen. En materia de diversidad, uno de los principales retos es la multiplicidad de lenguas indígenas y el desafío de su acceso a la tecnología y a la IA en particular.
  3. Infraestructura y conectividad: La cobertura de internet ha mejorado, con un 93.3 % de la población teniendo acceso a al menos una red móvil 3G. Sin embargo, la velocidad media de descarga sigue siendo inferior al promedio de la OCDE. En el Inclusive Internet Index, México se sitúa en el lugar 52 de 100 en disponibilidad de internet, evaluando la calidad y cobertura de la infraestructura necesaria para el acceso a internet.
  4. Ciberseguridad y privacidad: De acuerdo con el Reporte, desde 2005 México integra anualmente una Agenda Nacional de Riesgos (ANR). La información relacionada con esto se encuentra reservada, por lo que no es de fácil acceso. Parece ser que desde 2009 la inteligencia artificial se incorporó como parte de las agendas anuales, pero no es factible comprobarlo. En 2010 se puso en marcha el Centro Nacional de Respuesta a Incidentes Cibernéticos (CERT-MX) y en el gobierno actual, pasó a formar parte de la Dirección General Científica de la Guardia Nacional.
  5. Capacidades del sector público: No existe una estrategia o plan nacional para mejorar las habilidades digitales en el sector público y tampoco hay planes de digitalización, ciberseguridad o equipamiento, salvo en lo que toca a medidas de austeridad. Se han llevado a cabo esfuerzos aislados, un ejemplo de ellos es la “Estrategia para el Fortalecimiento de Habilidades Digitales”, que en 2021 permitió la capacitación de 738 funcionarios del estado de Puebla.
  6. Sector privado. Según el Índice Latinoamericano de Inteligencia Artificial (ILIA), el uso de IA por parte de empresas privadas en México es bajo en comparación con otros países de América Latina, obteniendo una puntuación de 12,5 en el Índice, para un promedio de 25 en LATAM.

Inteligencia artificial, ética e igualdad de género

La inteligencia artificial tiene el potencial de transformar profundamente nuestra sociedad, mejorando la eficiencia y creando nuevas oportunidades. Ello no obsta para que dejemos de observar los riesgos, que son significativos, sobre todo cuando se desarrollan y utilizan sistemas de IA sin considerar los principios éticos y la igualdad de género.

Uno de los mayores desafíos en la inteligencia artificial es la tendencia a reproducir y amplificar los sesgos existentes en la sociedad. Estos sesgos pueden estar presentes en los datos utilizados para entrenar los algoritmos de IA que, si no se reconocen y manejan adecuadamente, pueden perpetuar y aumentar las desigualdades. Por ejemplo, si los datos históricos reflejan una menor contratación de mujeres en roles técnicos y de liderazgo, los algoritmos de IA utilizados en los procesos de selección de personal tenderán a perpetuar esta tendencia, favoreciendo a los hombres y  perpetuando así la desigualdad de género en el ámbito laboral. Otro caso puede presentarse en el ámbito de la salud. Si los datos médicos utilizados para entrenar a la IA no consideran adecuadamente las diferencias biológicas y de salud entre hombres y mujeres, los sistemas de diagnóstico y tratamiento pueden no sólo ser menos efectivos para las mujeres sino que pueden perjudicarlas.

Este problema se agrava por la menor presencia de mujeres en carreras STEM (Ciencia, Tecnología, Ingeniería y Matemáticas). Con solo el 32 % de egresadas mujeres, como se señaló arriba, existe una falta de diversidad en los equipos que desarrollan estas tecnologías. Esto lleva a una falta de perspectiva de género en el diseño y desarrollo de algoritmos, lo que a su vez amplifica los sesgos. Además, la brecha digital en el acceso y uso de la tecnología agrava la situación: las mujeres tienen un acceso limitado a las oportunidades que ofrece la IA debido a barreras en el acceso a internet, la alfabetización digital, las desigualdades laborales, entre otros factores.

Siendo claros, la IA no es intrínsecamente neutral. Si los datos y el diseño de los algoritmos no son inclusivos y no consideran la diversidad y la igualdad de género, la IA puede amplificar los sesgos existentes, perpetuando la discriminación, las desigualdades y la pobreza. Está de sobra decir que, en el país y en el mundo, la pobreza sigue teniendo cara de mujer.  Es esencial abordar estos desafíos mediante la inclusión de mujeres y grupos diversos (género, lingüístico, regional, edad, racial, etcétera) en todas las etapas del desarrollo de la IA y la implementación de prácticas que garanticen la igualdad, la equidad y la transparencia.

Hablar de transparencia y responsabilidad es clave también para asegurar que los sistemas de IA sean justos e igualitarios. ¿Qué implica esto? Que las y los desarrolladores deben ser claros sobre cómo se construyen y funcionan sus algoritmos. Además, es esencial establecer mecanismos de responsabilidad que permitan identificar y corregir errores y sesgos.

La Estrategia Nacional que propone el reporte es ética e inclusiva y propone la elaboración de un mapa del ecosistema de IA en el país, un marco jurídico de la IA y un modelo de gobernanza para la misma y el desarrollo de una Estrategia Nacional que contemple la ciberseguridad, la ética, la responsabilidad y la inclusión. El enfoque que propone es humano-céntrico y sostenible, pero yo iría un paso más allá y propondría que considerara a todos los seres vivos también: los costos del enfoque antropocéntrico de las políticas y decisiones lo estamos viviendo con la destrucción del planeta y la extinción de especies.

En conclusión, si al hablar de la IA estamos hablando de una realidad tecnológica es necesario reconocer su impacto en la construcción y efectos en el tejido de la sociedad y la viabilidad del planeta. Al hablar de ella debemos considerar la necesidad de incorporar la ética en su desarrollo, así como la transparencia, la responsabilidad, la inclusión y la igualdad de género. El 50 % de la población del planeta y el 52 % en México no puede quedar al margen de su desarrollo y las decisiones que se tomen en torno a ella. Si queremos que contribuya a un futuro más igualitario y próspero para el país y el mundo, tenemos que tomar esto en cuenta.

Lo que hacemos en Animal Político requiere de periodistas profesionales, trabajo en equipo, mantener diálogo con los lectores y algo muy importante: independencia
Tú puedes ayudarnos a seguir.
Sé parte del equipo
Suscríbete a Animal Político, recibe beneficios y apoya el periodismo libre.
Iniciar sesión

Registrate
Suscribete para comentar...
Imagen BBC
Cuba se declara en “economía de guerra” y anuncia nuevas medidas que impactarán a la población
6 minutos de lectura

Mientras la isla está pasando por una de las peores crisis económicas de las últimas décadas, el gobierno de Díaz-Canel anuncia un nuevo paquete de medidas para intentar salir a flote.

03 de julio, 2024
Por: BBC News Mundo
0

En medio de una de las mayores crisis económicas desde la revolución de 1959, que ha provocado un éxodo sin precedentes de ciudadanos hacia el exterior, el gobierno de Cuba anunció una serie de medidas para intentar revertir la situación.

Las medidas pretenden ajustar el presupuesto público “a las condiciones de economía de guerra”, dijo la viceministra primera de Economía y Planificación, Mildrey Granadillo, en una reunión del Consejo de Ministros, el máximo órgano ejecutivo del país, según informó este lunes el medio oficialista Granma.

Los testimonios de los cubanos que no tienen acceso a medicinas o a productos básicos para sobrevivir, evidencian las duras condiciones con las que deben lidiar diariamente, calificadas por analistas como peores que las vividas durante los años 90 durante el llamado “Período Especial”.

La situación se ha vuelto tan crítica, que a fines de febrero el gobierno solicitó oficialmente ayuda al Programa Mundial de Alimentos de Naciones Unidas para mantener la distribución de leche subsidiada a los niños menores de 7 años.

“Todos nosotros estamos para salvar la revolución y para salvar el socialismo”, argumentó el presidente Díaz-Canel en la reunión.

¿Cuáles son las medidas?

Personas comprando en La Habana
Getty Images
Las medidas incluyen un recorte de presupuesto, control de precios, aumentar el flujo de divisas que entran al país y estimular la producción nacional de alimentos.

Además de un recorte presupuestario, que implicará suspender inversiones, el anuncio incluye medidas como establecer una política de precios únicos y reducir la evasión fiscal, con el objetivo de “corregir distorsiones”.

La idea, explicó Granadillo, es enfrentar los desequilibrios macroeconómicos, aumentar el flujo de divisas que entran al país y estimular la producción nacional de alimentos, entre otras cosas.

Una de las medidas que más ha llamado la atención, aunque se desconocen los detalles, es el control de precios, el cual teóricamente se aplicaría “en igualdad de condiciones para todos los sujetos de la economía, que incluye tanto al sector estatal como al no estatal”.

Si se implementa, el anuncio afectaría a las empresas privadas que fueron autorizadas para operar en el país luego que en 2021 se levantara la prohibición que les impedía realizar actividades comerciales, la cual existía desde el inicio de la revolución

Fuentes extraoficiales señalan que el gobierno ha establecido contactos con el sector privado para comunicarles la aplicación de topes de precios en productos básicos como la leche en polvo, el detergente, el pollo o el aceite, aunque se desconoce la lista completa y la fecha en que el control de precios entraría en vigor.

Cubana en su casa
Getty Images
El gobierno argumenta que en época de crisis es cuando más se necesita “ejercer control”.

Como el país se encuentra en una “economía de guerra”, el primer ministro de la isla, Manuel Marrero, sostuvo que en esa situación “es cuando más necesitamos planificar y es cuando más necesitamos ejercer un control”.

De acuerdo con estimaciones oficiales, la economía cubana se contrajo un 2% en 2023, mientras que la inflación alcanzó el 30%.

El nuevo paquete de medidas se suma a un severo plan de ajuste anunciado por el gobierno en diciembre, que incluyó un aumento de 500% del precio de los combustibles, una subida en el precio de las tarifas de electricidad y un incremento en el costo del gas natural licuado.

El ajuste encareció aún más la vida para los cubanos, que en los últimos años han visto caer su poder adquisitivo por la inflación, la devaluación del peso cubano frente al dólar y la disminución del turismo, el principal motor económico de la isla.

En paralelo, el mercado negro y las remesas familiares siguen teniendo un peso vital para adquirir múltiples productos básicos en la isla.

La crisis económica, según las autoridades cubanas, se debe al endurecimiento del embargo estadounidense en los últimos años, el efecto de la pandemia de covid en el turismo y la ola inflacionaria que ha afectado al mundo.

Línea gris
BBC

Un indicio de urgencia

Pascal Fletcher

Analista de BBC Monitoring

Hombre mayor en su casa
Getty Images
Los cubanos han estado experimentando apagones y una escasez crónica de productos alimenticios, medicinas y otros artículos de consumo básico.

Las medidas anunciadas por el gobierno esta semana fueron sólo el último indicio de alarma y urgencia oficial ante los problemas económicos crónicos que enfrentan el país y sus gobernantes.

Una vez más, el énfasis estuvo puesto en la idea de ejercer control. En ninguna parte hubo ninguna intención declarada de lanzar reformas liberalizadoras significativas en la economía estatal cubana para crear incentivos para la producción, por ejemplo, en el importante sector agrícola, que sigue estancado y es incapaz de abastecer a la población.

Los líderes de Cuba argumentan que la base de la “economía de guerra” es la respuesta necesaria a lo que llaman “un acto de guerra en tiempo de paz”, infligido en la isla por las prolongadas sanciones económicas de Estados Unidos, descritas durante mucho tiempo por La Habana como “el bloqueo”.

En los últimos meses, los líderes comunistas han estado utilizando cada vez más el término “economía de guerra” para describir lo que los expertos dicen que es la situación económica más catastrófica jamás experimentada por la isla sancionada por Estados Unidos desde el triunfo de la Revolución de Fidel Castro en 1959.

Calle de la Habana
Getty Images
La isla depende en gran medida de las remesas que reciben las familias desde el extranjero.

Desde hace varios años, los cubanos comunes y corrientes han estado experimentando cortes de energía a diario que van de mal en peor -exacerbados en los calurosos meses de verano-, combinados con una escasez crónica de productos alimenticios, medicinas y una serie de artículos de consumo básico, en medio de un escenario de colapso generalizado de la agricultura y producción industrial, lo que hace que la isla, con problemas de liquidez, dependa en gran medida de importaciones que apenas puede permitirse, a menos que sean donadas o subsidiadas por los aliados políticos de La Habana.

La inflación real, que ha alcanzado niveles récord, ha dejado incluso los alimentos y artículos de primera necesidad más básicos fuera del alcance de muchos cubanos, a menos que tengan acceso a dólares de familiares en el extranjero, trabajen en el incipiente sector privado o tengan privilegios o acceso especiales en la jerarquía del Estado.

“Economía de guerra” o no, todo apunta a que los cubanos enfrentarán otro verano prolongado, caluroso y difícil, incluida la siempre presente posibilidad de que Cuba, a pesar de la persistente represión de las autoridades contra la disidencia y la oposición política, pueda ver una repetición de las protestas gubernamentales que se extendieron por toda la isla en julio de 2021.

Línea gris
BBC

Haz clic aquí para leer más historias de BBC News Mundo.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp, donde encontrarás noticias de última hora y nuestro mejor contenido.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

Lo que hacemos en Animal Político requiere de periodistas profesionales, trabajo en equipo, mantener diálogo con los lectores y algo muy importante: independencia
Tú puedes ayudarnos a seguir.
Sé parte del equipo
Suscríbete a Animal Político, recibe beneficios y apoya el periodismo libre.
Iniciar sesión

Registrate
Suscribete para comentar...