Principios que deben guiar al Estado ante el desarrollo de la Inteligencia Artificial
En México, como en varios países latinoamericanos, se está discutiendo cómo debería ser la regulación sobre inteligencia artificial -dado que la tecnología cada vez avanza a pasos agigantados sin contemplar aún un marco normativo que proteja y garantice el ejercicio pleno de los derechos humanos-. Sin embargo, uno de los temas que está pendiente abordarse en la agenda gubernamental de inteligencia artificial y ciberseguridad de la infraestructura crítica es la adquisición, uso y desarrollo de tecnologías emergentes por parte del sector público.
Recordemos que el gobierno de México aún tiene pendiente resolver las prácticas y vulneraciones en torno a la intervención de comunicaciones sin orden judicial en contra de periodistas, activistas y defensores de derechos humanos mediante el malware Pegasus. En tanto que el gobierno continúa siendo omiso, la adquisición de tecnología continúa siendo opaca y vacía de información respecto a qué tipo de tecnologías compran, quiénes son los proveedores, qué instituciones las compran y cuál es el uso que se les está dando. Ante esto, la indolencia, la impunidad y la falta de rendición de cuentas es una problemática que socava la capacidad del Gobierno mexicano de cumplir con su responsabilidad de salvaguardar los derechos de cualquier persona, casi en cualquier materia.
Mirando los compromisos de los Estados de la región frente a los derechos humanos, la Electronic Frontier Foundation publicó recientemente un informe respecto al uso estatal de sistemas basados en algoritmos e inteligencia artificial (IA) para automatizar tareas y procedimientos en apoyo a funciones y decisiones que afectan derechos. El informe destaca que, aunque el despliegue de estas tecnologías por entes públicos pueda ser novedosa, la base de garantías de derechos sobre la cual se debe asentar su utilización viene de muchos años y cuenta con estándares robustos que los Estados deben garantizar.
Debe recordarse que la Convención Americana sobre Derechos Humanos establece a los Estados Parte —México entre ellos— la obligación de respetar y garantizar los derechos humanos, los cuales incluyen la de prevenir, investigar y castigar las violaciones a dichos derechos. En este marco, es clave tener en cuenta que la adopción de sistemas algorítmicos como parte de políticas o iniciativas de órganos del Estado implica riesgos de seguridad, discriminación, vigilancia ilegal y errores que pueden afectar el acceso a servicios esenciales o conllevar a consecuencias graves sobre la vida de miles de personas.
La implementación de tecnología en el sector público requiere entonces de un examen detenido de los órganos que contemplen la adquisición o uso de estas tecnologías para conocer si el uso de un sistema de IA es adecuado para el propósito pretendido, así como si presenta un beneficio concreto. Estos propósitos y beneficios deben estar asociados al fortalecimiento en la garantía y el ejercicio de determinados derechos, lo que se debe comprobar al momento de monitorear y evaluar su implementación. Es así, que la adopción de estos sistemas por entes estatales demanda la realización de evaluaciones de impacto de derechos humanos antes del despliegue y durante su uso.
Aunado a ello, cualquier violación de derechos humanos derivada de la adopción de estos sistemas y tecnologías por instituciones públicas debe resultar en investigaciones que proporcionen insumos para la evaluación del sistema y del contexto de su utilización, conduciendo a modificaciones efectivas o a su interrupción. Con ello, también se desarrollan las medidas necesarias para evitar que la violación de derechos se repita.
Respetar y garantizar derechos implica organizar todo el aparato del poder público para hacer efectivos los derechos establecidos por la Convención, incluyendo adoptar medidas legislativas y ajustar prácticas, procesos y estructuras del Estado hacia este objetivo. Todas las instituciones del Estado están sujetas a los compromisos asumidos frente al derecho internacional de derechos humanos. Esto incluye a los jueces y tribunales a los cuales compete ejercer un control de convencionalidad sobre las leyes y reglamentos nacionales que basan el uso estatal de sistemas de IA o decisiones automatizadas en situaciones o mediante procedimientos ilícitos según la Convención Americana.
Un elemento primordial que se desprende de las garantías interamericanas es el imperativo de la transparencia de las actividades estatales. A ellas se aplica el principio de la máxima divulgación, según el cual el derecho de acceso a la información es la regla y el secreto es la excepción. Corresponde al Estado la carga de la prueba de que el acceso a determinada información puede ser legítimamente restringido. Además, el derecho a la información tiene prioridad frente a normas contradictorias o la falta de regulación.
No se permiten restricciones amplias basadas en una calificación general de “orden público”, “seguridad nacional” o “seguridad pública”. Las limitaciones deben aplicarse estrictamente a los tipos de información y a los tipos de divulgación que, conforme a la ley, representen efectivamente un riesgo según los principios democráticos, y solamente hasta que exista dicho riesgo específico y objetivo. La exigencia de transparencia se refuerza en iniciativas que involucran altos montos del presupuesto público, lo que suele ser la regla en el despliegue de tecnologías de IA por entes estatales.
Las garantías de debido proceso en la implementación de tecnologías deben ser parte de sus bases esenciales. Las personas afectadas por decisiones automatizadas deben ser informadas de los procedimientos que analizan sus derechos y obligaciones antes de que se adopte una decisión. Ellas deben recibir, con la antelación suficiente para que puedan intervenir, información clara que explique por qué están sujetas al procedimiento, los elementos relevantes que se están considerando y una referencia sobre cómo los elementos que se están evaluando influyen en las consecuencias a las que pueden enfrentarse. La información necesaria incluye aún los medios de que ellas disponen para presentar sus alegaciones, que deben ser fácilmente accesibles. Además, las decisiones deben ser debidamente justificadas, lo que implica a los sistemas utilizados observar estándares de interpretabilidad y explicabilidad.
Se suman a estas garantías el derecho a la vida privada en su relación con la protección de datos y la autodeterminación. En una decisión reciente de la Corte Interamericana de Derechos Humanos se ha reconocido la protección de la autodeterminación informativa bajo la Convención Americana. Con ello, se garantiza una serie de derechos vinculados al poder asegurado a las personas de conocer y tener injerencia sobre cómo sus datos personales son tratados por terceros.
Finalmente, la participación social significativa es otro elemento clave de una actuación estatal basada en los derechos humanos. Ello presupone el acceso a la información relevante sobre el uso de estos sistemas y el involucramiento de distintos sectores de la sociedad en los momentos de decisión y evaluación acerca de su implementación, especialmente de los grupos históricamente discriminados, personas afectadas y expertos en los temas vinculados a cada una de estas iniciativas (ej. educación, protección social, etc.).
La transparencia y acceso a la información, el debido proceso, la igualdad y no discriminación, la privacidad y protección de datos, así como la participación social significativa son todos principios transversales que deben guiar la actuación del Estado en el despliegue de sistemas de IA en el desarrollo de sus funciones —no solamente para orientar cómo hacerlo y evaluar su implementación pero también para basar la definición primera de si dicho despliegue es legítimo y conforme a los derechos humanos.
*Veridiana Alimonti (@veri_alimonti) es directora asociada de políticas para América Latina en Electronic Frontier Foundation y Priscilla Ruiz Guillén es coordinadora legal en Derechos Digitales para ARTICLE 19 MX-CA (@article19mex).
La obispa Mariann Edgar Budde hizo una petición al presidente Donald Trump por las minorías a las que afectarán sus nuevas políticas. El tono del sermón llamó la atención en EE.UU.
Sentado en primera fila, al lado de su esposa, Melania, el presidente Donald Trump escuchó este martes un sermón en la Catedral Nacional de Washington que llamó la atención de muchos en Estados Unidos.
La obispa Mariann Edgar Budde, la primera mujer en estar al frente de la Diócesis Episcopal de Washington DC, hizo un llamado de “clemencia” a Trump sobre minorías que estarán sujetas a las nuevas políticas que anunció al tomar posesión el lunes.
“Señor presidente: millones han puesto su confianza en usted. Y como usted dijo ayer, ha sentido la mano providencial de un Dios amoroso. En el nombre de Dios, le pido que tenga misericordia para gente en nuestro país que tiene miedo ahora”, dijo Budde.
“Hay niños gays, lesbianas y transexuales, y familias demócratas y republicanas e independientes, algunas de las cuales temen por sus vidas”, continuó.
Trump, que estaba con la mirada al frente en un inicio, comenzó a mover la cabeza hacia otros lados. El vicepresidente J.D. Vance fue más expresivo, al voltear la cara para mirar a su esposa.
La obispa continuó abogando por los migrantes: “Gente que recoge las cosechas, que limpia nuestras oficinas. Que trabajan en granjas y en empacadoras de carne. Que lavan la loza luego de que comemos en restaurantes. Y que trabajan en turnos nocturnos en hospitales”.
“Podrán no ser ciudadanos, o tener la documentación apropiada. Pero la vasta mayoría de los migrantes no son criminales. Ellos pagan impuestos, son nuestros vecinos, son fieles miembros de nuestras iglesias, mezquitas, sinagogas y templos”, dijo la obispa diocesana, quien está al frente de esta catedral de la Iglesia Episcopal estadounidense desde 2011.
“Le pido que tenga clemencia con aquellos en nuestras comunidades cuyos niños temen que sus padres sean llevados lejos. Y que ayude a los que huyen de zonas de guerra y persecución en sus propias tierras a encontrar compasión y acogida aquí”.
Las palabras de Budde fueron parte de un servicio religioso con motivo de la investidura de Trump como presidente de EE.UU. el día anterior.
A la Catedral Nacional de Washington asistieron el presidente, el vicepresidente y sus respectivas familias, así como decenas de invitados.
“No fue muy emocionante”
El sermón de Budde vino luego de que el lunes Trump firmara una serie de órdenes ejecutivas que afectan a minorías, como los migrantes o la comunidad LGBT.
El presidente decretó un estado de emergencia en la frontera con México entre cuyos efectos impide la llegada de nuevas solicitudes de asilo.
Asimismo, ha prometido una deportación masiva de migrantes indocumentados.
Y firmó una orden para eliminar el derecho automático de ciudadanía a los hijos de migrantes sin estancia legal.
También decretó la eliminación de las políticas inclusivas instauradas en el gobierno anterior. Trump dijo que el gobierno solo considerará dos géneros, masculino y femenino, e instituciones públicas y militares dejarán de procurar políticas para la comunidad transgénero.
Luego del servicio, el presidente Trump regresó a la Casa Blanca, donde expresó su opinión sobre el sermón y el servicio religioso en general.
“No fue muy emocionante. No me pareció un buen servicio… Pudieron haberlo hecho mucho mejor”, añadió al entrar a la residencia presidencial.
El sermón causó sorpresa y se convirtió en uno de los temas del día en Washington DC y en el resto del país, pues no es habitual que el presidente de EE.UU. enfrente un a declaración así.
Algunos elogiaron a Budde por haber planteado una petición de misericordia para las minorías de Estados Unidos.
Otros fueron críticos, como el representante republicano Mike Collins, que dijo que Budde debería ser “añadida a la lista de deportaciones”, pese a que la obispa es estadounidense.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
