Suena cada vez más fuerte el advenimiento de nuevas tecnologías que nos plantean desafíos no del todo conocidos. Se nos está solicitando a las INDH que tomemos parte en los procesos que llevan a su implementación dado que las mismas podrían afectar de uno u otro modo los derechos humanos. Sin dudas, debemos asumir esa responsabilidad.

El antecedente que tenemos en este sentido es todo lo que refiere a la internet y las redes sociales. Estas herramientas irrumpieron sin que se previeran sus consecuencias, y hoy sabemos que las tuvieron. Discursos de odio, discriminación, y xenofobia han encontrado ámbitos de difusión y amplificación inesperados, con el agravante de que su condición de extraterritorialidad les ha brindado un importante grado de impunidad. Últimamente se ha avanzado, en parte, en la mitigación de esta realidad. Es precisamente esta experiencia la que nos debe llamar a anticipar lo que está comenzando en este momento.

La INDH & DP del Uruguay fue invitada a participar de las mesas de diálogo y trabajo sobre “Inteligencia Artificial: Oportunidades y Desafíos de una Estrategia Nacional", que enfoca principalmente el uso de la IA por parte del Estado uruguayo. En esas instancias, desde la INDH, pusimos énfasis, en primer término, en el interés institucional de obtener con la mayor facilidad posible información de calidad con celeridad, de todos los organismos estatales bajo nuestro contralor. En segundo término, subrayamos las condiciones que deben cumplirse para el uso de las nuevas tecnologías: evitar la repetición de estereotipos que devengan en diversas formas de discriminación; definir con claridad cuál es la finalidad de usar IA en el ámbito estatal; la salvaguarda de los datos personales; la regulación del cruzamiento de datos para limitar la disposición de ellos solo a quienes les resulta estrictamente indispensable para su tarea; que las decisiones que impliquen una posible vulneración sean supervisadas siempre por un humano que se haga responsable de la decisión; y la transparencia algorítmica y la auditoría.

Marcos Israel Cúneo
Presidente Institución Nacional de Derechos Humanos y Defensoría del Pueblo del Uruguay