¿Quién responde cuando decide un algoritmo? Presentan registro para supervisar inteligencia artificial pública
El seminario realizado en la Contraloría General de la República reunió a autoridades y especialistas para abordar la transparencia de los sistemas automatizados, los posibles sesgos en sus decisiones y la necesidad de fortalecer la rendición de cuentas.
La Red de Integridad y Estado Abierto (RIEA) realizó este viernes 16 de octubre el seminario "Lo que la inteligencia artificial decide sobre nosotros", instancia que reunió a autoridades y especialistas para analizar el uso de algoritmos en las instituciones públicas y el derecho de la ciudadanía a conocer cómo funcionan, qué datos utilizan y quién responde por sus resultados.
La actividad se desarrolló en la Contraloría General de la República y contó con la participación de la contralora general, Dorothy Pérez; el exministro de Justicia y presidente de la RIEA, José Antonio Gómez; el presidente de la Asociación Chilena de Municipalidades, Gustavo Alessandri, y especialistas en transparencia, modernización del Estado e inteligencia artificial.
Uno de los principales hitos de la jornada fue la presentación del Registro Verificador de Algoritmos Públicos, iniciativa que busca evaluar los sistemas utilizados por el Estado e identificar riesgos asociados a su funcionamiento. El proyecto se desarrolla en colaboración con la Contraloría General de la República, el Centro Nacional de Inteligencia Artificial (CENIA) y la Universidad Adolfo Ibáñez, según explicó Carolina Álvarez, directora ejecutiva de la RIEA.
"El Estado está usando la inteligencia artificial, está resolviendo sobre determinadas peticiones que hacen los ciudadanos y no existe claridad ni transparencia de cómo operan estos sistemas. Se puede rechazar un subsidio, por ejemplo, y no hay a quién reclamar cuando lo toma una inteligencia artificial!, señaló José Antonio Gómez. El presidente de la RIEA agregó que es necesario abrir este debate público y generar instancias de coordinación para que estas herramientas se utilicen en beneficio de la ciudadanía.
Carolina Álvarez advirtió que los sistemas algorítmicos pueden reproducir sesgos a partir de los datos y parámetros con los que operan. Como ejemplo, mencionó un caso en que un sistema destinado a asignar un beneficio educacional a mujeres identificó erróneamente a algunos hombres debido a la forma en que estaban ingresados sus nombres. "Esos parámetros no muchas veces son justos. La verdad es que la mayoría de las veces tienen sesgos", afirmó.
La iniciativa busca contrastar los algoritmos públicos con las recomendaciones de la Comisión Económica para América Latina y el Caribe (CEPAL) sobre el uso responsable de inteligencia artificial. El proceso permitirá elaborar informes que puedan ser utilizados por la autoridad contralora, de acuerdo con sus atribuciones y los resultados de las evaluaciones.
La necesidad de identificar estos riesgos también fue abordada por Vita Saldias Santana, directora de Algoritmos Públicos UAI. La especialista explicó que el repositorio de algoritmos públicos permite conocer los sistemas automatizados y semiautomatizados que utiliza el Estado y que inciden en la vida de las personas, en un escenario donde no existe una obligación general de declarar su uso.
"Ningún sistema está libre de riesgos, todos los sistemas tienen algún riesgo", sostuvo Saldias, quien mencionó entre las principales dimensiones de evaluación la protección de datos personales, la ciberseguridad, el cumplimiento de la legislación, la legitimidad social y la rendición de cuentas. Según explicó, las evaluaciones permiten entregar una hoja de ruta a los servicios públicos responsables para mitigar los riesgos detectados y avanzar hacia una inteligencia artificial responsable desde su diseño.
Por su parte, Trinidad Inostroza, presidenta del Consejo Asesor para la Modernización del Estado durante el período 2022-2026, valoró la instancia por poner en el centro la transparencia algorítmica y el uso de estas tecnologías en la administración pública. También destacó la importancia de la gobernanza, la coordinación interinstitucional y las consideraciones éticas para avanzar en esta materia.
Desde la perspectiva municipal, Gustavo Alessandri, alcalde de Zapallar y presidente de la Asociación Chilena de Municipalidades, señaló que la inteligencia artificial puede contribuir a mejorar la gestión local y los servicios entregados a los vecinos. "Tenemos que aprender a convivir con ella y también ocuparla para prestar un mejor servicio, tener mejores funcionarios municipales y que el resultado final sea óptimo", indicó. Asimismo, enfatizó la necesidad de capacitar a los equipos municipales para incorporar estas herramientas de manera adecuada.
La jornada también contempló la presentación de Alertas IA, una serie educativa de la RIEA sobre soberanía de datos, transparencia algorítmica, conflictos de interés, lobby, compras públicas y beneficiarios finales.
Con estas iniciativas, la Red de Integridad y Estado Abierto busca impulsar la investigación y el desarrollo de propuestas en integridad, transparencia y rendición de cuentas, promoviendo que los sistemas automatizados utilizados por los organismos públicos puedan ser conocidos, examinados y evaluados.
Comparte en tus redes sociales