Es lo que se está discutiendo en el Parlamento. Desde el Ministerio aseguran que la tecnología es confiable y segura.
Los países deben trabajar más para combatir los sesgos raciales, sobre todo en los algoritmos de inteligencia artificial utilizados para los reconocimientos faciales o los controles policiales, advirtieron esta semana un grupo de expertos de la ONU.
"Hay un gran peligro de que la inteligencia artificial refuerce los sesgos, y por lo tanto agrave o dé lugar a prácticas discriminatorias en el Estado", advirtió una experta en derechos humanos, integrante del comité de la ONU.
Este comité está preocupado en particular por los algoritmos utilizados entre las herramientas policiales. Estos sistemas de vigilancia que supuestamente apoyan la prevención de delitos y fueron implementados por primera vez en la década de 2000, son también criticados puesto que refuerzan los prejuicios hacia algunas comunidades.
"Los datos históricos con los que se alimenta un algoritmo respecto a arrestos en un barrio determinado pueden reflejar prácticas policiales sesgadas" y, en consecuencia, reproducirlas, subraya la experta. "Estos datos aumentan el riesgo de un exceso de presencia policial que podría llevar a practicar más arrestos y así crear un círculo vicioso", advierte. "Los datos incorrectos provocan malos resultados", resume.
Entre sus recomendaciones, el comité también se muestra inquieto por la utilización cada vez más generalizada del reconocimiento facial u otras tecnologías de supervisión utilizadas en seguridad. Los estudios realizados por la ONU demostraron que estos sistemas tienen dificultades para reconocer los rostros de piel oscura y de las mujeres.
El comité pide a los países en particular que reglamenten las empresas que trabajan en este sector para así asegurarse que tales sistemas respeten las leyes internacionales sobre derechos humanos, e insiste en la necesidad de transparencia en la concepción y aplicación de éstos para el público en general.
