Archivo de la etiqueta: administration

Algoritmos y Administración Pública: no a los robots supremacistas


Por Antonio Ansón

Los algoritmos lo van a tomar todo. Lo están tomando todo. Pero, ¿son sus sesgos inevitables? Desgraciadamente, más inteligencia artificial no garantiza más libertad o igualdad. Nadie quiere un futuro de robots supremacistas, racistas o sexistas que amplifiquen lo peor de nuestras sociedades. La Administración Pública va a jugar un papel muy importante en la vigilancia de las condiciones en que la libertad y la igualdad pueden ser efectivas.

Blue

Blue. Chad Ajamian

Los algoritmos y sus ¿inevitables? sesgos

En estos años estamos viendo el desarrollo de los algoritmos que nos acercan a la inteligencia artificial a una velocidad sorprendente -inesperada solo hace unos pocos años. También hemos podido leer sobre los sesgos que parecen acompañar a su evolución y que se ven amplificados por el algoritmo.

Los modelos predictivos amplifican los sesgos que contienen los datos. Así puede verse en el reciente estudio de la Universidad de Virginia Men Also Like Shopping (1). Un recomendable artículo de Javier Salas en El Pais (2), mostraba palpables ejemplos de cómo los sesgos están afectando  a los modelos predictivos actuales y las dificultades para detectarlos y corregirlos.

Más inteligencia artificial no garantiza más libertad o igualdad

La automatización de las sociedades avanzadas está siendo un fenómeno imparable que es visto con esperanza y con desconfianza a la vez. Los algoritmos de los que hablamos son esas sofisticadas instrucciones de programación que rigen el funcionamiento de los sistemas informáticos. Y los más sofisticados de ellos permiten que las máquinas puedan aprender a pensar por si mismas.

Pero, ¿que ocurriría si estos algoritmos que nos hacen la vida más fácil se equivocan en contra de un grupo, de una raza, de un género, de una legítima opción política, de una elección vital?

Virginia Eubanks presenta en su libro Automating Inequality (3) varios casos en que los servicios sociales en los Estados Unidos automatizaron la decisión sobre las solicitudes de asistencia, crearon un registro electrónico para las personas sin hogar o un modelo productivo sobre qué niños serían en el futuro víctimas de abusos. Las conclusiones fueron desoladoras, ya que estos nuevos sistemas mostraron una clara discriminación hacia las comunidades más pobres. La científica Cathy O’Neil piensa que el Big Data está aumentando la desigualdad y amenazando la democracia (Weapons of Math Destruction).

No podemos perder el control de nuestras democracias. La discriminación encubierta bajo el telón de la programación avanzada no es tolerable. Pero sin duda es una tarea imposible para el ciudadano individual enfrentarse a este tipo de ataque a sus libertades. En las democracias avanzadas la obligación de los poderes públicos es garantizar la libertad e igualdad del individuo y de los grupos en que se integra. Los poderes públicos ante esta situación deben utilizar sus potestades para garantizar que el principio de igualdad se hace  efectivo.

Corresponde a los poderes públicos promover las condiciones para que la libertad y la igualdad del individuo y de los grupos en que se integra sean reales y efectivas; remover los obstáculos que impidan o dificulten su plenitud y facilitar la participación de todos los ciudadanos en la vida política, económica, cultural y social (Artículo 9 de la constitución española de 1978)

¿Cual es el papel que pueden jugar los poderes públicos en el desarrollo de los algoritmos que afectan a los ciudadanos y a los grupos sociales? 

Quien tiene la responsabilidad de garantizar las condiciones para que la libertad y la igualdad de los individuos sean reales y efectivas,  tendrá que lidiar en breve con los algoritmos. Nada más fácil que disfrazar de neutralidad tecnológica la discriminación social. La Administración Pública tendrá un papel relevante en que la libertad individual y la igualdad no se vean perjudicadas por el avance de la automatización.

Recientemente hemos podido leer en The Economist un artículo (Are programs better than people at predicting reoffending?) preguntándose si los programas son mejores que las personas prediciendo la reincidencia (de un reo).  Por ahora los programas solo se acercan al buen juicio de las personas cuando usan pocas variables. Pero se abre el paso a que en el futuro sean juzgados por una máquina incluso temas tan delicados que afecten a derechos de la persona (la libertad de un detenido).

Entre este caso extremo y la realidad actual hay un enorme campo donde los algoritmos van a estar presentes: a la hora de resolver la concesión de una beca, en la admisión a una prueba de acceso, en la resolución de una reclamación, en la concesión de un beneficio social (como la prestación del paro), en las certificaciones administrativas y en muchas más que no es difícil de imaginar. Estamos en un momento en que la administración pública dispone de más datos y que, en breve, dispondrá de la tecnología y los algoritmos para hacer un uso eficaz de éstos.

Es crucial evitar que la neutralidad de la administración quede comprometida

Cuando estos algoritmos sean utilizados efectivamente por la administración, la transparencia y la rendición de cuentas deberá ser extrema para evitar la discriminación a través de sesgos basados en raza, género, religión o la más común, pobreza.

También la neutralidad en el aparato electoral y en las campañas electorales (pieza básica del engranaje) debe estar garantizada. Nos gustaría ver a los bots que contaminan el proceso democrático expulsados de las herramientas de comunicación social.

Conclusiones

La automatización está planteando un reto nuevo para los poderes públicos: evitar la discriminación enmascarada en los algoritmos.

La Administración Pública debe jugar un papel relevante en esta labor de defensa de la igualdad de los individuos y grupos sociales ante los avances tecnológicos. Nadie de buena voluntad puede querer un futuro de robots supremacistas, racistas o sexistas que amplifiquen lo peor de nuestras sociedades.

Creo que la protección de los ciudadanos frente a los sesgos discriminatorios presentes en los algoritmos es un ejemplo de los nuevos papeles acordes con los tiempos que la Administración Pública habrá de asumir. Sin embargo, aún falta preparación para enfrentarse a este reto: cuesta creer que los responsables de gestionar esto vayan a ser funcionarios por decimonónica oposición sin más bagaje ni preparación que un temario en ristre.

También te puede interesar:

Las tres fases de la automatización de la administración pública

Administración pública y revolución tecnológica: 5 cambios radicales

¿Cómo generar talento en las administraciones públicas?

8 aspectos del nuevo trabajo en el sector público y 1 canto a la nomenclatura digital

_________________________________________________

(1) Men Also Like Shopping) Reducing Gender Bias Amplification Using Corpus-Level Constraints (2017, Hiao, Wang, Yatkar, Ordoñez)

(2) Si está en la cocina, es una mujer: cómo los algoritmos refuerzan los prejuicios,

(3) Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (Virginia Eubanks)

 

Anuncios

Administración pública y revolución tecnológica: 5 cambios radicales


Por Antonio Ansón 

La actual revolución tecnológica no va a dejar indiferente a las administraciones públicas. La implantación de un sistema de gestión de riesgos, los cambios en los perfiles de puestos y en el sistema de acceso a la Administración, la automatización y  la implantación de un sistema de evaluación del desempeño son algunas tendencias que marcaran los cambios en la administración pública de los próximos años.

DavidBleasdale

Empujados por el cambio tecnológico creo que vamos a ver en breve algunos movimientos en las administraciones públicas. La pregunta que nos hacemos es qué cambiará en la administración pública tradicional. Y hemos encontrado 5 respuestas.

1. Implantación de la gestión de riesgos en la administración pública 

La disponibilidad creciente de datos sobre los ciudadanos permitirá la extensión de la utilización de técnicas de gestión de riesgo con el fin de racionalizar los recursos disponibles y ordenar la acción administrativa hacia sus objetivos de servicio a la sociedad.

La gestión del riesgo es un proceso por el que identifican, valoran y priorizan los riesgos asociados a una actividad,  tomando acciones  para reducir o minimizar su impacto

Australia, pionera en la aplicación de la gestión de riesgos a la actividad administrativa, ya en 2004 ¹ exigió a los directorios de las agencias estatales informar acerca de los principales riesgos identificados, el sistema de gestión de riesgos establecido y las medidas de mitigación puestas en marcha. Ahora que los avances tecnológicos hacen mucho más fácil  la aplicación de la gestión de riesgos a la administración, es el momento de reorientar la función pública hacia su papel, en una sociedad que demanda más transparencia y rendición de cuentas.

2. Cambio de los perfiles de los puestos de trabajo en la administración

Hasta ahora la administración pública ha seguido creando puestos tradicionales mientras las necesidades de nuevos perfiles se hace cada vez más patente. La necesidad de trabajar con un volumen creciente de datos, la oferta de servicios por Internet que va cambiando la orientación de la atención al ciudadano, las posibilidades inmensas de automatización de los servicios, todo ello, cambiará el perfil del trabajador público y condicionará la futura oferta pública de empleo. Los tradicionales cuerpos de funcionarios se verán afectados por la creación de los nuevos perfiles, exigiendo una profunda adaptación y flexibilidad frente a las nuevas realidades.

3. Cambio en las formas de acceso

Aparición de nuevas formas de contratación, acordes con el auto empleo y la especialización creciente. No imagino a la administración pública contratando community managers por oposición.  De hecho, se trata de incorporar figuras que no existen en la administración actual, por lo que el sistema tradicional no bastará para la selección. Tampoco resultará adecuado el sistema de acceso actual para valorar la capacidad de trabajar en equipos de alto rendimiento. Nuevos perfiles, nuevas necesidades, nuevas realidades. El auto empleo parece la tendencia, y la administración no podrá mantenerse al margen. El profesional cualificado no trabajará para un solo empleador. La administración tendrá que contratar profesionales muy cualificados de manera puntual, sin vincularse a una relación a largo plazo.

4. Automatización

El coste de personal de las administraciones públicas alcanza el 23,1% del gasto público en la OCDE, siendo un 29,1% en América Latina y Caribe ². En en España oscila entre el 25% de la administración central y el 35% de las autonómicas ³. El abaratamiento de las soluciones tecnológicas unido al alto coste del personal de las administraciones, impulsará una tendencia a automatizar nuevos servicios, aumentando las partidas de inversión y gasto en tecnología y disminuyendo las de gasto de personal. Nadie puede pensar ya que la automatización solo se refiere a las tareas más mecánicas. Los robots también van a sustituir puestos reservados tradicionalmente a licenciados universitarios. Esta tendencia  influye poderosamente en la redefinición de los puestos de trabajo que la administración va a necesitar en un futuro no muy lejano.

5. Implantación generalizada de la evaluación del desempeño

El teletrabajo, la prestación de servicios deslocalizada, relaciones de servicio más abiertas, donde los equipos de trabajo se crean para una tarea y luego desaparecen para, de nuevo,  conformar otros equipos que abordarán nuevas tareas. Estas nuevas maneras de relación laboral exigen una implantación universal de la evaluación del desempeño. Los gerentes, cada vez menos jefes tradicionales, tendrán que evaluar a los miembros de su equipo: unos estarán en la oficina, otros en otras ubicaciones o trabajando desde casa, algunos tendrán una relación esporádica como profesionales contratados. Hacer que todo eso funcione como un equipo requerirá un sistema ágil de evaluación que mida el rendimiento y la calidad de la aportación de cada uno al proyecto común. Deloitte, con más de 60.000 empleados por el mundo, ya comprendió que los sistemas tradicionales de evaluación son costosos, especialmente en tiempo de los directivos,  y además no queda demostrado que consigan su finalidad. La alternativa es encontrar sistemas de evaluación más ágiles y livianos, como la performance snapshot.

Conclusiones

Impulsados por los cambios tecnológicos y por la presión social las administraciones públicas han iniciado un proceso de transformación sin retorno. El impacto de la automatización, el big data o la inteligencia artificial van a provocar profundos cambios en la manera de operar de las administraciones: menos personal pero más cualificado, más inversión en tecnología, diferentes formas de acceso y vínculo con la administración, un gerenciamiento basado en riesgo, más transparencia y mayor rendición de cuentas a la sociedad.

Notas

¹ Public Administration Act 2004
² Fuente: El Coste de la Administración Pública. Varios autores.
³ Fuente: Panorama de las administraciones públicas: América latina y el Caribe 2017 © OCDE 2016
Imagen: DaveBleasdale CC license

Las tres fases de la automatización de la administración pública


por Antonio Ansón

Crecí leyendo a Julio Verne y terminé leyendo a Arthur C. Clarke e Isaac Asimov. Ahora que leo sobre robots y economía no puedo evitar pensar en qué ocurrirá en el sector público. Yo lo imagino en tres fases. Una primera fase en que los sistemas tradicionales conviven con proyectos basados en inteligencia artificial (IA). Una segunda en que los sistemas de IA son una realidad, pero hay que supervisarlos y corregir sus carencias. En la tercera fase, los sistemas inteligentes están presentes en la mayoría de la actividad administrativa y el número y perfil de los empleados públicos es muy diferente de las fases anteriores.

AI-Democracy-6

Disfruté leyendo el artículo del maestro Gerardo Bustos sobre los funcionarios del futuro: 10 rasgos del empleado público en 2050. Luego han venido otros artículos sobre cómo será el funcionario del futuro también interesantes¹. En mi opinión, el cambio en el perfil del empleado público va a ser más radical, porque el cambio del escenario tecnológico exigirá un nuevo tipo de habilidades y de vínculos necesarios para sostener el funcionamiento regular de la actividad automatizada de la administración.

Primera fase. Tímidos avances de la automatización

Los expertos en el negocio definirán para los sistemas de inteligencia artificial lo que los robots deben hacer. En esta fase convivirán: (i) los sistemas tradicionales sin apenas informatización;  (ii) sistemas informatizados que no tienen o solo parcialmente disponen de IA; y (iii) otros avanzados, dotados de IA, que se encuentran en fase de implementación y de pruebas, y que apenas tienen impacto en la actividad de la administración. La actividad del sector público apenas presentará variación, salvo el incremento natural de los servicios al ciudadano en el marco de la administración electrónica. Fuerte tendencia a que todo se informatice, sin que este proceso signifique realmente un cambio de enfoque y mentalidad de la gestión pública.

Automatización del SP

Segunda fase.  Consolidación de los sistemas basados en inteligencia artificial

En esta fase la informatización de la administración pública en los países más desarrollados será prácticamente total, y razonablemente avanzada en los países en desarrollo. Los sistemas basados en IA sustituirán las actividades tradicionales por sistemas automatizados de relación con el ciudadano. Los sistemas que no estén dotados de inteligencia quedarán obsoletos y habrá una fuerte tendencia a sustituirlos por IA. Esta etapa reclamará una gran actividad de supervisión y retroalimentación sobre el trabajo de los robots. La función consistirá en asegurarse de que todo está marchando correctamente y de que se corrigen los errores iniciales de programación y de aprendizaje. Los expertos del negocio seguirán siendo un eslabón básico en la producción del resultado, pero el número de los que están en tareas de campo disminuirá rápidamente. Un buen ejemplo de lo que estará pasando es la medicina. En esta fase una buena parte de los médicos ya no se dedicarán a la medicina, sino a hacer que los sistemas de inteligencia artificial aprendan a diagnosticar.

Tercera fase. Los sistemas de IA predominan en la administración pública

Gran impacto en la función pública porque el perfil de los empleados públicos ha cambiado radicalmente. Los funcionarios conocerán el negocio, pero desde el punto de vista de su gestión automatizada, y serán sobre todo expertos en automatización y en el manejo de máquinas dotadas de inteligencia artificial. En este momento los verdaderos expertos en el negocio serán los sistemas dotados de inteligencia artificial aplicada. El número de empleados públicos directos habrá disminuido radicalmente. La dirección de los grandes servicios se llevará a cabo por personal reducido desde centros de control remoto. Muchas empresas especializadas trabajarán para la administración para asegurar que sus sistemas funcionan y son seguros.

Conclusiones

Creo que imaginar ayuda a prepararnos para el futuro. En una realidad donde lo único cierto es el cambio, el sector público no quedará al margen de esta revolución tecnológica. La aceleración de los cambios sociales que la acompaña está provocando una demanda social de mayor conexión con la administración, más transparencia, mejores servicios y más económicos, mayor agilidad de la acción administrativa y menores costes de cumplimiento.

La respuesta a la demanda social de mayor conexión, más transparencia, mejores servicios, más agilidad de la acción administrativa y menores costes de cumplimiento estará basada en la tecnología. Y será la tecnología la que transformará la administración pública que ahora conocemos.

¿Tiempos? A la vista de la rapidez con que ocurren los procesos de renovación tecnológica creo que no tendremos que esperar mucho para ver y tocar los cambios.

@Antonio_Anson

Notas

¹  Hacia el nuevo empleado público digital de Belén Espejo; 10 habilidades que necesitarás en 2020  de la revista Insider y El perfil del nuevo empleado público de Victor Almonacid

Otros artículos que te pueden interesar:

 

La “performance snapshot” sustituye a la evaluación del desempeño

¿Por qué en Islandia las ovejas van de tres en tres?

4 razones que explican por qué los cambios en la Administración Pública no llegan a tiempo

¿Cómo generar talento en las administraciones públicas?

6 razones por las que debemos usar el aprendizaje informal en las Administraciones Públicas

10 efectos positivos de la comunicación interna en la Administración 2.0