Archivo de la etiqueta: Automatización

Algoritmos y Administración Pública: no a los robots supremacistas


Por Antonio Ansón

Los algoritmos lo van a tomar todo. Lo están tomando todo. Pero, ¿son sus sesgos inevitables? Desgraciadamente, más inteligencia artificial no garantiza más libertad o igualdad. Nadie quiere un futuro de robots supremacistas, racistas o sexistas que amplifiquen lo peor de nuestras sociedades. La Administración Pública va a jugar un papel muy importante en la vigilancia de las condiciones en que la libertad y la igualdad pueden ser efectivas.

Blue

Blue. Chad Ajamian

Los algoritmos y sus ¿inevitables? sesgos

En estos años estamos viendo el desarrollo de los algoritmos que nos acercan a la inteligencia artificial a una velocidad sorprendente -inesperada solo hace unos pocos años. También hemos podido leer sobre los sesgos que parecen acompañar a su evolución y que se ven amplificados por el algoritmo.

Los modelos predictivos amplifican los sesgos que contienen los datos. Así puede verse en el reciente estudio de la Universidad de Virginia Men Also Like Shopping (1). Un recomendable artículo de Javier Salas en El Pais (2), mostraba palpables ejemplos de cómo los sesgos están afectando  a los modelos predictivos actuales y las dificultades para detectarlos y corregirlos.

Más inteligencia artificial no garantiza más libertad o igualdad

La automatización de las sociedades avanzadas está siendo un fenómeno imparable que es visto con esperanza y con desconfianza a la vez. Los algoritmos de los que hablamos son esas sofisticadas instrucciones de programación que rigen el funcionamiento de los sistemas informáticos. Y los más sofisticados de ellos permiten que las máquinas puedan aprender a pensar por si mismas.

Pero, ¿que ocurriría si estos algoritmos que nos hacen la vida más fácil se equivocan en contra de un grupo, de una raza, de un género, de una legítima opción política, de una elección vital?

Virginia Eubanks presenta en su libro Automating Inequality (3) varios casos en que los servicios sociales en los Estados Unidos automatizaron la decisión sobre las solicitudes de asistencia, crearon un registro electrónico para las personas sin hogar o un modelo productivo sobre qué niños serían en el futuro víctimas de abusos. Las conclusiones fueron desoladoras, ya que estos nuevos sistemas mostraron una clara discriminación hacia las comunidades más pobres. La científica Cathy O’Neil piensa que el Big Data está aumentando la desigualdad y amenazando la democracia (Weapons of Math Destruction).

No podemos perder el control de nuestras democracias. La discriminación encubierta bajo el telón de la programación avanzada no es tolerable. Pero sin duda es una tarea imposible para el ciudadano individual enfrentarse a este tipo de ataque a sus libertades. En las democracias avanzadas la obligación de los poderes públicos es garantizar la libertad e igualdad del individuo y de los grupos en que se integra. Los poderes públicos ante esta situación deben utilizar sus potestades para garantizar que el principio de igualdad se hace  efectivo.

Corresponde a los poderes públicos promover las condiciones para que la libertad y la igualdad del individuo y de los grupos en que se integra sean reales y efectivas; remover los obstáculos que impidan o dificulten su plenitud y facilitar la participación de todos los ciudadanos en la vida política, económica, cultural y social (Artículo 9 de la constitución española de 1978)

¿Cual es el papel que pueden jugar los poderes públicos en el desarrollo de los algoritmos que afectan a los ciudadanos y a los grupos sociales? 

Quien tiene la responsabilidad de garantizar las condiciones para que la libertad y la igualdad de los individuos sean reales y efectivas,  tendrá que lidiar en breve con los algoritmos. Nada más fácil que disfrazar de neutralidad tecnológica la discriminación social. La Administración Pública tendrá un papel relevante en que la libertad individual y la igualdad no se vean perjudicadas por el avance de la automatización.

Recientemente hemos podido leer en The Economist un artículo (Are programs better than people at predicting reoffending?) preguntándose si los programas son mejores que las personas prediciendo la reincidencia (de un reo).  Por ahora los programas solo se acercan al buen juicio de las personas cuando usan pocas variables. Pero se abre el paso a que en el futuro sean juzgados por una máquina incluso temas tan delicados que afecten a derechos de la persona (la libertad de un detenido).

Entre este caso extremo y la realidad actual hay un enorme campo donde los algoritmos van a estar presentes: a la hora de resolver la concesión de una beca, en la admisión a una prueba de acceso, en la resolución de una reclamación, en la concesión de un beneficio social (como la prestación del paro), en las certificaciones administrativas y en muchas más que no es difícil de imaginar. Estamos en un momento en que la administración pública dispone de más datos y que, en breve, dispondrá de la tecnología y los algoritmos para hacer un uso eficaz de éstos.

Es crucial evitar que la neutralidad de la administración quede comprometida

Cuando estos algoritmos sean utilizados efectivamente por la administración, la transparencia y la rendición de cuentas deberá ser extrema para evitar la discriminación a través de sesgos basados en raza, género, religión o la más común, pobreza.

También la neutralidad en el aparato electoral y en las campañas electorales (pieza básica del engranaje) debe estar garantizada. Nos gustaría ver a los bots que contaminan el proceso democrático expulsados de las herramientas de comunicación social.

Conclusiones

La automatización está planteando un reto nuevo para los poderes públicos: evitar la discriminación enmascarada en los algoritmos.

La Administración Pública debe jugar un papel relevante en esta labor de defensa de la igualdad de los individuos y grupos sociales ante los avances tecnológicos. Nadie de buena voluntad puede querer un futuro de robots supremacistas, racistas o sexistas que amplifiquen lo peor de nuestras sociedades.

Creo que la protección de los ciudadanos frente a los sesgos discriminatorios presentes en los algoritmos es un ejemplo de los nuevos papeles acordes con los tiempos que la Administración Pública habrá de asumir. Sin embargo, aún falta preparación para enfrentarse a este reto: cuesta creer que los responsables de gestionar esto vayan a ser funcionarios por decimonónica oposición sin más bagaje ni preparación que un temario en ristre.

También te puede interesar:

Las tres fases de la automatización de la administración pública

Administración pública y revolución tecnológica: 5 cambios radicales

¿Cómo generar talento en las administraciones públicas?

8 aspectos del nuevo trabajo en el sector público y 1 canto a la nomenclatura digital

_________________________________________________

(1) Men Also Like Shopping) Reducing Gender Bias Amplification Using Corpus-Level Constraints (2017, Hiao, Wang, Yatkar, Ordoñez)

(2) Si está en la cocina, es una mujer: cómo los algoritmos refuerzan los prejuicios,

(3) Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (Virginia Eubanks)

 

Anuncios

Automatización y envejecimiento en la Administración Pública


Por Antonio Ansón

Solo el 1,5 por ciento de los trabajadores de la  Administración General del Estado en España (AGE) tiene menos de 30 años. Por el contrario, la edad promedio supera ya los 50 años. Estas cifras muestran dos serios riesgos: (i) la falta de servidores públicos conectados generacionalmente con los cambios tecnológicos y sociales; y (ii) que la administración pierda la experiencia acumulada. 

8735863338_4918aa03bc_o

Maryland GovPics CC

El déficit de gente joven en la Administración

Esto no es un problema generalizado en la OCDE (1). Mientras España está por debajo del 10% de  empleados situados entre los 18-34 años, Alemania tiene un 30%. La media de empleados con 55 o más años en la OCDE se encuentra en el 25% (con países como Chile, Australia, Hungría, Japón, Corea y  Eslovenia que no alcanzan el 20%), mientras que España tiene un  36% de sus funcionarios de la administración central con 55 o más años.

La administración pública ha cerrado sus puertas a generaciones de jóvenes bien preparados en aras de políticas de recorte del gasto público que nunca llegaron a imbricarse en una estrategia de mediano y largo plazo para la Administración Pública.

La pérdida del conocimiento acumulado

La administración española no gestiona adecuadamente el conocimiento. Es difícil, cuando no imposible encontrar memoria de los proyectos realizados en la AGE, su identificación, su planificación, desarrollo y evaluación posterior. No hay documentación en los de éxito. Imagínense en los que fracasaron. Escasean los ejemplos de cómo se hace, de buenas practicas compartidas. Definitivamente, no está en la cultura administrativa documentar los proyectos (2) desde su nacimiento hasta su éxito o abandono.

Una plantilla envejecida en la administración pública es condenar a la sociedad a un futuro de servicios públicos de ínfima calidad.

Hay iniciativas que premian cambios e innovaciones (INAP, Novagob, Club de la Innovación, como ejemplo, o la intra-emprendedora Innovación on tour), pero estas iniciativas no sustituyen la practica rutinaria de documentar y evaluar proyectos. Sin eso, no va a ser fácil realizar el relevo generacional sin exponerse a perder información. Que es tanto como decir sin cometer los mismos errores del pasado. La informatización por sí sola no tiene respuesta para eso.

¿Quien va a enseñar a las máquinas?

Bonita cuestión. Trabajando en países en desarrollo uno puede comprobar los efectos de la falta de profesionalización del sector público. El cambio continuo de plantillas y de gerentes rompe todos los procesos de aprendizaje de la institución y conforma organizaciones que no aprenden. Una brecha enorme que amenaza con sumarse a la digital.

7019634849_c3384dd55c_o

Backdoor Survival CC

Hay un momento, ya cercano, en que los sistemas dotados de inteligencia sustituirán a los actuales. Entonces, ¿qué ocurrirá a los organizaciones, públicas o privadas, que no han sido capaces ni siquiera de completar con éxito una primera fase de informatización de los procesos fundamentales? ¿Quien tendrá los conocimientos para diseñar los algoritmos? ¿Y para evaluarlos? Para eso se necesita un conocimiento profundo del negocio. Y también perfiles nuevos conectados con el proceso de automatización.

 


En conclusión

Una plantilla envejecida en la administración pública es condenar a la sociedad a un futuro de servicios públicos de ínfima calidad. Es necesario y urgente un plan estratégico de renovación del personal al servicio de la administración, con nuevos perfiles, con herramientas que permitan una adecuada gestión del conocimiento y con iniciativas reales para que exista un relevo generacional.

Vale de mirar con envidia en el espejo de otros países que tienen mejores servicios. Los tienen porque se preparan, porque invierten en ellos. Son fruto de una estrategia social que va más allá de unas elecciones.

_______________________________________________________
(1) Fuente, OCDE Government at a Glance 2017.
(2) Las buenas prácticas de la administración pública en ocasiones se identifican con códigos de ética o buena conducta (ejemplo Ayuntamiento de Madrid o Sindic de Greuges de Cataluña). Menos veces aparecen como recopilación de prácticas innovadoras. Los elogiables esfuerzos del INAP en su repositorio de buenas prácticas, tampoco acaban de ser algo realmente utilizable. En el repositorio se suelen encontrar trabajos teóricos que nunca se llevaron a cabo. O si lo hicieron, no hay rastro de su aplicación práctica. Parece que los verdaderos proyectos se encuentran sólo en las memorias de las personas que participaron en ellos.

También te pueden interesar:

Las tres fases de la automatización de la administración pública

Administración pública y revolución tecnológica: 5 cambios radicales

La “performance snapshot” sustituye a la evaluación del desempeño

Atención al público y administración electrónica

Administración pública y revolución tecnológica: 5 cambios radicales


Por Antonio Ansón 

La actual revolución tecnológica no va a dejar indiferente a las administraciones públicas. La implantación de un sistema de gestión de riesgos, los cambios en los perfiles de puestos y en el sistema de acceso a la Administración, la automatización y  la implantación de un sistema de evaluación del desempeño son algunas tendencias que marcaran los cambios en la administración pública de los próximos años.

DavidBleasdale

Empujados por el cambio tecnológico creo que vamos a ver en breve algunos movimientos en las administraciones públicas. La pregunta que nos hacemos es qué cambiará en la administración pública tradicional. Y hemos encontrado 5 respuestas.

1. Implantación de la gestión de riesgos en la administración pública 

La disponibilidad creciente de datos sobre los ciudadanos permitirá la extensión de la utilización de técnicas de gestión de riesgo con el fin de racionalizar los recursos disponibles y ordenar la acción administrativa hacia sus objetivos de servicio a la sociedad.

La gestión del riesgo es un proceso por el que identifican, valoran y priorizan los riesgos asociados a una actividad,  tomando acciones  para reducir o minimizar su impacto

Australia, pionera en la aplicación de la gestión de riesgos a la actividad administrativa, ya en 2004 ¹ exigió a los directorios de las agencias estatales informar acerca de los principales riesgos identificados, el sistema de gestión de riesgos establecido y las medidas de mitigación puestas en marcha. Ahora que los avances tecnológicos hacen mucho más fácil  la aplicación de la gestión de riesgos a la administración, es el momento de reorientar la función pública hacia su papel, en una sociedad que demanda más transparencia y rendición de cuentas.

2. Cambio de los perfiles de los puestos de trabajo en la administración

Hasta ahora la administración pública ha seguido creando puestos tradicionales mientras las necesidades de nuevos perfiles se hace cada vez más patente. La necesidad de trabajar con un volumen creciente de datos, la oferta de servicios por Internet que va cambiando la orientación de la atención al ciudadano, las posibilidades inmensas de automatización de los servicios, todo ello, cambiará el perfil del trabajador público y condicionará la futura oferta pública de empleo. Los tradicionales cuerpos de funcionarios se verán afectados por la creación de los nuevos perfiles, exigiendo una profunda adaptación y flexibilidad frente a las nuevas realidades.

3. Cambio en las formas de acceso

Aparición de nuevas formas de contratación, acordes con el auto empleo y la especialización creciente. No imagino a la administración pública contratando community managers por oposición.  De hecho, se trata de incorporar figuras que no existen en la administración actual, por lo que el sistema tradicional no bastará para la selección. Tampoco resultará adecuado el sistema de acceso actual para valorar la capacidad de trabajar en equipos de alto rendimiento. Nuevos perfiles, nuevas necesidades, nuevas realidades. El auto empleo parece la tendencia, y la administración no podrá mantenerse al margen. El profesional cualificado no trabajará para un solo empleador. La administración tendrá que contratar profesionales muy cualificados de manera puntual, sin vincularse a una relación a largo plazo.

4. Automatización

El coste de personal de las administraciones públicas alcanza el 23,1% del gasto público en la OCDE, siendo un 29,1% en América Latina y Caribe ². En en España oscila entre el 25% de la administración central y el 35% de las autonómicas ³. El abaratamiento de las soluciones tecnológicas unido al alto coste del personal de las administraciones, impulsará una tendencia a automatizar nuevos servicios, aumentando las partidas de inversión y gasto en tecnología y disminuyendo las de gasto de personal. Nadie puede pensar ya que la automatización solo se refiere a las tareas más mecánicas. Los robots también van a sustituir puestos reservados tradicionalmente a licenciados universitarios. Esta tendencia  influye poderosamente en la redefinición de los puestos de trabajo que la administración va a necesitar en un futuro no muy lejano.

5. Implantación generalizada de la evaluación del desempeño

El teletrabajo, la prestación de servicios deslocalizada, relaciones de servicio más abiertas, donde los equipos de trabajo se crean para una tarea y luego desaparecen para, de nuevo,  conformar otros equipos que abordarán nuevas tareas. Estas nuevas maneras de relación laboral exigen una implantación universal de la evaluación del desempeño. Los gerentes, cada vez menos jefes tradicionales, tendrán que evaluar a los miembros de su equipo: unos estarán en la oficina, otros en otras ubicaciones o trabajando desde casa, algunos tendrán una relación esporádica como profesionales contratados. Hacer que todo eso funcione como un equipo requerirá un sistema ágil de evaluación que mida el rendimiento y la calidad de la aportación de cada uno al proyecto común. Deloitte, con más de 60.000 empleados por el mundo, ya comprendió que los sistemas tradicionales de evaluación son costosos, especialmente en tiempo de los directivos,  y además no queda demostrado que consigan su finalidad. La alternativa es encontrar sistemas de evaluación más ágiles y livianos, como la performance snapshot.

Conclusiones

Impulsados por los cambios tecnológicos y por la presión social las administraciones públicas han iniciado un proceso de transformación sin retorno. El impacto de la automatización, el big data o la inteligencia artificial van a provocar profundos cambios en la manera de operar de las administraciones: menos personal pero más cualificado, más inversión en tecnología, diferentes formas de acceso y vínculo con la administración, un gerenciamiento basado en riesgo, más transparencia y mayor rendición de cuentas a la sociedad.

Notas

¹ Public Administration Act 2004
² Fuente: El Coste de la Administración Pública. Varios autores.
³ Fuente: Panorama de las administraciones públicas: América latina y el Caribe 2017 © OCDE 2016
Imagen: DaveBleasdale CC license

Las tres fases de la automatización de la administración pública


por Antonio Ansón

Crecí leyendo a Julio Verne y terminé leyendo a Arthur C. Clarke e Isaac Asimov. Ahora que leo sobre robots y economía no puedo evitar pensar en qué ocurrirá en el sector público. Yo lo imagino en tres fases. Una primera fase en que los sistemas tradicionales conviven con proyectos basados en inteligencia artificial (IA). Una segunda en que los sistemas de IA son una realidad, pero hay que supervisarlos y corregir sus carencias. En la tercera fase, los sistemas inteligentes están presentes en la mayoría de la actividad administrativa y el número y perfil de los empleados públicos es muy diferente de las fases anteriores.

AI-Democracy-6

Disfruté leyendo el artículo del maestro Gerardo Bustos sobre los funcionarios del futuro: 10 rasgos del empleado público en 2050. Luego han venido otros artículos sobre cómo será el funcionario del futuro también interesantes¹. En mi opinión, el cambio en el perfil del empleado público va a ser más radical, porque el cambio del escenario tecnológico exigirá un nuevo tipo de habilidades y de vínculos necesarios para sostener el funcionamiento regular de la actividad automatizada de la administración.

Primera fase. Tímidos avances de la automatización

Los expertos en el negocio definirán para los sistemas de inteligencia artificial lo que los robots deben hacer. En esta fase convivirán: (i) los sistemas tradicionales sin apenas informatización;  (ii) sistemas informatizados que no tienen o solo parcialmente disponen de IA; y (iii) otros avanzados, dotados de IA, que se encuentran en fase de implementación y de pruebas, y que apenas tienen impacto en la actividad de la administración. La actividad del sector público apenas presentará variación, salvo el incremento natural de los servicios al ciudadano en el marco de la administración electrónica. Fuerte tendencia a que todo se informatice, sin que este proceso signifique realmente un cambio de enfoque y mentalidad de la gestión pública.

Automatización del SP

Segunda fase.  Consolidación de los sistemas basados en inteligencia artificial

En esta fase la informatización de la administración pública en los países más desarrollados será prácticamente total, y razonablemente avanzada en los países en desarrollo. Los sistemas basados en IA sustituirán las actividades tradicionales por sistemas automatizados de relación con el ciudadano. Los sistemas que no estén dotados de inteligencia quedarán obsoletos y habrá una fuerte tendencia a sustituirlos por IA. Esta etapa reclamará una gran actividad de supervisión y retroalimentación sobre el trabajo de los robots. La función consistirá en asegurarse de que todo está marchando correctamente y de que se corrigen los errores iniciales de programación y de aprendizaje. Los expertos del negocio seguirán siendo un eslabón básico en la producción del resultado, pero el número de los que están en tareas de campo disminuirá rápidamente. Un buen ejemplo de lo que estará pasando es la medicina. En esta fase una buena parte de los médicos ya no se dedicarán a la medicina, sino a hacer que los sistemas de inteligencia artificial aprendan a diagnosticar.

Tercera fase. Los sistemas de IA predominan en la administración pública

Gran impacto en la función pública porque el perfil de los empleados públicos ha cambiado radicalmente. Los funcionarios conocerán el negocio, pero desde el punto de vista de su gestión automatizada, y serán sobre todo expertos en automatización y en el manejo de máquinas dotadas de inteligencia artificial. En este momento los verdaderos expertos en el negocio serán los sistemas dotados de inteligencia artificial aplicada. El número de empleados públicos directos habrá disminuido radicalmente. La dirección de los grandes servicios se llevará a cabo por personal reducido desde centros de control remoto. Muchas empresas especializadas trabajarán para la administración para asegurar que sus sistemas funcionan y son seguros.

Conclusiones

Creo que imaginar ayuda a prepararnos para el futuro. En una realidad donde lo único cierto es el cambio, el sector público no quedará al margen de esta revolución tecnológica. La aceleración de los cambios sociales que la acompaña está provocando una demanda social de mayor conexión con la administración, más transparencia, mejores servicios y más económicos, mayor agilidad de la acción administrativa y menores costes de cumplimiento.

La respuesta a la demanda social de mayor conexión, más transparencia, mejores servicios, más agilidad de la acción administrativa y menores costes de cumplimiento estará basada en la tecnología. Y será la tecnología la que transformará la administración pública que ahora conocemos.

¿Tiempos? A la vista de la rapidez con que ocurren los procesos de renovación tecnológica creo que no tendremos que esperar mucho para ver y tocar los cambios.

@Antonio_Anson

Notas

¹  Hacia el nuevo empleado público digital de Belén Espejo; 10 habilidades que necesitarás en 2020  de la revista Insider y El perfil del nuevo empleado público de Victor Almonacid

Otros artículos que te pueden interesar:

 

La “performance snapshot” sustituye a la evaluación del desempeño

¿Por qué en Islandia las ovejas van de tres en tres?

4 razones que explican por qué los cambios en la Administración Pública no llegan a tiempo

¿Cómo generar talento en las administraciones públicas?

6 razones por las que debemos usar el aprendizaje informal en las Administraciones Públicas

10 efectos positivos de la comunicación interna en la Administración 2.0