Tecleo “Hola ISSA, ¿me puedes indicar el horario de atención de las oficinas de la Seguridad Social?” y, en la pantalla me responde: “Si te he entendido bien, necesitas que te atiendan personalmente. Por tu seguridad, te recomendamos evitar desplazamientos realizando tus gestiones a través de Internet. En cualquier caso, para poder ofrecerte la mejor opción de asistencia, indícame cuál es tu motivo de atención”.
Este ciudadano ha estado hablando con ISSA, que no es una funcionaria, sino con asistente virtual de la Seguridad Social ISSA (Inteligencia Artificial y Seguridad Social) y cuyo funcionamiento está basado en inteligencia artificial (IA). Aparece en la esquina derecha de la pantalla y en forma de un simpático robot con unos ojos grandes y un “rostro” sonriente. Transmite tranquilidad y está a disposición de los ciudadanos las 24 horas del día, 7 días a la semana, 365 días al año. Es capaz de ofrecer respuestas en un lenguaje natural y fácilmente comprensible.
Es un sistema que está en continuo aprendizaje, así que será cada vez más preciso y hará un mayor número cosas. En otras palabras, bienvenidos a la Administración Pública 4.0, bienvenidos a la era de la IA aplicada a la Administración Pública.
Podemos definir la IA como el ámbito de la ciencia computacional que, utilizando un gran número de datos, permite crear máquinas capaces de pensar, razonar y resolver problemas, como lo haría la inteligencia humana. Junto a ISSA, la Administración Pública española cuenta con otros muchos sistemas basados en IA o en algoritmos específicos que actúan como, en este caso, lo haría un empleado público. Entre otros, contamos con los sistemas empleados por la Agencia Tributaria para, por ejemplo, detectar errores en la campaña de la Renta, o por la Inspección de Trabajo para supervisar las condiciones laborales.
O bien sistemas algorítmicos para conceder o denegar ayudas, como Bosco en el caso del bono eléctrico social. También la Policía, la Guardia Civil y los tribunales los han incorporado. Emplean sistemas de reconocimiento facial, como el ABIS; o Veripol, un sistema algorítmico que utiliza la Policía Nacional para detectar denuncias falsas. Pero no todo ese punitivo, RisCanvi es un sistema que evalúa el riesgo de una conducta violenta futura de una persona que se encuentra en la cárcel, y Send@ del Servicio Público de Empleo Estatal ayuda a mejorar la búsqueda a los demandantes de empleo. La lista, solo en España, podría continuar.
Hoy en día, conceptos como Inteligencia Artificial, algoritmos, robotización, automatización de los procesos, Big Data, Blockchain, metaverso, etc. representan una realidad cada vez más constante en nuestras vidas. Y nuestra vida, como ciudadanos tiene una poderosa y permanente relación con la Administración Pública. Por eso, cada vez escuchamos con más frecuencia hablar de cuál será el impacto que la IA tendrá en la Administración Pública o, lo que es lo mismo, de cómo cambiará la labor de las entidades públicas en sus tareas diarias a la hora de prestar servicios públicos a favor de los ciudadanos.
Decía el profesor José Terceiro que “somos seres analógicos atrapados en el mundo digital que hemos creado”. Esta afirmación sintetiza que, quizá como sociedad hayamos avanzado hacia la digitalización, pero ello no necesariamente significa que seamos capaces de desenvolvernos en ese mundo digital. Así que el verdadero dilema no es qué se puede hacer con la IA sino, más bien, qué queremos hacer con ella. La Administración Pública debe replantearse sus procedimientos de gestión y uso de dichos sistemas y este es el verdadero reto.
Para avanzar en esta dirección, entiendo que hay que dar solución a tres cuestiones. En primer lugar, solventar la práctica inexistencia de normas específicas que regulen tanto su funcionamiento como posibles sanciones. Esto no significa que no existan cartas, estrategias, etc., sin embargo, no son estrictamente vinculantes y, por lo tanto, carecen de significación legal.
En segundo lugar, la Administración Pública no es independiente de la empresa privada a la hora de proveerse de estos sistemas y su producción propia es muy residual. Y esto afecta a la transparencia, ya que si la Administración Pública toma una decisión basada en un sistema algorítmico o de IA y esta decisión –por ejemplo, una multa– es contraria a nuestros intereses, es prácticamente imposible que podamos conocer el funcionamiento del sistema que ha llevado a tomar la decisión y que fue elaborado por una empresa. ¿Resultado? El ciudadano tendrá que soportar la decisión casi sin posibilidad de defenderse.
Naturalmente, no queremos esto, así que todos los ciudadanos debemos reclamar el derecho no solo a saber que una decisión se ha tomado a través de un sistema tecnológico, sino también debemos reivindicar el derecho a que nos expliquen, con un lenguaje que podamos entender, por qué la máquina actúa de una determinada forma.
Por último, la falta de alfabetización digital. La transición digital debe ir emparejada con la formación de los ciudadanos y con la formación de los empleados públicos. Sin conocimiento, se verá mermado el uso proactivo de los sistemas de IA. Este último punto es precisamente un llamamiento a la Administración Pública. Los poderes públicos tienen la obligación de incentivar la formación y evitar a toda costa el “¡Sálvese quien pueda!”. Es un proceso largo pero necesario. deberemos adoptar lo positivo de los sistemas de IA a sabiendas de cuáles son sus limitaciones y con el conocimiento de sobreponernos a ellos.
Cuando los tres elementos descritos sean una realidad, entraremos entonces en una nueva etapa de la IA al servicio de la Administración Pública y de los ciudadanos y el “vuelva usted mañana” no será ya un lema de la Administración porque con la IA, la Administración nunca dormirá.
Comentarios