La IA (algoritmos de Inteligencia Artificial) ha dejado de ser una mera promesa futurista para convertirse en una herramienta indispensable. Su capacidad para aprender, adaptarse y optimizar procesos está revolucionando muchos campos. Desde la automoción hasta la medicina, pasando por el entretenimiento y la seguridad cibernética.
La inteligencia artificial es una revolución tecnológica que está aumentando la productividad en muchos sectores económicos. Los algoritmos en general y los de inteligencia artificial (IA) en particular están transformando la forma en que vivimos y trabajamos. Pero ¿se están distribuyendo los beneficios entre toda la sociedad? O planteado de otra forma: ¿son neutras las tecnologías a la hora de distribuir los beneficios producidos o tienen sesgos para beneficiar a unos grupos sociales frente a otros? ¿Quién es el responsable cuando un algoritmo toma una decisión incorrecta o perjudicial? La inteligencia artificial generativa tiene algunas características monopolísticas. ¿Cómo conseguir que un pequeño número de grandes empresas no dominen todo el mercado de la IA y pongan en riesgo la democracia?
Un algoritmo es una secuencia de tareas adecuada para conseguir un objetivo o tomar una decisión. Un algoritmo informático es el que se ejecuta en un ordenador. Por otra parte los algoritmos inteligentes, la IA, son aquellos con capacidad para imitar la inteligencia humana y realizar tareas que normalmente requerirían la intervención de una persona. Pero, ¿Son realmente inteligentes los algoritmos de IA?
La inteligencia es la capacidad de alcanzar objetivos como, por ejemplo, potenciar la implicación del usuario en una plataforma de redes sociales. La consciencia es la capacidad de experimentar sentimientos subjetivos como dolor, placer, amor y odio. Los algoritmos de IA son inteligentes, pero no conscientes. No son responsables de sus acciones.
Con los algoritmos de IA se pueden reconocer imágenes y contar cuantos objetos de un mismo tipo hay en una escena. Se puede identificar a una persona a través de una cámara ubicada en la calle. Se puede clasificar automáticamente productos de diferentes calidades. Ya estamos acostumbrados que se identifique automáticamente un automóvil en un parking. En la agricultura estos algoritmos tienen innumerables aplicaciones: reconocimiento de automático de tipos de suelo y sus usos, herramientas para el riego y fertilización, identificación de patologías, geoposicionamiento y conducción autónoma, recolección de frutas, hortalizas, aceitunas, etc.
En el momento actual herramientas como ChatGPT pueden responder dudas sobre un tema en particular en el idioma que le indiques, encontrar preguntas relacionadas con un tópico, resumir un documento y escribir artículos detallados con un número determinado de palabras, cambiar el tono del artículo, o mejorarlo.
Los algoritmos de IA pueden generar imágenes a partir de texto, generar voz con el acento de una persona, traducir automáticamente una conversación online en varios idiomas o hacer un resumen de la reunión.
En la enseñanza universitaria herramientas como Copilot puede generar código en Java, Python, etc. a partir de la descripción textual de un algoritmo. La interacción con las herramientas ofimáticas se puede hacer a través de voz.
Pero los algoritmos actuales de Inteligencia Artificia son de caja negra. No explican porque toman determinadas decisiones. La explicabilidad es esencial para poder entender por qué un sistema inteligente toma una decisión, cómo razona internamente. Pero eso no es actualmente posible.
Una de la cuestiones fundamentales de la IA es la responsabilidad. Los algoritmos no son conscientes por lo que no pueden ser responsables pero si pueden provocar efectos no deseados. Debe haber una persona responsable de las acciones de un algoritmo. Esto es algo elemental, pero que sin embargo no se reconoce. En muchos casos las empresas o personas explotan los algoritmos no se hacen responsables. Se eximen de esta manera de una responsabilidad que es suya.
Aunque tímido, existe el Reglamento de Inteligencia Artificial de la Comisión Europea, llamado Artificial Intelligence Act. En el futuro se responsabilizará a las empresas de las infracciones de privacidad o decisiones injustas tomadas por los sistemas inteligentes. La regulación irá aclarando quien el responsable de una acción tomada por un algoritmo de IA.
Las redes sociales han transformado de manera muy profunda el debate público y el condicionamiento de las opiniones ciudadanas y como se difunde la información. La redes están gestionadas por algoritmos con unos objetivos fijados por las empresas propietarias de esas redes. En particular se usa el término filtro burbuja para indicar los filtros algorítmicos que están creando un entornos artificiales en el que la gente sólo oye aquellas voces que coinciden con sus opiniones políticas. Aunque controladas por empresas privadas, no es una cuestión privada. Las redes son espacios públicos que condicionan derechos fundamentales de la ciudadanía, entre ellos la libertad de expresión y el derecho fundamental a recibir información veraz, y por ello necesitan de una regulación estatal.
Otra gran preocupación de los ciudadanos es: ¿Nos quitarán el trabajo los algoritmos? La digitalización, y los algoritmos de IA en particular, están redirigiendo todo el sector tecnológico hacia la automatización para ahorrar costes. ¿Como afectará esto a zonas como Andalucía? Podemos decir que los trabajos mejor remunerados serán pocos y concentrados en zonas desarrolladas y no se toman acciones públicas aquí irán quedando los trabajos peor remunerados. En general la IA presionará los salarios de la mayoría a la baja.
Según algunos, la IA tomará el control de la seguridad pública. En este escenario, cámaras colocadas en vehículos, calles e incluso drones y analizarán cada acción ciudadana. Según ellos la idea es simple: si alguien sabe que lo están observando en todo momento, no romperá las reglas. Pero ¿es esto lo que queremos? Se plantea la duda si la defensa de la videovigilancia masiva se basa únicamente en preocupaciones de seguridad o en la pretensión de eliminar ideas que planteen otras alternativas.
Otro de los elementos importantes es que la IA, como las revoluciones tecnológicas anteriores está disparando, y mucho, la desigualdad. Hace falta un liderazgo público para redirigir el cambio tecnológico y frenar la desigualdad. La fragmentación y, en un sentido más amplio, las acciones antimonopolio deberían verse como herramientas complementarias a un objetivo mucho más trascendental: alejar la tecnología de la vigilancia, la recopilación de datos y la publicidad digital. El Departamento de Justicia de Estados Unidos ya plantea la radical idea de dividir Google. Europa lleva años intentándolo pero sin éxito.
Hay también grupos que piensan que los algoritmos deberían gobernar y sustituir a los políticos porque, según ellos, son más neutrales. ¿Llegará un algoritmo informático a ser presidente del Gobierno? ¿Podrá existir un partido político dirigido por un algoritmo informático y cuyo líder sea un chatbot? ¿Queremos que un algoritmo informático se presente a las elecciones? Aunque y existen esas propuestas en algún país europeo, creo que son la manifestación de la antipolítica. La expresión de los deseos de los que no quieren que las mayorías puedan decidir su futuro.
Necesitamos controlar la IA y ponerla al servicio de la mayoría, al servicio de la democracia. La ONU alerta del riesgo de que la IA esté en manos de muy pocas multinacionales y los beneficios se están acumulando en manos de muy pocas personas. Los países, como Brasil, ya reclaman su soberanía digital. El derecho a decidir como gestionar las redes o usar los datos de internet.