Así, de entrada, no me gusta la inteligencia artificial. La uso en el trabajo, como si de un buscador avanzado se tratara, pero le sigo pidiendo las cosas “por favor”, lo cual a estas alturas creo que es más signo de estupidez que de educación. Se me cae el alma a los pies cada vez que me toca editar un artículo manifiestamente creado con IA; son textos-barbie, perfectos por fuera, huecos por dentro. Con lo bonito y útil que es el error. Sé que ha venido para quedarse y que va a cambiar muchas cosas, algunas de ellas para bien. Hacerle frente con las armas del ludismo me parece la mejor forma de comprar billetes para el fracaso, pero echo de menos críticas constructivas y comprensibles a la irrupción de la IA. Entre el optimismo ciego y la crítica a cualquier precio debería haber algún punto medio. Un poco de finura entre tanta brocha gorda.
La he encontrado, en el ámbito de las políticas públicas, en un artículo académico publicado este mes de julio en la Revista Española de Ciencia Política. Se llama ‘‘La irrupción de la inteligencia artificial en la decisión pública’’ y está firmado por el catedrático y ex ministro de Universidades Joan Subirats, por Marta Cruells y por Jaume Blasco.
En el texto, los autores consideran que la entrada de sistemas avanzados de IA en ámbitos gubernamentales y administrativos está empezando a reorganizar “la naturaleza misma de la decisión pública”, y no en la mejor de las direcciones, ya que puede comprometer la legitimidad democrática de un sistema y los derechos de la ciudadanía. ¿Cómo? Básicamente de dos maneras. Por un lado, afectando a la evidencia científica que sirve para tomar decisiones políticas, reforzando la engañosa idea tecnocrática de un gobierno de expertos –¿qué sería entonces de la política que tanto nos entretiene?–. Por otro, asumiendo el papel de decisor en una administración, por ejemplo a la hora de adjudicar ayudas o pensiones, un ámbito en el que el diseño –opaco y con sesgos– de la IA condiciona el resultado, sin que los afectados puedan acudir a alguna ventanilla a protestar. “La discrecionalidad no desaparece con la automatización, sino que migra, a menudo, fuera del alcance de los mecanismos de control democrático”, dicen en el artículo.
“La doble presencia de la IA, como productor de conocimiento y como apoyo o sustituto del decisor, multiplica las preguntas democráticas sobre legitimidad y responsabilidad”, añaden los autores, que no obstante reconocen que “la IA ofrece también oportunidades reales para mejorar la decisión pública”. Pero subrayan que su incorporación a una administración “requiere garantías sustantivamente más robustas que las disponibles hoy”.
El artículo es de acceso libre para todo aquel que quiera algo de finura en la crítica a la IA. A mí me ha servido para ordenar ideas y confirmar académicamente algunas prevenciones hacia estos algoritmos predictivos. El principal tiene que ver quizá con nuestra capacidad de innovar políticamente, de imaginar y disputar futuros mejores. Helga Nowotny ha estudiado esto. La IA aprende del pasado, por lo que a la hora de tomar decisiones, siempre parte de los patrones que han dado forma al presente, cayendo en una forma de determinismo políticamente nefasto. Nos interesa la política exactamente para lo contrario. La IA, por lo tanto, tiene respuestas viejas para preguntas nuevas, cuando a veces, lo que necesitamos son respuestas nuevas a preguntas viejas.