Si los rusos manipulan la información que circula por las redes sociales, las universidades no le van a la zaga. Los investigadores de la de Zurich han desplegado en secreto bots de inteligencia artificial para manipular las creencias y opiniones de los usuarios del foro social Reddit.

Han nacido las “marionetas digitales”, que analizan las biografías personales de los usuarios, crean identidades ficticias y desarrollan argumentos específicamente diseñados para cambiar la comprensión de los lectores.

Su éxito ha sido espectacular: han conseguido índices de persuasión seis veces superiores a las interacciones humanas reales.

Sin consentimiento ni divulgación, los investigadores lanzaron bots que se hicieron pasar por víctimas de una violación, durante cuatro meses los universitarios distorsionaron creencias religiosas y difundieron información errónea sobre temas controvertidos. Estas marionetas digitales generaron más de 1.700 comentarios, cada uno calibrado con precisión para explotar las vulnerabilidades cognitivas de sus objetivos humanos.

En varios países las elecciones han demostrado la influencia de los foros y redes sociales a la hora de votar en favor de una determinada candidatura. Los foros pueden ser infiltrados por sistemas de inteligencia artificial, entrenados en las mismas plataformas que manipulan.

En mayo del año pasado, Reddit y OpenAI firmaron un acuerdo de intercambio de datos, lo que indica que las redes sociales están proporcionando material de adiestramiento a “marionetas digitales” para que sean cada vez más persuasivas.

OpenAI accede a Reddit para capturar contenido en tiempo real, estructurado y generado por los usuarios del foro, con el fin de mejorar modelos como ChatGPT.

En mayo de 2022 un análisis de SparkToro estimó que casi el 20 por cien de las cuentas activas de X/Twitter son bots o cuentas ficticias, en total casi 50 millones, casi cuatro veces más que la cifra oficial que admite la red social.

Las cuentas ficticias tienen múltiples propósitos, entre ellos difundir spam y publicidad comercial, como sorteos, cupones, promociones o venta de productos y servicios, que unas veces son reales y otras fraudulentos.

—https://es.cointelegraph.com/news/zurich-uni-secret-ai-experiment-manipulated-redditor-opinions