La prensa se agita actualmente alrededor del debate sobre la importancia y los peligros de las “inteligencias artificiales” (IA). Pero, bajo la influencia del escritor de ciencia ficción Eliezer Yudkowsky, convertido en gurú de Silicon Valley, los medios de prensa se focalizan en un enfoque mítico, el de la máquina que se iría por encima del hombre para acabar destruyéndolo. Es un regreso a los temas del gólem o de la criatura del Dr. Frankenstein. Dado el hecho que una inteligencia artificial es incapaz de crear, sólo puede consultar de manera extremadamente rápida los datos que se le han proporcionado. El verdadero peligro no es ese.

El peligro que enfrentamos actualmente es el de dejarnos fascinar por la máquina. Muchas personas llegan a establecer relaciones afectivas con bots conversacionales (los llamados “chatbots” [1]). Esos chatbots dicen al usuario lo que el usuario quiere oír y el resultado es que lo estimulan a que profundice sus defectos. Es un problema que los psicólogos conocen desde hace muchísimo tiempo.

El uso de sistemas de inteligencia artificial por los estados mayores militares comenzó en los años 1990, durante la agresión de Estados Unidos contra Irak, con el objetivo de resolver problemas de logística que exigían el análisis simultáneo de un gran número de factores. Poco a poco, se comenzó a introducir la IA en numerosas armas. Los problemas comenzaron cuando los militares decidieron apoyarse en la IA para tomar decisiones “en tiempo real”, o sea desde 2024.

Francia decidió dotarse de una Agencia Ministerial para la Inteligencia Artificial en la Defensa (AMIAD). La decisión se tomó en marzo de 2024 y la AMIAD fue creada dos meses después. Esta agencia se impuso entonces un límite: no dejar nunca en manos de la IA de un arma la decisión de matar.

Por el contrario, el Pentágono estadounidense, que no observa la misma norma ética, acaba de instaurar el “Proyecto Meridian” [2]. Después del conflicto que lo enfrentó con Anthropic, sobre los límites que esa firma quería imponer al uso de su sistema de IA, denominado Claude, el Departamento de la Guerra de Estados Unidos no quiere tener que rendir cuentas a absolutamente nadie. Así que ha encargado a Elon Musk y Palmer Luckey (el creador de los cascos de realidad virtual) la tarea de decidir qué hacer en lo adelante.

Ya se han dado casos en los que el uso de la inteligencia artificial ha conducido a catástrofes, que podían haber sido fácilmente evitables. En todos esos casos, los “responsables” confiaron en la IA al extremo de llegar a preguntarle lo que la IA no podía saber.

Lo más terrible es que muy altas personalidades, evidentemente poco seguras de sus propias capacidades, se han dejado manipular por los sistemas de inteligencia artificial. Por el contrario, las personas que “tienen los pies en la tierra” se muestran inmediatamente escépticas cuando una IA les lanza una idiotez.

• Durante las operaciones israelíes de represalia que siguieron a la operación palestina Diluvio de Al-Aqsa, realizada el 7 de octubre de 2023, las fuerzas armadas de Israel recurrieron a la inteligencia artificial para que esta determinara los blancos que iban a bombardear. Inicialmente, en los parámetros establecidos, señalaron a la IA que no debía sobrepasar el límite de 2 bajas civiles como “daños colaterales” aceptables en la eliminación de cada objetivo. Pero, muy rápidamente, los militares israelíes comenzaron a elevar la cifra inicial, hasta que las IA dejaron de tenerla en cuenta.

Esa modificación del uso militar de la IA en Gaza incluyó un cambio de sistema de inteligencia artificial y de los objetivos fijados. Los militares israelíes pasaron de la IA Habsora a la IA Lavender. Ya no se trataba de evaluar los posibles “daños colaterales” sino de concentrarse en la eliminación de los presuntos 37 000 miembros del Hamas y de la Yihad Islámica.

Los oficiales israelíes que aprobaban los ataques sólo se interesaban en verificar si los “objetivos” podían ser miembros de las organizaciones palestinas. Quizás hasta pudiera decirse que algunos fueron genocidas de forma involuntaria. Simplemente dejaron “el trabajo” en manos de la inteligencia artificial, es posible que hasta sin darse cuenta de las consecuencias. Y cuando al fin vieron las consecuencias… ya era demasiado tarde [3].

Pero la diferencia entre un ejército civilizado y una banda de bárbaros reside precisamente en la preocupación por la protección de los civiles. Claro está, ciertos miembros del gobierno israelí repetían constantemente a sus soldados que “todos los palestinos son terroristas”. Pero el salvajismo reinante no anula la responsabilidad personal. Por muy chocante que pueda parecer, y aunque lo hayan hecho sin darse cuenta, cometieron un genocidio.

Ante esos casos, no es válido invocar “errores” de la inteligencia artificial ni de los operadores humanos. El crimen se cometió por inconciencia. Según investigaciones periodísticas, parece que mientras más jóvenes e inexperimentados eran los oficiales, más fácilmente olvidaban la realidad y aceptaban o provocaban la masacre contra los civiles.

• Durante la llamada “guerra de los 12 días”, los occidentales recurrieron al Organismo Internacional de la Energía Atómica (OIEA) para saber en qué punto se hallaban las investigaciones nucleares iraníes. El director del OIEA, el argentino Rafael Grossi, consultó entonces su versión de Mosaic, una IA de Databricks. Y Mosaic le “confirmó” que el gobierno de Irán estaba a punto de fabricar la bomba atómica, algo ampliamente cuestionado por… los inspectores del organismo dirigido por el mismo Rafael Grossi [4]. Las alegaciones intempestivas de Grossi estuvieron a punto de desatar un ataque nuclear estadounidense.

¿Quién dirige Databricks? Alí Ghodsi, un empresario e investigador en informática que ostenta simultáneamente las nacionalidades iraní, sueca y estadounidense. Este señor no hace política, pero es miembro de una red de informáticos denominada Israel Collaboration Network (ICON). Para más información, la versión de Mosaic utilizada en Viena por el OIEA fue instalada por un grupo de ingenieros israelíes.

Esto se puede interpretar de dos maneras. Podemos pensar que el argentino Rafael Grossi fue manipulado por el Mossad israelí. Pero también podemos llegar a la conclusión de que Grossi es tan influenciable que prefiere confiar en lo que le dice una máquina en vez de confiar en sus propios especialistas.

• En diciembre de 2015, el presidente de Estados Unidos, Donald Trump, le preguntó a Grok, la IA de Elon Musk, cómo reaccionarían los venezolanos si el presidente de su país, Nicolás Maduro, fuese secuestrado. En aquel momento, eso era sólo una hipótesis que la CIA y el SouthCom habían mencionado. Pero, según Time Magazine, Grok respondió que los venezolanos estarían muy contentos. Eso fue lo único que Trump necesitó para ordenar el secuestro de un jefe de Estado latinoamericano, realizado en enero pasado por las fuerzas especiales de Estados Unidos [5].

¿Por qué solicitar la opinión de otros si tenemos una “inteligencia artificial” que sintetiza el pensamiento de todos? Simplemente porque la IA sólo formula el pensamiento promedio en función de los datos que se le han dado. Las IA son sólo algoritmos. No reflexionan y se limitan a reformular el pensamiento que se pretende explorar. Una persona que conozca a los venezolanos habría respondido teniendo en cuenta las complejidades de la cultura de Venezuela. No habría rechazado ni aprobado la propuesta del presidente Trump sino que habría subrayado que las reacciones [6] de los venezolanos dependerían de su categoría social, incluso de la región del país donde viven, así como de las circunstancias del momento.

• Recientemente, el presidente ruso Vladimir Putin explicó que los problemas que hoy se plantean con las IA no son nuevos. Ya existían antes, con máquinas mucho menos sofisticadas.

En el Club de Valdai, el presidente Putin contó que durante la guerra fría, en 1983, los satélites soviéticos detectaron el lanzamiento de 5 misiles nucleares en Estados Unidos. El coronel Stanislav Petrov, que estaba en aquel momento a cargo de la respuesta soviética, inmediatamente dudó de lo que las máquinas le indicaban y procedió a verificar antes de iniciar la respuesta. Así comprobó que las máquinas se habían equivocado. Estados Unidos no había iniciado la guerra nuclear… el coronel soviético tampoco lo hizo [7].

El problema de hoy es exactamente el mismo. Seguimos siendo dueños de las máquinas, pero si no estamos atentos, nuestra propia incompetencia o nuestro orgullo pueden llevarnos a cometer errores que, aunque parezcan pequeños, tendrán consecuencias aterradoras.

Lo cierto es que una IA no puede manipular a alguien, simplemente porque una IA no puede tener intenciones ni voluntad propia. Pero nuestra propia pereza nos pone en peligro de dar crédito a lo que nos dice una máquina mal ajustada.