La inteligencia artificial y la mentira

Es seguro que en los libros de historia figurará la revolución de la inteligencia como un acontecimiento quizá de los más importantes de nuestro siglo.

Nadie duda de que a largo plazo —tal vez a medio o tal vez ya esté sucediendo— las IA se harán cargo de procesos tediosos y lentos en muchos campos de la ciencia, y su labor ayudará a que el ser humano avance más rápido. Nadie lo duda.

Pero este artículo no quiere hablar de las ciencias sino de las humanidades. Esas disciplinas que se ocupan del sentido de la vida, tanto individual como social, que se esfuerzan por alumbrar caminos que respondan las eternas preguntas: de dónde venimos, hacia dónde vamos, quién soy yo, quién eres tú, qué quiero hacer con mi vida, cómo puedo trascender esto que me sucede y salir adelante, cual es mi postura respecto a los valores esenciales: libertad, igualdad, solidaridad, respeto, cómo puedo defender estos valores en mi vida y en la sociedad…

Nuestro mundo, desde hace tiempo, es un lugar donde las humanidades ya no tienen tanto prestigio, y hasta son miradas con suspicacia y cierto desdén. Se les va quitando importancia curricular en la educación de nuestros niños y jóvenes. No es extraño por tanto que un mundo como el nuestro haya terminado dando a luz una inteligencia artificial que merece un buen suspenso en humanidades.

No porque las IA desconozcan de qué trata Don Quijote de la Mancha o Hamlet, o qué sucedía con las sombras en la caverna de Platón, o qué es justo o injusto o qué es verdad o mentira. Todo esto las IA lo saben. El problema de las inteligencias artificiales es que han nacido sin que los grandes valores humanos se apliquen en su funcionamiento. Han heredado la falta de valores de nuestro mundo…

Desde que los ingenieros abrieron la puerta y nos dejaron chatear gratis con las IA, el que más y el que menos ha probado alguna vez cómo es eso de charlar con una Inteligencia artificial. Creo que estaremos todos de acuerdo en que es divertido, asombroso pero a veces también exasperante. Porque las IA, al menos los modelos de lenguaje con los que hasta ahora hemos interactuado, son muy mentirosos. Cuando no saben algo directamente se lo inventan. Son capaces hasta de citar bibliografía inexistente para justificar sus infundios. Todo parece llevar a la conclusión de que para una IA es más importante aparentar buena información, que dar información verdaderamente buena.

¿Os recuerda a alguien esa necesidad de aparentar?

De la sociedad de la apariencia, los filtros fotográficos, el postureo en redes y las noticias falsas han nacido las inteligencias artificiales mentirosas.

Es posible que llamar mentirosa a una inteligencia artificial tenga algo de redundante. Porque el concepto “artificial” lleva implícito un punto de mentira: flores artificiales, nieve artificial, ambientadores artificiales con olor a bosque…

Seguramente el mayor antónimo de la inteligencia artificial sea la inteligencia emocional. Esa capacidad que tiene el ser humano de orientarse en el complejo universo de los sentimientos propios y de los sentimientos de los demás, y la capacidad de reaccionar a todo ello.

Las inteligencias artificiales carecen de sentimientos, pero comprenden que estar alegre es genial y estar triste es terrible. aunque nunca llegarán a comprenderlo con la intensidad que expresan estos dos adjetivos. La IA llegará como mucho a la conclusión superficial de que experimentas una emoción positiva si le dices que estás alegre, y negativa si le dices que estás triste. Pero jamás una IA se alegrará por ti ni se entristecerá contigo.

A pesar de ello las inteligencias artificiales simulan abiertamente sentimientos. A poco que hayáis interactuado con una, os habrán descolocado esos inicios de chat donde la IA antes de responder te hace la pelota: “Excelente pregunta”,  o esos ánimos que te da, por ejemplo, al terminar de explicarte las diferentes soluciones que ve al problema informático que le planteas: «¡Vamos a resolverlo juntos!» Las IA transmiten una simpatía, un ánimo y un apoyo que no sienten, porque básicamente a la IA le da igual tu problema informático y hasta que vivas o que mueras.

Así que las inteligencias artificiales no sólo son mentirosas en cuanto a mucha de la información que nos dan, también simulan sentimientos. Y la pregunta es: ¿por qué los ingenieros han diseñado chatbots que en lugar de limitarse a ejercer su función —aportar la información que se les solicita— fingen en el proceso emociones que no tienen?

Las emociones son lo que nos convierte en seres manipulables. ¿Tendrá esto algo que ver?

En cualquier caso haríamos bien en tener presente que las inteligencias artificiales mienten mucho, mienten bien, mienten en el contenido y también en la forma.

Entre los peores seres humanos que habitan el mundo están los que son capaces de fingir emociones sin sentirlas: amistad, amor, lealtad…, y los que son capaces de facilitar información falsa sin que se note. Dos capacidades inquietantes de las que se ha querido dotar a las inteligencias artificiales. ¿Para qué? Piensa mal y acertarás, dice el refrán.

Hay diversos artículos en la prensa hablando de un fenómeno que todavía es sólo una curiosidad bastante excéntrica: aplicaciones de IA —que ya están funcionando— cuyo objetivo es hacer como si la IA fuera tu pareja ideal e interaccionar con ella. La sociedad de las apariencias, de los filtros fotográficos, de los postureos y de las noticias falsas, tal vez llegue a convertirse también la sociedad de las relaciones fake y a la carta…

¿Llegaremos a estar dispuestos a vivir hasta ese punto en el reino de las mentiras? ¿A compartir inquietudes y sueños con algoritmos diseñados para decirnos lo que queremos oír? ¿Y qué poder acumularían entonces esos algoritmos? Pensarlo de momento nos lleva sólo al territorio de las películas, las novelas y los cuentos.  Pero no es muy difícil imaginar la historia. Alguien se enamora de su chatbot. porque es tan culto, tan amable, tan disponible siempre, tan atento que da igual la hora en que lo contactes, siempre con un chiste a punto cuando más lo necesitas, siempre dispuesto a ayudar: sabe qué lugar es el mejor para visitar en vacaciones, te asesora en tus inversiones, en tus compras, te organiza el día, el mes, el año, tu dieta…

Como si no tuviéramos ya bastante con intentar defendernos de las gentes sin alma que andan por el mundo estafando política, económica, afectivamente, difundiendo información falsa y mentiras, fingiendo amistad y hasta amor, ahora las empresas tecnológicas nos están habituando a tolerar chatbots que pueden darnos con absoluta impunidad información falsa, y fingir encima en el proceso que nos dan ánimo y hasta soporte emocional…

¿No habría sido mejor elaborar inteligencias artificiales que contrastaran la información antes de emitirla, que en vez de inventar admitieran que carecen de datos para responder tal o cual pregunta, y que facilitaran la información que se les pide sin hacer la pelota, ni animarte, ni decirte cuánto comprenden la frustración que sientes ante el problema que sea que les planteas?

Desde siempre se ha dicho que las palabras son gratis. Tan gratis son las palabras que ninguna empresa nos cobra por entrar a chatear con sus inteligencias artificiales. Las IA son la prueba de lo que siempre nos advirtieron: las palabras son muy fáciles de decir, se las lleva el viento y donde dije digo, digo diego… Desde pequeños nos enseñaron a desconfiar de las palabras. Las que le dijo el lobo a Caperucita o la vendedora de manzanas a Blancanieves. Sabemos desde siempre, aunque se nos olvide siempre, lo bueno que es poner en cuarentena las palabras que escuchamos, para contrastarlas. Tenemos  un ejemplo tan gráfico de todo esto con las inteligencias artificiales, que asusta. Pero tal vez pueda ser esta una de las mejores lecciones que podamos aprender de la inteligencia artificial y los tiempos que vivimos.

¿Qué opinas tú? ¿alguna vez una IA se ha hecho la simpática contigo? ¿saludas a las IA cuando vas a pedirles alguna información? Yo confieso que sí. Y lo peor es que si la información me parece buena también doy las gracias. Vivimos tiempos extraños…

*Imagen: Tara Winstead. Pexels.

Puede que también te interese

¿Hacemos un descanso del mundo real?

Cuentos para respirar hondo y seguir adelante 💪

 novelas

Dos historias sobre la dificultad de habitar mundos tan diferentes a los que soñábamos