Cuando la inteligencia artificial hereda la mentira
En contextos políticos o sociales amplios, pequeños grupos pueden manejar narrativas basadas en engaños aceptados colectivamente
El filósofo Yuval Noah Harari advirtió recientemente en el Foro Económico Mundial de Davos que uno de los grandes problemas de la inteligencia artificial es su relación con la mentira. No como un error de programación, sino como una consecuencia casi inevitable cuando un sistema domina el lenguaje, la estrategia y la predicción. Desde esta perspectiva, la mentira no aparece como una anomalía moderna, sino como un mecanismo evolutivo de supervivencia, arraigado en circuitos cerebrales muy antiguos, anteriores incluso al humano, que ya operaban en seres vivos hace cientos de millones de años. Cuando una inteligencia, humana o artificial, adquiere capacidad estratégica, la posibilidad de engañar reaparece como función adaptativa.
Una mentira simple puede encuadrarse dentro de procesos instintivos de defensa. Por ejemplo, cuando un animal se mimetiza o amaga dirigirse a un sector para luego hacerlo hacia otro y engañar a su depredador. En el humano, este proceso se complejiza de manera notable, dando lugar a fenómenos como la posverdad, los algoritmos que sesgan la cognición o las mentiras a medias. Aquí se aborda la mentira principalmente como proceso defensivo-instintivo, dado su impacto directo en la intersubjetividad.
El engaño no es exclusivo del humano. En distintas especies se observan conductas engañosas vinculadas a la supervivencia. Un ejemplo particularmente estudiado es el de los córvidos, aves con alta capacidad cognitiva, que esconden alimento y, cuando detectan que están siendo observadas por otros miembros de su especie, simulan falsos escondites. Luego regresan y trasladan el alimento real a otro sitio.
comportamiento implica memoria social, planificación y engaño estratégico, sin necesidad de lenguaje ni conciencia reflexiva, reforzando la idea de que la mentira es una función biológica previa a la cultura humana.
Un proceso de engaño premeditado
La mentira es un proceso de engaño premeditado, que puede planificarse con mucho o poco tiempo, pero que siempre requiere una gran cantidad de recursos cerebrales. Existen mentiras elaboradas que demandan alta capacidad intelectual y metafórica, además de un proceso creativo complejo. Cuanto más elaborada es la mentira, mayor es la exigencia sobre las funciones cognitivas y corporales.
Mentir no es simplemente decir algo falso. Requiere controlar la expresión emocional y corporal para no ser descubierto. Sudoración, respiración acelerada o enrojecimiento pueden delatar el engaño. Por eso, mentir es una de las tareas cognitivas más complejas desarrolladas por el humano.
Desde hace décadas, la neurociencia intenta comprender este proceso. El polígrafo, creado en 1938 por Leonard Keeler, intentó detectar la mentira a través de variables autonómicas como la frecuencia cardíaca o la sudoración. Sin embargo, fue descartado por falta de validez científica. Estudios posteriores con resonancia magnética funcional mostraron que mentir activa una red cerebral distribuida, principalmente en el lóbulo prefrontal, el cíngulo anterior y estructuras emocionales como la amígdala.
Cómo detectar la mentira
Un estudio publicado en Nature Neuroscience por Neil Garrett y colegas del University College London mostró que el cerebro se adapta progresivamente a la mentira. La repetición del engaño reduce la activación de la amígdala, disminuyendo el malestar emocional asociado. Esta habituación neural facilita que las mentiras aumenten en magnitud con el tiempo, aportando una base biológica a la pendiente progresiva de la deshonestidad.
El engaño, entonces, no es una excepción moral sino una función que puede volverse habitual. En un primer momento produce displacer y activación del sistema nervioso autónomo, pero con la reiteración estas respuestas disminuyen, facilitando mentiras cada vez más frecuentes y graves. Algo similar ocurre con el egoísmo, que prioriza lo personal por sobre lo comunitario y se asocia a una disminución de la funcionalidad de áreas cerebrales vinculadas con la empatía, especialmente en el lóbulo prefrontal ventromedial.
Estudios con neuroimágenes muestran que en personas con rasgos narcisistas o antisociales se activan áreas emocionales solo cuando el perjuicio los afecta a ellos, pero no cuando afecta a otros. Esto impacta en las relaciones sociales y laborales y aumenta el riesgo de conductas corruptas.
La necesidad de reglas, castigos y justicia se observa también en mamíferos superiores. Experimentos clásicos con monos capuchinos realizados en el laboratorio de Yerkes de la Universidad de Emory mostraron que rechazan recompensas menores cuando observan que otros reciben premios más valiosos por el mismo esfuerzo, evidenciando una percepción básica de injusticia.
Desde la neurociencia y la filosofía moral surge la ética experimental, que estudia la conducta ética incorporando el conocimiento sobre el cerebro. Se investiga cómo interactúan los factores genéticos, aprendidos y sociales en la toma de decisiones morales.
En los actos de corrupción se observa una desconexión funcional entre el sistema emocional amigdalino y el lóbulo prefrontal, afectando la toma de decisiones y reduciendo la empatía. Algunos autores describen la llamada tríada oscura de la personalidad -narcisismo, maquiavelismo y psicopatía- como un conjunto de rasgos con alto riesgo social.
La corrupción puede contagiarse grupalmente. Estudios de economía experimental muestran que cuando una conducta deshonesta es detectada, puede propagarse incluso entre quienes inicialmente eran cooperativos. Investigaciones del University College London indican que la reacción emocional negativa frente a la deshonestidad disminuye con la repetición, facilitando la habituación al engaño.
Las mentiras adquieren una dimensión distinta en grandes masas. En contextos políticos o sociales amplios, pequeños grupos pueden manejar narrativas basadas en engaños aceptados colectivamente. La mentira requiere siempre intersubjetividad: alguien que miente y alguien que cree.
Trabajos de Ten Brinke en la Universidad de California en Berkeley mostraron que las personas detectan mejor las mentiras cuando no saben que están siendo evaluadas para hacerlo. Otros estudios muestran que la detección grupal mejora cuando hay diálogo, algo que no ocurre en grandes masas ni en redes sociales.
La reiteración de mentiras desensibiliza tanto al mentiroso como al receptor. Se genera una habituación colectiva al engaño. Al defender posturas forzadas se crean argumentos que modifican la comprensión subjetiva de la verdad, dando lugar a lo que algunos autores llaman tribalismo de la verdad.
La posverdad puede entenderse como una forma de razonamiento motivado, cercana al funcionamiento de los sistemas de creencias. Ideas cargadas emocionalmente pueden enmascarar premisas falsas. Cambiar una creencia resulta difícil cuando la emoción coopta al pensamiento racional.
Las IA amplifica estos procesos mediante sesgos de confirmación y algoritmos que refuerzan burbujas de creencias, debilitando los criterios de verdad basados en evidencia. Así, la mentira repetitiva, sostenida emocionalmente y amplificada por sistemas tecnológicos, se vuelve socialmente creíble, generando riesgos crecientes para la vida democrática y la convivencia social.
* Neurocientífico, PhD. Profesor Titular y Decano, Facultad de Ciencias Médicas (UBA). Director de @alzheimerargentina

