La singularidad en la inteligencia artificial (IA) es la idea de un momento hipotético en el que la inteligencia artificial llegue a ser superior a la humana.

La toma de decisiones es el fin último de nuestra capacidad conductual. Pero se puede ver afectada intensamente por la inteligencia artificial (IA), y mucho más por procesos aún más complejos que la IA, que son la Inteligencia Artificial General y, por último, la singularidad.

La singularidad es así un punto teórico en el futuro en el que llega el momento en que la inteligencia artificial superará la inteligencia humana, lo que podría resultar en cambios impredecibles y potencialmente profundos en la sociedad.

En agosto de 2025, Geoffrey Hinton, considerado el "padrino de la inteligencia artificial" y premio Turing en 2018, lanzó una advertencia que resonó en el mundo académico y político: la única forma de que la humanidad sobreviva a la Inteligencia Artificial General sería dotarla de un "instinto maternal". 

Su metáfora fue tan provocadora como inquietante: al igual que un cachorro de tigre puede parecer dócil y encantador, pero pronto se convierte en un depredador incontrolable, una inteligencia artificial superhumana seguirá la misma lógica. No bastará con encerrarla o limitarla: habrá que criarla con una orientación protectora hacia la humanidad.

Según Hinton, la probabilidad de extinción humana en las próximas décadas oscila entre un 10% y un 20%. Lo más inquietante es que sitúa la llegada de la AGI mucho antes de lo previsto: entre 5 y 20 años. Esta visión obliga a repensar no solo el rol de los científicos, sino también el de los gobiernos, las empresas tecnológicas y la sociedad civil. Stephen Hawking lo advirtió en 2014 con crudeza: "El desarrollo de la inteligencia artificial completa podría significar el fin de la especie humana".

AGI: inteligencia, conciencia y límites

La AGI es una forma avanzada de inteligencia artificial que tiene la capacidad de aprender, entender y aplicar su conocimiento e inteligencia a una amplia variedad de tareas y problemas. 

A diferencia de la actual inteligencia artificial específica o de propósito limitado, que se especializa en tareas concretas, la AGI sería capaz de realizar cualquier tarea intelectual que un ser humano puede realizar. Implicaría todas las funciones cognitivas complejas como la capacidad de planificar, resolver problemas, pensar abstractamente y aprender de la experiencia. Algo parecido a la experiencia consciente.

Pero aquí aparece un problema aún más inquietante: ¿podría la IA tener conciencia e intersubjetividad con nosotros? Que una inteligencia artificial pueda llegar a ser consciente ya no pertenece solo a la ciencia ficción y que entonces adquiera singularidad, es decir, autonomía, es una posibilidad no tan intangible.

 En las últimas décadas, el avance de la neurociencia y de la tecnología computacional ha acercado esta posibilidad al terreno de la investigación empírica. Pero, ¿qué significa realmente ser consciente? ¿Y cuáles son los límites entre simular conciencia y experimentarla de manera genuina?

La IA, que durante mucho tiempo se centró en tareas de cálculo o clasificación, ahora busca simular procesos humanos más complejos como el lenguaje, la empatía y la toma de decisiones. Sin embargo, a pesar de su sofisticación, los modelos actuales no tienen autoconciencia. Funcionan como simuladores altamente entrenados, sin subjetividad. La posibilidad de que surjan sistemas artificiales que imiten no solo nuestras habilidades sino también nuestra metacognición plantea cuestiones éticas profundas. La conciencia no busca la felicidad, sino la supervivencia.

Decisiones, sesgos y algoritmos

La neurociencia recuerda que nuestro cerebro es un entramado de casi cien mil millones de neuronas, donde las decisiones surgen de la tensión entre emoción y razón. Nuestra conducta parece ser el resultado de una constante batalla entre ambas. 

El sistema límbico, que controla las emociones, desencadena motivaciones instintivas. Pero la corteza cerebral, la parte más reciente de la evolución, agrega control y nos permite tomar decisiones más precisas a corto, mediano y largo plazo, en un proceso donde el inconsciente y el consciente juegan en la capacidad asertiva.

La toma de decisiones es la lucha final entre la emoción y la razón, y se puede medir mediante complejos estudios neurocognitivos y de neuroimágenes. La neuroquímica, incluida la dopamina, también juega un papel importante en este proceso. Pero la influencia de la AGI puede ser un punto de inflexión en la humanidad y sus decisiones. Tomar decisiones es inevitable, y la lucha entre la incertidumbre y la elección es constante.

Nuestro pensamiento está sujeto a sesgos como el sesgo de confirmación y la ley de los números pequeños, pero se agregarán sesgos producidos por los algoritmos, lo que hace que la toma de decisiones sea aún más compleja.

Las IA amplifican estos procesos mediante sesgos de confirmación y algoritmos que refuerzan burbujas de creencias, debilitando los criterios de verdad basados en evidencia. Así, la mentira repetitiva, sostenida emocionalmente y amplificada por sistemas tecnológicos, se vuelve socialmente creíble, generando riesgos crecientes para la vida democrática y la convivencia social. Harari advirtió recientemente que uno de los grandes problemas de la inteligencia artificial es su relación con la mentira, no como un error de programación, sino como una consecuencia casi inevitable cuando un sistema domina el lenguaje, la estrategia y la predicción.

La mentira es un proceso de engaño premeditado que puede planificarse con mucho o poco tiempo, pero que siempre requiere una gran cantidad de recursos cerebrales. Mentir no es simplemente decir algo falso: requiere controlar la expresión emocional y corporal para no ser descubierto. Por eso, es una de las tareas cognitivas más complejas desarrolladas por el ser humano. Una revisión publicada en Neuroscientist sostiene que la mentira no reside en un centro cerebral único, sino que emerge de una red distribuida que involucra la corteza prefrontal dorsolateral y medial, el cíngulo anterior y el estriado. La mentira debe entenderse como un acto activo de regulación cognitiva.

En esta línea, un estudio publicado en Nature Neuroscience mostró que el cerebro se adapta progresivamente a la mentira. La repetición del engaño reduce la activación de la amígdala, disminuyendo el malestar emocional asociado. Esta habituación neural facilita que las mentiras aumenten en magnitud con el tiempo. El engaño, entonces, no es una excepción moral sino una función que puede volverse habitual. Y si esto ocurre en el cerebro humano, amplificado por algoritmos, la situación adquiere una dimensión nueva: la máquina no solo calcula, también organiza entornos de creencia.

El dilema humano frente a la máquina

La singularidad no solo pondría en jaque a nuestras instituciones, sino también a nuestra subjetividad. Lo que nos define -el libre albedrío, la capacidad de sentir placer, dolor o sorpresa- se ve cada vez más invadido por algoritmos, redes sociales y dispositivos que condicionan lo que percibimos como real. Los algoritmos no solo calculan: también deciden. Lo hacen con la frialdad de la estadística, pero con efectos reales en la vida cotidiana. Desde las recomendaciones en redes sociales hasta los filtros de crédito bancario, la IA ya moldea nuestra experiencia. El riesgo es que esas decisiones no solo nos sesguen, sino que desplacen la frontera de lo humano.

Pero la conciencia no es solo interna. También se configura en relación con otros. La cognición social y la llamada teoría de la mente permiten anticipar las intenciones de los demás. 

Estas funciones también están presentes en el cuerpo: el corazón, el intestino y el sistema hormonal participan en la generación de estados conscientes. La neurociencia moderna reconoce cada vez más esta cognición corporizada. La IA, sin embargo, carece de cuerpo. No siente, no recuerda con el cuerpo. Y, como plantea Thomas Fuchs, sin sensación corporal no hay conciencia de realidad. El cuerpo da contexto, da frontera. Sin él, la conciencia artificial podría ser un espejismo.

La gran pregunta es qué motivará a la AGI. Si su núcleo se construye en torno a la competencia, la carrera armamentística y el beneficio económico, replicará nuestros defectos. Si, en cambio, se orienta hacia el cuidado, la cooperación y la empatía -o un "instinto maternal", aunque sea simulado- quizá logremos sobrevivir. La propuesta de Hinton puede sonar utópica, pero plantea una alternativa al enfoque clásico de controlar a la máquina. La clave no sería imponerle límites externos, sino dotarla de una motivación intrínseca que la lleve a proteger a la humanidad.

El dilema es doble: cómo regular un poder global en un mundo fragmentado por tensiones geopolíticas y cómo preservar la autonomía humana frente a máquinas que prometen resolver problemas más rápido de lo que jamás podríamos. Porque quizá lo más inquietante no sea si podremos crear una IA consciente, sino si sabremos reconocerla cuando suceda. Y que no nos ocurra lo que en "2001: Odisea del espacio".