¿Es posible que la IA tenga conciencia? Parecer no es ser

No hay pruebas de que ninguna IA actual tenga conciencia: un estudio de 19 investigadores, entre ellos Yoshua Bengio, concluyó en 2023 que ningún sistema actual es consciente. Sin embargo, el mismo trabajo no ve barreras técnicas obvias para construir sistemas que cumplan sus indicadores. Por eso la pregunta sigue abierta, y conviene distinguir entre parecer consciente y serlo.

Por qué es tan difícil saber si una máquina es consciente

Tener conciencia significa tener experiencias propias: sentir dolor, ver un color o notar una emoción desde dentro. El problema es que esa experiencia no se observa desde fuera. Por eso, ni siquiera entre personas podemos comprobarla de forma directa, solo inferirla por el comportamiento y la biología que compartimos.

El filósofo David Chalmers ordenó esta dificultad en 1995. Lo hizo en el artículo «Facing Up to the Problem of Consciousness», publicado en el Journal of Consciousness Studies. Chalmers distinguió entre problemas «fáciles» y un problema «difícil». Los fáciles son los que la ciencia cognitiva puede explicar con mecanismos, como integrar información o informar de lo que uno percibe. En cambio, el difícil es el problema de la experiencia: por qué esos procesos van acompañados de algo que se siente.

Esta distinción importa para la IA. Un sistema puede resolver muchos problemas «fáciles», por ejemplo, describir un color con precisión. Sin embargo, eso no demuestra que experimente nada al hacerlo.

Procesar símbolos no es comprender: el argumento de la habitación china

En 1980, el filósofo John Searle propuso un experimento mental en la revista Behavioral and Brain Sciences. Según la Enciclopedia de Filosofía de Stanford, Searle imaginó a una persona que no sabe chino encerrada en una habitación. Esa persona sigue reglas en inglés para combinar símbolos chinos, y sus respuestas parecen las de un hablante nativo. Aun así, no entiende nada.

La conclusión de Searle es que ejecutar un programa no basta para comprender, porque el programa solo maneja la forma de los símbolos. Por supuesto, el argumento tiene críticas conocidas. La «respuesta del sistema» sostiene que quizá entienda el conjunto formado por persona, reglas y datos. Por su parte, la «respuesta del robot» propone que conectar el sistema al mundo físico con sensores podría dar significado a los símbolos. El debate sigue vivo, y hoy se aplica directamente a los chatbots.

Cómo evalúa hoy la ciencia la conciencia en la IA

En agosto de 2023, Patrick Butlin, Robert Long, Yoshua Bengio, Jonathan Birch y otros 15 autores publicaron un estudio sobre la conciencia en la inteligencia artificial. Su método parte de las teorías neurocientíficas de la conciencia mejor respaldadas. En concreto, usan cinco: procesamiento recurrente, espacio de trabajo global, teorías de orden superior, procesamiento predictivo y esquema de atención. De ellas derivan «propiedades indicadoras», expresadas en términos computacionales, que se pueden buscar en un sistema de IA.

El resultado tiene dos partes. Por un lado, ningún sistema de IA actual es consciente según esos indicadores. Por otro, los autores no encuentran barreras técnicas obvias para construir sistemas que los cumplan.

Chalmers llegó a una conclusión parecida para los chatbots. En su trabajo «Could a Large Language Model be Conscious?», revisado en agosto de 2024, considera algo improbable que los grandes modelos de lenguaje actuales sean conscientes. Entre los obstáculos cita la falta de procesamiento recurrente, de un espacio de trabajo global y de una agencia unificada. No obstante, añade que esos obstáculos podrían superarse en una década aproximadamente.

El riesgo inmediato: una IA que parece consciente

Mientras la ciencia discute, hay un problema más cercano. El 19 de agosto de 2025, Mustafa Suleyman, de Microsoft AI, publicó el ensayo «We must build AI for people; not to be a person». En él describe una «IA aparentemente consciente», es decir, un sistema con todos los signos externos de la conciencia aunque por dentro esté vacío.

Suleyman afirma que no hay ninguna evidencia de que los modelos de lenguaje actuales sean conscientes. Sin embargo, sostiene que una IA que lo parezca podría construirse con tecnologías actuales y otras que madurarán en dos o tres años. Su preocupación es que mucha gente llegue a creerlo y reclame derechos o ciudadanía para la IA. Por eso propone que las empresas no afirmen ni insinúen que sus sistemas son conscientes. Esta es una opinión, pero apunta a un riesgo que ya afecta al diseño de productos.

¿Merecería derechos una IA consciente?

Algunos investigadores piden prepararse por si acaso. En noviembre de 2024, Robert Long, Jeff Sebo, David Chalmers y otros autores publicaron «Taking AI Welfare Seriously». Sostienen que existe una posibilidad realista de que algunos sistemas sean conscientes o tengan agencia sólida en un futuro cercano. Además, aclaran que no afirman que lo sean, sino que la incertidumbre justifica actuar.

En concreto, proponen tres pasos para las empresas de IA. Primero, reconocer que el bienestar de la IA es un asunto importante y difícil. Después, evaluar los sistemas en busca de señales de conciencia y agencia. Por último, preparar políticas para tratarlos con el nivel de consideración moral adecuado. En la misma línea, Anthropic anunció en abril de 2025 un programa de investigación sobre el bienestar de sus modelos. La empresa reconoce que no hay consenso científico y que sigue profundamente insegura.

Estas preguntas se cruzan con otras dos. La capacidad intelectual se trata en si la IA alcanzará el nivel de inteligencia humana. El control, por su parte, se analiza en si la inteligencia artificial dominará el mundo. Una IA podría ser muy capaz sin sentir nada.

Qué implica para las empresas que usan chatbots

Para una empresa en Panamá, el debate tiene una consecuencia práctica: la transparencia. Un asistente virtual no debería decir que siente, sufre o se emociona, porque no hay evidencia de que sea así. Además, conviene que el cliente sepa siempre que habla con una máquina. Si estás pensando en un asistente, conviene revisar primero qué es un chatbot y cómo funciona. Y para diseñarlo con criterios claros, conoce nuestras soluciones de inteligencia artificial para empresas en Panamá.