El test de Turing y la sala china

En la prueba hay tres habitaciones aisladas con terminales para chatear. En una de ellas hay un humano que formulará preguntas, y en las restantes otro humano y una máquina, que las responderán.

El interrogador no sabe a priori en que habitación está la máquina y en cual está el humano. Tiene que adivinar, a partir de las respuestas, en que habitación esta cada uno (asumiendo que la máquina mentirá cuando le pregunten sobre su condición humana). Si el interrogador no consigue averiguar dónde se encuentra cada cual, con una tasa de aciertos mayor de lo esperado por azar, se considerará que la máquina es suficientemente inteligente como para hacerse pasar por un humano.

En contra de la validez del test de Turing, para probar si una máquina es inteligente, está la idea de que hacerse pasar por inteligente no es lo mismo que serlo. Para demostrarlo John Searle propuso el experimento mental de la habitación china, que consiste en una persona, que no sabe chino, encerrada en una habitación con unos manuales de reglas y símbolos para traducir el chino. Fuera de la habitación, alguien le dá, a través de una ranura, textos en papel escritos en chino, de forma que con la ayuda de los manuales los traduce y los responde, haciéndole creer a la persona de fuera que sí sabe chino. La idea que quiere transmitir John Searle con este experimento es que la máquina realiza las cosas sin entender lo que hace, ni por qué lo hace, simplemente aplica unas reglas que alguien le ha puesto ahí.

Aquí surge la dicotomía de la inteligencia artificial, en la IA fuerte y la IA débil. La IA fuerte, es la rama en la que se piensa que simular ser inteligente es lo mismo que serlo y por lo tanto una máquina puede ser igual de inteligente que un humano. La IA débil, es la rama de los que piensan como Searle que conocer unas reglas y saber aplicarlas sin saber cuál es la razón de ello, no es ser inteligente y por lo tanto, la inteligencia de una máquina nunca podrá ser como la de un humano.

Los defensores de la IA fuerte, dicen que el sistema, formado por la persona dentro de la habitación y los manuales, es posible que entienda chino, a lo que los de la IA débil responden que el sistema entero no entiende lo que esta haciendo, sólo ejecuta una acción.

Yo, personalmente, estoy a favor de la IA fuerte, porque para mí, la IA débil se refiere siempre a la inteligencia humana como superior porque los humanos sabén que están aplicando determinadas reglas para lograr un objetivo, que es lo mismo que decir que el elemento diferenciador entre la inteligencia de un humano y el de una máquina es el pensamiento consciente, pero en realidad, nosotros también hacemos muchas cosas de forma inconsciente, al igual que las máquinas aplican sus reglas de la misma manera.

Extrapolando esto al experimento de la sala china, podríamos examinar la diferencia entre tener los manuales dentro o fuera de la cabeza. Cuándo hemos aprendido un idioma, tenemos los manuales en la mente y aplicamos las reglas inconscientemente de forma mecánica, sin saber cómo lo hacemos, tal y cómo lo hace una máquina. Es decir, el hecho de aplicar unas reglas sin saber que las estas aplicando de forma inconsciente, no te hace dar una respuesta más inteligente que aplicarlas de forma consciente sabiendo que las estás aplicando y por qué. Por lo tanto, ambos tipos de inteligencia, consciente e inconsciente, a efectos prácticos son equivalentes.

Pero esa diferencia fundamental, la consciencia, podría no existir, sería sólo un algoritmo más. Es decir, un conjunto de reglas que aplicaría mecánicamente nuestro cerebro para hacernos creer que somos conscientes, y nosotros no seriamos más que máquinas biológicas sin poder de decisión. Es muy difícil de aceptar ideas como que no somos más que máquinas y que nuestra consciencia no es más que nuestro cerebro provocándonos la sensación de que controlamos nuestros pensamientos. Pero, porque una hipótesis sea más temida, no quiere decir que deba ser menos acertada. Por ejemplo, es más fácil creer que cuando muramos seguiremos existiendo de alguna forma sobrenatural, que asumir lo que es más racional y lógico, que desapareceremos definitivamente. El hecho de pensar que en realidad no tenemos consciencia si no que nuestro cerebro nos hace creer que la tenemos, es un pensamiento mucho más perturbador porque hay que admitir que no tenemos libre albedrío sino que sólo hemos creído que lo teníamos. Esto es terrible, es prácticamente como pensar que en realidad nunca hubiésemos estado realmente vivos.

¿Vosotros de que lado estáis, de la IA fuerte o de la IA débil? ¿Creéis que existe la consciencia y el libre albedrío o pensáis que son sólo simulados por el cerebro?