2001 y Blade Runner: Cine, filosofía e inteligencia artificial

  24 Diciembre 2012 1. Introducción

2001-blade_runnerLa tarea que me he propuesto en este ensayo es mostrar ciertos aspectos del tratamiento cinematográfico que ha tenido la propuesta teórica de la inteligencia artificial (desde ahora IA). Desde su concepción, a mediados del siglo pasado, el programa de IA ha logrado grandes avances en múltiples campos de la tecnología y la ciencia, desde la informática hasta la biomecánica.

Al mismo tiempo, y este es el aspecto más interesante para mí, el programa de IA ha supuesto una fuerte inspiración para la filosofía, especialmente para ámbitos filosóficos como la filosofía de la mente, la epistemología o la antropología filosófica. La razón es obvia: los programas de IA han planteado la posibilidad de construir seres inteligentes, por lo que se ha hecho pertinente la pregunta de qué sea la inteligencia. La noción de “inteligencia” está estrechamente relacionada con otras nociones, como “conocimiento”, “mente”, “emoción” o incluso la noción de “ser humano” en general, que han sido tradicionalmente objeto de estudio de la filosofía.

La filosofía acostumbra a ilustrar sus tesis con escenarios imaginarios, que explotan las consecuencias posibles de aquello que se afirma (por ejemplo: para poner a prueba la tesis de que mentir está mal en cualquier caso, podemos imaginar qué haríamos en caso de que viéramos a nuestro mejor amigo huir y esconderse de una persona que lo persigue con un cuchillo, y que nos pregunta por dónde se ha ido). En este sentido, el cine es un medio perfecto para explotar las posibilidades de escenarios imaginarios. Y el cine fantástico y de ciencia ficción en especial, permiten explorar mundos posibles en los que las condiciones más básicas de la vida pueden ser alteradas como le plazca al autor.

En mi opinión, no es demasiado frecuente en el cine fantástico la exploración de posibilidades filosóficamente fecundas. Pero cuando esto ocurre resulta muy interesante, porque la libertad de la narrativa cinematográfica permite llevar determinadas situaciones hasta sus últimos extremos. En el caso del tratamiento de la IA, el cine ha proporcionado algunos títulos especialmente atractivos.

Mi objetivo no es proporcionar un repaso exhaustivo del tratamiento de la IA a lo largo de la historia del cine, sino centrarme en dos películas que me parecen particularmente fructíferas: se trata de Blade Runner (Ridley Scott, 1982) y 2001: A Space Odyssey (Stanley Kubrick, 1968).

Un rasgo común, que aparece en estas dos películas y que quiero destacar, es que los personajes inteligentes y artificiales muestran rasgos específicamente humanos. Atribuir esos rasgos a superordenadores, programas informáticos o androides ilustra en parte lo que conlleva ser humano: significa dotarlos de nuestros propios traumas, anhelos, miedos… Y en muchas ocasiones esto resulta ser un problema grave, más que un simple logro tecnológico.

No obstante, hay importantes diferencias en las historias y los escenarios que estas dos películas nos plantean: en Blade Runner, los androides (específicamente, los replicantes) son usados como esclavos y su presencia está proscrita en la Tierra. La detección de los replicantes (y por tanto su distinción de los auténticos humanos) es uno de los temas principales de la película. En 2001, el personaje del superordenador HAL 9000 nos plantea la vulnerabilidad moral de una máquina presumiblemente “perfecta”.

Veamos con detenimiento cada una de estas temáticas.

blade-runner-1

2. Blade Runner

Replicants are like any other machine. They’re either a benefit or a hazard” Rick Deckard (1).

Protagonizada por Harrison Ford, Sean Young y Daryl Hannah, y con una extraordinaria banda sonora compuesta por Vangelis, fue uno de los mayores éxitos cinematográficos de los años ochenta. Basada en la novela de Philip K. Dick Do Androids Dream of Electric Sheep? (1968) y siguiendo la estela del éxito de Alien (Ridley Scott, 1979), Scott volvió a plantear un contexto futurista y distópico, en este caso el Los Angeles de 2019.

Blade Runner describe un escenario en el que la industria biomecánica ha conseguido construir androides similares a humanos, que emplea como mano de obra y fuerza militar en las nuevas colonias Off-World. Los androides, conocidos como replicantes, parecen seres humanos, y son programados con una vida útil de cuatro años, tras los cuales mueren.

Como parece de esperar, los replicantes comienzan pronto a rebelarse contra su papel como esclavos, y un encadenamiento de enfrentamientos contra los humanos culmina con la prohibición de la presencia de replicantes en la Tierra. Para aplicar esta legislación, se crea un grupo dentro de la policía (conocido como Blade Runner) con el objetivo exclusivo de buscar y retirar a los replicantes que se encuentren en el planeta.

Para detectar a los replicantes, puesto que son indistinguibles de los seres humanos a primera vista, los Blade Runner llevan a cabo un test llamado Voight-Kampff. El test trata de provocar una reacción emocional en el sujeto sometido al test, de forma que si esa reacción no se produce, el sujeto testado puede considerarse un replicante. Para provocar esa reacción, el examinador hace diversas preguntas y pone en varias situaciones hipotéticas al examinado. Para medir las respuestas emocionales esperadas, se emplean varios sensores que miden parámetros como las pulsaciones, el rubor o los cambios en la dilatación de la pupila.

Los replicantes no son construidos de forma que no puedan producir las respuestas emocionales que los distinguen de los seres humanos en el test Voight-Kampff: los replicantes son fabricados a imagen y semejanza de los seres humanos de verdad (salvo porque poseen algunos atributos mejorados: más fuerza, por ejemplo, para poder cargar mayores pesos, o mejores atributos de combate).

blade-runner-10

Así pues, el hecho de que no muestren reacciones emocionales como los seres humanos no se debe a una característica concreta, “de fábrica”. Se debe más bien al hecho de que cuando son activados, carecen de recuerdos, y por lo tanto, de conexiones emocionales en general. A lo largo de sus cuatro años de vida pueden desarrollar algunas emociones, y por esta razón precisamente es por lo que su lifespan no es mayor: antes de que desarrollen el tipo de susceptibilidad emocional que los haría indistinguibles de los humanos según el test Voight-Kampff, mueren.

En la película se nos presenta una situación peculiar: hay un grupo de replicantes de último modelo (Nexus-6) que han llegado a la Tierra, tras haber acabado con la tripulación de la nave en la que trabajaban. Para detenerlos, la policía recurre a los servicios de un antiguo Blade Runner, Rick Deckard. Este Blade Runner tendrá que enfrentarse a la misión de detectar y retirar a los replicantes infiltrados.

Hay tres temas interesantes que la situación y la trama planteada en Blade Runner ponen en juego (aunque la elección de estos temas podría realizarse de otra forma, y podrían distinguirse cuestiones más concretas). En primer lugar, se trata la cuestión de la  distinción entre humanos y replicantes, que en la película se decide mediante el test Voight-Kampff. En segundo lugar, dicho test funciona provocando reacciones emocionales en los sujetos, por lo que la película trata también cuestiones relativas a la naturaleza de las emociones. Finalmente, los personajes de los replicantes rebeldes, y especialmente el “líder” de éstos, Roy Batty (Rutger Hauer), plantean cuestiones quizás más profundas sobre la muerte, la posibilidad de alargar artificialmente la vida y la fugacidad de la existencia.

Veamos estos temas un poco más despacio.

En primer lugar, la presencia del test Voight-Kampff es importante porque es una de las pocas veces que vemos en el cine un experimento mental filosófico genuino “puesto en práctica”. El test Voight-Kampff está vagamente basado en el conocido test de Turing para determinar si una máquina es inteligente o no. Alan Turing (1912-1954), conocido como el padre de la ciencia de la computación, fue uno de los primeros en desarrollar computadores (la famosa “máquina de Turing”) a la vez que fue pionero en el tratamiento de las cuestiones teóricas asociadas a la computación.

blade-runner-2

En su artículo de 1950, Computing Machinery and Intelligence, Turing lanzó la siguiente tesis: si una máquina es indistinguible de un ser humano, en el sentido de que un ser humano puede mantener una conversación con ésta sin que el ser humano se dé cuenta de que se trata de una máquina, podemos atribuirle inteligencia. Turing ideó un test para ello: un ser humano h mantendría una conversación (por medios telemáticos, lo que hoy en día sería un chat) con una máquina y con otro ser humano h”, sin saber quién es quién. Si al final del test h no puede distinguir quién es el otro humano h” y quién es la máquina, podemos concluir que la máquina es inteligente, o más exactamente en los términos en que lo formuló Turing, que puede “pensar” (Turing: 433-434).

El test de Turing parece la fantasía de un científico que sueña despierto con las posibilidades últimas de sus creaciones. Pero, de hecho, durante varios años se han celebrado concursos (2) en los que se ha intentado que alguna máquina superase el test (nunca una máquina ha ganado), y teniendo en cuenta los desarrollos que ha experimentado la computación en las últimas décadas, es lógico que la hipótesis de Turing se haya puesto a prueba.

En un sentido más amplio, lo que Turing está poniendo sobre el tapete es una determinada concepción de qué es pensar, y qué es ser inteligente. Alguien podría objetar a las tesis de Turing que, aunque una máquina pudiera superar el test, no podríamos garantizar que puede pensar, puesto que para estar seguros de ello tendríamos que meternos en su cabeza, o algo así. Necesitaríamos cierta garantía de que “dentro” de la mente de la máquina hay algo, llámese conciencia o como sea, pero algo similar a lo que los seres humanos tenemos “dentro” de nuestra cabeza.

Esta es la conclusión que John Searle persiguió en su conocido artículo de 1980 Mind, Brains and Programs. Para Turing (y para Scott, o Philip K. Dick, en cualquier caso), la inteligencia o la capacidad de pensar, debe poder medirse de alguna forma: para eso está el test de Turing. Si una máquina puede interactuar con nosotros de la misma forma que otros humanos, ¿por qué no íbamos a atribuirle inteligencia? Si nos responde con inteligencia, y aparentemente entiende lo que le decimos, ¿por qué pedimos una prueba extra, una prueba que, por otro lado, no le pedimos a ningún ser humano?

En Blade Runner ocurre algo parecido. El test Voight-Kampff está diseñado para distinguir a los replicantes de los humanos, no en base a sus capacidades cognitivas, como en el test de Turing, sino en base a sus capacidades emotivas. Pero el planteamiento es similar: las capacidades que nos hacen genuinamente humanos no están “ocultas”, “dentro” de la mente, como un reino o ámbito privado y separado del mundo exterior, sino que están ahí fuera: en el test de Turing, tener capacidades cognitivas equivale a poder sostener una conversación; en el test Voight-Kampff, tener capacidades emotivas equivale a tener ciertas reacciones fisiológicas cuando se nos remite a experiencias pasadas con las que tenemos conexiones emocionales.

blade-runner-3

Otra diferencia entre el test de Turing y el test Voight-Kampff es que en el segundo los sujetos sometidos al test tienen el mismo aspecto que los seres humanos, y además se les atribuyen las mismas capacidades cognitivas. No hay duda de que los replicantes son individuos inteligentes. Y, lo que es más interesante, no hay nada en su construcción que les impida llegar a ser individuos emocionalmente ricos. Los replicantes no son incapaces de sufrir reacciones emocionales, como los psicópatas. Pero entonces, ¿por qué no superan el test Voight-Kampff?

La clave está en dos características de su diseño original: la primera es que tienen una vida de cuatro años; la segunda es que carecen de recuerdos. Los replicantes llegan a la vida sin pasado, y por tanto sin conexiones emocionales. A lo largo de sus cuatro años de vida pueden establecer algunas de estas conexiones —y en la película vemos cómo esto ocurre de hecho: Roy Batty y Pris (Daryl Hannah) mantienen una relación sentimental—, pero antes de que esas conexiones puedan hacerse lo suficientemente fuertes como para permitirles pasar un test emocional, mueren.

Y además, el test Voight-Kampff funciona a través de preguntas que remiten a la infancia y juventud del sujeto que se somete al test. Puesto que los replicantes carecen de recuerdos, no pueden pensar en su madre o en su infancia, y no pueden, por tanto, reaccionar emocionalmente a tales pensamientos.

Hasta que el personaje de Rachel irrumpe en la historia. Rachel es un replicante con una característica que la distingue de todos los demás replicantes: le han sido implementados recuerdos. Por esa razón, cuando Deckard acude a la Tyrell Corporation para indagar sobre el replicante que dispara a un Blade Runner mientras éste le hace el test (suceso que contemplamos al inicio de la película), Tyrell (el director de la Tyrell Corporation) sugiere a Deckard que le haga el test Voight-Kampff a Rachel, su secretaria.

Deckard realiza un largo test y determina que se trata de un replicante. No obstante, gracias a la implantación de recuerdos, el test es mucho más largo, y a Deckard le cuesta dar un diagnóstico. Cuando finalmente determina que se trata de un replicante, y se da cuenta de que le han sido implantados recuerdos, Deckard decide no decírselo a Rachel.

Ella va siendo consciente de que todo lo que recuerda es mentira a lo largo de la película.

blade-runner-12

El personaje de Rachel, por lo tanto, nos plantea la posibilidad de crear replicantes que serían, ahora sí, completamente indistinguibles de los seres humanos, y para detectar a los cuales el test Voight-Kampff no serviría. Lo más interesante de este personaje, por otro lado, es que nos habla de la conexión entre recuerdos y emociones.

La teoría tradicional de las emociones interpreta las emociones como simples sentimientos o sensaciones sentidas por el sujeto que las experimenta. Según esta teoría, experimentar odio es sentir una sensación específica de odio, por ejemplo. Esas sensaciones producen reacciones fisiológicas “emocionales” como las que el test Voight-Kampff registra cuando el sujeto que somete al test es un humano (ruborización, dilatación de las pupilas, etc.).

No obstante, la teoría tradicional tiene dificultades para distinguir entre emociones distintas, pues para ello tendría que distinguir entre tipos distintos de sensaciones y reacciones fisiológicas específicas que se correspondieran una a una con todo nuestro vocabulario emocional, lo cual parece un objetivo difícil de alcanzar. Esta tesis es defendida por Errol Bedford en su artículo de 1957 Emotions (Bedford: 290-291).

Frente a esta concepción tradicional de las emociones como sentimientos, en los años cincuenta y sesenta del siglo pasado surgió la teoría cognitiva de las emociones, según la cual (en términos muy generales) las emociones no son sentimientos o reacciones fisiológicas, sino un tipo determinado de juicio, a saber, un juicio evaluativo. Así, tener miedo por ejemplo es juzgar una situación determinada como peligrosa para mí. La teoría cognitiva de las emociones permitió superar muchas de las dificultades de la teoría tradicional y es hoy comúnmente aceptada en el mundo filosófico.

blade-runner-5Creo que la relación que en Blade Runner se establece entre emociones y recuerdos, según la cual las reacciones emocionales están supeditadas a la posesión de recuerdos, apoya en cierta medida una perspectiva cercana a la teoría cognitiva sobre las emociones: si aquello que nos permite tener emociones son recuerdos, algo que al fin y al cabo es información que almacenamos y recuperamos cognitivamente, resulta lógico pensar que las emociones están más cerca de los contenidos cognitivos de nuestra mente que de puras reacciones fisiológicas o sensaciones.

No obstante, no hay que olvidar que, como vemos en la película, las emociones se manifiestan en ciertas reacciones fisiológicas (las que el test Voight-Kampff mide). En este sentido, en la película se ejemplifica una enmienda necesaria a la teoría cognitiva de las emociones: pues aunque las emociones sean esencialmente elementos cognitivos, se tienen que manifestar públicamente de alguna forma, y son precisamente esas reacciones fisiológicas las que nos indican su presencia en el sujeto. William James argumentó en 1884 que no podemos concebir el miedo sin la sudoración, un pulso alto y otros síntomas corporales de ese tipo. Si no fuera así, el test Voight-Kampff no podría funcionar siempre, pues podría haber emociones que carecieran de una manifestación observable.

Finalmente, el personaje de Roy Batty llama la atención sobre cuestiones, como he dicho, más “profundas”. El grupo de replicantes Nexus-6 que él lidera y que llega a la Tierra tiene un objetivo determinado: alargar su vida. Para ello acude a Tyrell: le pide que no le deje morir, que le permita vivir más tiempo.

Lo que encuentro interesante es que esa posibilidad se nos niega a los seres humanos.

Aunque no es poca la diferencia, pues los Nexus-6 tienen una vida de cuatro años, y los seres humanos pueden vivir hasta 80 o 90 años, la cuestión es que los seres humanos ni tenemos un tiempo de vida establecido, de forma que podamos saber cuándo vamos a morir, ni podemos pedir una prórroga.

Cuando el espectador se entera del propósito de Roy Batty, que no parece sino un villano despiadado, empatiza casi automáticamente con él, pues encarna un anhelo totalmente humano: la libertad y la vida eterna. Al final de la película, la rebelión de los replicantes parece totalmente justificada. Y la impotencia de Batty, cuando recita su monólogo final, justo antes de morir, ejemplifica un rasgo marcadamente humano, en mi opinión: se trata de la conciencia del fin de la existencia y el lamento por ello:

I’ve seen things you people wouldn’t believe. Attack ships on fire off the shoulder of Orion. I watched c-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain. Time to die” (3).

2001_a_space_odyssey-0

3. 2001, una odisea del espacio

I know I’ve never completely freed myself of the suspicion that there are some extremely odd things about this mission” HAL 9000 (4).

2001: una odisea en el espacio es una de las películas más importantes de Stanley Kubrick. Se trata de una de sus producciones más impresionantes y mejor acabadas.

Escrita por Kubrick junto a Arthur C. Clarke, y basada en una novela corta de este último (El centinela, de 1948), fue estrenada en 1968, tan sólo un año antes de la llegada del hombre a la Luna. 2001 supuso una auténtica revolución dentro del género de la ciencia ficción, pues era la primera vez que el género aparecía retratado con tanto cuidado y con tan altas pretensiones conceptuales y temáticas.

A la exquisita fotografía y los sorprendentes efectos visuales se sumaba una impresionante banda sonora en la que destaca la omnipresencia del Danubio Azul de Johann Strauss (hijo) y el sobrecogedor Réquiem de Ligeti. La película fue también celebrada desde ámbitos científicos, pues respetaba también por primera vez algunas de las leyes científicas que deben cumplirse en el espacio, como la ausencia de sonido.

Hablar de la sinopsis de una película tan abierta a interpretaciones como 2001 es bastante difícil. No obstante, algunos elementos parecen relativamente claros: la película se divide en cuatro episodios que narran aproximadamente tres “momentos” distintos en la historia de la humanidad. Estos “momentos” están todos marcados por la presencia de un monolito de origen presuntamente extraterrestre.

2001_a_space_odyssey-10

En el primer episodio, The Dawn of Man, el monolito aparece con ocasión (aunque podemos pensar que como causa) del descubrimiento de las primeras herramientas o armas por parte de unos homínidos, dando lugar así a un salto evolutivo y al desarrollo de nuestra especie. En el segundo capítulo, TMA-1, que transcurre en algún momento del año 1999 o 2000, un monolito idéntico al primero es descubierto bajo la superficie de la Luna, y se observa que emite una señal de radio que apunta a Júpiter. Finalmente, los dos últimos episodios (Jupiter Mission y Jupiter and Beyond the Infinite) transcurren en el año 2001 y relatan el viaje de la nave Discovery One a Júpiter, con el objetivo de investigar el origen de la señal alienígena.

2001 es un despliegue de temáticas filosóficas y existenciales apabullante: el lugar del hombre en el cosmos, la posibilidad de vida extraterrestre o la naturaleza humana son quizás los temas latentes más importantes. No obstante, la cuestión que aquí me interesa es más restringida (aunque, como espero que se entienda, está estrechamente relacionada con las temáticas mencionadas) y está relacionada con el personaje principal del tercer capítulo: se trata del tripulante más peculiar de la Discovery One, el superordenador HAL 9000.

HAL 9000 es un ordenador de última generación, presumiblemente inteligente. Pero esto no se afirma explícitamente en la película; el único dato real sobre HAL que se nos da desde un principio es que se trata de un ordenador que puede reproducir (“aunque hay quien todavía prefiere decir imitar”) las funciones principales de un ser humano, sólo que a mucha más velocidad y con mucha más precisión. Además, y este dato es especialmente importante, los ordenadores HAL 9000 tienen un registro de funcionalidad perfecto. Esto es, no han cometido ningún fallo, por lo que, como se dice en la película, son a todas luces perfectos.

HAL está encargado de todas las funciones principales de la Discovery, y es por tanto el responsable último de la seguridad de toda la tripulación y del éxito de la misión. El resto de la tripulación se compone de los dos pilotos y científicos David Bowman y Frank Poole, y otros tres tripulantes en hibernación, para servir de relevo en la misión.

Los tripulantes interactúan constantemente con HAL, que se muestra siempre servicial y extremadamente cordial. En una entrevista concedida por ellos (y por HAL) a la televisión, que ellos mismos ven retransmitida en la nave, dicen considerar a HAL “uno más”.

2001_a_space_odyssey-3

Lo que quiero tratar de explicar en esta sección con respecto a 2001 y a HAL 9000 tiene que ver con esa atribución de “perfección” que se le hace en la película. Esta cualidad constituye la premisa principal que orienta tanto la interpretación por parte del espectador de los eventos que se suceden en la Discovery, como la propia interpretación que los tripulantes Bowman (Dave) y Poole (Frank) hacen de la conducta de HAL.

Pero volvamos a la película. En un momento dado, HAL le pregunta a Dave si no está teniendo ciertas sospechas sobre la misión a Júpiter. Ellos piensan que van sencillamente a explorar el planeta y su órbita, pero HAL le confiesa a Dave que no las tiene todas consigo. Al darse cuenta de que Dave no parece (o no quiere) compartir las dudas que HAL tiene con respecto a la misión, éste se retracta rápidamente, diciendo que seguramente sólo se trata de especulaciones sin mucho sentido. No obstante, acto seguido, HAL predice un fallo en una unidad situada en la antena principal de la nave.

Dave acude fuera de la nave para recoger la unidad dañada y ver cuál puede ser el fallo. Pero cuando Dave y Frank analizan la unidad supuestamente afectada, no pueden descubrir nada malo en ella. Tanto ellos como HAL parecen perplejos, y HAL sugiere recolocar la unidad y dejar que el fallo se produzca cuando él ha predicho que se va a producir, para después tratar de averiguar su causa.

No obstante, Dave y Frank contactan con la Tierra, desde donde se les dice que según el diagnóstico del ordenador HAL 9000 gemelo que supervisa la misión desde la Tierra, la unidad no presenta ningún problema. Aunque pueda parecerles a todos increíble, HAL ha debido cometer un error.

Dave y Frank le preguntan entonces a HAL si está completamente seguro de que no ha cometido un error en su predicción. HAL insiste en la infalibilidad de la serie 9000, y atribuye el problema a un error humano, sin dar más explicaciones. Pero Dave y Frank comienzan a sospechar de HAL, y se esconden de él en una de las pequeñas naves auxiliares para poder discutir la cuestión sin que él se entere.

Allí deciden dejar que continúe el modo de prueba de fallos, recolocar la unidad problemática, y si la unidad no falla, eso probará que HAL ha cometido un error, y entonces deberán desconectarlo. Parece que, en principio, ellos no piensan que HAL se comporte así a propósito, sino sencillamente que está funcionando mal.

2001_a_space_odyssey-12

En este punto, la premisa de que HAL es operativamente perfecto sólo puede llevar a dos opciones con respecto al supuesto fallo: o bien, como dice HAL, se trata de un error humano (es decir, su predicción es correcta y la unidad va a fallar) o bien HAL ha informado falsamente a propósito. Y si ha dado un informe falso a propósito, la cuestión no es que haya cometido un error, sino que ha hecho algo que, según los parámetros de la misión, es moralmente incorrecto; esto es, algo “malo”.

Como he dicho, los tripulantes no parecen comprometerse con la idea de que HAL esté actuando con maldad, más bien piensan que sencillamente está, aunque parezca increíble, en un error. Pero esta posibilidad se desvanece cuando Frank Poole sale al exterior de la nave a recolocar la unidad supuestamente defectuosa: entonces, HAL lo despide al espacio y provoca la despresurización de su traje, lo que lo mata. En ese momento, Dave no piensa que HAL haya mandado despedido a Frank a propósito, pero cuando consigue rescatarlo con una nave auxiliar, trata de volver a la Discovery y HAL le niega la entrada en la nave, ya no cabe duda: HAL está tratando de deshacerse de los tripulantes de la nave (mientras Dave sale a rescatar a Frank, vemos cómo HAL mata a los otros tres tripulantes en hibernación).

Como le confiesa en ese momento a Dave, cuando él y Frank creían que hablaban sin que HAL pudiera oírles, éste les leía los labios a través de la escotilla de la nave auxiliar. HAL se entera de esa forma de que piensan desconectarlo si no se produce el fallo previsto, pero él no puede permitirlo: la misión es demasiado importante para que ellos la pongan en peligro.

Finalmente, Dave consigue entrar en la nave a través de una especie de válvula de emergencia que escapa al control de HAL, y rápidamente se dirige a la unidad “cerebral” del superordenador para desconectarlo. Dave va sacando una a una las unidades de memoria de HAL, mientras éste, totalmente impotente, le pide perdón y le suplica que no lo mate.

La escena de la muerte de HAL es desgarradora, pues aún a través de la monótona voz del ordenador percibimos el terror a la muerte que siente en sus últimos momentos de vida, antes de perder la conciencia definitivamente. Acto seguido, se activa una grabación que Dave contempla sorprendido y en la cual se le explica el verdadero objetivo de la misión, que sólo era conocido por HAL: se trata, efectivamente, de la investigación del origen de la señal de radio emitida por el monolito descubierto en la Luna. Tras esta escena pasamos al siguiente episodio (Jupiter and Beyond the Infinite), en el que asistimos al encuentro de Dave con el monolito y su extraño viaje interestelar.

Cuando asistimos al desenlace del episodio con HAL ya sabemos que HAL está cometiendo todos esos fallos de forma intencionada. Cabe entonces preguntarse cuál era el objetivo de HAL en primer lugar. Quizás quiere ser el único en establecer contacto con los alienígenas. O quizás desconfía de verdad de las capacidades de los otros tripulantes para llevar a buen puerto la misión y por eso quiere deshacerse de ellos.

2001_a_space_odyssey-8No obstante, lo interesante es ver cómo se desarrolla la especulación de los tripulantes y del propio espectador antes de que HAL muestre su verdadera cara. Si HAL no fuese “perfecto”, podríamos inferir que cuando predice el fallo y los tripulantes comprueban que la unidad funciona perfectamente, sencillamente ha cometido un error. Pero esto no es posible, en principio. Como he dicho más arriba, si HAL es perfecto, no puede haberse equivocado, y si ha dado un informe falso, lo tiene que haber hecho a propósito.

Por otro lado, puesto que HAL tampoco quiere admitir su culpa, infiere, con la misma premisa de su propia perfección, que el error debe ser humano.

Mi tentativa de tesis filosófica, por la que creo que el personaje de HAL es filósoficamente muy relevante dentro de la película, es un poco atrevida, pero es la siguiente: esta trama argumental es, en lo fundamental, muy parecida a cierta trama filosófica en torno al concepto de Dios que tiene una larga tradición.

En términos muy generales: dos de los atributos principales de Dios (su omnipotencia y su bondad) entran necesariamente en conflicto: si Dios lo puede todo, puede hacer el bien siempre. ¿Entonces por qué existe el sufrimiento? O bien Dios es omnipotente pero no es bueno, puesto que puede hacer el bien y no lo hace; o bien Dios es bueno pero no es omnipotente, puesto que quiere hacer el bien pero no puede. Si pensamos que las decisiones divinas se pueden reconstruir racionalmente tenemos esas dos opciones. Si, por el contrario, pensamos que los caminos del señor son misteriosos y que la libertad de Dios va mucho más allá de nuestras categorías racionales, entonces podemos sencillamente desechar el problema (buena parte de la tradición filosófica ha sostenido este punto de vista o alguno parecido).

El problema de cómo explicar la existencia del mal y tratar de reconciliar ese hecho con la existencia de un dios bondadoso constituye buena parte de la “teodicea”, es decir, la reflexión filosófica en torno al concepto de dios y de su justicia (la obra más importante al respecto es seguramente la propia Teodicea de Leibniz, de 1710, pero para un repaso de esta cuestión véase Tooley 2010).

Los tripulantes de la Discovery piensan en HAL de la primera manera, y reproducen una disyuntiva semejante con respecto a su comportamiento: o bien HAL no es perfecto, y entonces puede que se haya equivocado, o bien sí lo es, y entonces ha proporcionado un informe falso intencionadamente (y no es “bueno”, al menos en relación al objetivo de la misión). Si estuviéramos hablando de un ser humano normal, falible, las inferencias al respecto serían mucho más débiles: los seres humanos cometemos errores constantemente, y no es fácil dirimir la cuestión de si nuestras acciones son fruto de nuestras decisiones libres y conscientes o de imposiciones externas.

Al caracterizar a HAL mediante un atributo tan fuerte como la “perfección” (estoy suponiendo todo el tiempo que se trata de perfección en términos sólo de sus capacidades cognitivas, es decir, que HAL sea perfecto no quiere decir que sea un perfecto caballero, por ejemplo), lo investimos de una cualidad teológica, de un atributo divino. Los atributos divinos se caracterizan tradicionalmente por ser atributos humanos llevados a grados absolutos, y esa es una de las razones por la que entran en conflicto.

2001_a_space_odyssey-6

Recapitulando: HAL es, en cierto sentido, como un dios para la tripulación de la Discovery. Esto no quiere decir que esté fuera de su alcance, pues Dave lo desconecta.

Lo interesante no es que HAL se parezca a Dios, o a un dios, en todos los sentidos, sino tan sólo que el razonamiento que guía a la tripulación a la hora de interpretar su comportamiento es un razonamiento que contiene una premisa teológica, a saber, la perfección operativa de la serie HAL 9000.

Esta tesis se ve algo reforzada si miramos a la temática general de la película. Como he dicho, la película explora momentos determinados de la humanidad, cuyo elemento común es por un lado la presencia del misterioso monolito, y por otro lado el advenimiento de importantes avances para la humanidad.

En el primer episodio, parece que se trata del nacimiento del hombre mismo, al descubrir la posibilidad de usar herramientas o armas. En el segundo episodio el gran acontecimiento es el descubrimiento de vida inteligente distinta del ser humano.

Finalmente, en el cuarto episodio, se trata de la aparente evolución de David Bowman hacia una forma de vida superior, de nuevo bajo la influencia del monolito.

Tradicionalmente ha sido la teología la encargada de explicar este tipo de saltos en el desarrollo evolutivo en general y el humano en particular. Lo que Kubrick parece contarnos en la película es que esos saltos evolutivos se deben a la influencia del monolito, es decir, a una influencia extraterrestre. A grandes rasgos, Kubrick parece estar proponiendo una noción extraterrestre de Dios.

Esta interpretación no es demasiado aventurada, pues en una entrevista (que es citada por Keir Dullea (el actor que interpreta a Bowman) en el documental ¿Qué hay ahí fuera? que acompaña a la última edición en Blu-ray Disc de 2001), Kubrick admitió que el concepto de dios estaba en el corazón de la temática de la película. Kubrick pensaba que podía buscarse una definición menos antropomórfica y más científica de Dios.

2001_a_space_odyssey-11

Si tenemos en cuenta que en el universo hay miles de millones de planetas y galaxias, es muy probable que haya otras muchas formas de vida aparte de las que se encuentran en la Tierra, y puede que muchas tengan además un recorrido evolutivo mucho más largo que el nuestro. En ese caso, si entráramos en contacto con una de estas especies, probablemente su superioridad nos apabullaría de tal forma que sólo la comprenderíamos en términos divinos, es decir, como dioses. Puesto que su potencial e inteligencia nos parecerían totalmente inalcanzables, seguramente nos veríamos inclinados a caracterizarlos mediante los atributos tradicionalmente teológicos de omnisciencia y omnipotencia.

En mi opinión, Kubrick juega con esa idea en la película, y nos relata la posibilidad de que los grandes misterios de la humanidad, como por ejemplo el surgimiento de la inteligencia, hubieran sido producidos por una influencia extraterrestre, que sólo podríamos entender como “Dios”. Mi tesis es que el personaje de HAL es también parte de esa trama, aunque en un sentido derivado.

Si esta interpretación es correcta, podríamos tirar todavía más del hilo y pensar que el hecho de que HAL, que es un personaje creado por el ser humano, se vea investido de atributos teológicos es un guiño de vuelta a la idea de que los dioses son tan sólo creaciones humanas. Como tantos otros aspectos de 2001, Kubrick no nos impone una interpretación al respecto, sino que nos pide que reflexionemos y saquemos nuestras propias conclusiones.

4. Conclusión

Este ensayo ha sido un intento de abordar cuestiones genuinamente filosóficas a través del cine, más concretamente, a través del tratamiento de la inteligencia artificial en el cine. Si el lector considera que se trata de un intento fructífero, la semilla está sembrada para que este tipo de reflexiones proliferen, tanto en el ámbito de la teoría e historia del cine como en la filosofía. Por desgracia, los proyectos interdisciplinares suelen ser desdeñados desde los “bandos” involucrados, pero quizás no sea el caso de la filosofía y el cine.

Por supuesto, el cine no tiene ni debe tener (en mi opinión) el objetivo de desarrollar un discurso estrictamente filosófico (pues sería aburridísimo), ni la filosofía tiene por qué someterse a los modelos discursivos narrativos en general y cinematográficos en particular. Pero el empleo de problemáticas filosóficas en el cine, como hemos visto (y este ensayo debería ser un ejemplo práctico), invita al espectador a pensar por sí mismos en estas cuestiones, y para el espectador aficionado a la filosofía supone un fuerte estímulo para la reflexión (en ocasiones de cuestiones que se habían olvidado), además de un gran placer.

2001_a_space_odyssey-7

Bibliografía / Filmografía

—BEDFORD, E. (1956-7) “Emotions”, Proceedings of the Aristotelian Society, New Series, Vol. 57, pp. 281-304 (trad. española: “Emociones”, en CALHOUN Ch. y SOLOMON, R. C. (comps.): ¿Qué es una emoción? Lecturas clásicas de psicología filosófica, México, Fondo de Cultura Económica, 1989, pp. 281-295).

—JAMES, W. (1884) “What is an Emotion?”. En Mind, Vol. 9, No 34 (Apr. 1884), 188-205.

—KUBRICK, S. (dir.) (1968) 2001: A Space Odissey [videograbación]. [Estados Unidos – Reino Unido]: Metro Goldwyn Mayer, 2007. 1 Blu-Ray Disc (148 min.).

—SEARLE, John R. (1980) “Minds, brains, and programs”. En Behavioral and Brain Sciences 3 (3), 417-457.

—SCOTT, R. (dir.) (1982) Blade Runner [videograbación]. [Estados Unidos]: Warner Bros. Pictures, 1982. Copia digital (117 min.).

—TOOLEY, Michael, "The Problem of Evil". En ZALTA, Edward N. (ed.) The Stanford Encyclopedia of Philosophy (Spring 2010 Edition), URL:  http://plato.stanford.edu/archives/spr2010/entries/evil/ .

—TURING, A. M. (1950) “Computing Machinery and Intelligence”. En Mind, New Series, Vol. 59, No. 236. (Oct., 1950), 433-460.

Escribe Andrés Soria Ruiz


Notas

  1. Los replicantes son como cualquier otra máquina. Son un beneficio o un riesgo” (la traducción es mía).
  2. http://www.loebner.net/Prizef/loebner-prize.html.
  3. Yo... he visto cosas que vosotros no creeríais: Atacar naves en llamas más allá de Orión. He visto rayos C brillar en la oscuridad cerca de la Puerta de Tannhäuser. Todos esos momentos se perderán... en el tiempo... como lágrimas en la lluvia. Es hora de morir”.
  4. Sé que nunca me he librado del todo de la sospecha de que hay algunas cosas muy extrañas en esta misión” (la traducción es mía).

blade-runner-14