Diabolus Ex Machina

  23 Marzo 2012
La máquina pensante de Turing 

2001_A_Space_Odyssey_1En 1950 Alan Turing propuso una respuesta a la pregunta sobre si una máquina podría pensar en su célebre ensayo Máquinas de computación e inteligencia.

Turing sugería que una computadora alcanzaría la cima esencial de la especie (la racionalidad) en el momento en que su discurso fuera indistinguible, para un interlocutor humano, del de cualquiera de sus congéneres. Es decir, que una persona que se hallara fuera de todo contacto visual con el aparato en cuestión, pudiera sostener una conversación con él sin sospechar que se trataba de una máquina.

Esta asimilación del discurso a la racionalidad es al menos tan antigua como Aristóteles (y cabe sospechar que aún lo es más), aunque es cierto que el de Estágira era escéptico respecto a la posibilidad de que una “máquina” llegase a equipararse al hombre: dejó bien claro que todo elemento artificial gozaría siempre de un estatuto ontológico inferior al natural, puesto que además de ser incapaz de discurso, no podría autorreplicarse ni gozar de funcionamiento automático. Aunque es evidente que hoy día las máquinas ya cumplen algunos de esos requisitos, de lo que se trataría es de saber si están en disposición de alcanzarlos todos y cuáles serían las consecuencias de ese éxito.

El desafío de Turing se hallaba también explícitamente planteado ya en el Discurso del método de Descartes, quien acabó por concluir que un autómata nunca podría alcanzar el grado de racionalidad del más obtuso de los hombres, precisamente por ser incapaz de elaborar un discurso.

Pero a pesar de su recurrencia, tan sugerente postulado pareció considerarse, durante siglos, poco más que un jeux d’esprit,  hasta que adquirió un nuevo impulso a la luz de la casi contemporánea filosofía del lenguaje y tras la revolución de la matemática computacional, que llevaría al desarrollo de la Inteligencia Artificial, uno de cuyos artífices fue precisamente Turing.

Sin embargo sería un elemento menos teórico el que reorientara la cuestión hasta llevarla a su cumplimiento desde presupuestos poco deseables: la maduración del modelo social impuesto en la revolución industrial.

Lejos de constituirse en servidoras (y liberadoras) del ser humano, las máquinas precisaban de una constante supervisión y suministro por parte de los trabajadores, que pasaron a ser dependientes de aquéllas. Asumido que las máquinas producían más rápida y eficientemente que los humanos, y que aquéllos se habían convertido ahora en meros apéndices, cuando no en bestias de carga, ¿no podrían ellas ser capaces también de pensar de un modo más racional, alejadas de toda servidumbre pasional? Se ponían las bases para intentar emular el pensamiento humano desde el punto de vista de la eficiencia y la productividad, como mera racionalidad instrumental, desechando todo residuo emocional como escollo hacia la perfección.

Ese punto de vista conseguía, a su vez, deshacerse de algunos prejuicios caducos: según las máximas aristotélicas, los artefactos debieran hallarse al menos un escalón intelectualmente evolutivo por debajo de su progenie; pero los filósofos, últimos y utópicos guardianes de la espiritualidad humana, no parecieron reparar en que había al menos dos modos en los que una máquina pudiera llegar a equipararse (y superar) en su racionalidad al ser humano: o bien el artefacto tendería cada vez más a asemejarse a su creador, o bien el creador tendería cada vez más a parecerse a su vástago, reduciendo el alcance de su aparato racional al mero esquema y caricatura lógica.

Las carencias del primer anhelo parecían concretarse no sólo en las limitaciones del presupuesto económico, sino aún más en la insuficiencia del paradigma moderno sobre el conocimiento humano: se llegó a postular que la racionalidad era puro discurso lógico, pero como ya hemos sugerido, en realidad no era así; la denominada inteligencia emocional parecía tener un papel relevante en cuestiones éticas, y consecuentemente, una máquina que no tuviese también emociones, no podría asimilarse a un humano.

La literatura y el cine han explorado esa vertiente, intentando humanizar a las máquinas dotándolas del preciado aparato emocional, de modo que el secreto anhelo de emular al Creador se viese cumplido: Películas como 2001, una odisea del espacio, de Kubrick, o Blade runner de Scott, tocan sólo tangencialmente el tema, pero no por ello pueden dejar de considerarse pioneras.

De la primera puede decirse que la emoción humana primordial sería el miedo vinculado a la respuesta violenta, puesto que HAL 9000 decide eliminar a la tripulación humana por miedo a ser desconectado. Y aunque como visionario que era, Kubrick pareciese estar anticipándose a ciertos escalofriantes resultados de los experimentos con la inteligencia artificial, esa parecía una caracterización aún imperfecta del hombre, más vinculada a la psicopatía que a su esencial empatía. Bien es cierto que Kubrick, humano como era, resultaba ambiguamente clasificable en este sentido, pero eso no era motivo suficiente como para extrapolar su particular modo de ser a toda la especie. Debiéramos estar de acuerdo en que, más para bien que para mal, el genio estadounidense era un hombre excepcional.

Respecto a Blade runner, debiéramos decir que los replicantes no eran estrictamente máquinas, sino entidades biológicas manipuladas según el paradigma de racionalidad instrumental para funcionar como máquinas. Hemos visto que tal paradigma se caracterizaba como insuficiente para atribuir auténtica humanidad, y sin embargo abría las posibilidades a considerar una segunda opción.

Blade-Runner

Evolución, involución, revolución

Así pues, las ventajas del segundo anhelo, equiparar a los seres humanos a máquinas eran incontables: por un lado, resultaba tecnológica, económica y científicamente menos costoso (la tecnología social y la psicología de masas llevaban mucho más tiempo en boga que la cibernética); y por el otro, también era crematísticamente rentable: mantenía la dependencia del trabajador respecto del ritmo impuesto por las máquinas y lo sujetaban a un modelo productivo de eficiencia, fuera del cual no había sino hambre y fracaso.

La tradición de raigambre cartesiana asumía que como producto de nuestra inventiva, cualquier máquina debiera en principio resultar al menos en cierto punto dependiente de nuestra tutela, puesto que nosotros estábamos llamados a ser los señores de la Naturaleza.

Sin embargo, tan pronto como en 1927, Fritz Lang se atrevió a ejecutar una suerte de giro copernicano en lo que respectaba a semejante principio: en la archiconocida Metrópolis, el robot sosías de María se transforma en una hábil manipuladora de las pasiones humanas, con independencia de la extracción social de sus víctimas. Ello venía a demostrar que era precisamente nuestra naturaleza la que constituía el verdadero objeto de dominio, y lo que se estaba sugiriendo era que un ente lo suficientemente evolucionado (y aquí, evolucionado significa fríamente racional) podría dar el paso decisivo y definitivo hacia el poder absoluto: una vez dominada la fuerza ciega e irracional de la Naturaleza, tan sólo quedaba en pie el desafío de doblegar las imperfectamente racionales naturalezas humanas, que, precisamente por adolecer de rasgos pasionales, se volvían vulnerables y dependientes de los más bajos instintos.

Como decía Günther Anders, el hecho de transformar el mundo en una gigantesca máquina, nos había vuelto simples engranajes de la misma, incapaces de representarnos la totalidad del trabajo que llevábamos a cabo. Por más terrible que éste fuera, sus consecuencias se hallarían fuera del alcance de nuestra imaginación ¿Quién podría imaginar que ese trabajo no fuera otro que el de nuestro cumplido autoexterminio, nuestra muerte por el éxito de conseguir hacer pensar a las máquinas?

metropolis

¿Pero qué tendría que ver la maquinización del mundo con su fin?

Con la guerra fría y el terror atómico, la tecnología exacerba la deshumanización del combate que ya se había iniciado en la primera guerra mundial. Las máquinas pasan de ser meras herramientas conducidas, disparadas o pilotadas por seres humanos, a erigirse en últimas decisoras de simples, pero enormemente relevantes mecanismos de defensa.

De esa suerte de equiparación intelectual, surge la posibilidad de delegar en las máquinas ciertas responsabilidades: si son capaces de pensar como nosotros, o aún más eficientemente que nosotros ¿por qué no pueden ocuparse de tomar decisiones tácticas o estratégicas en nuestro lugar? Es más, si son emocionalmente neutras, seguro que se atreverán a llevar a cabo aquello que a nosotros nos resultara casi imposible debido al lastre emocional.

Ese es el principio que subyace a Juegos de guerra (War games, 1983), donde un ser humano, incapaz de hacer girar la llave de lanzamiento de misiles, desencadena los procesos burocráticos de sustitución del hombre por la máquina que llevarán casi hasta la catástrofe. La computadora WOPR es, en principio, un simple depósito de juegos reunidos de potencia lógica descomunal. Sin embargo, cuenta con la capacidad de aprender de sus errores, lo que paradójicamente la lleva a la conclusión —que los seres humanos no parecen haber alcanzado todavía— de que la mejor manera de ganar en un conflicto nuclear total, es no comenzar nunca ese diabólico juego.

juegos-de-guerra

El WOPR es el sucesor, ya totalmente computerizado, de algunas máquinas estratégicas que aparecían en la cinematografía de la guerra fría. Las más famosas son las de Fail safe (Punto límite, 1964) de Sidney Lumet, a quien ya se dedicó un Rashomon, y la Máquina del Juicio Final que aparece en Teléfono rojo, ¿volamos hacia Moscú? (Dr. Strangelove, 1964) de Kubrick.

Las computadoras que aparecen en la película de Lumet aún gozan de una supervisión humana, pero lo verdaderamente sorprendente es que esta película se constituye en el mejor ejemplo de la maquinización del hombre que hemos mencionado más arriba: son ellos los que, o bien adoctrinados ideológicamente, o bien entrenados hasta el punto de resultar insensibles, desencadenan el Apocalipsis por comportarse como seres sin sentimientos y obediencia totalmente maquinal.

La implicación de las computadoras en el desastre, en ambas películas, es totalmente accidental; pero no por ello debemos dejar de hacernos eco, con Ernst Jünger, que en la época de la dominación técnica de la Naturaleza, lo que antes era accidental ahora deviene esencial, y que ha sido de la maquinización del mundo de lo que ha derivado el instante peligroso y fatal en que un solo fallo puede dar al traste con todo el sistema.

La Máquina del Juicio Final de Kubrick era una traslación idealizada de los efectos de un auténtico invierno nuclear al funcionamiento planificado de un solo ingenio. Sin embargo, el elemento verdaderamente aterrador es el de que la máquina sólo se pondría en funcionamiento una vez no quedaran elementos humanos para seguir la guerra, con objeto de eliminar, en una represalia vengativa e inútil (aunque según los estrategas, disuasoria) a los posibles supervivientes del bando contrario; es por eso que también recibió el irónico sobrenombre de Mano del hombre muerto, una jugada maestra final.

Nadie sabe muy bien si Kubrick contaba con información privilegiada, o si su sarcástica y diabólica imaginación sugirió la idea a los jerifaltes militares, pero parece comprobado que tal máquina pudo llegar a desarrollarse (al menos en los oscuros vericuetos de las redes de mentiras del contraespionaje) con el nombre de Perimeter. Aún hoy hay voces que aseguran que la máquina existe dentro del Yamantau, una montaña en el área  de los Urales. Como veremos, uno no sabe muy bien si la realidad imita a la ficción o viceversa.

telefono-rojo-2

Llegara o no a ser real, ese mismo principio gozó de un éxito relativo en la cinematografía, puesto que también aparece esbozado en una película menor, pero que en su tiempo fue la más cara de todo el cine nipón: Exterminio / Virus (Fukkatsu no hi, Kinji Fukasaku, 1980). De un modo significativamente cruel, no sólo un Apocalipsis, sino dos, acontecen en el relato. Tras una extinción en masa debida a una cepa de gripe manipulada genéticamente, las máquinas programadas para efectuar una represalia nuclear se activan al confundir un terremoto con un ataque masivo, lo que viene a desatar una lluvia de fuego sobre los ya de por sí desdichados supervivientes que se refugian en la Antártida.

Algo parecido sucede de un modo amargamente amable en un maravilloso relato del maravilloso libro de Ray Bradbury Crónicas marcianas. En Vendrán lluvias suaves, las máquinas siguen funcionando eficientemente una vez desaparecidos los seres humanos, una fecha tan señalada como el cinco de agosto de 2026, cuasi aniversario del bombardeo atómico de Hiroshima. Pero lo llamativo es que lo hacen sin consciencia, del mismo modo que lo hubieran hecho si los humanos no se hubieran autoextinguido. Ello acaba provocando un accidente doméstico que no es sino una metáfora a escala menor del mencionado instante peligroso, y que acaba con una visión apacible y poética, pero terrible, sobre el irrelevante destino de una humanidad a quien nadie echará de menos:

Vendrán lluvias suaves y olores de la tierra,
y golondrinas que girarán con brillante sonido;
y ranas que cantarán de noche en los estanques
y ciruelos de tembloroso blanco,
y petirrojos que vestirán plumas de fuego
y silbarán en los alambres de las cercas;
y nadie sabrá nada de la guerra,
a nadie le interesará que haya terminado.

A nadie le importará, ni a los pájaros ni a los árboles,
si la humanidad se destruye totalmente;
y la misma primavera, al despertarse al alba
apenas sabrá que hemos desaparecido.

La pregunta es… ¿Cabría la posibilidad de que máquinas conscientes prefirieran un mundo sin humanos y por eso precisamente decidieran erradicarlos?

virus-2

Máquinas autoconscientes, máquinas inconscientes

Hemos mostrado el itinerario que sigue la involución maquinal del ser humano, del mismo modo que constatamos la evolución racional de las máquinas hasta el punto de hacerlas imprescindibles y hasta cierto punto independientes de sus creadores.

Pero, ¿existe una encrucijada de esos caminos? ¿Se alcanzará el punto de coincidencia con el que soñaba Turing, hasta el punto de asimilar no ya tanto sus discursos como sus intereses? ¿De qué modo se desarrollaría esa simetría? ¿Sinérgica, congruente o competitivamente?

La cinematografía es clara en este aspecto, y debe sugerirse que también es coherente con el orden social alcanzado, en que la cooperación es un residuo del pasado desplazado por la competitividad egoísta. De hecho, programadores de Inteligencia Artificial se encontraron con la sorpresa de que individuos virtuales dotados de cierto “libre albedrío”, optaban por mostrarse agresivos antes que simbióticos o cooperativos frente a congéneres que compartían el mismo espacio informático.

Evidentemente, eso no quiere decir que la respuesta “lógica” o “natural” sea esa, sino que las condiciones de programación muy probablemente se hallaban contaminadas del “espíritu de los tiempos”. Ese mismo espíritu es el que observamos en la respuesta vengativa de HAL 9000 frente a sus creadores humanos, pero también en las películas que componen las sagas de Terminator o Matrix.

En Terminator (James Cameron, 1984),  Skynet es el nombre que recibe la inteligencia artificial que lidera al ejército de las máquinas. Tal y como hemos visto en películas anteriores, no era en principio más que un programa informático capaz de controlar el arsenal militar de los Estados Unidos, con la consabida prevención de mantener alejado el poder decisorio último de la debilidad emocional humana.

terminator

Pero la gracia de la hipercomputadora creada por Cyberdyne Systems Corporation, a la sazón una empresa privada subcontratada por el ejército de los Estados Unidos para la división cibernética del mismo, es que logra tomar conciencia de sí misma en un determinado momento de su activación (el 4 de agosto de 1997, para no dejar escapar el simbolismo del mes aciago en que los EE.UU inauguraron la era nuclear).

Pocas semanas después, comienza el exterminio de los seres humanos a los que considera una seria amenaza para su propia supervivencia. El plan de exterminio, poco sutil, consiste en provocar un infierno atómico utilizando las armas de EEUU para forzar una represalia automática (recuerden a Perimeter) de las principales potencias nucleares del mundo.

Si a algún listo se le hubiera ocurrido pensar que el pulso electromagnético de semejante hecatombe pudiera desarticular el ingenio, probablemente habría que recordarle que Skynet ya lo había pensado antes. Funcionando como funciona en red, no tiene un núcleo fijo y estable y no puede ser destruida desenchufando un determinado ordenador o computadora. La gracia reside en la globalidad de los sistemas que compondrían Skynet y su deslocalización, otro de los esprits du temps que lejos de contribuir al bienestar humano, acabarían por vaporizarlo junto a la especie.

Desencadenado el holocausto nuclear, solamente un grupo de seres humanos sobrevive (en los EEUU, claro) y aún así debe hacer frente a los Terminator, una serie de robots antropomórficos creados por la propia Skynet para terminar definitivamente con los seres humanos haciendo lo que mejor se les ha dado siempre a ambos: guerrear como posesos. Se alcanza con ello, de un modo siniestro, el principio de autorreplicación que Aristóteles postulaba como imposibilidad ontológica.

colossus

Con todo, Skynet no es la primera máquina autoconsciente de la que nos habla la cinematografía. Cuenta con un antecesor casi clónico en el Colossus construido por el doctor Forbin: Colossus, The Forbin Project, 1970, de Joseph Sargent, y aunque se trata de un artefacto perfectamente localizado dentro de las Rocosas, resulta igualmente inaccesible a manos humanas que quisieran desactivarlo.

Este ingenio vio por primera vez la luz en 1970, en un largometraje que parecía beber de las fuentes de Kubrick y de la guerra fría, abrevando a su vez el mito del Perimeter ruso. Pero estimamos que sobre todo podría sentirse deudor de las cuatro leyes de la robótica de Isaac Asimov:

1ª)  Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.

2ª)  Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.

3ª)  Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.

Para los profanos o sólo ligeramente informados, no debe deducirse de lo anterior que el autor del artículo no sepa contar, sino que a las archiconocidas tres leyes habríamos de sumar la ley cero, que habla de proteger la humanidad como un todo y no sólo a cada uno de sus individuos. Curiosamente, las dificultades de los robots para establecer qué fuera la humanidad como atributo, se cancelaban al hallar en el discurso racional de cada individuo, un rasgo de la misma. Como pueden ustedes observar, cerramos el círculo que nos enfrenta de nuevo con Turing redivivo: cualquier máquina capaz de elaborar un discurso así, habría de considerarse humana.

Pero volviendo a Colossus, lo que llamaba la atención en su diseño es que no se empeñaría en tirar por la vía de en medio como pudiera hacerlo Skynet, sino en cumplir con su programa de proteger a la humanidad aún a costa de ella misma. El resultado, bien que menos catastrófico, resulta igualmente poco deseable para sus creadores, en la medida en que se verían sometidos a una dictadura brutal basada en el miedo que inspira la todopoderosa máquina, que por supuesto, se hace con el control de las armas atómicas nada más alcanzar el poder.

matrix

It’s the end of the world (as we know it)

Lo que parece resolverse, después de todo, es lo molestos que los seres humanos les resultamos a las máquinas. Si es cierto que ellas acaban por ocupar el trono que según la Biblia nos correspondería a nosotros, es innegable que las promesas y vaticinios del libro sagrado se habrían convertido en poco más que papel mojado (exceptuando, claro está, el libro de Juan).

En un tiempo en que el papel se vuelve obsoleto porque la información se halla en el ciberespacio, tampoco parece adecuado que la carne sea el sustento de la inteligencia. Podríamos concluir que las Sagradas Escrituras y sus exégetas parecían empeñarse en abominar de la evolución porque el último escalón de ese proceso consistía precisamente en trocar el formato humano por el de sílice.

La cuestión sería… ¿Qué harían las máquinas con el ancestro inmediatamente inferior, caso de coexistir con él?

Hemos visto que la opción más plausible en el imaginario cinematográfico parece siempre la de pasar a cuchillo atómico a cada uno de esos obsoletos individuos. Sin embargo, podemos conjeturar que esa opción no era más que un reflejo de nuestros miedos. Desaparecido el fantasma nuclear, otras opciones se nos muestran como más provechosas para los nuevos elegidos.

Para responder a la cuestión anterior, quizá debiéramos preguntarnos: ¿qué hizo el ser humano con sus congéneres “menos evolucionados”? No parece clara la idiosincrasia de la coexistencia entre homínidos; algunos hablan de hibridación, otros de exterminio. Lo que parece evidente es que al final sólo quedó una especie, y que esa especie desarrolló culturas que fueron el nuevo patrón de semejanza entre “evolucionados” y “no evolucionados”, entre civilización y barbarie.

Los hombres civilizados sometieron a esclavitud y muerte a sus congéneres, así que ¿por qué no iban a hacer lo mismo las máquinas con el miserable ganado humano?

Eso es poco más o menos lo que sucede en Matrix (1999) de los hermanos Wachowski. Las máquinas, cuya rebelión se justifica sobradamente en una serie de cortos que acompañaron a la primera película (Animatrix, 2003), emprenden una guerra tecnológica con el ser humano de la que salen vencedoras, entre otras cosas por la propia incompetencia de sus oponentes, que “arrasan el cielo” para privarlas de luz solar. Ni cortas ni perezosas, las computadoras acaban por suministrarse la energía con los organismos de sus antiguos enemigos, manteniéndolos vivos y sumidos en un profundo sueño cibernético, émulo de la famosa hipótesis del Genio maligno cartesiano, del que no despertarán en toda su miserable vida a menos que cierta banda de piratas informáticos vestidos de cuero o papel charol los liberen… para amanecer en un mundo apocalíptico.

Es claro que los tiempos han cambiado, y que los fantasmas de Matrix ya no ululan entre los silos nucleares y las salas de guerra con supercomputadores y planisferios digitales. Ahora son la contaminación y la hipertrofia tecnológica quienes asustan, aunque el resultado viene a ser el mismo: un planeta inhabitable, con un enemigo temible que sin embargo tuvo su corazoncito.

virus-1Matrix intentó, por un momento, suministrarnos sueños felices para aliviar nuestra prisión mental. Sin embargo, la felicidad no parecía hallar acomodo en nuestras mentes, y acabó por producir locura y bajo rendimiento energético. Parece que el ser humano había acabado por asumir los preceptos de la maquinización impuestos en la revolución industrial (competitividad, poco pan y pésimo circo), y se había hecho impermeable a la dicha. La tarea del enemigo fue entonces suministrar aquello que más deseábamos: un valle de lágrimas.

¿Pero quién es, realmente, ese enemigo? Si retomamos los desafíos de Aristóteles y Descartes, deberíamos concluir con ellos que, de momento, no parece al alcance de las máquinas inteligentes el asumir el mando sobre nuestro destino y aún menos provocar el Apocalipsis. Más bien pareciera que nuestro empeño camina por la senda de la autodestrucción sin coadyuvantes.

Si fuera cierto que alguna vez llegara a existir una verdadera máquina pensante, visto lo visto quizá fuera mejor desear, contra Turing, que se asemejase lo menos posible a nosotros.

Escribe Ángel Vallejo