Blade Runner

   En 1950 el matemático y científico de la computación Alan Turing publicó un artículo en la revista Mind en el que se pregunta por primera si las máquinas pueden hacer lo que nosotros, como entidades pensantes que somos, hacemos. A Turing no le interesaba tanto reflexionar desde un punto de vista filosófico si las máquinas tenían la capacidad de pensar como determinar si podían tener un comportamiento indistinguible del de una entidad pensante. ¿Puede una máquina generar capacidades cognitivas capaces de engañar a una persona haciéndole creer que es humano? Este artículo fue la base para el posterior desarrollo del Test de Turing, en el cual un interrogador debe determinar frente a dos entidades cuál es humana y cuál la máquina.

   Aunque esta cuestión pueda parecer muy moderna, aparentemente nacida a partir del desarrollo de la inteligencia artificial y de tecnologías similares, lo cierto es que viene muy de lejos. De hecho, salvando las distancias, casi podría remontarse a los inicios de la humanidad, como defiende Adrienne Mayor en un artículo de Aeon. La cuestión de lo que significaba ser humano obsesionó tremendamente a los antiguos griegos. Muchos de los mitos clásicos poseen un claro mensaje existencial: la muerte es inevitable y si existe alguna posibilidad de dignidad humana, de libertad y de heroísmo es gracias a la mortalidad. El deseo de vencer a la muerte es tan antiguo como la conciencia humana, pero en el reino del mito la inmortalidad plantea dilemas tanto para hombres como para dioses.

   Son numerosos los mitos sobre valientes héroes que ponen al descubierto lo terrible de la inmortalidad, como el de Aquiles, que fue sumergido por su madre Tetis en las aguas del río Estigia para intentar hacerlo invulnerable y que acabó muriendo de la forma menos honorable para un guerrero, lejos del fragor del campo de batalla. O el de Titón, de una belleza deslumbrante, que fue convertido en inmortal a petición de la diosa Eos, que estaba enamorada de él. Sin embargo, a la diosa se le olvidó pedir también la juventud eterna, de modo que Titón fue haciéndose cada vez más viejo, encogido y arrugado, hasta que se convirtió en cigarra. Según se contaba, cuando le preguntaban a Titón qué deseaba, este contestaba: «Mori, mori, mori…». O el de la bruja Medea, que con sus artes mágicas cortó la garganta de Esón, puso su cadáver en una olla y lo hizo volver a la vida como un hombre joven; y que dijo a las hijas de Pelias que haría lo mismo por su padre, aunque después se negó a resucitarlo. ¿Acaso no recuerda este mito al experimento de clonación de la oveja Dolly que tuvo lugar en 1997? En la historia de Medea se percibe ese miedo arcaico que produce la repetición de la vida, ese desafío a que cada ser humano sea único e insustituible. ¿Acaso el debate derivado sobre la manipulación humana de la vida natural no sea el mismo? ¿Acaso el destino de Titón no nos hace cuestionarnos el deseo de prolongar la vida humana?

   Pero no solo mitos como el de Aquiles, el de Titón o el de Medea, y muchos otros como el de Dédalo, el del dios inventor Hefesto o el de Pandora, plantearon la cuestión básica de las fronteras entre el hombre y la máquina, sino que desde bien temprano el ser humano mostró interés hacia el desarrollo de la tecnología, su utilidad para el hombre y los límites hasta donde estaba permitido llegar. Desde que en el año 400 a.C., Arquitas, amigo de Platón, ideara un ave mecánica propulsada por vapor, muchos inventores elaboraron artefactos mecánicos, que hacían sonidos, abrían puertas, vertían vino o incluso se utilizaban en el campo de batalla. Los historiadores antiguos Polibio y Plutarco describieron un robot femenino diabólico, creado para Nabis, el último rey de Esparta, a imagen de su viciosa esposa Apega, indistinguible a simple vista de un ser humano. Detrás de todo este interés tecnológico existe, dice Adrienne Mayor, una búsqueda de la vida eterna.

   Es por eso que la preocupación de cómo distinguir a seres humanos de carne y hueso de máquinas idénticas a ellos ‒y decidir si representan una amenaza‒ es de todo menos moderno. La filosofía siempre se ha preguntado por la naturaleza del ser humano, por aquello que nos hace ser lo que somos, por nuestra esencia. La incógnita sobre la capacidad de las máquinas para pensar y distinguirlas de los seres humanos fue una cuestión que interesó particularmente a los filósofos de la Ilustración.

René Descartes y John Locke

   René Descartes, que reflexionó mucho sobre la cuestión de aquello que nos hace humanos, escribió: «Si hubiese máquinas que tuvieran la forma del ser humano y fueran capaces de imitar nuestras acciones en la medida en que sea moralmente posible, seguirían existiendo dos pruebas muy fiables para saber que no son realmente hombres». De alguna manera Descartes llegó a sospechar que tal vez que algún día podría existir la necesidad de distinguir a un ser humano de una máquina e ideó una prueba que puede considerarse como uno de los antecedentes más tempranos del Test de Turing. Esas dos pruebas a las que alude el autor del Discurso del método son la capacidad lingüística y en la flexibilidad de su conducta. Para el filósofo no es posible que un autómata produzca una respuesta lingüística y un comportamiento acordes a un ser humano. Desde el siglo XVII, el nombre de Descartes resuena como en ecos en la obra de Philip K. Dick y, por consiguiente, en Blade Runner. Algunos guiños lo demuestran, como que uno de los replicantes recurra al célebre «pienso, luego existo» o la evidente similitud entre los nombres de Descartes y de Deckard.

Rachael

   Sin embargo, los replicantes de Dick hablan y se comportan igual que los humanos, por lo que las pruebas de Descartes quedarían invalidadas en ese escenario. Pero si recurrimos a John Locke la cuestión se complica más todavía. Para el filósofo inglés es la continuidad de los recuerdos lo que da sentido de sí mismo a una persona. El cuerpo puede cambiar con el tiempo pero los recuerdos se mantienen, ofreciendo una base para establecer una identidad estable. Ahora bien, los replicantes tienen recuerdos. Sí, tal vez sea recuerdos implantados, falsos, pero son recuerdos al fin y al cabo. Para Rachael, el replicante más avanzado, sus recuerdos son reales. Tal vez tenga solo unos años, pero sus recuerdos le dan la certeza de haber vivido mucho más tiempo. Incluso cuando descubren que no son verdaderamente suyos, siguen sintiéndolos auténticos. Ese es el drama de los replicantes: descubrir que sus recuerdos no les pertenecen, que son una copia y no un original.

Boceto del dispositivo empleado en el test Voight-Kampff

   Pero no es el manejo del lenguaje, el comportamiento o los recuerdos lo que hacen que permiten distinguir a un replicante de un ser humano. Lo más importante de todo según el test Voight-Kampff, ideado por Dick, es la empatía, una emoción exclusivamente humana. Es evidente el paralelismo entre este test y el de Turing, pero aunque Dick conocía y admiraba la obra de Turing, no estaba de acuerdo con el énfasis que este hacía de la inteligencia y en lo olvidaba que quedaba la empatía en su test. Al idear el test Voight-Kampff es probable que Dick tuviera más en mente el experimento de asociación de palabras del psiquiatra Carl Gustav Jung, que como el escritor declaró le influyó enormemente. Otro antecedente sería el filósofo alemán Theodor Lipps, que defendió el poder de la empatía para percibir lo que sienten otros sienten y explicar por qué actuamos como lo hacemos.

   El test Voight-Kampff se muestra útil para desenmascarar a Leon, pero no lo es tanto en el caso de Rachael, una replicante experimental, la más avanzada del mundo, con recuerdos implantados que le permiten tener una base emocional, en la línea de Locke. Cuando Rachael descubre que sus recuerdos son artificiales se echa a llorar, y además parece capaz de sentir compasión, al salvarle la vida a Deckard, y de enamorarse de él. Como también parece tener emociones Roy Batty, que se siente frustrado y resentido hacia los humanos al descubrir que ha sido construido con una vida programada de cuatro años. Por otra parte, la existencia de seres humanos sin empatía ni ninguna otra emoción humana, los sociópatas, demuestra que el test Voight-Kampff es insuficiente.

Roy Batty

   Así que, si los replicantes son capaces de tener recuerdos y emociones, ¿se les puede considerar humanos? Acaso responder a esta pregunta no sea tan importante como decidir si, con independencia de lo que consideremos que sean, merecen la misma protección que los humanos. ¿Debería tener algo que no es humano los mismos derechos legales que un ser humano? En la obra de Dick es evidente que no. Los replicantes son una amenaza para los humanos y no tienen ningún tipo de derecho ni protección legal. Para mantener el abismo entre ambos seres se sustituye la palabra «matar» por el eufemismo «retirar», dejando claro que son máquinas.

   Con los avances que se están haciendo en Inteligencia Artificial, es probable que una entidad como Rachael esté a la vuelta de la esquina. En un artículo Susan Schneider, profesora de filosofía en la Universidad de Connecticut y miembro de la Comisión de Ética y Tecnología en Yale, propone volver al punto de partida de Turing para superarlo intentando dilucidar la capacidad de pensar de las máquinas. Para ello desarrolló, junto con el astrofísico Edwin Turner, la Prueba de Conciencia de Inteligencia Artificial, que permite descubrir si un ser mecánico es consciente. Al igual que test de Voight-Kampff, utiliza una serie de preguntas, pero en lugar de analizar la presencia de empatía trata de observar si existe una conciencia de individuo. Al fin y al cabo, el test de Turing solo evalúa la verosimilitud entre la respuesta de una máquina y la de un humano, pero no pretende entender qué ocurre dentro de la máquina, si es sensible o no.

Deckard retirando

   Trabajos como el de Susan Schneider son ahora más necesarios que nunca, porque a día de hoy la humanidad no parece estar éticamente preparada para lidiar con las repercusiones de crear vida consciente, algo que va a terminar ocurriendo casi de forma inevitable. «Si algún día creamos robots con capacidades cognitivas y emocionales similares a las humanas, les debemos una consideración más moral de la que normalmente deberíamos a seres humanos similares» escribe Eric Schwitzgebel, profesor de filosofía en la Universidad de California, en Aeon. Y continúa: «Hemos sido sus creadores y diseñadores. Por eso somos directamente responsables tanto de su existencia como de su estado de ánimo, feliz o infeliz».

Comentarios

comentarios