Eder. Óleo de Irene Gracia
Vicente Luis Mora
La máquina aritmética produce efectos que se acercan más al pensamiento que todo lo que hacen los animales; pero no consigue nada que pueda decirse que tiene voluntad como los animales.
Blaise Pascal, Pensamientos (1662), nº 741
[1. No pensamiento, sino cálculo]
Es curioso cómo podía acertar tanto el prospectivista estadounidense John Naisbitt, que declaró hace ya mucho tiempo que "los progresos más excitantes del siglo XXI no se producirán a causa de la tecnología, sino de un concepto expansivo de lo que significa ser humano". La interacción máquina-hombre alcanza un estatus preocupante cuando el propósito tecnológico es la humanización de la máquina, dotándola de pensamiento similar al humano. Terreno en el que todas las noticias son de constantes grandísimos avances desde los años setenta, sin que hasta el momento -por fortuna- hayamos tenido pruebas definitivas (o noticias de ellas). Una de las razones de esa lentitud en el logro de la IA, como generalmente se conoce a la Inteligencia Artificial, puede ser el intento continuado de aplicar a las máquinas patrones humanos de conducta, en vez de buscar una inteligencia "maquinal" per se: "Los investigadores intentan entender cómo opera la mente humana, cómo llega a tomar decisiones a base de una información parcial o deshilachada, y cómo se combinan la intuición y la razón. Esta labor ya ha dado sus resultados en importantes aplicaciones, como los ‘sistemas expertos’ (máquinas que almacenan y manipulan conocimientos imitando a expertos humanos) y modelos de reconocimiento"[1], decían Hazen y Trefil. Mientras permanezcamos dentro del terreno de las aplicaciones podemos estar tranquilos. Los mismos autores sostenían que esa inteligencia no puede aún sobrepasar el cálculo superior que permite la estructura de la máquina, lo que hizo posible aquel terrible triunfo parcial de la computadora Deep blue sobre un perplejo Gary Kasparov. Pero, a pesar de que algún profesor de Cambrigde relacionó el cálculo de un modo íntimo con el análisis (véase La barbarie de la ignorancia, de George Steiner) y aun conociendo los propósitos de Leibniz de hacer una máquina lógica basada en otra de calcular, el físico Penrose nos ha tranquilizado al respecto, aseverando que cualquier relación entre el pensamiento y el cálculo no responde al concepto actual de este último; aunque no lo descarta si es a través de la matemática de conjuntos o de alguna aplicación anumérica. En cuanto ambas, apunta Penrose, no han llegado aún al desarrollo necesario, su aplicación a los ordenadores es impracticable a larguísimo plazo. Ni siquiera la larvaria "lógica borrosa" puede, en su escala de grises, producir colores por sí misma. De hecho, John R. Searle prefiere emplear la terminología "conocimiento simulado", por no ser el de la IA un conocimiento equiparable al humano.
[2. Deep Blue y el Test de Turing]
Ninguna máquina ha superado el llamado test de Turing, el célebre examen creado por Alan Turing para diferenciar las máquinas de las personas; muy discutido por Searle, está en la base de la película Blade runner, de Ridley Scott, entre otras ficciones. John L. Casti, sin embargo, sí consideraba en El quinteto de Cambrigde que la victoria parcial de Deep blue y el reconocimiento por parte de Kasparov de una "inteligencia extraña" en la máquina, puede llevarnos a la conclusión de que el superordenador llegó a pasar, de alguna manera, el test de Turing[2]. En contra de esta opinión se manifiestó Mario Bunge, quien desconcertó al matemático Stanislaw Ulam, defensor de la capacidad reflexiva de los ordenadores, al preguntarle si éstos podrían crear un problema nuevo. La resignada respuesta de Ulam fue, por supuesto, "no". El mismo Bunge escribe con acuidad que "una cosa es el juego de ajedrez, otra la lucha por la vida"[3]. De momento, "un ordenador jamás habría prescrito cortar de un certero golpe el Nudo Gordiano"[4], como sintetiza el filósofo Félix Duque; o, lo que es lo mismo, las máquinas carecen de intuición. Otro problema de la IA es que es incapaz de reproducir el "darwinismo nervioso" y la competición entre subrutinas cerebrales explicados por David Eagleman[5].
Isaac Assimov solía decir que en tanto no sepamos -y no sabemos del todo, aunque cada vez sepamos más- cómo funcionan la memoria, la inteligencia o la imaginación, cualquier intento de traspasarla a otro ser es inviable, porque el ordenador depende de nuestra programación[6]. Además, aquí no hablamos de lo que Norbert Wiener, el fundador de la cibernética, llama una "desviación significativa", por la cual el programador de un ordenador de ajedrez comprobase que el ordenador se le parece, con lo cual habría que hablar de desviación "evolutiva"[7]. Hay dificultades añadidas para lograr una IA operativa, expresadas claramente por J. G. Ganascia en su libro La inteligencia artificial: se requiere lógica para construir máquinas inteligentes, "ahora bien, la lógica no podría comprenderse sin el estudio de los filósofos que se han interesado en las nociones de sentido, verdad y referencia". Es decir, que la dotación de inteligencia conllevaría una larguísima serie de consideraciones previas: habría que dotar a la máquina de un sentido moral, lo que llevaría aún más tiempo que dotarla de lógica. Hacer de un pedazo de materia algo inteligente que supiera utilizar su potencia racional requeriría de toda una vida, como sucede para los humanos. Y luego está el problema, detectado por Gödel, de que Turing no tuvo en cuenta el problema de la plasticidad neuronal a la hora de sus consideraciones sobre la máquina pensante, como recuerda Javier Fresán: "en el transcurso de una demostración, los sistemas formales no sufren modificaciones, ni tampoco las máquinas durante un cálculo, pero nada permite asegurar que la mente, que está viva, no cambie al hacer razonamientos. Por tanto, jamás podrá ser reemplazada por un ordenador" (Javier Fresán, El sueño de la razón. La lógica matemática y sus paradojas; RBA, Barcelona, 2011, p. 133). A pesar de ello, no faltan optimistas: "No es inconcebible que se puedan crear máquinas más potentes que el cerebro humano. Se dice que los ordenadores no tienen alma, pero, ¿cómo saberlo?" (Jerome Wiesner). Bien, de momento, y en el caso de que tengan espíritu las máquinas, al menos todavía no les ha dado por unirse en una congregación fanática. Además, el hecho en sí peligroso no es que una máquina fuera inteligente; el problema vendría – un supuesto todavía mucho más difícil- si una de esas máquinas llegara a tener lo que el biólogo Richard Dawkins entiende como presupuesto para la existencia de vida: la posibilidad de autoduplicación; esto es, que la máquina encontrara en sí su "código genético" y pudiera insertarlo en otra[8].
Enric Trillas ha entendido que la autoduplicación no es necesaria y que bastaría con la "autoprogramación", de forma que un sistema complejo decida no crear otro, sino volverse más complejo para sobrevivir, tal y como hace la burocracia[9]. No creamos que no se han producido avances serios al respecto. En el libro de Sherry Turkle La vida en la pantalla, escondido en una nota al pie en la página 378, puede hallarse el terrible y a la vez asombroso experimento de von Neumann, por el cual este prestigioso matemático consiguió un programa autorreplicante, en el que las reglas de "evolución" de la máquina tenían las mismas capacidades de supervivencia y adaptación que los seres biológicos. Los ingenieros Chou y Reggia diseñaron autómatas celulares[10], y un equipo de la NASA en 1980 pensó en implantar en la Luna una factoría autorreplicante; el físico Tipler advirtió que no era buena idea, pues acabaría colonizando la galaxia entera. Ese sería el modo en que se harían realidad las tesis de rebelión anticipadas en R.U.R. (1920), de Karel Capek, y el momento de ir pensando en mudarse a Marte. Steven Spielberg destrozó en su película A.I. (2001) un precioso proyecto de Kubrick, que en sus líneas originales imaginaba unos robots del futuro que intentan reconstruir la educación sentimental del ser humano para utilizarlo como superjuguete, en la línea de la novela adaptada de Aldiss. Pero esto ya es ciencia ficción.
[3. Iris]
El narrador Edmundo Paz Soldán acaba de publicar la novela Iris (Alfaguara, 2014), en la que desarrolla alguno de estos aspectos, pero desde una perspectiva futurista en la que los problemas técnicos ya están superados; es decir, la cuestión no reside en la posibilidad de crear la IA, sino simplemente cómo usarla y con qué límites. Este tema, amén del propio Paz Soldán en El delirio de Turing (2003), también había sido abordado en la narrativa hispanoamericana por Enrique Prochazka (Test de Turing, 2005) y Mike Wilson (El púgil, 2008), entre otros. El relato de Prochazka está protagonizado por Gottfried, un prototipo que es capaz de defender filosóficamente su identidad individual[11], de la misma forma en que lo hace, a lo largo de toda la novela, el narrador de Génesis (2006), de Bernard Beckett. En esta novela, según vimos en La literatura egódica, uno de los androides protagonistas llega a decir: "cuando entré por la puerta a la mañana siguiente, era totalmente nuevo. Ni un solo cable, ni un solo circuito eran los mismos. (…) El otro yo está temporalmente desconectado. Espero que algún día no muy lejano me ofrezcan la oportunidad de conocerme a mí mismo"[12]. También citábamos allí como ejemplos similares Memorias de un hombre de madera, 2009 y Flores para un cyborg (1997), de Diego Muñoz Valenzuela.
En Iris, como decimos, el problema principal está solucionado en parte, y hay tres clases claras de ciudadanos: los normales, los "chitas" (androides mecánicos no antropomorfos, para no ser confundidos con los otros) y los artificiales. Aquí es precisamente donde la novela, una distopía geopolítica, ahonda en el tema de la artificialidad y lo humano. Hay artificiales de dos tipos: algunos son seres de construcción biónica, y otros son seres humanos con un alto porcentaje de elementos no naturales, consecuencia del reemplazo de órganos heridos por otros nuevos; de hecho, si un humano es reconstruido en más de un 60% pasa a ser considerado artificial (p. 109). El más importante de los artificiales en la novela es Reynolds, uno de los jefes militares al mando de la colonización de la empresa SaintRei sobre la isla Iris. Hablando sobre Reynolds, dice el narrador: "hubo un tiempo en que los artificiales no podían demostrar emociones. Ni pensar por su cuenta, decidir, hacer distinciones morales. Ahora todo eso estaba programado de forma tan sofisticada que no había modo de distinguirlos de los humanos. Si los resultados eran los mismos, no importaba. Su cerebro no estaba construido como el de los robots; pese a los rumores, no eran máquinas lógicas en las que incluso demostrar emociones apuntara a un fin. (…) Su cerebro replicaba los complejos procesos cognitivos del de los seres humanos" (pp. 59-60). La cuestión se complica porque tanto los humanos como los artificiales pueden ser además "reprogramados" mediante el borrado de su memoria y, en consecuencia, hay personajes que no tienen claro si son humanos, artificiales o una mezcla de ambos:
"Y cómo se siente ser humano, contestó Reynolds.
Confuso, dijo Goçalves.
Lo mismo pa los artificales, dijo Reynolds. Mas no soy uno dellos, no sé de dó han sacado ese rumor.
Su capacidad p’abstraer, dijo Goçalves. P’actuar como si los irisinos fueran animales" (p. 128).
En uno de los relatos de Las visiones (2016), titulado "Artificial", asistimos al drama familiar cuando una madre soldado debe enfrentarse al examen para ser declarada artificial o no. Los médicos recuerdan a la familia las ventajas de serlo, pero uno de los hijos espeta a los médicos: "Una cosa son los artificiales nacidos así, dijio mi hermano, y otra los humanos reclasificados en artificiales. No se trata de mejor o peor sino de ser lo que uno ha sido siempre" (E. Paz Soldán, Las visiones; Páginas de Espuma, Madrid, 2016, p. 91). Después de las operaciones, el hijo que cuenta la historia en primera persona se reconoce incapaz de abrazarla (p. 96), explicitando de esta forma que ya no es su madre, sino una carcasa de vida con algo de memoria.
La trama nos recuerda a algunas películas (Blade runner, Stalker, Surrogates, Full Metal Jacket, Strange Days, Repo Men -p. 122-) y a algunos libros; amén de los que ha citado en diversas entrevistas el propio Paz Soldán (La invención de Morel, de Bioy Casares; La chica mecánica, de Paolo Bacigalupi, o Horacio Kalibang y los autómatas, de Federico Holmberg), la novela tiene puntos de contacto con Limbo (1952) de Bernard Wolfe, con la que comparte la construcción de una geopolítica basada en la guerra fría (sustituyendo la tensión EEUU/URSS por la actual EEUU/China), así como la identidad humana completada por prótesis artificiales robóticas, que mejoran los cuerpos amputados en las batallas. Aunque en Limbo lo artificial no afectaba a la inteligencia, sino sólo al poder físico del cuerpo, en Iris la IA tiene un papel clave y ha llegado a donde temían Tipler y otros científicos: a superar al ser humano (p. 341). De hecho, "los artificiales habían ido ascendiendo en los puestos jerárquicos de SaintRei y sabían defenderse con argumentos: precisamente, les sobraba inteligencia. Se los valoraba tanto que sus jefes solían mantenerlos dentro del área protegida del perímetro. Incluso varios de esos jefes eran artificiales. Los rumores decían que el Supremo era un artificial" (pp. 166-67). Como en 1984, de Orwell, el líder espiritual y supremo podría no ser un hombre, sino una representación.
[4. El entorno inteligente]
De momento estamos lejos de ese escenario ciencia-ficcional de Paz Soldán. La Inteligencia Artificial, a día de hoy, está bastante estancada, como explica el citado Eagleman, por la sencilla razón de que "la inteligencia ha resultado ser un problema tremendamente complicado. La naturaleza ha tenido la oportunidad de llevar a cabo billones de experimentos a lo largo de miles de millones de años" (p. 179), y nosotros apenas llevamos unas décadas ensayando. Lo que no parece descartable, e incluso puede tener cierta utilidad, es una perspectiva a la que sí puede llegarse a través de las profusas investigaciones que en la actualidad -y sobre todo con fines militares- se llevan a este respecto: el avance humano gracias a la utilización racional de las aplicaciones de IA, como en programas de traducción instantánea, trabajo que, como sabemos, puede provocar desmayos en personas expertas si se alarga demasiado tiempo. En este sentido, si se piensa en la creación de entornos en los que la IA tiene un papel secundario, podrían hallarse, colateralmente, aplicaciones utilísimas para otras ramas de la ciencia y la vida.
Desde la aparición de Internet venimos oyendo pronósticos sobre su conversión futura en algo parecido a una red inteligente, y la alarma surgió de nuevo con el famoso documental "Google y el cerebro mundial", acerca de Google y su proyecto de escaneado de libros como alimento para una IA de incalculables proporciones. Tampoco faltan quienes creen que "el ciberespacio y las redes electrónicas no empezarán a crear formas completas y sistemas ecológicos viables hasta que se hallen también habitados por parásitos" (Hobijn y Broeckmann[13]). Pero quien tenga algún miedo acerca de la posibilidad de que sean creadas máquinas inteligentes, debe reflexionar sobre esto: en principio, y que se sepa, el ser humano es el ente más adecuado para tener inteligencia en el cosmos. Reparen en lo difícil que es que a algunas personas les sea inculcada o desarrollen la inteligencia. Piensen en el insalvable divorcio que parece existir entre la inteligencia y cierta clase política -no toda, pero alguna-. Piensen en la programación televisiva. Si cuesta hacer inteligente a un humano que no lo es, con un cerebro perfectamente dotado para funcionar en ese sentido, ¿cómo va a lograrse con una máquina? Por otra parte, no sé hasta qué punto una inteligencia que depende de que no se corte el suministro eléctrico puede ser una verdadera inteligencia. Todos los datos nos llevan a pensar que no sólo no se logrará un modelo efectivo de inteligencia artificial, sino que el auténtico problema será mantener la poca inteligencia humana que nos queda.
[1] Robert Hazen y James Trefil, Temas científicos; RBA, Barcelona, 1993.
[2] J.L. Casti; El quinteto de Cambrigde; Taurus, Madrid, 1998, p. 225.
[3] M. Bunge, Mente y sociedad. Ensayos irritantes; Alianza, Madrid, 1989. p. 43.
[4] F. Duque, Filosofía para el fin de los tiempos; Akal, Barcelona, 2000, p. 34.
[5] David Eagleman, Incógnito. Las vidas secretas del cerebro; Anagrama, Barcelona, 2013, p. 293.
[6] I. Assimov, "¿Debemos temer al ordenador?", revista MicroDiscovery, diciembre 1983.
[7] N. Wiener, God and Golem, Inc.; citado por Sherry Turkle, La vida en la pantalla; Paidós, Barcelona, 1997, p. 191.
[8] R. Dawkins, El relojero ciego; Labor, Barcelona, 1988, pp. 258 y ss.
[9] E. Trillas, "La IA y su entorno conceptual", en Pedro García Barreno (ed.), La ciencia en tus manos; Espasa, Madrid, 2000, p. 676.
[10] Cf. revista Investigación y ciencia, octubre de 2001.
[11] E. Prochazka, Cuarenta sílabas, catorce palabras; 451 Editores, Madrid, 2008, p. 37
[12] B. Beckett, Génesis; Salamandra, Barcelona, 2009, p. 107, traducción de Gemma Rovira Ortega.
[13] Erik Hobijn y Andreas Broeckmann, "El virus necesario", Lateral, septiembre 1997.
