Blogs de autor

Como ocurre tantas veces, para entender el verdadero alcance de todos los logros relativos a artefactos que parecen mostrar alguna modalidad de inteligencia, conviene insertarlos en lo que podemos considerar el punto de arranque, el ambicioso proyecto del filósofo y matemático británico Alan Turing.

Si hacemos abstracción de consideraciones hipotéticas que se daban ya entre los griegos, el origen del asunto  test fue un juego mundano llamado "Imitation Game", que dio lugar al llamado Test de Turing, que este presentaba de esta manera:

"En el juego intervienen tres personas, un hombre (A), una mujer (B), y un interrogador (C), que puede ser de uno u otro sexo.  El interrogador se queda en una habitación separada de las otras dos. El objetivo del juego es determinar cuál es el hombre y cuál la mujer. Él los designa por las etiquetas X e Y, y al final del juego, debe decir  X es A, Y es  B, o bien  Y es A, X es B. Al interrogador se le permite formular preguntas a A y B del tipo: "X, por favor, ¿cuál  es la longitud de su pelo?".

Posteriormente Turing propuso reproducir el Imitation Game de otro modo:

 “Hagámonos la pregunta, ¿qué ocurriría si una máquina hiciese la parte de A en este juego? ¿El interrogador podría llegar a dar respuestas erróneas tan a menudo como cuando jugábamos con un hombre y una mujer? Estas interrogaciones sustituyen al original "¿pueden las máquinas pensar?"

Turing tenía en mente que con el tiempo podrían programarse ordenadores susceptibles de adquirir potencialidades que rivalizasen con la inteligencia humana. En cuanto al test en sí, argumentó que si el interlocutor era incapaz de distinguir entre la máquina y la persona a través del interrogatorio, la computadora debía ser considerada inteligente, “puesto que ésta es la forma en que juzgamos el pensamiento de otra persona”.

Creo que la última frase es un punto controvertido del asunto, porque  no es seguro que juzguemos la inteligencia de las personas de este modo. Más bien,  cuando nos encontramos con una persona, ya suponemos que es inteligente (puesto que ser inteligente forma parte de la definición de persona), y cuando eventualmente le formulamos alguna pregunta, entonces, en función de la respuesta, concluiremos que esa persona es lista o estúpida… por supuesto, todo ello dentro de la inteligencia, que es una facultad general, no una característica de alguien en particular. La inteligencia como la condición de ser moral es un punto de partida tratándose de los humanos.

Si  ante alguna pregunta  relativa a crímenes del periodo franquista  alguien responde que aquel régimen  estaba muy bien porque daba orden y seguridad a los ciudadanos, concluiremos que es un canalla… precisamente porque le atribuimos una condición moral,  como una de las modalidades de la inteligencia  humana, pues a nadie en su sano juicio se le ocurre tildar de canalla a un perro. En cualquier caso, en el texto de Turing se incluyen  no sólo las bases de lo que sería las tentativas y logros posteriores (sugerencias para alcanzar  la  Inteligencia Artificial en un modelo de máquina basado en teorías matemáticas), sino también las objeciones a sus propias conjeturas y las respuestas a las mismas.

Algunas de las observaciones de Turing apuntan ya  a la idea de una super-inteligencia: si una máquina llegase a superar el test, podría sobrepasar a los humanos en cuanto a capacidades, excediendo lo que éstos puedan realizar. Obviamente, el primer problema es determinar si las máquinas serían capaces de superar la prueba. El mismo Turing fue extraordinariamente optimista. Creía que antes del año 2000, máquinas con una potencia de 19⁹ bits de memoria podrían confundir a los seres humanos, por lo menos durante los primeros cinco minutos de la prueba.

Turing era plenamente consciente de que su conjetura entraba en completa contradicción con las hipótesis de la singularidad de los seres humanos, y se refirió a sí mismo como un hereje. Pero de hecho, estamos en 2022 y ninguna máquina ha logrado superar la prueba de Turing. Y en todos los casos de relativo éxito hay alguna norma (introducida por el propio Turing) que no se ha respetado.

Hay un famoso programa llamado  ELIZA inventado en 1966 en  el MIT por Joseph Weizenbaum y considerado como una avanzadilla de los actuales “chatbot”, bots conversacionales. ELIZA  consiguió muy pronto  hacer creer a sus “interlocutores” (las comillas vienen porque el polo ELIZA, precisamente no es seguro que  sea un interlocutor) que estaban hablando con una persona. En las  primeras versiones (ahora el asunto ya está corregido) la persona que conecta con ELIZA no tiene ningún motivo para conjeturar que su partenaire  es una máquina. Ahora bien, esencial en el test de Turing es precisamente que el interrogador trata de determinar  si la máquina ha de ser considerada o no inteligente. Pero lo que quiero señalar sobre ELIZA es lo siguiente:

En su concepción había  la intención explícita de mostrar cómo podemos fácilmente ser llamados a engaño creyendo que se nos está verdaderamente dirigiendo la palabra cuando en realidad se está hablando mecánicamente usando ciertos trucos. Esto ocurre a menudo cuando el cruce de palabras entre humanos no es verídico, o sea no constituye realmente un cruce de palabras. Supongamos que cada vez que oye la palabra  tristeza, un psiquiatra falaz, sea cual sea el paciente,  pregunta  si ha habido algún problema con la pareja o algún roce en el trabajo. Mientras hace esta falsa pregunta, el psiquiatra en cuestión puede perfectamente estar ausente, tener la mente en otro lado, o sea no constituye realmente un interlocutor.  Pues bien, algo análogo es lo que hacía ELIZA, obviamente en relación a múltiples palabras. Ni entendía nada de lo que se le preguntaba, ni tal entender estaba realmente en juego;  se limitaba a poner un orden por contigüidad (sintaxis) siguiendo las instrucciones de un programa. Pero quien preguntaba podía perfectamente sacar la impresión de que sí había efectivamente  captado algo.

Desde ELIZA hasta acá, los chatbots han conseguido que del intercambio escrito se pase al intercambio auditivo, a multiplicar el número y la complejidad de las  frases a las que pueden responder, disminuyendo  el lapso entre mensaje enviado y respuesta, etcétera… pero en lo esencial nada ha cambiado. Sin duda en la literatura (y sobre todo en la propagandística) se hace ya diferencia entre bots digamos elementales y bots que parecen realmente inteligentes, que son susceptibles de determinar cosas como  la intención de la persona.  Pero la pregunta sigue siéndola misma: ¿se ha ido más allá de la respuesta automática y de la inferencia a partir de casos?

El problema es que aquella intención crítica de los que pusieron en marcha ELIZA, aquella denuncia de la mera apariencia de palabra de la que en tantas ocasiones somos víctimas los humanos, ha quedado hace tiempo atrás,  y hoy la intención (por ejemplo de los gestores de los servidores, esos que Javier Echeverría designó como Señores del Aire) es más bien que tomemos el mensaje de los chatbots como  si procediera de un verdadero ser lingüístico, o más bien:  que nos dé igual si se trata o no de mensaje con soporte en el lenguaje, que sólo nos interese su utilidad para ciertas exigencias. Volveré sobre este asunto que realmente es la cuestión nuclear de esta reflexión.

En el conjunto bastante nutrido de exegetas, casi hermeneutas, de mi obra, se instala desde hace bastantes años la figura singular de alguien a quien en el ambiente llaman ‘pájaro’ pero que debieran llamar ‘sarrio’, ese nombre altoaragonés no romance que se aplica al rebeco, criatura enriscada y de talante irreductible. Mas en la actualidad Sarrio ha dejado de ser receptor de los documentos que hablan de mí; reseñas, críticas, entrevistas, no se las acerco, temo su desplante, su respuesta agria ante trabajos que desprecia por considerar inferiores al dictado de su pluma, pero hoy he roto esa costumbre y le he hecho llegar un artículo.

Arte y Transformación es un libro, firmado por Jesús Martínez Clarà que, tal como se apunta en la solapa, constituye ‘una mirada a la transición entre siglos, desde 1980 hasta el presente’, de hecho certifica el balance, la exhaustiva historia de los conceptos que han sustentado el arte contemporáneo durante ese periodo de tiempo; un volumen de quinientas páginas, algunas de las cuales el autor me dedica. Y seis de esas páginas dedicadas conforman un artículo, “Ojo avizor”, que da una visión certera de mi obra, contemplando, como un todo, poesía, novela, relato, Arte Casual y el resto de manifestaciones artísticas que también cultivo, un artículo que he enviado a Sarrio, venciendo el temor a ser fulminado por su voz desapacible. Y he acertado. La gran bestia de las montañas pirenaicas ha descendido al llano y a través de un correo, quizá electrónico, ha dado su veredicto, lacónico, pero enormemente gratificante, ha escrito: ¡Genial!

Hay una frase que vincula íntimamente el mundo de la inteligencia con el del glamur. Los redactores de la web del CNI titulan así su oferta laboral: “Más que un trabajo, un estilo de vida”. No dicen ni modo ni forma. Tras varios vistos buenos, supongo, optaron por estilo, que sigue sonando increíblemente bien a pesar del uso banal de la palabra que figura en el rótulo de los puestos de manicura, en la espuma para el cabello o en los anuncios inmobiliarios. Pero es efectiva, promete un mundo.

El caso es que, si te motiva el futuro de España y te atrae el servicio público, puedes animarte a probar fortuna en el CNI. Por su parte, piden lealtad, discreción y espíritu de sacrificio, y, a cambio, una esperaría que le ofrecieran viajes y acción; sin embargo, lo máximo que garantizan es estar en “primera línea de la seguridad nacional”. Con un título universitario y la nacionalidad española se puede aspirar a una de las profesiones con mayor aura cinematográfica. Pienso en la atracción fatal que sienten muchos adolescentes por la criminología, aunque se les acabe pasando, como el color rosa y los cromos de Pokémon.

De los espías de opereta decimonónicos a los actuales sistemas de inteligencia artificial ha pasado algo más de un siglo, pero la tecnología ha abierto una realidad que no solo cambia radicalmente el desempeño del oficio, sino que nos obliga a repensar el concepto de intimidad. Hoy, los agentes se dedican sobre todo a acceder a la información que suministramos en perfiles y cuentas en redes, filtrarla e interpretarla según sus intereses. Cuántas veces nos ha sorprendido la precisión del algoritmo en su intrusión en nuestros propios móviles. Y eso que no están –creemos– infectados con Pegasus.

Vivimos inmersos en un capitalismo de la vigilancia que monitoriza nuestras vidas y sabe a quién llamamos, o enviamos un mensaje, y qué le decimos, qué compramos, cuánto dormimos, los pasos que damos al día y las calorías que ingerimos. El filósofo Éric Sadin anuncia en La era del individuo tirano, el fin de un mundo común, describiendo a un ser hiperconectado y, al tiempo, desvinculado de lo colectivo. Imbuido de esa falsa sensación de poder que proporciona el tecnoliberalismo, que nos hace sentir autosuficientes a cambio de robarnos el alma. Como escribió el gran Le Carré, espía reconvertido en novelista de éxito, “el espionaje tiene una sola ley moral: se justifica por los resultados”. Y, si no, que se lo pregunten a la ya exjefa de los espías, Paz Esteban.

De siempre. De siempre individuos no necesariamente facinerosos se dirigen hacia mí para agredirme. No soy capaz de recordar con precisión desde cuándo me sucede, pero diría que desde hace mucho tiempo, quizá desde que mi complexión enclenque y mi mirada estúpida resultan patentes, obvias incluso para los menos observadores. Esta mañana, me encontraba, solo, en la terraza de la cafetería Onagro, cuando me he percatado de que cuatro personas, siguiendo los cuatro puntos cardinales, se dirigían raudas y resueltas hacia mí. He pensado, se vuelve a repetir, de nuevo vienen a agredirme, mi aspecto exacerba los ánimos de la gente, y he hecho un esfuerzo por recordar en qué derivan estos episodios, si realmente caigo molido a palos o los presuntos agresores pasan de largo... y a otra cosa mariposa. Mas no he conseguido recordar, mi figura lamentable se acompaña de un desgaste intelectual alarmante, carezco ya casi totalmente de memoria y, tampoco, mantengo unos aceptables niveles de percepción auditiva y visual. Pero, de súbito, me he dado cuenta de que yo no era el tipo de la terraza de la cafetería, que yo era otro, quizá ese que cruzaba por el paso cebra (cebra / onagro) y que sí podía oír, ver y procesar algunas informaciones, como por ejemplo esa que ahora me llegaba, la de un monigote publicitario de cierta marca de escasa sostenibilidad al que unos ecologistas despiadados golpeaban.

Dosis masivas de risa despertó en las tropas progresistas la denominada “foto de las Azores” del 16 de marzo de 2003. Que si el acento de Aznar, que si Bush le llamaba “Anso” al tiempo que le rodeaba el cuello con su brazo, que si los zapatones sobre la mesa. Sí, todo fue muy cómico... para algunos, para los que no quisieron enterarse de que en esa reunión se dio el primer paso para el desmantelamiento definitivo de la banda terrorista ETA. Al menos de ETA operativa, armada, que la otra, la ideológica y de presencialidad cotidiana y callejera, sigue ahí, tan campante.

Quizá el gesto americano, que culminaría en 2011, de interceptar de modo efectivo el sistema etarra de comunicaciones mediante tecnología desconocida en Europa, no fuera sólo un gesto de amistad y buen rollo, quizá se debiera a razones de mayor enjundia como la inutilidad de seguir haciendo la vista gorda ante el terrorismo, esa espada de Damocles que tan bien saben utilizar los servicios de inteligencia, al tiempo que obtenían ciertas contraprestaciones. Pero lo que ha de quedar meridianamente claro es la absoluta falsedad de que fueran la democracia y la responsabilidad de los ciudadanos, esos argumentos hueros, altisonantes, quienes acabaran con ETA, esos argumentos principales de una interesada y falaz narración, que los ingenuos, llenándoseles la boca, celebraron como válida.

¿Qué se aprende, por ejemplo, cuando se impone  una exigencia cabalmente ética es decir no reductible a conveniencia? ¿Es la disposición ética el resultado de un proceso análogo al que lleva al conocimiento técnico, o  se trata de una disposición irreductible del espíritu humano que en ciertos aspectos entraría incluso en contradicción con las leyes evolutivas. Sin espacio aquí más que para evocar  el asunto, señalaré  que el biólogo y filósofo  T.H. Huxley (1825-1895) considerado algo así como el abogado defensor de la ortodoxia darwiniana, en su libro Evolution and ethics (publicado en 1894) sorprendió a muchos de sus seguidores presentando la disposición ética de los humanos como una suerte de  superación de lo inmediatamente dispuesto por la naturaleza. En la hipótesis (no por todos compartida) de que la moralidad es un rasgo propio de la especificidad humana, la concepción de Huxley vendría a suponer que no se trata de un refinado momento al que se habría llegado a través de la continuidad evolutiva, sino una ruptura con esta.  El darwinismo dejaría de ser operativo cuando nos introducimos en el universo de la ética Caricaturizando un tanto, tal posición equivaldría a sostener que, de seguir la pauta estrictamente evolutiva careceríamos del mínimo bagaje de altruismo. Altruismo sin el cual, sin embargo,  no es concebible la sociedad humana.

Siguiendo la vía abierta por Huxley, otros estudiosos han radicalizado la posición considerando que la emergencia de un sentimiento ético es algo más que una ruptura de continuidad en la evolución. Se trataría de una auténtica contradicción,  en la que la economía natural se negaría a sí misma. En suma: el darwinismo dejaría de ser operativo cuando nos sumergimos en el universo de la ética.

Como no podía ser menos, las reacciones de los partidarios de una antropología sustentada en una versión integradora y en la continuidad darwiniana han sido múltiples. Se trata fundamentalmente de sostener que, en alguna medida, la simpatía con los demás, la inclinación a ayudar a otros miembros de la especie (y no sólo de la especie), incluso la disposición al sacrificio están presentes en nuestra naturaleza inmediata, en razón de que esta es de orden animal, y que los animales mismos ofrecen inequívocas muestras de moralidad. Como decía, no puedo aquí más que evocar el problema, de una enorme trascendencia filosófica.

Y en otro orden: Calixto, el desafortunado protagonista de La Celestina, habla verídicamente sin apercibirse de ello y sus jóvenes criados, Pármeno y Sempronio ven en ello como un eco del destino de Virgilio, es decir, el destino de quien encarna emblemáticamente la figura del poeta. Pues bien, ¿en qué la manera de hablar de Virgilio enriquece el elemento comunicativo del discurso? Y por evocar a autores más cercano a nosotros,  ¿qué supone para el interlocutor la sentencia (núcleo de un poema de Paul Eluard considerado paradigma de la literatura contemporánea) “El mundo es azul como lo es una naranja”?  Otras veces he puesto como ejemplo  los siguientes versos del “Llanto” de Lorca: “La piedra es una espalda para llevar al tiempo/Con árboles de lágrimas y cintas y planetas”. La pregunta que formulo es muy clara: ¿Es posible reducir una frase poética a una composición sintáctica portadora de información?

Estoy intentando señalar simplemente que nuestra inteligencia supone modalidades que van más allá de lo que la experiencia, la técnica y el conocimiento científico suponen; modalidades que pasan por la ´disposición ética y asimismo por algo filosóficamente tan problemático como la comunicación estética. Si hablamos de inteligencia artificial en el sentido cabal del término inteligencia, no podemos dejar de lado ninguno de estos aspectos.

Recuerdo los años de insomnio con la desazón del que pierde el pasaporte en un lugar remoto. Las noches en vela, traducidas en imagen, son un andén de extrarradio donde los trenes, como las horas, pasan sin detenerse, con insoportable regularidad. El caso inverso se da, traspasado cierto umbral de desconsuelo, cuando el sueño te abraza y se convierte en refugio. Dormir para no sentir ni padecer. Hibernar a la espera de tiempos mejores, como hacen algunos animales hasta la primavera. Desde los años noventa, eso les ha pasado a niños refugiados llegados a Suecia de procedencias diversas. Tras huir de la persecución o de la guerra, inmersos en una cultura ajena, aprenden su idioma, se ilusionan con que “estar en el mundo” no tenga que ser pasar siempre miedo, y de pronto… la carta de expulsión. Como se cuenta en Síndrome de gel de Mohamad Bitari y Clàudia Cedó, en el Lliure de Gràcia, sienten entonces que se les arrebata su última esperanza de futuro. Superados por la vida, caen en un estado catatónico, similar a una “muerte voluntaria”, del que no despertarán hasta encontrarse a salvo. Ante la proliferación de casos, se acuñó el término uppgivenhetssyndrom, síndrome de resignación. Así reaccionan sus cuerpos, así somatizan el trauma.

Hacia el final de la función, se pronuncia un deseo repetido a menudo, incluso sabiendo que es irrealizable: los menores no deberían pasar por experiencias tan atroces. Los niños que han sido víctimas de la guerra, antes de andar solos en la vida, ya han aprendido aquello que es terrible saber y aquello que es peligroso olvidar. “Pero no éramos niños –dice uno de ellos en Últimos testigos, de Svetlana Alexiévich–; a los diez u once años ya éramos hombres y mujeres”. En ese libro, la Nobel, exiliada en Berlín por la represión del dictador bielorruso, recopiló recuerdos de niños cuya ingenuidad trituró la Segunda Guerra Mundial. Coincidían en verse atrapados en el instante en que su mundo cambió para siempre, o en la incapacidad de imaginar, por ejemplo, incluso décadas después, “a un padre tan bueno sin vida”. Leyéndolos, se entiende que no hay nada más imposible de reconstruir que una infancia mutilada. Y hoy de la Ucrania ocupada llegan testimonios de ancianos que un día fueron niños supervivientes, como los del libro de Alexiévich, que sufrieron los horrores del siglo pasado, incluida la represión soviética. Ahora reviven una pesadilla y, cuando entierran a hijos y nietos, cierran un círculo de infamia; a veces sin poder sepultarlos siquiera, por miedo a los cadáveres minados.

El cuento El viejo maestro (1943), de Vasili Grossman, que es una de las primeras piezas literarias sobre el Holocausto de las balas perpetrado en Europa del Este, está protagonizado por un jubiladoletraherido , demasiado mayor para huir, y una niña de seis años. En el relato, ambientado en un pueblo de la provincia ucraniana de Zhitómir, el autor de Vida y destino intentó imaginar el final de su madre –una vieja maestra, también, amante de Chéjov– durante los asesinatos en masa de civiles judíos. Frente a la fosa común, el viejo coge en brazos a la pequeña, que ha perdido a su familia. “¿Cómo puedo consolarla?”, piensa atenazado por una pena infinita. Es al final la niña, compasiva, con el rostro pálido “de un adulto”, quien lo reconforta. “Maestro, no mires allí, o te asustarás”, le dice, y le cubre los ojos, con gesto maternal, antes de la descarga.

Nunca más, repetimos. Contra la barbarie, insistimos. Se inauguran memoriales, se celebran conmemoraciones, se tira de memoria histórica en libros o documentales para aprender bien la lección. Pero la visión de Mariúpol, Irpín o Bucha reventadas son un recordatorio de que la guerra a lo largo de la historia ha sido lo habitual, y la democracia una excepción. La lección no puede conjugarse en pretérito, pues la lección nunca se aprende. Hay que mantenerse despierto ante cualquier avance del ultranacionalismo, atentos a que no se consolide el modelo autoritario, una tendencia al alza en un mundo donde ya hay más autocracias que democracias. Europa no debe caer­ en el síndrome de resignación ante crímenes de guerra ni subvencionarlos con la compra de materias primas, y haría bien en desprenderse de cualquier prepotencia intelectual respecto a los países del Este, vistos a veces como parias de la geoestrategia. Quienes afirman que solo el realismo político salva vidas disfrutan de una UE cuyos cimientos se asientan en ideales como los derechos humanos.

Lecturas, aparentemente fáciles, que se vuelven imposibles. La muerte en sus manos, el inquietante debut de Ottessa Moshfegh en la literatura de suspense, es un pan sin sal. Crimen sin cuerpo, locura sin motivo. Yo quería un libro fácil, un libro para leer en el metro o en los aeropuertos, pero no ha podido ser. Con lo que me gusta a mí un thriller… Moshfegh, the next great thing de la literatura americana —como dice Rodrigo Fresán—, no acaba de cumplir en esta novelita de suspense. Eso sí, cumple con creces en Mi año de descanso y relajación, una novela que dejaré de recomendar el día que encuentre otra, tan pesimista y mucho más cósmica, que me enamore más.

Una mujer de setenta años camina por un bosque con su perro. Divisa una nota escrita a mano. «Se llamaba Magda. Nadie sabrá nunca quién la mató. No fui yo. Este es su cadáver.» Pero no hay cadáver. La obsesión se desata hasta trazar la historia del asesinato de la misteriosa Magda. ¿Quién? ¿Cómo? ¿Cuándo? ¿Dónde? ¿Por qué? La mente es nuestra experiencia, nuestro sensor, la máquina de tejer historietas. Un trampantojo constante, elucubraciones extrañas en un pueblo desangelado. Y sí, coincido, Moshfegh es la autora de referencia de los ermitaños y los excéntricos, pero no de las mujeres que se vuelven locas por perseguir crímenes imperfectos. El discurso imaginario siempre es bienvenido, su literatura es fabulosa, escribe de maravilla. Moshfegh posee unas regiones neuróticas que seducirían hasta al lector más aburrido. La pulsión de muerte permanece desde su primera novela. Inherente. Lo tenebroso le va de perlas. Sin embargo, volverse loco nunca pasará de moda.