Víctor Gómez Pin

 Hubo pasmo, en las décadas finales del pasado siglo, cuando  entes maquinales se mostraron  aptos a reconocer dígitos manuscritos.  Mayor  estupor todavía cuando se revelaron capaces de catalogar con acuidad aspectos del rostro (una nariz, una boca), o un rostro por entero, distinguiendo, si es el de un animal o el de una persona. Hoy entes  maquinales hacen previsiones que  los científicos no habían sido  capaces de hacer. Me detengo en este aspecto, considerando un caso de performance predictiva, en la intersección de la inteligencia artificial y la genética.  Me refiero a Alpha–Fold 2, artefacto que fue capaz de prever el repliegue sobre sí mismos de los polipéptidos, a fin de alcanzar la estructura tridimensional que es necesaria para el  correcto funcionamiento de las proteínas.

Es bien sabido que  prever no es explicar y no está claro que la acuidad predictiva de Alpha-Fold 2  sea consecuencia de que ha alcanzado una intelección plena, es decir, un conocimiento de la causa o razón.  Recordaré al respecto que la gravitación newtoniana preveía importantísimas cosas y sin embargo no se explicaba (pues de hecho era inexplicable, de ahí la importancia filosófica de sus sustitución por la gravitación  relativista).  Así que, aún no teniendo Alpha-Fold2 explicación de sus previsiones, dado que ello le ocurre en ocasiones también  a un científico, desde el punto de vista práctico cabe homologar la performance del primero   a la  del segundo. Pero digo homologar la performance y no homologar Alpha -Fold 2 a un científico, en razón de lo siguiente:

La inteligencia de  todo ser humano, científico o no científico  supone una imbricación de sintaxis y semántica que (como el pensador americano John Searle viene recordando desde hace decenios)  no es seguro en absoluto que quepa atribuir a un artefacto maquinal por importantes que puedan ser sus logros (en todo caso el asunto está en discusión). Muchas son las cosas susceptibles de sorprendernos y hasta de dejarnos estupefactos sin necesidad de que el agente productor este dotado de una inteligencia semántica. Piénsese simplemente en la acuidad descriptiva en el código de señales  de muchos animales, empezando por el siempre mencionado caso de la abeja.

El científico tiene sin duda  en todo momento  ideas, pero su acción concreta no siempre  es resultado del despliegue de tales ideas. El aprender de un algoritmo es desde luego homologable a ciertos aspectos del aprender de un científico, pero no hay seguridad de que se trate de esos momentos del aprendizaje científico en los que del manejo de parámetros conocidos surge literalmente una nueva idea.

Vuelvo a las preguntas con las que finalizaba la columna anterior, relativas a si, más allá de la experiencia, cabe hablar de técnica maquinal y complementariamente qué entender por experiencia y por técnica.

Para acceder a la etapa de la técnica, para aplicar un universal a los casos semejantes, hay desde luego que disponer de ese universal ese eidos, forma o especie, al que se refiere Aristóteles en el texto citado. Los humanos disponemos del mismo, sea de manera innata sea porque lo hemos adquirido, y se da la circunstancia de que generalizamos con muchísima facilidad. Así un niño que ha tenido ante sí un caballo rápidamente reconoce la forma (el eidos) del mismo en otro caballo.  Cosa que plantea un problema a quienes esperan que el conocer de la máquina llegue a ofrecer un día la clave de nuestro propio funcionamiento, pues las redes neuronales generalizan con mucha mayor dificultad.

Pero este disponer de una forma que aplicamos a pluralidad de individuos tiene dos explicaciones posibles, a las que me refería al hablar de innatismo o adquisición. La primera es que esa forma se forja en la misma experiencia, es por así decirlo su resultado. La segunda es que las formas son ideas inherentes a nuestro ser, para las cuales la experiencia es simplemente la ocasión material de actualizarse.  Este asunto remite a viejos problemas filosóficos sobre el peso de la inducción en el conocimiento no ya maquinal o animal sino humano, sobre la cuestión cartesiana de las ideas innatas y en última instancia sobre la tesis platónica de que, tratándose del ser de razón, conocer es siempre, en un nivel u otro, re-conocer; no tanto generalizar a partir de iteración de experiencias, como ver en lo dado un caso particular de un concepto.

En el caso de Aristóteles la posición es de un platonismo matizado: cabría decir que los universales (el campo eidético, el campo de las ideas) es innato en los seres de razón, pero que no se actualiza hasta que encuentra una ocasión en la realidad individual; la idea pasa de la potencia al acto gracias a la experiencia.  Por ello Aristóteles es (frente a pitagóricos y ciertos platónicos adversos a la modalidad de platonismo que representa el propio Aristóteles) con justicia considerado un empirista. Pero ello no quita que también para Aristóteles en el animal humano (y esto es lo que le distingue precisamente de los otros animales) la idea es inherente a su propia naturaleza.

En suma, para Aristóteles la experiencia humana difiere de la experiencia animal por ser ocasión de acceso a techne kai logismois (técnica y razonamientos), es decir aquello que por definición es vedado a las especies animales no dotadas de lenguaje. Y retorno a la cita que en la columna anterior ponía en el arranque: “Los animales no humanos viven reducidos a imágenes y recuerdos y la experiencia es para ellos poco fructífera, mientras que (*por intermediación de la experiencia*), los hombres acceden a la técnica y al razonamiento”

Tanto la tesis que hace surgir lo universal de una generalización a partir de la experiencia, como la que considera que lo universal es algo innato (y en su seno vertiente pitagórico-platónica versus vertiente aristotélica) coinciden en un punto: la técnica implica ideas y por ello el conocimiento técnico es una etapa diferente de la mera experiencia.

Y aquí se multiplican las preguntas: ¿alcanzan las máquinas a tener ideas o más bien se trata en ellas de un tipo de acuidad que no supera la mera experiencia? Y aún ¿reconocen un dígito manuscrito como un niño reconoce un caballo, es decir percibiendo en el mismo un caso particular de ese universal que es una idea? Nótese que estoy prescindiendo ahora de la cuestión de si la idea presente en el conocer del niño la ha generado o no la misma experiencia; estoy simplemente señalando que el niño tiene indiscutiblemente ideas.

La pregunta respecto al aprendizaje de las redes neuronales es la de si a través de la iteración que sustenta la experiencia, hay un momento en el que la red neuronal dispone de un universal aplicable a todos los casos semejantes. Pues esta etapa que trasciende la experiencia, esa techne de Aristóteles quizás ni siquiera es necesaria para mostrarse eficiente: “tratándose de la práctica, la experiencia no es inferior a la técnica; y así vemos que hombres limitados a la experiencia obtienen a veces mejores resultados que quienes poseyendo la noción (logos) de algo carecen sin embargo de experiencia (…) La causa es que la experiencia es un conocimiento de lo individual y la técnica lo es de lo universal.  Ahora bien, toda práctica y toda producción concierne a lo individual” (Metafísica 981, a 12-16).

Desde luego ciertos animales no humanos dan muestras de una acuidad perceptiva y de una capacidad de previsión superiores a las nuestras, sin que por ello haya razones para considerar que han accedido a la etapa de la técnica. ¿Es también el caso de las máquinas, que mostrarían acuidad perceptiva en ausencia de concepto, conocimiento sin tener idea?  ¿O diremos más bien que en una red neuronal la reacción efectiva y eficaz, el output correcto que se forja en la experiencia, se debe a que como resultado de la misma acaba por surgir lo universal, el atributo que clasifica, que distingue? ¿Cabe, en suma, atribuir a un algoritmo ideas?  Aun en caso de respuesta positiva, está por ver si tal inteligencia eidética recubre todas las modalidades en las que se despliega la nuestra, así esa inteligencia que no consiste tanto en conocer como en sentir lo bello o lo repugnante, o la que consiste en delimitar una frontera que separa al bien del mal.

“Los animales no humanos viven reducidos a imágenes y recuerdos y la experiencia es para ellos poco fructífera, mientras que (por intermediación de la experiencia), los hombres acceden a la técnica y al razonamiento” (Aristóteles, Metafísica 980 b, 25-28).

La forma de aprender de entidades artificiales como una red neuronal, por su similitud (cuando menos aparente) con el aprendizaje humano, incluidas las maneras de superar momentos de atasco, es motivo de estupefacción.  Empezaré con un símil.

Supongamos que un boxeador de éxito tiene a su disposición en el gimnasio un excelente sparring. Ante este, el boxeador se enfrenta de manera menos agresiva que ante un verdadero rival, pero de manera no huera, es decir: tras el entrenamiento sabrá cómo reaccionar eficazmente ante ciertas actitudes o posiciones adoptadas por el partenaire, y en el próximo entrenamiento dejará de cometer fallos que se apreciaron en el primero. Podemos decir que ha aprendido a reconocer características de aquello a lo que se confronta, que en este caso no es un contrincante sino un cómplice.

Cabe pensar que, si en el gimnasio cuenta con más de un sparring, pongamos diez, este aprendizaje será mayor; tendrá un espectro más rico de potenciales ataques por parte del contrario o dispositivos de defensa ante los ataques propios y, reconociéndolos a la hora de enfrentarse a adversarios reales, ello le será de gran utilidad. Pues bien, supongamos ahora la situación siguiente:

Al enfrentarse de nuevo a los diferentes sparring con los que ya había entrenado, efectivamente da muestra de gran acuidad, reconociendo todas las técnicas y tics de manera que se percibe una superioridad que no se manifestaba en el primer entreno. Sin embargo, a la hora de enfrentarse a verdaderos rivales, es decir, a boxeadores con los que no se había entrenado, se revela torpe y, para sorpresa de los que habían apostado a sus grandes facultades pierde los sucesivos combates.  La pregunta que se impone es: ¿de dónde este contraste entre eficacia en los entrenamientos y torpeza en los combates en los que realmente se la juega? Un esbozo de explicación es el siguiente:

Nuestro hombre retiene los movimientos, técnicas, actitudes y en general rasgos característicos de cada uno de los púgiles con los que se entrena, pero no capaz de generalizarlos, es decir, de extenderlos a una clase de seres humanos marcados por características análogas. En términos aristotélicos: en nuestro hombre se inscriben los rasgos de comportamiento de individuos, pero no extiende tales rasgos a los representantes de un colectivo. Si la cosa no mejorara, su manager podría incluso empezar a considerar que seguir con los entrenamientos es inútil e incluso perjudicial, pues no tendrá otro resultado que reiterar reacciones inadecuadas, encelarse en los vicios.

Pues bien, sirva este símil para entender uno de los problemas que plantean las redes neuronales ocupadas en el reconocimiento de dígitos manuscritos. De hecho, hoy se muestran capaces de catalogar con precisión aspectos del rostro -una nariz, una boca-o un rostro por entero, distinguiendo, si es el de un animal o el de una persona, pero aquí me atengo al reconocimiento de números del 0 al 9. Pues bien, en ocasiones se da el siguiente caso:

Funcionan muy bien cuando se trata de clasificar dígitos de un conjunto destinado al entrenamiento, pero pierden su acuidad cuando se les enfrenta a un conjunto con el cual no se habían adiestrado. Y (utilizando una terminología proyectada desde el comportamiento humano) se conjetura entonces que tales artefactos están quizás sobre-entrenados (overtraining),  o también sobre-ajustados (overfitting),  señalando así  que han quedado  excesivamente marcados por datos contingentes, vinculados quizás exclusivamente a los dígitos individuales  confrontados y no a lo que en cada uno de estos es representativo de algo general. Podríamos decir que captan el rasgo superfluo de un siete algo mal trazado y se le escapa aquello que en el seno de los diez dígitos (0, 1, 2 3…) caracteriza a la forma 7.  El asunto es tan preocupante que hay técnicas para superar esta deficiencia, para evitar el sobre-entrenamiento o paliar sus consecuencias.  Para referirme a una de estas técnicas vuelvo al símil de los sparrings:

Supongamos que estos (eventualmente uno sólo) han sido a su vez preparados para introducir nuevas respuestas a los gestos o ataques del púgil, sesgando, torciendo o encubriendo las reacciones originarias.  En este caso, para familiarizarse con mayor variedad de comportamientos en el entrenamiento no se necesitará recurrir a nuevos sparring.  Pues bien, si se trata de hacer más eficaz el entrenamiento de una red neuronal a la hora de reconocer dígitos manuscritos, sin necesidad de recurrir a un conjunto diferente de aquellos con los que ya se ha entrenado, una modalidad es, por ejemplo, hacer que estos giren en un determinado grado. La red neuronal entrenada para reconocer un 6, se entrenará asimismo para reconocer ese mismo 6 algo inclinado a izquierda o derecha, en el bien entendido de que si la inclinación es excesiva corre el peligro de confundirlo con un 9.

Sentado lo anterior, supongamos ahora que estas técnicas de corrección de errores han sido exitosas, y que ante un conjunto de dígitos manuscritos con los que aún no se había entrenado, la red neuronal reconoce prácticamente el cien por cien. Cabe decir que a través del entrenamiento la máquina se ha hecho sensible a la presencia de un rasgo (o de una conjunción de rasgos) que se repite, y reacciona ante el mismo, mientras que permanece indiferente a rasgos contingentes que pueden acompañar al primero. Así, la presencia de un círculo restringe las posibilidades a que se trate de un 0, de un 6 o de un 9, excluido por ejemplo que pueda tratarse de un 7 o un 2. Y es variable menor el que la línea que completa el 6 este eventualmente algo inclinada. Cabe decir que en esa reiteración que constituyen los entrenamientos la máquina ha alcanzado experiencia.

Y surge aquí una segunda pregunta. De esta máquina que emula a los humanos en experiencia ¿cabe decir que también emula a los humanos en lo referente a técnica? Necesario es naturalmente precisar qué entendemos por experiencia y qué entendemos por técnica. De ello me ocuparé en la próxima columna. Por el momento me limito a citar un texto por así decir canónico.

 “Surge la técnica cuando una pluralidad de recuerdos experimentales es ocasión de un juicio universal, aplicable a todos los casos semejantes. En efecto, juzgar que tal remedio ha sido efectivo para Calias, afectado por tal enfermedad, luego a Sócrates, y después a otros tomados individualmente, es asunto de experiencia. Pero juzgar que tal remedio ha aliviado a todos los individuos de una forma (eidos) determinada que se hallan   afectados por tal o tal mal (biliosos o flemáticos, por ejemplo), esto es asunto de técnica” (Aristóteles Metafísica 981, b 5-12).

Hace sólo unos años, cuando se viajaba  a un país cuya lengua es desconocida, un buen consejo era aprender unas cuantas frases elementales relativas a la vida cotidiana. Así, si preguntabas dónde estaba la parada de autobuses, lo más probable es que de la respuesta no te enteraras, pero al menos habías dado un primer paso. Si se trataba de un país como Grecia en el que la dicción de las personas de habla castellana es bastante similar podías por así decirlo dar el pego. Si pedías un vaso de vino blanco en un bar,  el problema surgía si en lugar de servirte  directamente el camarero preguntaba  por tu preferido en un abanico de blancos y tintos,  pero en fin…

Hoy todo este esfuerzo por introducirte  en el universo lingüístico del otro es inútil. Si llegas por ejemplo a Pekín y preguntas torpemente por la estación de metro, tu interlocutor, sobre todo si es joven, sacará el smartphone, para que introduzcas la pregunta que la máquina traducirá al mandarín (si es el caso) y te dará la respuesta en tu lengua.

Animados por estos hechos hoy tan cotidianos los legos podemos caer en la tentación de estimar que con instrumentos maquinales más sofisticados  estaría resuelto el problema de la traducción de textos científicos, por sutiles que fueran; se piensa incluso  que las máquinas pueden llegar  a tener capacidad de traducir narración o poesía.  Un paso más y (guiados ya por una suerte de hybris) se apunta a la creación por esa  máquina  inteligente  de una composición musical, una obra pictórica que responda  a un determinado estilo, o  un poemario que un humano no sabría distinguir del realizado por un congénere.  ¿Cabe pensar que  una de estas entidades maquinales, cuya modalidad de aprendizaje aceptaríamos provisionalmente que es similar a la de un científico, está ya en condiciones de emular la tarea de un poeta,  un músico o un pintor? Evocaré al respecto  una anécdota:

En una sesión reciente de Jakiunde (Academia Vasca de Ciencias, Letras y Artes) en la que  académicos de diversas disciplinas reflexionaban sobre el creatividad y las condiciones que la favorecen  o dificultan, uno de los ponentes mostró en la pantalla imágenes forjadas por entidades artificiales que parecían tener las características de una obra de arte, algunas de ellas evocadoras quizás de pinturas de Dalí. Pues bien, otro  de los participantes, conocido artista plástico, se alzó denunciando la  falacia que supondría el considerar como arte aquellas imágenes, que calificó literalmente de cutres.

Por lo furibundo de la reacción  entendí que no estaba  designando aquello como  arte “malo”, sino como  algo que nada podía tener  que ver con el arte. Otra cosa es que  esta (a mi juicio bien fundada) denuncia de una monumental confusión hubiera sido suficientemente argumentada,  es decir, que el mencionado artista hubiera llegado a exponer las razones conceptuales de su certeza. Creo que ayudaría en la tarea el  tener  en cuenta la tripartición kantiana de la razón, tantas veces aquí  evocada.

Pues aun suponiendo (¡y es mucho suponer!) que un ente que no se da en la naturaleza inmediata, un ente que exige  directa o indirectamente la intervención  del hombre (pues eso significa en última instancia el término  “artificial”) pudiera ser capaz de un aprendizaje científico, ateniéndose meramente  a esa capacidad suya,  no  puede inferirse que ese ente sería también capaz de dar lugar a una obra de arte.

Pero es que ni siquiera hay seguridad de la premisa, seguridad de que entidades maquinales sean capaces de conocimiento científico en el sentido cabal de la palabra “ciencia”, que implica no sólo capacidad de descripción y previsión sino también capacidad de explicación. Para llegar por sus pasos a este tremendo problema, empezaré en la próxima columna  por algunas consideraciones sobre lo que cabe y no cabe atribuir a una máquina, haciendo comparación con las  etapas a las que es susceptible de acceder el espíritu humano, a saber, experiencia, conocimiento técnico, conocimiento científico y actividad artístico-creativa.

Interrumpo momentáneamente el hilo conductor de las reflexiones que  me han ocupado en este foro en los últimos meses, para introducir un asunto desde luego espinoso.

En 1981, la editorial Gallimard publicó en su colección emblemática La Pléiade  la obra del escritor francés Frédéric Céline  Viaje al fondo de la noche.  Dada la catadura moral de Céline, colaborador de los nazis y autor de repugnantes panfletos antisemitas, la  publicación dio pie a revivir el viejo debate sobre la relación entre la obra y la personalidad del escritor, pero no hubo entonces  voces (al menos con peso) que criticaran el hecho mismo de la publicación.

Nadie ponía en cuestión la exigencia de  respetar criterios de moralidad por  los que, a priori, habría de basarse todo lazo entre hombres pueblos y culturas,  pero se consideraba  que a la hora de juzgar el valor universal de la  obra de arte es problemático introducir como variable de peso la moralidad o inmoralidad del propio artista. ¿Sería también el caso cuarenta años más tarde?

Ha habido en la historia de la creación canallas paranoicos como el propio Céline, algún asesino, ciertamente muchos seres mezquinos en sus relaciones sociales o en su vida doméstica, y por supuesto más de una excelente persona. Pero cuando se trata  la obra de uno u otro hemos de esforzarnos en que  estas variables no nos cieguen, hemos de esforzarnos en pensar que las obras  son por así decirlo anónimas. Al respecto, tienen enorme ventaja aquellas  cuya autoría no es desconocida, así esas “damas” ibéricas que tienen emblema en la de Elche y respecto a las que, afortunadamente, no hay manera de introducir interrogantes sobre la moralidad de su autor. De lo contrario hay riesgo serio de que tengamos que rechazar gran parte de nuestro legado espiritual.

Sea un libro literario-filosófico  como el Elogio de la locura, Encomium Moriae, de Erasmo ¿Está hoy esta obra  del gran humanista libre de toda amenaza? Obviamente nadie en nuestro entorno cultural propondría que no se publicase, pero es posible que en ciertos medios, sin excluir centros docentes, pudiera funcionar la censura implícita, o simplemente el retoque  de párrafos enteros.

De hecho  la tentación “correctiva” podría extenderse a libros como “Fuenteovejuna”, en cuyo pasaje central, la incitación de Laurencia a la rebeldía contra el Comendador, se utilizan expresiones ofensivas para enteros colectivos. Traductores en diversas lenguas europeas retocaron párrafos de Platón para camuflar la atmósfera obvia de atracción homo-erótica. Hoy quizás tenderíamos a retocarlos para ocultar la valoración de los efebos y  las palabras de Sócrates indicando que el bello Alcibiades, a sus 19 años, es considerado demasiado viejo  para quienes desde que era adolescente buscaban sus favores. ¿Y qué  diríamos de los insinuantes San Sebastián adolescente de Guido Reni? Y un ejemplo más cercano:

“Parece que los gitanos y gitanas solamente nacieron en el mundo para ser ladrones: nacen de padres ladrones, críanse con ladrones, estudian para ladrones y, finalmente, salen con ser ladrones corrientes y molientes a todo ruedo; y la gana de hurtar y el hurtar son en ellos como accidentes inseparables, que no se quitan sino con la muerte”.

Si hacemos abstracción de algún término que pueda sonar a arcaísmo, fácil sería atribuir este párrafo a alguno de los  políticos contemporáneos que en Europa han aprovechado la mínima ocasión para alimentar los prejuicios más larvarios  y  las inclinaciones más rastreras  de sus votantes, lanzando anatemas contra la población gitana, por ejemplo en Francia contra la comunidad  “Rom” de Moldavia o Rumanía. No es sin embargo el caso. El lector ha quizás reconocido que se trata del arranque de la novela de Miguel de Cervantes “La Gitanilla”.

¿Y cómo se sale de esta aparente incompatibilidad entre exigencia de reconocimiento de la equivalencia en dignidad entre los humanos y la reivindicación del patrimonio espiritual que para la humanidad suponen  las  obras literarias o artísticas?

Pues evitando un error conceptual de enormes implicaciones. Enuncio una posición de principio y de orden directamente filosófico: es imprescindible delimitar bien lo que depende de la kantiana  Razón práctica, que enuncia los imperativos de moralidad,  y lo que depende de la kantiana Facultad de juzgar, que explora la singularidad del  espíritu humano cuando es motivado por la exigencia que llamamos estética.   Si no se hace esta distinción, gran parte de nuestro patrimonio  debería efectivamente ser puesto en tela de juicio. Con un catastrófico corolario, esta vez sí de orden moral. Pues, como indicaba Marcel Proust, la única forma  en la que el arte puede servir a los demás es ser realmente arte. Si el Guernica hubiera sido una obra mediocre las eventuales buenas intenciones del autor hubieran sido inútiles, o hasta perjudiciales para la causa republicana, pues en el arte “las intenciones no cuentan”. Reconozco que tengo en mente cierta polémica actual en torno a la moralidad del autor de Las señoritas  de Aviñón.   

Pero el problema va incluso más allá de la estética, y concierne a la asunción de la historia. La exigencia de  alcanzar una sociedad en que cada persona pueda reconocerse como representante de la entera humanidad  pasa por abolir aquello que, aquí y ahora, impide la  realización de tal ideario; no pasa  por repudiar nominalmente  aspectos de un  pasado   sin el cual no estaríamos aquí para imponernos tal exigencia moral.  Una cosa es ser lúcido respecto al coste que necesariamente supuso un hecho histórico y otra muy diferente repudiar lo efectivamente acontecido en nombre de  lo que imaginariamente  hubiera podido acontecer,  apoyándose en una concepción del lazo entre pueblos y culturas que carecía  de condiciones de posibilidad, de lo cual es buen ejemplo la aventura, cargada de  connotaciones trágicas, de España en América.

“Arrojar el bebé con el agua del baño”. Con diversas variantes y en diferentes lenguas,  esta es la expresión a la que, se alude al estropicio en el que a veces se convierten las tentativas de soltar lastre. Cabe incluso que el bebé sea meramente ahogado y el agua se atasque. El anatema lanzado sin matices contra  momentos de la historia y la  tradición cultural  exacerbando  su connotación con  estructuras  sociales  opresivas aún persistentes, no altera realmente  a estas, pero deja sin sitio a personas para quienes reconocerse en el pasado supone una suerte de conciliación subjetiva; desarraiga sin liberar, cabría decir, cuando precisamente (como indicaba la pensadora francesa Simone Weil) la auténtica liberación pasa quizás por la fortificación de un sano arraigo.

En su admirable libro Las piedras de Venecia refiriéndose al lazo entre un entorno natural y la arquitectura,  John Ruskin ve en Venecia un emblema de ciudad como obra de arte. La construcción de Venecia se realizó ajustando pilotes en el mejor de los casos en un terreno argiloso, y con mayor generalidad en un pantano cuyo fondo había que drenar. Los troncos eran soportados y dispuestos por hombres que amenizaban con ritmos la dificilísima tarea. Es fácil imaginar la cantidad de accidentes calamitosos que ello pudo acarrear… ¿Deberíamos pues lanzar anatema contra Venecia?

Obviamente la reivindicación de la singularidad del ser humano en virtud de su capacidad de efectuar juicios éticos y sobre todo juicios estéticos, supone dos condiciones:

En primer lugar que tales juicios sean efectivamente de un orden diferente a lo que nuestra mente efectúa cuando codifica y sopesa información recibida, es decir: que una metáfora como “las aladas almas de las rosas” no sea una forma (disimulada para nosotros mismos) de responder a aquello mismo a lo que responden los códigos de señales. Hipótesis anti- reduccionista con la que no simpatizará ciertamente quien estime que el comportamiento lingüístico no es, en lo esencial, diferente del comportamiento que pone de relieve la abeja en su danza (por atenerse al ejemplo clásico).

La segunda condición no consiste en reducir al hombre sino en homologar a la creatura artificial en lo que haría la singularidad del anterior. Habría que decir que un algoritmo puede llegar a exceder la capacidad humana a la hora de simbolizar, de dar sentido o constatar la ausencia del mismo. Desde luego la entidad maquinal sería como nosotros si llegara estar realmente motivada por aquello que motiva a Garcilaso, y si tuviera entre sus intenciones el llegar realmente a emular a este. No digo que esto no pueda darse, digo simplemente que sólo si así fuera, la idea misma de entidades post- humanas tendría el peso que algunos le otorgan.

Utilizando, como señala Aristóteles, “metáforas poéticas”, Platón nos describe un horizonte de puros conceptos, el campo eidético, en el que aspirarían a instalarse todos aquellos que fueron tocados por la dialéctica de Sócrates. Esta querencia por alcanzar la ciudad de las ideas, es decir, el lugar donde las ideas no estarían contaminadas, aparece en los diálogos de Platón llamados “metafísicos” (Parménides, Teeteto, Sofista, Filebo) como ilusión vana, puesto que en el seno de las ideas mismas reaparecen la alteridad, la oposición y la contradicción, es decir, todo aquello que el espíritu repudiaba y que atribuía a la perturbación que para las ideas supondría su inserción en la materia. Hace muchísimos años describí esta decepción de aquel que se aventura en el campo eidético en un libro que llevaba por título “El drama de la ciudad ideal”.

Pasado tanto tiempo quiero simplemente señalar que más allá de la decepción a la llegada la aspiración al campo eidético encierra una suerte de profunda queja.

“¿Es posible que yo, súbdito de Yaqub/ Almansur. Muera como tuvieron que morir las/rosas y Aristóteles?”, se interroga ácidamente el héroe magrebí de Borges. La mente que encadena metáforas, la mente que sintetiza un complejo número de ideas en una prodigiosa fórmula modificadora de las nociones mismas de masa luz y energía, la mente que explora vastos y diversos tipos de infinitud (laberinto cantoriano en el que Borges se queja de no haberle sido dado penetrar…) esta mente ¿ha der encerrada en la vida y heredar el destino de esta? La de los hombres es la única forma de vida que se sabe “un paréntesis entre dos nadas”. Saber tremendo que crea un abismo entre nosotros y el resto de seres vivos. La aspiración al campo eidético platónico, la aspiración a una poesía y una matemática no perturbadas por el transcurrir del tiempo, encierra una sorda y justificada queja por el hecho de que el verbo haya surgido de la carne, quejas por el hecho de que quien haya mutado en ser de palabra sea un animal.

Las computadoras pueden conectarse a otras, apropiándose así de la capacidad de almacenar información de estas últimas. Como esto les da una ventaja sobre nosotros, se está intentando que los humanos podamos mediante implantación de chips conectarnos a las redes de silicio. Asunto que se presenta como inminente, y que contribuiría decididamente a la equiparación –cuando menos parcial- de nuestros destinos con el de seres… creados por el hombre. Entiéndase bien que, según como se interprete todo el asunto, se trataría de que el hombre pueda emular a la entidad maquinal por él generada y no al revés.

Pues bien, precisamente porque reconozco que todo esto puede desbaratar arraigadas convicciones sobre la singularidad absoluta del ser humano (por las que a priori tengo sesgo positivo), aventuro a favor de tales convicciones un argumento digamos de factura kantiana, que creo es algo más que ideológico.

El funcionamiento de nuestra mente cuando lo que está en juego no es el orden del aprendizaje empírico ni el orden del conocimiento puramente eidético (un conocimiento del tipo del que nos ofrecen las matemáticas), el funcionamiento de nuestras facultades cuando el criterio no reside en la objetividad, sea empírica o trascendental (así el funcionamiento cuando legisla un principio moral), pero sobre todo el funcionamiento cuando lo que está en juego es aquello que denominamos estética (en un sentido ciertamente muy alejado de la significación originaria), tal funcionamiento sería el indicio mayor a la vez del peso de lo simbólico cuando se trata de nuestra especie y de la radical irreductibilidad de la misma, es decir, entre otras cosas, imposibilidad de objetivación del ser humano, y por consiguiente imposibilidad de hacer del mismo un objeto de ciencia.

Las neuronas de una red artificial sopesan los datos que recibe en función de una finalidad (por ejemplo el reconocimiento de si los píxeles percibidos corresponden o no a un determinado dígito) y relativizan el monto añadiendo su propio sesgo o querencia. La mayor o menor acuidad en la tarea (por ejemplo tanto por ciento de dígitos reconocidos correctamente en un tiempo determinado) se acentúa por el hecho de que la red reconoce sus propios errores y aprende a corregirlos.

La proyección de nuestros estados psicológicos sobre sistemas artificiales se traduce directamente en el vocabulario. Un ejemplo:

En el reconocimiento de dígitos, en ocasiones el sistema parece funcionar al nivel de las imágenes que sirven de entrenamiento,  pero este buen funcionamiento es ilusorio, pues al pasar a las imágenes no específicamente seleccionadas para entrenar se percibe que el tanto por ciento de correcta clasificación se ha estancado. Se diría que el sistema, funcionando  bien ante el conjunto de dígitos elegidos para su entrenamiento, es sin embargo incapaz de generalizar. Pues bien, cuando esto ocurre se dice que el sistema, padece de sobre-entrenamiento (overtraining, también overfitting) de alguna manera está estresado. Y como se diría de un deportista que falla en el momento de la competición real mientras que se mantenía en los entrenamientos (algún caso se ha dado en los últimos juegos olímpicos), es entonces imperativo que la red neuronal deje de entrenar. En vista de todas estas analogías entre entidades artificiales y seres humanos es legítima la pregunta: ¿cabe decir que un sistema neuronal artificial adopta una resolución tal como nosotros lo hacemos de ordinario?

Tratándose de elucidar si lo que percibimos es un 5, quizás hay coincidencia entre los procesos que nosotros  efectuamos (de hecho sin conciencia de ello)  y lo que efectúa una red neuronal (por ejemplo cuando de diez neuronas output sólo la que corresponde al número 5 se activa). De todas maneras ciertos  autores  niegan que, incluso a este nivel, quepa hablar de homologación. Así el filósofo americano  John  Searle lleva decenios  proclamando que aunque la performance objetiva sea comparable, las entidades artificiales se mueven en una dimensión exclusivamente sintáctica, no teniendo acceso alguno  a la semántica.

En cualquier caso: ¿qué ocurre cuando se trata de tomar una resolución con implicaciones éticas y con datos contradictorios? Por ejemplo cuando hay variables que apoyan la decisión de tomar una medida sanitaria mientras otras variables la señalan como perjudicial. Y sobre todo: ¿es el comportamiento de la red homologable al nuestro cuando el poeta decide que las almas a las que se apela son las de las rosas (“A las aladas almas de las rosas/del almendro de nata te requiero”) y no las de algún otro ser que, de considerarse la oración desde el punto de vista de la información que da un código de señales,  sería perfectamente homologable?

Cuando se introduce la cuestión de la potencia de cerebros artificiales, alcanza mayor sentido una pregunta filosófica que ha tomado particular relieve en nuestro tiempo, a saber, la de si hay seres homologables (ya sea parcialmente) al cerebro humano no sólo en capacidad de conocimiento sino también de simbolización.

Esta homologación está de hecho implícita tras la idea recurrente de que la comprensión de la inteligencia artificial nos ayudaría a entender el funcionamiento de nuestro propio cerebro.

En cualquier caso, esta problemática de la capacidad de entes artificiales para emular e incluso superar las facultades mentales humanas, deja de alguna manera en segundo plano, el problema simétrico de la homología entre humanos y animales. Cierto es que los animales tienen en común con nosotros la condición de seres vivos dotados de códigos de señales de gran complejidad, pero desde luego el nivel de interrogación al que se ha llegado respecto a la inteligencia animal no es comparable al sofisticadísimo en el que estamos ya embarcados en relación a la inteligencia de seres artificiales…

En síntesis: cuando se trata de cerebros artificiales se presenta con mayor acuidad una interrogación clave: ¿hay fuera de los cerebros humanos algo análogo a la prodigiosa facultad de lenguaje?; ¿hay fuera de los cerebros humanos algo análogo a lo que constituye una frase cuyo significado es irreductible al cumulo complejo de combinaciones de los significados de sus componentes?

A mi juicio es fácil responder con la negativa a estas preguntas cuando se trata de cerebros de otros animales (por muchos esfuerzos que se ha hecho para reconocer en ciertos de ellos facultades humanas como la de lenguaje, nunca se ha llegado demasiado lejos), mientras que la pregunta permanece abierta tratándose de la inteligencia artificial. Y en caso de que se llegara a una respuesta positiva, habría un sorprendente corolario: la inteligencia lingüística se ha dado en ese ser vivo que es el hombre, pero no cabría decir que la vida es una condición necesaria de la inteligencia.

¿Pueden las máquinas pensar? Ante  esta pregunta, formulada por Alan Turing ya en 1950 (Computering Machynery and Intelligence)  lo primero que pasa por la cabeza es la de que todo depende de lo que entendemos por pensar. El propio Turing escribe en el arranque “Deberíamos  empezar definiendo lo que significan los términos máquina y pensar” No parece que esta exigencia se haya siempre respetado.

Etimológicamente pensar es sopesar, alzar, relevar, hacer que algo destaque a fin de pesarlo o pensarlo, dirimir respecto a sus posibilidades con vistas a obtener un resultado que se espera. Pero, obviamente, esto corresponde tanto a la compleja reacción que tiene un animal que  valora opciones  de fuga ante la presencia de un depredador como a la disposición   de un político que  tantea o calibra los beneficios y perjuicios de adoptar tal posición. Y cuando Turing plantea la pregunta se está refiriendo a algo más que esto.

De hecho Turing se está refiriendo  a un ser (“una cosa que piensa” Descartes dixit) cuya reacción ante el entorno fuera homologable a la de los humanos cuando actúan racionalmente. Y quisiera al respecto hacer una precisión. En ocasiones se presenta la cosa así: Turing nos estaría pidiendo que juzguemos a la invisible entidad de la misma manera que usualmente juzgamos a los humanos: si estos responden a nuestras preguntas de un modo que nos parece razonable diremos que están pensando. Pero la cosa no es exactamente así: cuando nos dirigimos a un ser humano, tenemos como punto de arranque, presupuesto o condición que estamos dirigiéndonos a un ser pensante. Si responde mal o caóticamente, diremos que es un ser pedante, confuso o claramente estúpido, pero no esperamos la respuesta para determinar que se trata de un ser pensante.

 Pero con independencia de este problema cuando Turing se está refiriendo a una potencial máquina  inteligente, está pensando en una inteligencia que se activa incluso cuando nada concierne en lo relativo a las  condiciones de posibilidad de su existencia, es decir al soporte material de la misma. Una máquina cuya percepción sensible fuera actuada por entidades que no son ellas mismas sensibles, como en todo caso son los conceptos, una máquina que respondiera al campo eidético. Una máquina que a partir de de un conjunto finito de elementos potencialmente pudiera desplegar una pluralidad infinita. Obviamente no se trata de elementos del mismo nivel. Conjunto finito de elementos físicos, es decir significantes, versus -conjunto infinito (potencialmente, pues los elementos  no se dan al mismo tiempo) de elementos eidéticos, es decir significados. Pero el pensar al que se refiere Turing va quizás más allá.

En la intersección de la ciencia y la filosofía, el proyecto de Turing abre el siguiente interrogante. Siendo el hombre un animal de razón y de lenguaje, ¿llegará él mismo a ser creador de razón y lenguaje? ¿Conseguirá un  artificio que sea cabalmente inteligente, es decir, que incluya los aspectos emocionales y creativos de la inteligencia? ¿O aquello que llamamos inteligencia artificial no es verdaderamente algo que (parafraseando a Descartes) afirma, niega, siente, conjetura, concluye  teme, se motiva y sobre todo duda, aspectos todos ellos que son expresión de inteligencia?

Los  cerebros artificiales solucionarán  mucho mejor que el hombre ciertos problemas aquí ya  evocados, reemplazándonos en  tareas tecnológicas. Pero ¿serán  émulos de Dante  o Calderón, compondrán como Mozart o Vivaldi? A lo cual cabe añadir:

¿Serán esos nuevos seres  capaces  de formular algo análogo al principio de equivalencia de la relatividad general o al principio de incertidumbre de Heisenberg de la Mecánica Cuántica?  ¿Serán capaces de “interesarse” por algo como las figuras cónicas que fascinaban al pensamiento griego y que sin embargo no tuvieron durante siglos utilización técnica alguna? ¿Serán  susceptibles de ser movidos por la pura exigencia de inteligibilidad que, desde la física elemental de los jónicos hasta las discusiones sobre los fundamentos de la física cuántica  (¡que se prolongan desde hace un siglo!)  son un aspecto esencial de la ciencia (no el único por supuesto)? ¿Serán capaces de sentir ese estupor (según Aristóteles punto de  arranque de la filosofía) que experimenta un científico cuando constata algo que, funcionando perfectamente, parece escapar a los principios mismos de la ciencia, ese estupor que -por mucho que  hubiera previsto el resultado- no dejó de experimentar Alain Aspect ante su experimento de no localidad? En suma:

¿Dará el hombre lugar a un ser artificial dotado de la inteligencia a la vez conceptual y sentiente (por utilizar la expresión de Zubiri) que ha posibilitado un Garcilaso,  pero también un Descartes o un Einstein, y que además tenga esa trágica   certeza de la propia finitud que acompañaba a esos  creadores, como acompaña a todo ser de palabra.