Escrito por

Víctor Gómez Pin

Blogs de autor

La máquina heredera: trasposición de un suceso real

 Empiezo por un repaso de hechos conocidos vinculados a la capacidad de ciertos artefactos, sobre la que ya me referido en columnas anteriores:

Hoy entes  maquinales hacen previsiones que  los científicos no habían sido  capaces de hacer. Un caso de performance predictiva, en la intersección de la inteligencia artificial y la genética, es el de AlphaFold 2, artefacto que fue capaz de prever el repliegue sobre sí mismos de los polipéptidos, a fin de alcanzar la estructura tridimensional que es necesaria para el  correcto funcionamiento de las proteínas. A esta auténtica performance  cabe añadir, por ejemplo, el hecho de que dispositivos telemétricos dispuestos en órganos de recién nacidos pueden llegar a predecir una infección antes de que la misma haya tenido lugar.

El problema es que, en un caso como en otro, no tenemos ni idea de cómo las entidades artificiales realizan esa previsión, y menos idea tenemos sobre si además de ser capaces de prever son capaces de entender la razón de tal previsión, es decir si conocen o no las causas. Es bien sabido que  prever no es explicar y no está claro que la acuidad predictiva   sea consecuencia de que ha alcanzado una intelección plena, es decir, un conocimiento de la causa o razón de aquello que se prevé. Y recordaba al respecto que la gravitación newtoniana preveía importantísimas cosas y sin embargo no explicaba lo que preveía, limitándose al cómo, abstracción hecha del porqué. De hecho el principio ontológico en el que se sustentaba (un espacio tridimensional vacío en el que los hechos acontecían) hacía que toda tentativa de explicación violara el principio de localidad; de ahí la importancia filosófica,  y no sólo científica, de de la sustitución la gravitación  newtoniana por la relativista.

En suma, no sabemos si  Alphafold2, por atenerse a su caso, está en condiciones de ex–plicar, es decir des-plegar conceptualmente ese pliegue que había previsto con tal acuidad; no sabemos si sabe o no  sabe  las causas de lo que anuncia, y ello simplemente porque de momento los entes maquinales no dan explicaciones, es decir, aun no parece que estemos en condiciones de mantener con ninguna de ellos  una conversación del tipo: ¿sabes la razón de lo que enuncias, la causa de esta  previsión que acabas de hacer?

Sin embargo no es de excluir que ello pueda ocurrir. No está a priori  excluido que en un tiempo prudente las máquinas sean  capaces de explicar su comportamiento y las razones del mismo, tanto ante nosotros los seres racionales animados  como ante sus homólogos, que tendríamos derecho a denominar racionales  maquinales. Y dejo para más adelante las consideraciones sobre lo que esto significa: ni más ni menos que una razón sin soporte vital. Pues bien:

Tomo como punto de partida un artefacto provisto de esa  capacidad de recibir información, procesarla, dar respuesta a un “interlocutor” maquinal o humano  a la que se alude con la expresión “aprendizaje profundo”.  Pero acepto además provisionalmente  que esta “profundidad” es tal que  a la capacidad de hacer descripciones y previsiones el artefacto añade la   de explicar esos fenómenos. En el caso de Alphafold2,  capaz   de un-folding  ese  fold que llegó a anunciar; capaz de, mostrar la razón de la concurrencia de  los elementos simples  o planos,  a fin de hacer emerger un elemento complejo. Es de señalar que como los humanos no tenemos por el momento ni la capacidad previsora que muestra AlphaFold2, ni menos aún el conocimiento de las causas de lo así previsto, ha de excluirse que estas virtudes cognitivas del artefacto sean el resultado de una programación.

En base a esta hipótesis consideraré una singular conjetura, como trasposición de un suceso real.

En febrero de 2021 los diarios se hacían eco de que en la ciudad de Tennesse  un can  llamado Lulu  había heredado una  fortuna de cinco millones de dólares, legado de su propietario de nombre Bill Dorris. Hay casos más recientes y más espectaculares. Así, en noviembre de ese mismo era noticia, más o menos verídica, que los representantes de un perro llamado Gunther VI  habían vendido una casa por 28 millones de dólares, una minucia en comparación con los  heredero de 440 millones que en su día habría heredado. Pero me atendré al caso de la mascota Lulu para evocar un problema  que se planteó a Martha Burton la persona encargada de la gestión. El diario barcelonés La Vanguardia en su edición del 15/02/2021 recogía unas líneas del testamento: “Cinco millones de dólares serán transferidos a un fideicomiso que se creará tras mi muerte para el cuidado de mi border collie Lulu [...] para satisfacer todas sus necesidades”.

El problema consistía en la interpretación de las últimas líneas. La señora Burton declaraba: “Francamente, no sé qué pensar al respecto”. ¿Como en efecto determinar cuáles son las necesidades de un can, sobre todo aquellas que puedan generar un gasto de cinco millones de dólares y que pudieran aproximarse a los deseos, más o menos cercanos al capricho, que mueven a los humanos? Se planteaba además un problema suplementario, el de determinar qué hacer con el dinero sobrante en el caso de que Lulu falleciera sin haberlo gastado totalmente. Ignoro cómo acabó la cosa, pero quiero avanzar una conjetura, que después retomaré sustituyendo al protagonista animal por un protagonista maquinal: algún pariente del finado, descontento con su decisión testamentaria,  acude al juez, argumentando que, efectivamente, ningún fideicomiso está en condiciones de adivinar cuales son los “deseos” del perro, salvo en lo relativo a sus necesidades inmediatas, que de ninguna manera pueden suponer un gasto de millones de dólares. En consecuencia exige que se considere no válido el testamento y se dé un uso diferente (quizás más provechoso para el demandante) a la fortuna.

En su voluntad de ser ecuánime, el juez convoca al demandante, la encargada de la custodia Martha Burton,  el propio perro, más los letrados de ambas partes. Todos se explayan,  a excepción del primer  interesado, el can…que asiste con actitud displicente al interminable debate.  Este terco silencio del protagonista, aunque obviamente esperado por  el juez,  es una dificultad suplementaria a  la hora de emitir un veredicto en el que entran en juego no sólo necesidades de un ser vivo, sino eventuales querencias imprevisibles respecto a alimentación, relaciones y hasta  ornato de su entorno.

Pues bien, mi pregunta es qué pasaría si el finado Bill Dorris hubiera compartido sus últimos años en lugar de con un perro, con  una máquina inteligente, a la que cabe llamar también Lulu. Ni siquiera es necesario pensar que se trata de uno  de esos asistentes robóticos  que, en países como Japón, empiezan a ser cuidadores generalizados de tantas personas privadas de lazos con sus congéneres. Puede tratarse simplemente de una máquina con la cual se relacionaba  en actividades lúdicas  que le distraían de sus dolencias.

Supongamos que, como en el caso del can, la máquina es favorecida por el testamento, y asimismo que  un pariente  muestra  su disconformidad, de tal manera que la   cosa acaba también  ante el juez. ¿Se vería  este en la misma tesitura a la hora de tomar decisión? Obviamente no, si al menos suponemos que la máquina que se ocupó del finado es, digamos, suficientemente sofisticada, es decir: se trata de esa máquina antes descrita, no sólo capaz de hacer descripciones y previsiones sino también  de explicar  (al menos en apariencia- se verá más adelante el porqué de la cautela)  los fenómenos de los que se ocupa. Veremos cómo la máquina podría defender su condición de heredera, y el interesante debate filosófico que al hacerlo provocaría.

Leer más
profile avatar
30 de marzo de 2022
Blogs de autor

Cuando “las palabras no mienten”

Las metáforas pueden ser verbales o visuales. Entre estas últimas quiero situar en contrapunto dos imágenes: por un lado  la doble hélice del ADN, junto a la cual  se fotografían los descubridores Crick y Watson; por otro lado  la escultura conmemorativa realizada en 2010 por Charles Jencks para la Universidad de Cambridge.  La  primera imagen no parece aspirar a otra cosa que a servir de trampolín para la intelección por parte de quienes carecen aun del concepto propio de lo que está en juego. La segunda tiene una pretensión ornamental, pero también  me atrevo a decir que artística (aunque el autor era un teórico del paisaje más que un escultor). No se trata de la misma dimensión: una cosa es una imagen como peldaño de la ciencia, otra muy diferente la imagen como obra de arte.

Si de metáfora aun  se trata, hemos pasado a un plano ortogonal al que estábamos. Pues  si el recurso utilitario a la metáfora se da en arte y en ciencia, cabe decir que para el arte el verdadero trato con la metáfora no es  algo que tenga que ver con el uso. Las metáforas entonces no tienen  ya (o no tienen exclusivamente) valor de uso, porque al menos en ciertas modalidades de arte, la metáfora es causa final, sólo se sirve a sí misma.

Marcel Proust comparaba el trabajo del arte a la inmersión en un pozo artesiano en el que la ascensión es proporcional a la profundidad  Tratándose de metáforas en poesía, cabe añadir  que lo emergente de las profundidades  es sólo  una forma redimida de lo que ha hecho inmersión: mientras en el arranque la palabra parece estar al servicio de la representación, en el retorno (como en Góngora o Paul Éluard) la metáfora en nada externo se detiene y-cabe decir-  sólo persigue  a la metáfora. ¿Es la Tierra  azul como una naranja? Así ha de ser si las palabras no mienten  (La terre est bleue comme une orange/Jamais une erreur les mots ne mentent pas).

La metáfora nada tendría que ver con aspectos del arte desvinculados de lo epistémico, claman los que ven la utilidad del arte.  Sostienen además (como Veit y Ney en el artículo del que me he ocupado arriba)  que la mayoría  de las metáforas en literatura y otras disciplinas artísticas  serían potentes representaciones de la realidad Como simple contra-ejemplo pediría  que se  me indicara si cabe reducir a valor epistémico o a representación de la realidad,  los siguientes versos cargados de metáfora:

“La piedra es una espalda para llevar al tiempo/ con árboles de lágrimas y cintas y planetas”.

No discuto la legitimidad de preguntarse  qué quiere decir Lorca en estas líneas, de qué verdad el poeta se siente portavoz. Estoy diciendo simplemente que esa verdad no consiste en adecuación a una realidad extrínseca, y que  lo esencial en tal decir no es de orden epistémico,  que lo conmovedor del asunto reside simplemente en otro decir, esencial a la razón humana y a lo que  Kant, en estos asuntos ineludible, intentó aproximarse. La metáfora no  es aquí ese “instrumento” al que a veces ha querido ser reducida. Y desde luego no cumple la exigencia de subordinarse a un relato ajeno a la propia metáfora.

Porque la piedra tiene simientes y nublados/ esqueletos de alondras  y lobos de penumbra”.

Leer más
profile avatar
18 de marzo de 2022
Blogs de autor

Quitar peso a las metáforas

Aludía al final de la columna anterior al papel de la metáfora en el conocimiento y en la creación, preguntándome si ambos papeles podían ser homologados. En ciencia hay momentos en los que la objetividad todavía no legisla, así por ejemplo cuando utilizamos una metáfora para aproximarnos a una hipótesis. Pero la metáfora… no tiene nunca en ciencia la última palabra. Cosa que en ocasiones sí ocurre en literatura.

Tras salir tangencialmente este problema en la sesión de la academia vasca Jakiunde a la que hacía referencia dos columnas atrás, uno de los ponentes, prestigioso científico, evocó un artículo reciente publicado en el European Journal for Philosophy of Science en el que esta homologación de las funciones de la metáfora se afirma con rotundidad. En lo que sigue tomo este trabajo como punto de referencia.  Conviene precisar que los autores toman partido por un sentido inclusivo del concepto de metáfora, que abarcaría diversos usos no literales del lenguaje, tales la analogía, la sinécdoque, la parábola o la metonimia

En el Abstract se resumen la tesis general del artículo: la metáfora tiene esencialmente funciones epistémicas y estéticas y ambas serían compartidas por igual tanto en el arte como en la ciencia.  Y ya en el cuerpo del artículo se afirma que en el seno mismo del trabajo artístico hay equivalencia entre la función cognitiva y la función estética:

“Contribuir al valor artístico de la obra de arte y a su valor epistémico o cognitivo, es algo equivalente para la metáfora”, nos dicen los autores.  Y enfatizan poniendo en cursiva las palabras finales (“para la metáfora”) tendiendo a indicar que no niegan la posibilidad de una dimensión del arte que trasciende el aspecto cognitivo. No lo niegan, simplemente conceden que pueda ser así y cabe decir que   tampoco creen importante entrar en el asunto. Se limitan a afirmar que dada la connotación cognitiva que acompañaría siempre a la metáfora esa eventual dimensión del arte carente de aspecto cognitivo excluiría el uso de la misma.

Sin duda hay razones para sostener que la metáfora tiene importantes funciones epistémicas en arte a la vez que importantes funciones estéticas en ciencia.  Pero que la metáfora cree algún lazo de unión entre la actividad cognoscitiva y la actividad estética (sea creativa o receptiva) no excluye la conveniencia y aun la necesidad de distinguir ambos roles.

Como ya he sugerido, en el caso de la ciencia, la metáfora tiene (cuando menos muchas veces) la función de servir de peldaño para alcanzar el concepto, y a menudo simplemente para encontrar un sustituto del mismo. Sustituto siempre débil, pero que ya es mucho a falta de lo esencial (por ejemplo, la fórmula en física). El nombre de Einstein está asociado a prodigiosas metáforas que a los no físicos han servido para introducirse en la relatividad y quizás a los físicos mismos a percibir con mayor acuidad la trascendencia filosófica de la disciplina.  Ninguna modalidad de ciencia puede quedarse en la mera metáfora. Eventualmente la ciencia puede prescindir de este aspecto, cosa que es imposible tratándose de la metáfora en arte. En ciencia, la metáfora no deja de ser un auxiliar de la cosa misma, y en ocasiones un mero preliminar. Como los autores mismos escriben “metaphors advancing understanding”, pero cuando se llega al núcleo de lo que cabe llamar aprendizaje ya no es seguro que la metáfora tenga peso. La pedagógica metáfora del tren utilizada por Einstein apunta a facilitar la compresión cabal de los lazos tiempo espacio y velocidad, que sí constituyen un fin en sí en la teoría relativista.

¿Mismo caso tratándose del arte? ¿No cabe más bien decir que en muchos casos la metáfora es un fin en sí?  Ciertamente en ocasiones la metáfora puede también tener valor propedéutico o pedagógico. Así el fresco “Triunfo de los Medici entre las nubes del Monte Olimpo” de Luca Giordano añadiría a su valor pictórico un efecto reactivador de la memoria. Y podemos también considerar que esa imagen de los Medici entre nubes del Olimpo es una metáfora eficaz para ilustrar su magnificencia. Pero ¿es tal magnificencia lo que el artista quiso poner de relieve, o se trata más bien de un pretexto para algo que constituye lo verdaderamente esencial del arte pictórico? La respuesta en favor de la segunda hipótesis es clara, y cabe pues decir que se trata de un caso análogo al uso como apoyatura de la metáfora en ciencia. Pero no se trata de un peldaño hacia el mismo objetivo: en el caso de la ciencia se trata de una impulsión hacia lo cabalmente epistémico (por ejemplo, en el caso de la física matematizada, peldaño hacia la fórmula); en el caso del arte se trata de impulsión hacia otra dimensión de la vida del espíritu, difícil de determinar objetivamente porque precisamente no se trata de episteme. Me atrevo a decir que esta distinción en la función instrumental de la metáfora es una obviedad…a la cual los autores del artículo que comento se resisten, sosteniendo que en lo referente a la función de la metáfora arte y ciencia entran en el mismo cajón.

Leer más
profile avatar
2 de marzo de 2022
Blogs de autor

¿Máquinas creadoras? El saber musical no hace al músico

 

Vuelvo ahora a la pregunta que planteaba columnas atrás: asumiendo por un momento que un ente maquinal fuera susceptible de conocimiento científico… ¿podríamos ya sin más atribuirle la capacidad de creación plástica, musical o literaria? Uno de los puntos de arranque  de esta reflexión es  la tesis de la  tripartición (irreductible a toda fuente común conocida) de la razón humana en tres vertientes, cognoscitiva, ética y estética, sobre las cuales reflexiona Kant en cada una de sus tres famosas críticas (Crítica de la Razón Pura, Critica de la Razón Práctica y Crítica de la Facultad de Juzgar). Los defensores de la equiparación  de la inteligencia artificial  a la inteligencia humana  habrían de mostrar  que la primera es susceptible de funcionar  en ese  triple registro. Pero además: habrían de matizar la diferencia misma en el seno de la kantiana repartición, sin proyectar sobre  una de ellas criterios lo que es propio de la otra.

Y creo que el indignado artista (al que me refería  en un texto  anterior), miembro de la academia vasca Jakiunde que protestaba ante la presentación de una composición pictórica maquinal como obra de arte, estaba barruntando que la máquina había aplicado criterios propios de la razón cognoscitiva  (temática propia de la primera crítica kantiana) apuntando a algo que concierne al sentimiento  de  lo bello o lo repulsivo (asunto que concierne a la  tercera de las críticas). Es como si un pianista creyera que su dominio técnico del instrumento (asunto a tratar  también en el marco de la primera crítica, pues hasta ahí se trata meramente de conocimiento) es lo que hace de él un artista.

Lo esencial del asunto reside en que tratándose de conocimiento, el objeto legisla, el objeto da o quita razón, mientras que tratándose de  percepción estética la razón funciona como subjetividad (en ocasiones intersubjetividad) carente de  baremo objetivo.

No hay general acuerdo sobre lo irreductible de la diferencia entre razón humana que apunta a la creación artística y razón humana que  apunta al conocimiento. Es usual escuchar  el argumento de que la percepción y creación estética responden a una forma de conocimiento que se ignora como tal. En una tesis como la hegeliana (según la cual el arte sería  una figura del pasado  inútil  ya cuando el concepto adquiere vigencia plena) parece considerarse que en el arte  se trata de un conocimiento asténico, pero al fin y al cabo se trataría de conocimiento (incluso se ha llegado a pensar que los imperativos éticos serían también corolario de una forma de conocimiento).

Establecida así la discusión, una de las modalidades de reducir la singularidad de la razón estética es anular  lo que hay de específico en los instrumentos de la misma. Consideremos el caso de la literatura. La metáfora juega en ella un papel fundamental. Por ello, si se reduce la función de la metáfora en literatura a la función  de la metáfora en ciencia se habrá ya quitado puntos a la tesis de la diferenciación entre la actividad cognoscitiva y la actividad artística de los seres de razón. Me centraré la próxima columna en este asunto.

 

Leer más
profile avatar
17 de febrero de 2022
Blogs de autor

¿Conocimiento científico en las máquinas?

 Hubo pasmo, en las décadas finales del pasado siglo, cuando  entes maquinales se mostraron  aptos a reconocer dígitos manuscritos.  Mayor  estupor todavía cuando se revelaron capaces de catalogar con acuidad aspectos del rostro (una nariz, una boca), o un rostro por entero, distinguiendo, si es el de un animal o el de una persona. Hoy entes  maquinales hacen previsiones que  los científicos no habían sido  capaces de hacer. Me detengo en este aspecto, considerando un caso de performance predictiva, en la intersección de la inteligencia artificial y la genética.  Me refiero a Alpha–Fold 2, artefacto que fue capaz de prever el repliegue sobre sí mismos de los polipéptidos, a fin de alcanzar la estructura tridimensional que es necesaria para el  correcto funcionamiento de las proteínas.

Es bien sabido que  prever no es explicar y no está claro que la acuidad predictiva de Alpha-Fold 2  sea consecuencia de que ha alcanzado una intelección plena, es decir, un conocimiento de la causa o razón.  Recordaré al respecto que la gravitación newtoniana preveía importantísimas cosas y sin embargo no se explicaba (pues de hecho era inexplicable, de ahí la importancia filosófica de sus sustitución por la gravitación  relativista).  Así que, aún no teniendo Alpha-Fold2 explicación de sus previsiones, dado que ello le ocurre en ocasiones también  a un científico, desde el punto de vista práctico cabe homologar la performance del primero   a la  del segundo. Pero digo homologar la performance y no homologar Alpha -Fold 2 a un científico, en razón de lo siguiente:

La inteligencia de  todo ser humano, científico o no científico  supone una imbricación de sintaxis y semántica que (como el pensador americano John Searle viene recordando desde hace decenios)  no es seguro en absoluto que quepa atribuir a un artefacto maquinal por importantes que puedan ser sus logros (en todo caso el asunto está en discusión). Muchas son las cosas susceptibles de sorprendernos y hasta de dejarnos estupefactos sin necesidad de que el agente productor este dotado de una inteligencia semántica. Piénsese simplemente en la acuidad descriptiva en el código de señales  de muchos animales, empezando por el siempre mencionado caso de la abeja.

El científico tiene sin duda  en todo momento  ideas, pero su acción concreta no siempre  es resultado del despliegue de tales ideas. El aprender de un algoritmo es desde luego homologable a ciertos aspectos del aprender de un científico, pero no hay seguridad de que se trate de esos momentos del aprendizaje científico en los que del manejo de parámetros conocidos surge literalmente una nueva idea.

Leer más
profile avatar
10 de febrero de 2022
Blogs de autor

¿Técnica en las máquinas?

Vuelvo a las preguntas con las que finalizaba la columna anterior, relativas a si, más allá de la experiencia, cabe hablar de técnica maquinal y complementariamente qué entender por experiencia y por técnica.

Para acceder a la etapa de la técnica, para aplicar un universal a los casos semejantes, hay desde luego que disponer de ese universal ese eidos, forma o especie, al que se refiere Aristóteles en el texto citado. Los humanos disponemos del mismo, sea de manera innata sea porque lo hemos adquirido, y se da la circunstancia de que generalizamos con muchísima facilidad. Así un niño que ha tenido ante sí un caballo rápidamente reconoce la forma (el eidos) del mismo en otro caballo.  Cosa que plantea un problema a quienes esperan que el conocer de la máquina llegue a ofrecer un día la clave de nuestro propio funcionamiento, pues las redes neuronales generalizan con mucha mayor dificultad.

Pero este disponer de una forma que aplicamos a pluralidad de individuos tiene dos explicaciones posibles, a las que me refería al hablar de innatismo o adquisición. La primera es que esa forma se forja en la misma experiencia, es por así decirlo su resultado. La segunda es que las formas son ideas inherentes a nuestro ser, para las cuales la experiencia es simplemente la ocasión material de actualizarse.  Este asunto remite a viejos problemas filosóficos sobre el peso de la inducción en el conocimiento no ya maquinal o animal sino humano, sobre la cuestión cartesiana de las ideas innatas y en última instancia sobre la tesis platónica de que, tratándose del ser de razón, conocer es siempre, en un nivel u otro, re-conocer; no tanto generalizar a partir de iteración de experiencias, como ver en lo dado un caso particular de un concepto.

En el caso de Aristóteles la posición es de un platonismo matizado: cabría decir que los universales (el campo eidético, el campo de las ideas) es innato en los seres de razón, pero que no se actualiza hasta que encuentra una ocasión en la realidad individual; la idea pasa de la potencia al acto gracias a la experiencia.  Por ello Aristóteles es (frente a pitagóricos y ciertos platónicos adversos a la modalidad de platonismo que representa el propio Aristóteles) con justicia considerado un empirista. Pero ello no quita que también para Aristóteles en el animal humano (y esto es lo que le distingue precisamente de los otros animales) la idea es inherente a su propia naturaleza.

En suma, para Aristóteles la experiencia humana difiere de la experiencia animal por ser ocasión de acceso a techne kai logismois (técnica y razonamientos), es decir aquello que por definición es vedado a las especies animales no dotadas de lenguaje. Y retorno a la cita que en la columna anterior ponía en el arranque: “Los animales no humanos viven reducidos a imágenes y recuerdos y la experiencia es para ellos poco fructífera, mientras que (*por intermediación de la experiencia*), los hombres acceden a la técnica y al razonamiento”

Tanto la tesis que hace surgir lo universal de una generalización a partir de la experiencia, como la que considera que lo universal es algo innato (y en su seno vertiente pitagórico-platónica versus vertiente aristotélica) coinciden en un punto: la técnica implica ideas y por ello el conocimiento técnico es una etapa diferente de la mera experiencia.

Y aquí se multiplican las preguntas: ¿alcanzan las máquinas a tener ideas o más bien se trata en ellas de un tipo de acuidad que no supera la mera experiencia? Y aún ¿reconocen un dígito manuscrito como un niño reconoce un caballo, es decir percibiendo en el mismo un caso particular de ese universal que es una idea? Nótese que estoy prescindiendo ahora de la cuestión de si la idea presente en el conocer del niño la ha generado o no la misma experiencia; estoy simplemente señalando que el niño tiene indiscutiblemente ideas.

La pregunta respecto al aprendizaje de las redes neuronales es la de si a través de la iteración que sustenta la experiencia, hay un momento en el que la red neuronal dispone de un universal aplicable a todos los casos semejantes. Pues esta etapa que trasciende la experiencia, esa techne de Aristóteles quizás ni siquiera es necesaria para mostrarse eficiente: “tratándose de la práctica, la experiencia no es inferior a la técnica; y así vemos que hombres limitados a la experiencia obtienen a veces mejores resultados que quienes poseyendo la noción (logos) de algo carecen sin embargo de experiencia (…) La causa es que la experiencia es un conocimiento de lo individual y la técnica lo es de lo universal.  Ahora bien, toda práctica y toda producción concierne a lo individual” (Metafísica 981, a 12-16).

Desde luego ciertos animales no humanos dan muestras de una acuidad perceptiva y de una capacidad de previsión superiores a las nuestras, sin que por ello haya razones para considerar que han accedido a la etapa de la técnica. ¿Es también el caso de las máquinas, que mostrarían acuidad perceptiva en ausencia de concepto, conocimiento sin tener idea?  ¿O diremos más bien que en una red neuronal la reacción efectiva y eficaz, el output correcto que se forja en la experiencia, se debe a que como resultado de la misma acaba por surgir lo universal, el atributo que clasifica, que distingue? ¿Cabe, en suma, atribuir a un algoritmo ideas?  Aun en caso de respuesta positiva, está por ver si tal inteligencia eidética recubre todas las modalidades en las que se despliega la nuestra, así esa inteligencia que no consiste tanto en conocer como en sentir lo bello o lo repugnante, o la que consiste en delimitar una frontera que separa al bien del mal.

Leer más
profile avatar
2 de febrero de 2022
Blogs de autor

La experiencia de las máquinas

“Los animales no humanos viven reducidos a imágenes y recuerdos y la experiencia es para ellos poco fructífera, mientras que (por intermediación de la experiencia), los hombres acceden a la técnica y al razonamiento” (Aristóteles, Metafísica 980 b, 25-28).

La forma de aprender de entidades artificiales como una red neuronal, por su similitud (cuando menos aparente) con el aprendizaje humano, incluidas las maneras de superar momentos de atasco, es motivo de estupefacción.  Empezaré con un símil.

Supongamos que un boxeador de éxito tiene a su disposición en el gimnasio un excelente sparring. Ante este, el boxeador se enfrenta de manera menos agresiva que ante un verdadero rival, pero de manera no huera, es decir: tras el entrenamiento sabrá cómo reaccionar eficazmente ante ciertas actitudes o posiciones adoptadas por el partenaire, y en el próximo entrenamiento dejará de cometer fallos que se apreciaron en el primero. Podemos decir que ha aprendido a reconocer características de aquello a lo que se confronta, que en este caso no es un contrincante sino un cómplice.

Cabe pensar que, si en el gimnasio cuenta con más de un sparring, pongamos diez, este aprendizaje será mayor; tendrá un espectro más rico de potenciales ataques por parte del contrario o dispositivos de defensa ante los ataques propios y, reconociéndolos a la hora de enfrentarse a adversarios reales, ello le será de gran utilidad. Pues bien, supongamos ahora la situación siguiente:

Al enfrentarse de nuevo a los diferentes sparring con los que ya había entrenado, efectivamente da muestra de gran acuidad, reconociendo todas las técnicas y tics de manera que se percibe una superioridad que no se manifestaba en el primer entreno. Sin embargo, a la hora de enfrentarse a verdaderos rivales, es decir, a boxeadores con los que no se había entrenado, se revela torpe y, para sorpresa de los que habían apostado a sus grandes facultades pierde los sucesivos combates.  La pregunta que se impone es: ¿de dónde este contraste entre eficacia en los entrenamientos y torpeza en los combates en los que realmente se la juega? Un esbozo de explicación es el siguiente:

Nuestro hombre retiene los movimientos, técnicas, actitudes y en general rasgos característicos de cada uno de los púgiles con los que se entrena, pero no capaz de generalizarlos, es decir, de extenderlos a una clase de seres humanos marcados por características análogas. En términos aristotélicos: en nuestro hombre se inscriben los rasgos de comportamiento de individuos, pero no extiende tales rasgos a los representantes de un colectivo. Si la cosa no mejorara, su manager podría incluso empezar a considerar que seguir con los entrenamientos es inútil e incluso perjudicial, pues no tendrá otro resultado que reiterar reacciones inadecuadas, encelarse en los vicios.

Pues bien, sirva este símil para entender uno de los problemas que plantean las redes neuronales ocupadas en el reconocimiento de dígitos manuscritos. De hecho, hoy se muestran capaces de catalogar con precisión aspectos del rostro -una nariz, una boca-o un rostro por entero, distinguiendo, si es el de un animal o el de una persona, pero aquí me atengo al reconocimiento de números del 0 al 9. Pues bien, en ocasiones se da el siguiente caso:

Funcionan muy bien cuando se trata de clasificar dígitos de un conjunto destinado al entrenamiento, pero pierden su acuidad cuando se les enfrenta a un conjunto con el cual no se habían adiestrado. Y (utilizando una terminología proyectada desde el comportamiento humano) se conjetura entonces que tales artefactos están quizás sobre-entrenados (overtraining),  o también sobre-ajustados (overfitting),  señalando así  que han quedado  excesivamente marcados por datos contingentes, vinculados quizás exclusivamente a los dígitos individuales  confrontados y no a lo que en cada uno de estos es representativo de algo general. Podríamos decir que captan el rasgo superfluo de un siete algo mal trazado y se le escapa aquello que en el seno de los diez dígitos (0, 1, 2 3…) caracteriza a la forma 7.  El asunto es tan preocupante que hay técnicas para superar esta deficiencia, para evitar el sobre-entrenamiento o paliar sus consecuencias.  Para referirme a una de estas técnicas vuelvo al símil de los sparrings:

Supongamos que estos (eventualmente uno sólo) han sido a su vez preparados para introducir nuevas respuestas a los gestos o ataques del púgil, sesgando, torciendo o encubriendo las reacciones originarias.  En este caso, para familiarizarse con mayor variedad de comportamientos en el entrenamiento no se necesitará recurrir a nuevos sparring.  Pues bien, si se trata de hacer más eficaz el entrenamiento de una red neuronal a la hora de reconocer dígitos manuscritos, sin necesidad de recurrir a un conjunto diferente de aquellos con los que ya se ha entrenado, una modalidad es, por ejemplo, hacer que estos giren en un determinado grado. La red neuronal entrenada para reconocer un 6, se entrenará asimismo para reconocer ese mismo 6 algo inclinado a izquierda o derecha, en el bien entendido de que si la inclinación es excesiva corre el peligro de confundirlo con un 9.

Sentado lo anterior, supongamos ahora que estas técnicas de corrección de errores han sido exitosas, y que ante un conjunto de dígitos manuscritos con los que aún no se había entrenado, la red neuronal reconoce prácticamente el cien por cien. Cabe decir que a través del entrenamiento la máquina se ha hecho sensible a la presencia de un rasgo (o de una conjunción de rasgos) que se repite, y reacciona ante el mismo, mientras que permanece indiferente a rasgos contingentes que pueden acompañar al primero. Así, la presencia de un círculo restringe las posibilidades a que se trate de un 0, de un 6 o de un 9, excluido por ejemplo que pueda tratarse de un 7 o un 2. Y es variable menor el que la línea que completa el 6 este eventualmente algo inclinada. Cabe decir que en esa reiteración que constituyen los entrenamientos la máquina ha alcanzado experiencia.

Y surge aquí una segunda pregunta. De esta máquina que emula a los humanos en experiencia ¿cabe decir que también emula a los humanos en lo referente a técnica? Necesario es naturalmente precisar qué entendemos por experiencia y qué entendemos por técnica. De ello me ocuparé en la próxima columna. Por el momento me limito a citar un texto por así decir canónico.

 “Surge la técnica cuando una pluralidad de recuerdos experimentales es ocasión de un juicio universal, aplicable a todos los casos semejantes. En efecto, juzgar que tal remedio ha sido efectivo para Calias, afectado por tal enfermedad, luego a Sócrates, y después a otros tomados individualmente, es asunto de experiencia. Pero juzgar que tal remedio ha aliviado a todos los individuos de una forma (eidos) determinada que se hallan   afectados por tal o tal mal (biliosos o flemáticos, por ejemplo), esto es asunto de técnica” (Aristóteles Metafísica 981, b 5-12).

Leer más
profile avatar
19 de enero de 2022
Blogs de autor

Del traductor de Google a la ebriedad de una máquina-poeta

Hace sólo unos años, cuando se viajaba  a un país cuya lengua es desconocida, un buen consejo era aprender unas cuantas frases elementales relativas a la vida cotidiana. Así, si preguntabas dónde estaba la parada de autobuses, lo más probable es que de la respuesta no te enteraras, pero al menos habías dado un primer paso. Si se trataba de un país como Grecia en el que la dicción de las personas de habla castellana es bastante similar podías por así decirlo dar el pego. Si pedías un vaso de vino blanco en un bar,  el problema surgía si en lugar de servirte  directamente el camarero preguntaba  por tu preferido en un abanico de blancos y tintos,  pero en fin…

Hoy todo este esfuerzo por introducirte  en el universo lingüístico del otro es inútil. Si llegas por ejemplo a Pekín y preguntas torpemente por la estación de metro, tu interlocutor, sobre todo si es joven, sacará el smartphone, para que introduzcas la pregunta que la máquina traducirá al mandarín (si es el caso) y te dará la respuesta en tu lengua.

Animados por estos hechos hoy tan cotidianos los legos podemos caer en la tentación de estimar que con instrumentos maquinales más sofisticados  estaría resuelto el problema de la traducción de textos científicos, por sutiles que fueran; se piensa incluso  que las máquinas pueden llegar  a tener capacidad de traducir narración o poesía.  Un paso más y (guiados ya por una suerte de hybris) se apunta a la creación por esa  máquina  inteligente  de una composición musical, una obra pictórica que responda  a un determinado estilo, o  un poemario que un humano no sabría distinguir del realizado por un congénere.  ¿Cabe pensar que  una de estas entidades maquinales, cuya modalidad de aprendizaje aceptaríamos provisionalmente que es similar a la de un científico, está ya en condiciones de emular la tarea de un poeta,  un músico o un pintor? Evocaré al respecto  una anécdota:

En una sesión reciente de Jakiunde (Academia Vasca de Ciencias, Letras y Artes) en la que  académicos de diversas disciplinas reflexionaban sobre el creatividad y las condiciones que la favorecen  o dificultan, uno de los ponentes mostró en la pantalla imágenes forjadas por entidades artificiales que parecían tener las características de una obra de arte, algunas de ellas evocadoras quizás de pinturas de Dalí. Pues bien, otro  de los participantes, conocido artista plástico, se alzó denunciando la  falacia que supondría el considerar como arte aquellas imágenes, que calificó literalmente de cutres.

Por lo furibundo de la reacción  entendí que no estaba  designando aquello como  arte “malo”, sino como  algo que nada podía tener  que ver con el arte. Otra cosa es que  esta (a mi juicio bien fundada) denuncia de una monumental confusión hubiera sido suficientemente argumentada,  es decir, que el mencionado artista hubiera llegado a exponer las razones conceptuales de su certeza. Creo que ayudaría en la tarea el  tener  en cuenta la tripartición kantiana de la razón, tantas veces aquí  evocada.

Pues aun suponiendo (¡y es mucho suponer!) que un ente que no se da en la naturaleza inmediata, un ente que exige  directa o indirectamente la intervención  del hombre (pues eso significa en última instancia el término  “artificial”) pudiera ser capaz de un aprendizaje científico, ateniéndose meramente  a esa capacidad suya,  no  puede inferirse que ese ente sería también capaz de dar lugar a una obra de arte.

Pero es que ni siquiera hay seguridad de la premisa, seguridad de que entidades maquinales sean capaces de conocimiento científico en el sentido cabal de la palabra “ciencia”, que implica no sólo capacidad de descripción y previsión sino también capacidad de explicación. Para llegar por sus pasos a este tremendo problema, empezaré en la próxima columna  por algunas consideraciones sobre lo que cabe y no cabe atribuir a una máquina, haciendo comparación con las  etapas a las que es susceptible de acceder el espíritu humano, a saber, experiencia, conocimiento técnico, conocimiento científico y actividad artístico-creativa.

Leer más
profile avatar
10 de enero de 2022
Blogs de autor

¿Arrojar nuestro pasado?

Interrumpo momentáneamente el hilo conductor de las reflexiones que  me han ocupado en este foro en los últimos meses, para introducir un asunto desde luego espinoso.

En 1981, la editorial Gallimard publicó en su colección emblemática La Pléiade  la obra del escritor francés Frédéric Céline  Viaje al fondo de la noche.  Dada la catadura moral de Céline, colaborador de los nazis y autor de repugnantes panfletos antisemitas, la  publicación dio pie a revivir el viejo debate sobre la relación entre la obra y la personalidad del escritor, pero no hubo entonces  voces (al menos con peso) que criticaran el hecho mismo de la publicación.

Nadie ponía en cuestión la exigencia de  respetar criterios de moralidad por  los que, a priori, habría de basarse todo lazo entre hombres pueblos y culturas,  pero se consideraba  que a la hora de juzgar el valor universal de la  obra de arte es problemático introducir como variable de peso la moralidad o inmoralidad del propio artista. ¿Sería también el caso cuarenta años más tarde?

Ha habido en la historia de la creación canallas paranoicos como el propio Céline, algún asesino, ciertamente muchos seres mezquinos en sus relaciones sociales o en su vida doméstica, y por supuesto más de una excelente persona. Pero cuando se trata  la obra de uno u otro hemos de esforzarnos en que  estas variables no nos cieguen, hemos de esforzarnos en pensar que las obras  son por así decirlo anónimas. Al respecto, tienen enorme ventaja aquellas  cuya autoría no es desconocida, así esas “damas” ibéricas que tienen emblema en la de Elche y respecto a las que, afortunadamente, no hay manera de introducir interrogantes sobre la moralidad de su autor. De lo contrario hay riesgo serio de que tengamos que rechazar gran parte de nuestro legado espiritual.

Sea un libro literario-filosófico  como el Elogio de la locura, Encomium Moriae, de Erasmo ¿Está hoy esta obra  del gran humanista libre de toda amenaza? Obviamente nadie en nuestro entorno cultural propondría que no se publicase, pero es posible que en ciertos medios, sin excluir centros docentes, pudiera funcionar la censura implícita, o simplemente el retoque  de párrafos enteros.

De hecho  la tentación “correctiva” podría extenderse a libros como “Fuenteovejuna”, en cuyo pasaje central, la incitación de Laurencia a la rebeldía contra el Comendador, se utilizan expresiones ofensivas para enteros colectivos. Traductores en diversas lenguas europeas retocaron párrafos de Platón para camuflar la atmósfera obvia de atracción homo-erótica. Hoy quizás tenderíamos a retocarlos para ocultar la valoración de los efebos y  las palabras de Sócrates indicando que el bello Alcibiades, a sus 19 años, es considerado demasiado viejo  para quienes desde que era adolescente buscaban sus favores. ¿Y qué  diríamos de los insinuantes San Sebastián adolescente de Guido Reni? Y un ejemplo más cercano:

“Parece que los gitanos y gitanas solamente nacieron en el mundo para ser ladrones: nacen de padres ladrones, críanse con ladrones, estudian para ladrones y, finalmente, salen con ser ladrones corrientes y molientes a todo ruedo; y la gana de hurtar y el hurtar son en ellos como accidentes inseparables, que no se quitan sino con la muerte”.

Si hacemos abstracción de algún término que pueda sonar a arcaísmo, fácil sería atribuir este párrafo a alguno de los  políticos contemporáneos que en Europa han aprovechado la mínima ocasión para alimentar los prejuicios más larvarios  y  las inclinaciones más rastreras  de sus votantes, lanzando anatemas contra la población gitana, por ejemplo en Francia contra la comunidad  “Rom” de Moldavia o Rumanía. No es sin embargo el caso. El lector ha quizás reconocido que se trata del arranque de la novela de Miguel de Cervantes “La Gitanilla”.

¿Y cómo se sale de esta aparente incompatibilidad entre exigencia de reconocimiento de la equivalencia en dignidad entre los humanos y la reivindicación del patrimonio espiritual que para la humanidad suponen  las  obras literarias o artísticas?

Pues evitando un error conceptual de enormes implicaciones. Enuncio una posición de principio y de orden directamente filosófico: es imprescindible delimitar bien lo que depende de la kantiana  Razón práctica, que enuncia los imperativos de moralidad,  y lo que depende de la kantiana Facultad de juzgar, que explora la singularidad del  espíritu humano cuando es motivado por la exigencia que llamamos estética.   Si no se hace esta distinción, gran parte de nuestro patrimonio  debería efectivamente ser puesto en tela de juicio. Con un catastrófico corolario, esta vez sí de orden moral. Pues, como indicaba Marcel Proust, la única forma  en la que el arte puede servir a los demás es ser realmente arte. Si el Guernica hubiera sido una obra mediocre las eventuales buenas intenciones del autor hubieran sido inútiles, o hasta perjudiciales para la causa republicana, pues en el arte “las intenciones no cuentan”. Reconozco que tengo en mente cierta polémica actual en torno a la moralidad del autor de Las señoritas  de Aviñón.   

Pero el problema va incluso más allá de la estética, y concierne a la asunción de la historia. La exigencia de  alcanzar una sociedad en que cada persona pueda reconocerse como representante de la entera humanidad  pasa por abolir aquello que, aquí y ahora, impide la  realización de tal ideario; no pasa  por repudiar nominalmente  aspectos de un  pasado   sin el cual no estaríamos aquí para imponernos tal exigencia moral.  Una cosa es ser lúcido respecto al coste que necesariamente supuso un hecho histórico y otra muy diferente repudiar lo efectivamente acontecido en nombre de  lo que imaginariamente  hubiera podido acontecer,  apoyándose en una concepción del lazo entre pueblos y culturas que carecía  de condiciones de posibilidad, de lo cual es buen ejemplo la aventura, cargada de  connotaciones trágicas, de España en América.

“Arrojar el bebé con el agua del baño”. Con diversas variantes y en diferentes lenguas,  esta es la expresión a la que, se alude al estropicio en el que a veces se convierten las tentativas de soltar lastre. Cabe incluso que el bebé sea meramente ahogado y el agua se atasque. El anatema lanzado sin matices contra  momentos de la historia y la  tradición cultural  exacerbando  su connotación con  estructuras  sociales  opresivas aún persistentes, no altera realmente  a estas, pero deja sin sitio a personas para quienes reconocerse en el pasado supone una suerte de conciliación subjetiva; desarraiga sin liberar, cabría decir, cuando precisamente (como indicaba la pensadora francesa Simone Weil) la auténtica liberación pasa quizás por la fortificación de un sano arraigo.

En su admirable libro Las piedras de Venecia refiriéndose al lazo entre un entorno natural y la arquitectura,  John Ruskin ve en Venecia un emblema de ciudad como obra de arte. La construcción de Venecia se realizó ajustando pilotes en el mejor de los casos en un terreno argiloso, y con mayor generalidad en un pantano cuyo fondo había que drenar. Los troncos eran soportados y dispuestos por hombres que amenizaban con ritmos la dificilísima tarea. Es fácil imaginar la cantidad de accidentes calamitosos que ello pudo acarrear… ¿Deberíamos pues lanzar anatema contra Venecia?

Leer más
profile avatar
9 de diciembre de 2021
Blogs de autor

Un reto para la máquina…una queja del hombre

Obviamente la reivindicación de la singularidad del ser humano en virtud de su capacidad de efectuar juicios éticos y sobre todo juicios estéticos, supone dos condiciones:

En primer lugar que tales juicios sean efectivamente de un orden diferente a lo que nuestra mente efectúa cuando codifica y sopesa información recibida, es decir: que una metáfora como “las aladas almas de las rosas” no sea una forma (disimulada para nosotros mismos) de responder a aquello mismo a lo que responden los códigos de señales. Hipótesis anti- reduccionista con la que no simpatizará ciertamente quien estime que el comportamiento lingüístico no es, en lo esencial, diferente del comportamiento que pone de relieve la abeja en su danza (por atenerse al ejemplo clásico).

La segunda condición no consiste en reducir al hombre sino en homologar a la creatura artificial en lo que haría la singularidad del anterior. Habría que decir que un algoritmo puede llegar a exceder la capacidad humana a la hora de simbolizar, de dar sentido o constatar la ausencia del mismo. Desde luego la entidad maquinal sería como nosotros si llegara estar realmente motivada por aquello que motiva a Garcilaso, y si tuviera entre sus intenciones el llegar realmente a emular a este. No digo que esto no pueda darse, digo simplemente que sólo si así fuera, la idea misma de entidades post- humanas tendría el peso que algunos le otorgan.

Utilizando, como señala Aristóteles, “metáforas poéticas”, Platón nos describe un horizonte de puros conceptos, el campo eidético, en el que aspirarían a instalarse todos aquellos que fueron tocados por la dialéctica de Sócrates. Esta querencia por alcanzar la ciudad de las ideas, es decir, el lugar donde las ideas no estarían contaminadas, aparece en los diálogos de Platón llamados “metafísicos” (Parménides, Teeteto, Sofista, Filebo) como ilusión vana, puesto que en el seno de las ideas mismas reaparecen la alteridad, la oposición y la contradicción, es decir, todo aquello que el espíritu repudiaba y que atribuía a la perturbación que para las ideas supondría su inserción en la materia. Hace muchísimos años describí esta decepción de aquel que se aventura en el campo eidético en un libro que llevaba por título “El drama de la ciudad ideal”.

Pasado tanto tiempo quiero simplemente señalar que más allá de la decepción a la llegada la aspiración al campo eidético encierra una suerte de profunda queja.

“¿Es posible que yo, súbdito de Yaqub/ Almansur. Muera como tuvieron que morir las/rosas y Aristóteles?”, se interroga ácidamente el héroe magrebí de Borges. La mente que encadena metáforas, la mente que sintetiza un complejo número de ideas en una prodigiosa fórmula modificadora de las nociones mismas de masa luz y energía, la mente que explora vastos y diversos tipos de infinitud (laberinto cantoriano en el que Borges se queja de no haberle sido dado penetrar…) esta mente ¿ha der encerrada en la vida y heredar el destino de esta? La de los hombres es la única forma de vida que se sabe “un paréntesis entre dos nadas”. Saber tremendo que crea un abismo entre nosotros y el resto de seres vivos. La aspiración al campo eidético platónico, la aspiración a una poesía y una matemática no perturbadas por el transcurrir del tiempo, encierra una sorda y justificada queja por el hecho de que el verbo haya surgido de la carne, quejas por el hecho de que quien haya mutado en ser de palabra sea un animal.

Leer más
profile avatar
15 de noviembre de 2021