Escrito por

Víctor Gómez Pin

Blogs de autor

De Descartes a John Searle

Evidentemente, desde el punto de vista filosófico el problema no es si hemos alcanzado ya o todavía no una máquina que supere el reto de Turing, sino más bien si es posible alcanzarla. Antes decía  que el mismo Turing había avanzado una amplia variedad de objeciones al respecto. Algunos pretenden que la lista incluye todas las cuestiones que se han planteado, desde que el escrito de Turing apareció… y que habrían sido respondidas por el propio Turing. Pero la cosa no está clara. Existen al menos dos argumentos:

A) Aunque la máquina haya superado el test de inteligencia de Turing, esto no prueba que tenga aspectos intencionales ligados a la consciencia. Pero consciencia e intencionalidad son características difícilmente separables de la inteligencia humana.

B) El segundo argumento está vinculado al pensador americano John Searle y esencialmente alega lo siguiente: si la máquina superase el test, simplemente simularía una conversación humana, sin llegar nunca a hablar o pensar realmente. Para hacer esta simulación basta con un ordenador que pueda seguir unas determinadas normas o pautas.

La tesis de John Searle es ampliamente conocida como The Chinese Room Argument y fue publicada por primera vez en 1980 en un documento titulado "Mentes, Cerebros y Programas". El argumento se centra en la llamada Inteligencia Artificial Fuerte (es decir, aquella que podría ser comparada a la inteligencia humana), ya que Searle no hace ninguna objeción a la posibilidad de una inteligencia artificial débil, que esencialmente sería un dispositivo auxiliar de los verdaderos seres inteligentes (por ejemplo, con el fin de estudiar  modalidades de expresión de  la inteligencia humana).

Transcribo aquí la síntesis de la reflexión que el propio Searle realiza en un texto de 1989 titulado, “Reply to Jacquette”. La letra A representa la palabra “axioma”, la letra C, representa la palabra “conclusión”.

A1. Los programas computacionales son puramente formales (sintácticos).

A2. Las mentes tienen contenidos mentales (semántica).

A3. La sintaxis por sí misma no es, ni constitutiva de la semántica, ni condición suficiente para forjarla.

C1. Los programas computacionales ni son constitutivos de la mente, ni condición suficiente de la misma.

Si ahora añadimos:

A4. Los cerebros son agentes causales de las mentes.

Se infiere:

C2. Cualquier sistema capaz de generar mentes, ha de tener poderes causales equivalentes (cuando menos) a los de los cerebros.

C3. Cualquier artefacto productor de fenómenos mentales, cualquier cerebro artificial, ha de tener la capacidad de duplicar [no meramente simular, la precisión es nuestra] los específicos poderes causales de los cerebros, y no podría realizar tal cosa limitándose a responder a un programa formal.

C4. La manera en la que el cerebro genera efectivos fenómenos mentales, no puede reducirse al hecho de responder a un programa computacional.

Cabe decir que Searle en la tradición de la tesis enunciada con absoluta claridad y distinción hace ya cuatro siglos por René Descartes:

Quería demostrar que una máquina con los órganos y la figura de un ser humano y que imitase nuestras acciones en lo que moralmente fuera posible, no podía ser considerada como un hombre; y para ello, aducía dos consideraciones irrefutables. La primera era que nunca una máquina podrá usar palabras ni signos equivalentes a ellas, como hacemos nosotros para declarar a otros nuestros pensamientos. Es posible concebir una máquina tan perfecta que profiera palabras a propósito de actos corporales que causen algún cambio en sus órganos –por ejemplo: si se le toca en un punto, que conteste lo que determinó el autor de la máquina - ; lo que no es posible, es que hable contestando con sentido a todo lo que se diga en su presencia, como hacen los hombres menos inteligentes. La segunda consideración era que, aún en el caso de que esos artefactos realizarán ciertos actos mejor que nosotros, obrarían no con conciencia de ello, sino como consecuencia de la disposición de sus órganos”. (Descartes, Discurso del Método trad. Francisco Larroyo, México: Porrúa, 1977, pág. 31-32.).

Tesis cartesiana que hoy puede ciertamente ser puesta en tela de juicio, es decir, discutida con argumentos racionales, dada de un plumazo por superada. “Los robots no tienen que ser inteligentes todo el tiempo” declaraba años atrás una estancia en Barcelona Manuela Veloso investigadora de la Carneggie Mellon University,  señalando al respecto que si las máquinas no siempre se muestran inteligentes tampoco parece que “los humanos seamos inteligentes máquinas pensantes 24 horas al día”. Sin duda está en lo cierto: los humanos no somos probablemente máquinas pensantes, ni 24 horas al día, ni un minuto. Y ello, por la sencilla razón de que  no somos máquinas, de que nuestro pensamiento de entrada  no es reductible a funcionamiento  maquinal.

En  este registro  de la inteligencia artificial (como en tantos otros, por ejemplo cuando se trata de extraer consecuencias de hechos científicos en sí indiscutibles, como el alto grado de coincidencia genética entre humanos y chimpancés) hay presupuestos, cuando no sesgos apriorísticos, que determinan la interpretación que se da de los hechos. Cabe decir que, de alguna manera, (como en “l’auberge espagnole del proverbio francés) uno sólo encuentra en ellos lo que lleva en sus alforjas. Algunos están dispuestos a encontrar a todo precio indicios de que, tanto respecto a la inteligencia como respecto al lenguaje, se difumina la frontera que separa artefactos y humanos, mientras que John Searle parece dispuesto a lo contrario Es difícil  tomar partido en esta maraña de interpretaciones, réplicas, contra-réplicas y hasta recurso a la autoridad, ya sea la autoridad de la ciencia. Pero es conveniente señalar que el argumento de ausencia de semántica es generalmente concedido a Searle cuando se trata de un programa computacional. Las objeciones van más bien por considerar que la inteligencia artificial, al menos potencialmente, no se reduce a un computer program. Si definimos la Inteligencia Artificial Fuerte como una máquina que puede emular o superar la inteligencia humana en todas las modalidades que esta adopta, entonces se plantea un doble problema:

¿Es esto un mero proyecto, o algo que cabe considerar como algo  ya alcanzado? Caso de respuesta afirmativa, ¿es seguro que las manifestaciones fenoménicas responden a la existencia en la mente maquinal de la polaridad significante/ significado, es decir de una suerte de platónico campo eidético correlativo del dominio de la conexión de signos? Intentar responder a la primera pregunta supone meterse en intrincados asuntos como por ejemplo el problema clásico de determinar si los procesos que se dan en el cerebro están o no caracterizados por el determinismo. Si así fuera, llegando a hacer que un programa duplicara exactamente las conexiones de las partículas de nuestro cerebro (¡asunto  arduo!), entonces podríamos suponer que estaría funcionando  como nuestra mente. Supongamos sin embargo la hipótesis contraria: no solo en nuestro cerebro  hay algo intrínsecamente indeterminado, sino (hipótesis de Penrose)  que la modalidad  de  indeterminación (de hecho cuántica) que se da en nuestro caso es condición del singular  funcionamiento de nuestra mente. En esta hipótesis está excluido que se pueda construir la réplica computacional del mismo y por consiguiente se cierra la posibilidad de construcción de un artefacto homologable al ser humano.

Leer más
profile avatar
20 de junio de 2022
Blogs de autor

Una cosa que piensa

¿Cabe pues hablar de máquinas que piensan?  A la  pregunta de Alan Turing  hace casi tres cuartos de siglo  lo primero que pasa por la cabeza es la de que todo depende de lo que entendemos por pensar. El propio Turing escribe en el arranque “Deberíamos  empezar definiendo lo que significan los términos máquina y pensar”. No parece que esta exigencia se haya siempre respetado.

Etimológicamente pensar es “sopesar”, alzar, relevar, hacer que algo sea  relevante  a fin de pesarlo o… pensarlo, dirimir respecto a sus posibilidades con vistas a obtener un resultado que se espera. Pero, obviamente, de entrada  esto puede ser aplicable  tanto a la compleja reacción que tiene un animal que  valora opciones  de fuga ante la presencia de un depredador, como a la disposición  de un político que  tantea o calibra los beneficios y perjuicios de adoptar tal posición. Y cuando Turing  plantea la pregunta se está refiriendo a algo más que a esto.

De hecho Turing parece tener en mente  un ser (“una cosa que piensa” Descartes dixit) cuya reacción ante el entorno fuera homologable  a la de los humanos en las circunstancias en las que  actúan racionalmente. Y quisiera al respecto insistir en un aspecto problemático ya señalado:

Cuando nos dirigimos a un ser humano, tenemos como punto de arranque,  presupuesto o condición, que estamos dirigiéndonos a un ser pensante y no esperamos la respuesta para determinar que  efectivamente es así (si responde mal o caóticamente, diremos que es un ser confuso, pero no ponemos en cuestión su condición de ser pensante). Esto no podía escapar al propio Turing, de ahí la dificultad de interpretar su texto en el sentido  de juzgar  a la invisible entidad de la misma manera que juzgaríamos  a los humanos, es decir, sólo si responden a nuestras preguntas de un modo que nos parece razonable diríamos que su respuesta es resultado de que han estado pensando, es decir que son seres inteligentes. Pero con independencia de este problema, cuando quien considera la eventualidad de una máquina inteligente es un pensador de la envergadura de Alan Turing, hemos forzosamente de considerar  que no se trata de un uso abusivo del término inteligencia.

Estamos ante la hipótesis  de que una entidad que (al igual que ocurre en nuestro caso)  se activa incluso cuando nada relativo a las condiciones de posibilidad de su existencia está en juego; una entidad cuya percepción digamos sensorial  fuera (como en nuestro caso) mediatizada por entidades que no cabe sin más reducir a elementos  sensibles, como  son los conceptos, los contenidos del platónico campo eidético; una entidad  que a partir de de un conjunto finito de elementos físicos  estuviera en condiciones de desplegar una pluralidad potencialmente infinita de elementos “significantes”; a lo cual cabe añadir que esa entidad estaría atravesada por los elementos emocionales, las ansias creativas y la frustración por no alcanzarlas que son rasgos de nuestra inteligencia.

En la intersección de la ciencia y la filosofía, el proyecto de Turing abre el siguiente interrogante: siendo el hombre un animal de razón y de lenguaje, ¿llegará él mismo a ser creador de razón y lenguaje?; ¿creador de  algo que (parafraseando a Descartes) afirma, niega, siente, conjetura, concluye  teme, se motiva y sobre todo duda, aspectos todos ellos que son expresión de inteligencia? Los cerebros artificiales solucionarán  mucho mejor que el hombre ciertos problemas antes  evocados, reemplazándonos en  tareas tecnológicas. Pero ¿serán  émulos de Dante  o Calderón, compondrán como Mozart o Vivaldi? Interrogación a la cual cabe añadir:

¿Serán esos nuevos seres  capaces  de formular algo análogo al principio de equivalencia de la relatividad general o al principio de incertidumbre de Heisenberg de la Mecánica Cuántica?  ¿Serán capaces de “interesarse” por algo como las figuras cónicas que fascinaban al pensamiento griego y que sin embargo no tuvieron durante siglos utilización técnica alguna? ¿Serán  susceptibles de ser movidos por la pura exigencia de inteligibilidad que, desde la física elemental de los jónicos hasta las discusiones sobre los fundamentos de la física cuántica (¡que se prolongan desde hace un siglo!) son un aspecto esencial de la ciencia (no el único por supuesto)? ¿Serán capaces de sentir ese “estupor” (según Aristóteles punto de  arranque de la filosofía) que experimenta un científico cuando constata algo que, funcionando perfectamente, parece escapar a los principios mismos de la ciencia, ese estupor que -por mucho que hubiera previsto el resultado- no pudo dejar de experimentar Alain Aspect ante su experimento de no localidad? En suma:

¿Dará el hombre lugar a un ser artificial dotado de la inteligencia a la vez conceptual y sentiente (por utilizar la expresión de Zubiri) que ha posibilitado un Garcilaso, pero también un Descartes o un Einstein, y que además tenga esa trágica certeza de la propia finitud que acompañaba a esos  creadores, como acompaña a todo ser de palabra?

Leer más
profile avatar
2 de junio de 2022
Blogs de autor

Repaso: de Turing a ELIZA

Como ocurre tantas veces, para entender el verdadero alcance de todos los logros relativos a artefactos que parecen mostrar alguna modalidad de inteligencia, conviene insertarlos en lo que podemos considerar el punto de arranque, el ambicioso proyecto del filósofo y matemático británico Alan Turing.

Si hacemos abstracción de consideraciones hipotéticas que se daban ya entre los griegos, el origen del asunto  test fue un juego mundano llamado "Imitation Game", que dio lugar al llamado Test de Turing, que este presentaba de esta manera:

"En el juego intervienen tres personas, un hombre (A), una mujer (B), y un interrogador (C), que puede ser de uno u otro sexo.  El interrogador se queda en una habitación separada de las otras dos. El objetivo del juego es determinar cuál es el hombre y cuál la mujer. Él los designa por las etiquetas X e Y, y al final del juego, debe decir  X es A, Y es  B, o bien  Y es A, X es B. Al interrogador se le permite formular preguntas a A y B del tipo: "X, por favor, ¿cuál  es la longitud de su pelo?".

Posteriormente Turing propuso reproducir el Imitation Game de otro modo:

 “Hagámonos la pregunta, ¿qué ocurriría si una máquina hiciese la parte de A en este juego? ¿El interrogador podría llegar a dar respuestas erróneas tan a menudo como cuando jugábamos con un hombre y una mujer? Estas interrogaciones sustituyen al original "¿pueden las máquinas pensar?"

Turing tenía en mente que con el tiempo podrían programarse ordenadores susceptibles de adquirir potencialidades que rivalizasen con la inteligencia humana. En cuanto al test en sí, argumentó que si el interlocutor era incapaz de distinguir entre la máquina y la persona a través del interrogatorio, la computadora debía ser considerada inteligente, “puesto que ésta es la forma en que juzgamos el pensamiento de otra persona”.

Creo que la última frase es un punto controvertido del asunto, porque  no es seguro que juzguemos la inteligencia de las personas de este modo. Más bien,  cuando nos encontramos con una persona, ya suponemos que es inteligente (puesto que ser inteligente forma parte de la definición de persona), y cuando eventualmente le formulamos alguna pregunta, entonces, en función de la respuesta, concluiremos que esa persona es lista o estúpida… por supuesto, todo ello dentro de la inteligencia, que es una facultad general, no una característica de alguien en particular. La inteligencia como la condición de ser moral es un punto de partida tratándose de los humanos.

Si  ante alguna pregunta  relativa a crímenes del periodo franquista  alguien responde que aquel régimen  estaba muy bien porque daba orden y seguridad a los ciudadanos, concluiremos que es un canalla… precisamente porque le atribuimos una condición moral,  como una de las modalidades de la inteligencia  humana, pues a nadie en su sano juicio se le ocurre tildar de canalla a un perro. En cualquier caso, en el texto de Turing se incluyen  no sólo las bases de lo que sería las tentativas y logros posteriores (sugerencias para alcanzar  la  Inteligencia Artificial en un modelo de máquina basado en teorías matemáticas), sino también las objeciones a sus propias conjeturas y las respuestas a las mismas.

Algunas de las observaciones de Turing apuntan ya  a la idea de una super-inteligencia: si una máquina llegase a superar el test, podría sobrepasar a los humanos en cuanto a capacidades, excediendo lo que éstos puedan realizar. Obviamente, el primer problema es determinar si las máquinas serían capaces de superar la prueba. El mismo Turing fue extraordinariamente optimista. Creía que antes del año 2000, máquinas con una potencia de 199 bits de memoria podrían confundir a los seres humanos, por lo menos durante los primeros cinco minutos de la prueba.

Turing era plenamente consciente de que su conjetura entraba en completa contradicción con las hipótesis de la singularidad de los seres humanos, y se refirió a sí mismo como un hereje. Pero de hecho, estamos en 2022 y ninguna máquina ha logrado superar la prueba de Turing. Y en todos los casos de relativo éxito hay alguna norma (introducida por el propio Turing) que no se ha respetado.

Hay un famoso programa llamado  ELIZA inventado en 1966 en  el MIT por Joseph Weizenbaum y considerado como una avanzadilla de los actuales “chatbot”, bots conversacionales. ELIZA  consiguió muy pronto  hacer creer a sus “interlocutores” (las comillas vienen porque el polo ELIZA, precisamente no es seguro que  sea un interlocutor) que estaban hablando con una persona. En las  primeras versiones (ahora el asunto ya está corregido) la persona que conecta con ELIZA no tiene ningún motivo para conjeturar que su partenaire  es una máquina. Ahora bien, esencial en el test de Turing es precisamente que el interrogador trata de determinar  si la máquina ha de ser considerada o no inteligente. Pero lo que quiero señalar sobre ELIZA es lo siguiente:

En su concepción había  la intención explícita de mostrar cómo podemos fácilmente ser llamados a engaño creyendo que se nos está verdaderamente dirigiendo la palabra cuando en realidad se está hablando mecánicamente usando ciertos trucos. Esto ocurre a menudo cuando el cruce de palabras entre humanos no es verídico, o sea no constituye realmente un cruce de palabras. Supongamos que cada vez que oye la palabra  tristeza, un psiquiatra falaz, sea cual sea el paciente,  pregunta  si ha habido algún problema con la pareja o algún roce en el trabajo. Mientras hace esta falsa pregunta, el psiquiatra en cuestión puede perfectamente estar ausente, tener la mente en otro lado, o sea no constituye realmente un interlocutor.  Pues bien, algo análogo es lo que hacía ELIZA, obviamente en relación a múltiples palabras. Ni entendía nada de lo que se le preguntaba, ni tal entender estaba realmente en juego;  se limitaba a poner un orden por contigüidad (sintaxis) siguiendo las instrucciones de un programa. Pero quien preguntaba podía perfectamente sacar la impresión de que sí había efectivamente  captado algo.

Desde ELIZA hasta acá, los chatbots han conseguido que del intercambio escrito se pase al intercambio auditivo, a multiplicar el número y la complejidad de las  frases a las que pueden responder, disminuyendo  el lapso entre mensaje enviado y respuesta, etcétera… pero en lo esencial nada ha cambiado. Sin duda en la literatura (y sobre todo en la propagandística) se hace ya diferencia entre bots digamos elementales y bots que parecen realmente inteligentes, que son susceptibles de determinar cosas como  la intención de la persona.  Pero la pregunta sigue siéndola misma: ¿se ha ido más allá de la respuesta automática y de la inferencia a partir de casos?

El problema es que aquella intención crítica de los que pusieron en marcha ELIZA, aquella denuncia de la mera apariencia de palabra de la que en tantas ocasiones somos víctimas los humanos, ha quedado hace tiempo atrás,  y hoy la intención (por ejemplo de los gestores de los servidores, esos que Javier Echeverría designó como Señores del Aire) es más bien que tomemos el mensaje de los chatbots como  si procediera de un verdadero ser lingüístico, o más bien:  que nos dé igual si se trata o no de mensaje con soporte en el lenguaje, que sólo nos interese su utilidad para ciertas exigencias. Volveré sobre este asunto que realmente es la cuestión nuclear de esta reflexión.

Leer más
profile avatar
19 de mayo de 2022
Blogs de autor

Máquinas inteligentes: el escollo del pensamiento ético

¿Qué se aprende, por ejemplo, cuando se impone  una exigencia cabalmente ética es decir no reductible a conveniencia? ¿Es la disposición ética el resultado de un proceso análogo al que lleva al conocimiento técnico, o  se trata de una disposición irreductible del espíritu humano que en ciertos aspectos entraría incluso en contradicción con las leyes evolutivas. Sin espacio aquí más que para evocar  el asunto, señalaré  que el biólogo y filósofo  T.H. Huxley (1825-1895) considerado algo así como el abogado defensor de la ortodoxia darwiniana, en su libro Evolution and ethics (publicado en 1894) sorprendió a muchos de sus seguidores presentando la disposición ética de los humanos como una suerte de  superación de lo inmediatamente dispuesto por la naturaleza. En la hipótesis (no por todos compartida) de que la moralidad es un rasgo propio de la especificidad humana, la concepción de Huxley vendría a suponer que no se trata de un refinado momento al que se habría llegado a través de la continuidad evolutiva, sino una ruptura con esta.  El darwinismo dejaría de ser operativo cuando nos introducimos en el universo de la ética Caricaturizando un tanto, tal posición equivaldría a sostener que, de seguir la pauta estrictamente evolutiva careceríamos del mínimo bagaje de altruismo. Altruismo sin el cual, sin embargo,  no es concebible la sociedad humana.

Siguiendo la vía abierta por Huxley, otros estudiosos han radicalizado la posición considerando que la emergencia de un sentimiento ético es algo más que una ruptura de continuidad en la evolución. Se trataría de una auténtica contradicción,  en la que la economía natural se negaría a sí misma. En suma: el darwinismo dejaría de ser operativo cuando nos sumergimos en el universo de la ética.

Como no podía ser menos, las reacciones de los partidarios de una antropología sustentada en una versión integradora y en la continuidad darwiniana han sido múltiples. Se trata fundamentalmente de sostener que, en alguna medida, la simpatía con los demás, la inclinación a ayudar a otros miembros de la especie (y no sólo de la especie), incluso la disposición al sacrificio están presentes en nuestra naturaleza inmediata, en razón de que esta es de orden animal, y que los animales mismos ofrecen inequívocas muestras de moralidad. Como decía, no puedo aquí más que evocar el problema, de una enorme trascendencia filosófica.

Y en otro orden: Calixto, el desafortunado protagonista de La Celestina, habla verídicamente sin apercibirse de ello y sus jóvenes criados, Pármeno y Sempronio ven en ello como un eco del destino de Virgilio, es decir, el destino de quien encarna emblemáticamente la figura del poeta. Pues bien, ¿en qué la manera de hablar de Virgilio enriquece el elemento comunicativo del discurso? Y por evocar a autores más cercano a nosotros,  ¿qué supone para el interlocutor la sentencia (núcleo de un poema de Paul Eluard considerado paradigma de la literatura contemporánea) “El mundo es azul como lo es una naranja”?  Otras veces he puesto como ejemplo  los siguientes versos del “Llanto” de Lorca: “La piedra es una espalda para llevar al tiempo/Con árboles de lágrimas y cintas y planetas”. La pregunta que formulo es muy clara: ¿Es posible reducir una frase poética a una composición sintáctica portadora de información?

Estoy intentando señalar simplemente que nuestra inteligencia supone modalidades que van más allá de lo que la experiencia, la técnica y el conocimiento científico suponen; modalidades que pasan por la ´disposición ética y asimismo por algo filosóficamente tan problemático como la comunicación estética. Si hablamos de inteligencia artificial en el sentido cabal del término inteligencia, no podemos dejar de lado ninguno de estos aspectos.

Leer más
profile avatar
6 de mayo de 2022
Blogs de autor

¿Cabe encontrar en las máquinas la clave de nuestra condición racional?

Al menos hasta nuestros días,  la convicción de la singularidad vertical de la  especie humana en relación a las demás especies animadas, más que resultado de un posicionamiento filosófico era algo tan compartido como inmediato. Los humanos nos distinguiríamos por la capacidad de efectuar razonamientos (logismoi) como expresión de nuestra facultad  de decir (legein), luego decidir, escoger entre diferentes alternativas; nos distinguiríamos en suma por nuestra  singular  inteligencia.

A fortiori esta jerarquía se extendía en relación a los vegetales, seres vivos pero considerados carentes de anima y aun con mayor razón a las cosas no vivas. De ahí lo interesante de que, tras innumerables debates comparativos con la inteligencia animal, la jerarquía parezca ser puesta en tela de juicio por el lado de la materia inerte, esa materia en sí misma no susceptible de acción de la que se forman máquinas. Pues desde luego la cuestión de si es posible que haya seres artificiales que piensen y aprendan del modo en que nosotros lo hacemos ha alcanzado mayor acuidad científica, y quizás también mayor relevancia filosófica, que la cuestión de determinar si hay especies animales homologables al ser humano, aunque obviamente sean mucho más próximos por nuestra matriz común en ese momento singular de la transformación de la energía que significó la vida.

 Entre los logros de la investigación  hay   algunos  que realmente dejan atónito. Ya he evocado la Evocaba la  previsión por  Alphafold2  del repliegue sobre sí mismos de los polipéptidos. Pero son muchos los ejemplos.  Así en “Nature Communications”,  el  30 de mayo de 2021, se daba cuenta de una máquina en la que se perfeccionaría grandemente un funcionamiento sináptico émulo del funcionamiento del cerebro humano. Según  Rafael Yuste, investigador de la Universidad de Columbia y colaborador del Donostia International Physics Center, un proyecto  como  Brain Initiative   permitirá hacer un mapa del estado de nuestro cerebro, no sólo de  lo que estamos percibiendo en acto, sino también de lo que estamos deseando o temiendo. Si tal es el caso no parece excesivo que el proyecto sea presentado como el equivalente en el campo de las neurociencias de lo que el proyecto genoma humano ha sido en el campo de la genética. En términos generales se habla hoy de  sensores susceptibles de   captar  la expresión neuronal de la voluntad de acción de un ser lingüístico, voluntad por ejemplo de trazar con la mano una palabra.

Sobre algunos de estos casos habrá que volver, pero quiero ahora señalar que pese a  estos logros en la intersección de diversos campos del conocimiento,  los científicos aceptan la perplejidad en la que siguen inmersos cuando se trata del cerebro humano,  empezando por su origen, es decir,  por las condiciones de posibilidad y necesidad de su aparición.  Por eso es de señalar que en relación a esas entidades que son las redes neuronales  artificiales  se conjeture que   serían  susceptibles de darnos la clave de la inteligencia humana, la clave concretamente de nuestra manera de aprender, nuestra manera de corregir errores, es decir, de reducir  la relación entre el monto total  de error  y el error concreto debido a una sobrevaloración o infravaloración de una información determinada, recibida por una neurona precisa.

Sin duda, para que el funcionamiento maquinal sea realmente para nosotros una clave del funcionamiento humano, sería útil tener un verdadero conocimiento del primero, es decir, convendría saber no sólo cómo funciona sino por qué funciona. Ahora bien, en ocasiones los propios especialistas reconocen que estamos verdes al respecto. Pero aun haciendo abstracción de esta deficiencia, una  objeción general es la de que aprender  es sólo una de las modalidades de activación de nuestra inteligencia Hay manifestaciones  de inteligencia en la que la dimensión de aprendizaje o bien es inexistente o es  secundaria.

Leer más
profile avatar
21 de abril de 2022
Blogs de autor

La máquina defiende su condición de heredera

 Si, como avanzaba en la columna anterior, la máquina heredera se hallará ante el juez no está entonces excluido que el magistrado la interrogue directamente y que responda a sus preguntas con aparente buen juicio, evoque   los lazos que le unían al finado, lamente su ausencia, defienda su derecho a ser beneficiada por el testamento y manifieste su intención de invertir la herencia de forma provechosa, tanto para la sociedad como para ella misma.

Sin duda el abogado de la parte contraria protestaría, argumentando que estamos sólo en presencia de un ser  maquinal, carente de la posibilidad de tener sentimiento  respecto a lo que le conviene o no, y menos aun de lo que conviene a la sociedad.  Vendría en suma  a decir, que se había asistido a una mera ficción pues en realidad  la máquina ni siquiera  habla.

El juez  da  entonces la palabra al abogado de  Lulu, el cual  argumenta  que  es  visible  a  todos los presentes que   el heredero ha mostrado no sólo como   ser hablante sino como un hablante perfectamente razonable. Y añade  este argumento: si en lugar de haber sido  convocada presencialmente por el juez,  este  hubiera decidido que Lulu hablara a través de un teléfono, ¿alguien  que no estuviera al corriente podría  sospechar que se trata de una máquina?

El otro abogado argüiría que su colega estaba haciendo un uso improcedente de un viejo problema filosófico planteado por Alan Turing, pero que había que ser serio, que una cosa eran los debates especulativos y otra muy diferente los vínculos económicos y las leyes que han de regirlos.

El abogado de  Lulu protesta entonces  diciendo que  no ve razón para excluir del debate lo que podían decir los filósofos sobre si el interesado habla o no habla.  El juez  le  da la razón y pregunta  al abogado demandante si tiene  algo que añadir.

Este  arguye  que si de argumento filosófico se trata,  el más ajustado sigue siendo  es  del profesor John Searle que desde medio siglo  atrás viene  clamando que, pese a  las apariencias de lo contrario, en la llamada inteligencia artificial lo único que hay son lazos sintácticos  y que para hablar de lenguaje es imprescindible que haya semántica.

El abogado de Lulu contraataca, diciendo que las objeciones de Searle son aplicables a una modalidad de inteligencia artificial incapaz de dar explicación de los fenómenos, pero en absoluto a un ente como Lulu, que razona realmente en todos los sentidos de la palabra razón archivados por Kant

Picado el juez en su curiosidad,  pide a uno y otro letrado que se explayen al respecto y así es como el debate jurídico  sobre la herencia de un millonario americano deriva en una elucidación sobre el valor respectivo  de la tesis de John Searle conocida como The Chinese Room, frente a la conjetura de una inteligencia artificial fuerte apuntada por Alan Turing. Todo ello con trasfondo de la triple crítica kantiana.

Leer más
profile avatar
13 de abril de 2022
Blogs de autor

La máquina heredera: trasposición de un suceso real

 Empiezo por un repaso de hechos conocidos vinculados a la capacidad de ciertos artefactos, sobre la que ya me referido en columnas anteriores:

Hoy entes  maquinales hacen previsiones que  los científicos no habían sido  capaces de hacer. Un caso de performance predictiva, en la intersección de la inteligencia artificial y la genética, es el de AlphaFold 2, artefacto que fue capaz de prever el repliegue sobre sí mismos de los polipéptidos, a fin de alcanzar la estructura tridimensional que es necesaria para el  correcto funcionamiento de las proteínas. A esta auténtica performance  cabe añadir, por ejemplo, el hecho de que dispositivos telemétricos dispuestos en órganos de recién nacidos pueden llegar a predecir una infección antes de que la misma haya tenido lugar.

El problema es que, en un caso como en otro, no tenemos ni idea de cómo las entidades artificiales realizan esa previsión, y menos idea tenemos sobre si además de ser capaces de prever son capaces de entender la razón de tal previsión, es decir si conocen o no las causas. Es bien sabido que  prever no es explicar y no está claro que la acuidad predictiva   sea consecuencia de que ha alcanzado una intelección plena, es decir, un conocimiento de la causa o razón de aquello que se prevé. Y recordaba al respecto que la gravitación newtoniana preveía importantísimas cosas y sin embargo no explicaba lo que preveía, limitándose al cómo, abstracción hecha del porqué. De hecho el principio ontológico en el que se sustentaba (un espacio tridimensional vacío en el que los hechos acontecían) hacía que toda tentativa de explicación violara el principio de localidad; de ahí la importancia filosófica,  y no sólo científica, de de la sustitución la gravitación  newtoniana por la relativista.

En suma, no sabemos si  Alphafold2, por atenerse a su caso, está en condiciones de ex–plicar, es decir des-plegar conceptualmente ese pliegue que había previsto con tal acuidad; no sabemos si sabe o no  sabe  las causas de lo que anuncia, y ello simplemente porque de momento los entes maquinales no dan explicaciones, es decir, aun no parece que estemos en condiciones de mantener con ninguna de ellos  una conversación del tipo: ¿sabes la razón de lo que enuncias, la causa de esta  previsión que acabas de hacer?

Sin embargo no es de excluir que ello pueda ocurrir. No está a priori  excluido que en un tiempo prudente las máquinas sean  capaces de explicar su comportamiento y las razones del mismo, tanto ante nosotros los seres racionales animados  como ante sus homólogos, que tendríamos derecho a denominar racionales  maquinales. Y dejo para más adelante las consideraciones sobre lo que esto significa: ni más ni menos que una razón sin soporte vital. Pues bien:

Tomo como punto de partida un artefacto provisto de esa  capacidad de recibir información, procesarla, dar respuesta a un “interlocutor” maquinal o humano  a la que se alude con la expresión “aprendizaje profundo”.  Pero acepto además provisionalmente  que esta “profundidad” es tal que  a la capacidad de hacer descripciones y previsiones el artefacto añade la   de explicar esos fenómenos. En el caso de Alphafold2,  capaz   de un-folding  ese  fold que llegó a anunciar; capaz de, mostrar la razón de la concurrencia de  los elementos simples  o planos,  a fin de hacer emerger un elemento complejo. Es de señalar que como los humanos no tenemos por el momento ni la capacidad previsora que muestra AlphaFold2, ni menos aún el conocimiento de las causas de lo así previsto, ha de excluirse que estas virtudes cognitivas del artefacto sean el resultado de una programación.

En base a esta hipótesis consideraré una singular conjetura, como trasposición de un suceso real.

En febrero de 2021 los diarios se hacían eco de que en la ciudad de Tennesse  un can  llamado Lulu  había heredado una  fortuna de cinco millones de dólares, legado de su propietario de nombre Bill Dorris. Hay casos más recientes y más espectaculares. Así, en noviembre de ese mismo era noticia, más o menos verídica, que los representantes de un perro llamado Gunther VI  habían vendido una casa por 28 millones de dólares, una minucia en comparación con los  heredero de 440 millones que en su día habría heredado. Pero me atendré al caso de la mascota Lulu para evocar un problema  que se planteó a Martha Burton la persona encargada de la gestión. El diario barcelonés La Vanguardia en su edición del 15/02/2021 recogía unas líneas del testamento: “Cinco millones de dólares serán transferidos a un fideicomiso que se creará tras mi muerte para el cuidado de mi border collie Lulu [...] para satisfacer todas sus necesidades”.

El problema consistía en la interpretación de las últimas líneas. La señora Burton declaraba: “Francamente, no sé qué pensar al respecto”. ¿Como en efecto determinar cuáles son las necesidades de un can, sobre todo aquellas que puedan generar un gasto de cinco millones de dólares y que pudieran aproximarse a los deseos, más o menos cercanos al capricho, que mueven a los humanos? Se planteaba además un problema suplementario, el de determinar qué hacer con el dinero sobrante en el caso de que Lulu falleciera sin haberlo gastado totalmente. Ignoro cómo acabó la cosa, pero quiero avanzar una conjetura, que después retomaré sustituyendo al protagonista animal por un protagonista maquinal: algún pariente del finado, descontento con su decisión testamentaria,  acude al juez, argumentando que, efectivamente, ningún fideicomiso está en condiciones de adivinar cuales son los “deseos” del perro, salvo en lo relativo a sus necesidades inmediatas, que de ninguna manera pueden suponer un gasto de millones de dólares. En consecuencia exige que se considere no válido el testamento y se dé un uso diferente (quizás más provechoso para el demandante) a la fortuna.

En su voluntad de ser ecuánime, el juez convoca al demandante, la encargada de la custodia Martha Burton,  el propio perro, más los letrados de ambas partes. Todos se explayan,  a excepción del primer  interesado, el can…que asiste con actitud displicente al interminable debate.  Este terco silencio del protagonista, aunque obviamente esperado por  el juez,  es una dificultad suplementaria a  la hora de emitir un veredicto en el que entran en juego no sólo necesidades de un ser vivo, sino eventuales querencias imprevisibles respecto a alimentación, relaciones y hasta  ornato de su entorno.

Pues bien, mi pregunta es qué pasaría si el finado Bill Dorris hubiera compartido sus últimos años en lugar de con un perro, con  una máquina inteligente, a la que cabe llamar también Lulu. Ni siquiera es necesario pensar que se trata de uno  de esos asistentes robóticos  que, en países como Japón, empiezan a ser cuidadores generalizados de tantas personas privadas de lazos con sus congéneres. Puede tratarse simplemente de una máquina con la cual se relacionaba  en actividades lúdicas  que le distraían de sus dolencias.

Supongamos que, como en el caso del can, la máquina es favorecida por el testamento, y asimismo que  un pariente  muestra  su disconformidad, de tal manera que la   cosa acaba también  ante el juez. ¿Se vería  este en la misma tesitura a la hora de tomar decisión? Obviamente no, si al menos suponemos que la máquina que se ocupó del finado es, digamos, suficientemente sofisticada, es decir: se trata de esa máquina antes descrita, no sólo capaz de hacer descripciones y previsiones sino también  de explicar  (al menos en apariencia- se verá más adelante el porqué de la cautela)  los fenómenos de los que se ocupa. Veremos cómo la máquina podría defender su condición de heredera, y el interesante debate filosófico que al hacerlo provocaría.

Leer más
profile avatar
30 de marzo de 2022
Blogs de autor

Cuando “las palabras no mienten”

Las metáforas pueden ser verbales o visuales. Entre estas últimas quiero situar en contrapunto dos imágenes: por un lado  la doble hélice del ADN, junto a la cual  se fotografían los descubridores Crick y Watson; por otro lado  la escultura conmemorativa realizada en 2010 por Charles Jencks para la Universidad de Cambridge.  La  primera imagen no parece aspirar a otra cosa que a servir de trampolín para la intelección por parte de quienes carecen aun del concepto propio de lo que está en juego. La segunda tiene una pretensión ornamental, pero también  me atrevo a decir que artística (aunque el autor era un teórico del paisaje más que un escultor). No se trata de la misma dimensión: una cosa es una imagen como peldaño de la ciencia, otra muy diferente la imagen como obra de arte.

Si de metáfora aun  se trata, hemos pasado a un plano ortogonal al que estábamos. Pues  si el recurso utilitario a la metáfora se da en arte y en ciencia, cabe decir que para el arte el verdadero trato con la metáfora no es  algo que tenga que ver con el uso. Las metáforas entonces no tienen  ya (o no tienen exclusivamente) valor de uso, porque al menos en ciertas modalidades de arte, la metáfora es causa final, sólo se sirve a sí misma.

Marcel Proust comparaba el trabajo del arte a la inmersión en un pozo artesiano en el que la ascensión es proporcional a la profundidad  Tratándose de metáforas en poesía, cabe añadir  que lo emergente de las profundidades  es sólo  una forma redimida de lo que ha hecho inmersión: mientras en el arranque la palabra parece estar al servicio de la representación, en el retorno (como en Góngora o Paul Éluard) la metáfora en nada externo se detiene y-cabe decir-  sólo persigue  a la metáfora. ¿Es la Tierra  azul como una naranja? Así ha de ser si las palabras no mienten  (La terre est bleue comme une orange/Jamais une erreur les mots ne mentent pas).

La metáfora nada tendría que ver con aspectos del arte desvinculados de lo epistémico, claman los que ven la utilidad del arte.  Sostienen además (como Veit y Ney en el artículo del que me he ocupado arriba)  que la mayoría  de las metáforas en literatura y otras disciplinas artísticas  serían potentes representaciones de la realidad Como simple contra-ejemplo pediría  que se  me indicara si cabe reducir a valor epistémico o a representación de la realidad,  los siguientes versos cargados de metáfora:

“La piedra es una espalda para llevar al tiempo/ con árboles de lágrimas y cintas y planetas”.

No discuto la legitimidad de preguntarse  qué quiere decir Lorca en estas líneas, de qué verdad el poeta se siente portavoz. Estoy diciendo simplemente que esa verdad no consiste en adecuación a una realidad extrínseca, y que  lo esencial en tal decir no es de orden epistémico,  que lo conmovedor del asunto reside simplemente en otro decir, esencial a la razón humana y a lo que  Kant, en estos asuntos ineludible, intentó aproximarse. La metáfora no  es aquí ese “instrumento” al que a veces ha querido ser reducida. Y desde luego no cumple la exigencia de subordinarse a un relato ajeno a la propia metáfora.

Porque la piedra tiene simientes y nublados/ esqueletos de alondras  y lobos de penumbra”.

Leer más
profile avatar
18 de marzo de 2022
Blogs de autor

Quitar peso a las metáforas

Aludía al final de la columna anterior al papel de la metáfora en el conocimiento y en la creación, preguntándome si ambos papeles podían ser homologados. En ciencia hay momentos en los que la objetividad todavía no legisla, así por ejemplo cuando utilizamos una metáfora para aproximarnos a una hipótesis. Pero la metáfora… no tiene nunca en ciencia la última palabra. Cosa que en ocasiones sí ocurre en literatura.

Tras salir tangencialmente este problema en la sesión de la academia vasca Jakiunde a la que hacía referencia dos columnas atrás, uno de los ponentes, prestigioso científico, evocó un artículo reciente publicado en el European Journal for Philosophy of Science en el que esta homologación de las funciones de la metáfora se afirma con rotundidad. En lo que sigue tomo este trabajo como punto de referencia.  Conviene precisar que los autores toman partido por un sentido inclusivo del concepto de metáfora, que abarcaría diversos usos no literales del lenguaje, tales la analogía, la sinécdoque, la parábola o la metonimia

En el Abstract se resumen la tesis general del artículo: la metáfora tiene esencialmente funciones epistémicas y estéticas y ambas serían compartidas por igual tanto en el arte como en la ciencia.  Y ya en el cuerpo del artículo se afirma que en el seno mismo del trabajo artístico hay equivalencia entre la función cognitiva y la función estética:

“Contribuir al valor artístico de la obra de arte y a su valor epistémico o cognitivo, es algo equivalente para la metáfora”, nos dicen los autores.  Y enfatizan poniendo en cursiva las palabras finales (“para la metáfora”) tendiendo a indicar que no niegan la posibilidad de una dimensión del arte que trasciende el aspecto cognitivo. No lo niegan, simplemente conceden que pueda ser así y cabe decir que   tampoco creen importante entrar en el asunto. Se limitan a afirmar que dada la connotación cognitiva que acompañaría siempre a la metáfora esa eventual dimensión del arte carente de aspecto cognitivo excluiría el uso de la misma.

Sin duda hay razones para sostener que la metáfora tiene importantes funciones epistémicas en arte a la vez que importantes funciones estéticas en ciencia.  Pero que la metáfora cree algún lazo de unión entre la actividad cognoscitiva y la actividad estética (sea creativa o receptiva) no excluye la conveniencia y aun la necesidad de distinguir ambos roles.

Como ya he sugerido, en el caso de la ciencia, la metáfora tiene (cuando menos muchas veces) la función de servir de peldaño para alcanzar el concepto, y a menudo simplemente para encontrar un sustituto del mismo. Sustituto siempre débil, pero que ya es mucho a falta de lo esencial (por ejemplo, la fórmula en física). El nombre de Einstein está asociado a prodigiosas metáforas que a los no físicos han servido para introducirse en la relatividad y quizás a los físicos mismos a percibir con mayor acuidad la trascendencia filosófica de la disciplina.  Ninguna modalidad de ciencia puede quedarse en la mera metáfora. Eventualmente la ciencia puede prescindir de este aspecto, cosa que es imposible tratándose de la metáfora en arte. En ciencia, la metáfora no deja de ser un auxiliar de la cosa misma, y en ocasiones un mero preliminar. Como los autores mismos escriben “metaphors advancing understanding”, pero cuando se llega al núcleo de lo que cabe llamar aprendizaje ya no es seguro que la metáfora tenga peso. La pedagógica metáfora del tren utilizada por Einstein apunta a facilitar la compresión cabal de los lazos tiempo espacio y velocidad, que sí constituyen un fin en sí en la teoría relativista.

¿Mismo caso tratándose del arte? ¿No cabe más bien decir que en muchos casos la metáfora es un fin en sí?  Ciertamente en ocasiones la metáfora puede también tener valor propedéutico o pedagógico. Así el fresco “Triunfo de los Medici entre las nubes del Monte Olimpo” de Luca Giordano añadiría a su valor pictórico un efecto reactivador de la memoria. Y podemos también considerar que esa imagen de los Medici entre nubes del Olimpo es una metáfora eficaz para ilustrar su magnificencia. Pero ¿es tal magnificencia lo que el artista quiso poner de relieve, o se trata más bien de un pretexto para algo que constituye lo verdaderamente esencial del arte pictórico? La respuesta en favor de la segunda hipótesis es clara, y cabe pues decir que se trata de un caso análogo al uso como apoyatura de la metáfora en ciencia. Pero no se trata de un peldaño hacia el mismo objetivo: en el caso de la ciencia se trata de una impulsión hacia lo cabalmente epistémico (por ejemplo, en el caso de la física matematizada, peldaño hacia la fórmula); en el caso del arte se trata de impulsión hacia otra dimensión de la vida del espíritu, difícil de determinar objetivamente porque precisamente no se trata de episteme. Me atrevo a decir que esta distinción en la función instrumental de la metáfora es una obviedad…a la cual los autores del artículo que comento se resisten, sosteniendo que en lo referente a la función de la metáfora arte y ciencia entran en el mismo cajón.

Leer más
profile avatar
2 de marzo de 2022
Blogs de autor

¿Máquinas creadoras? El saber musical no hace al músico

 

Vuelvo ahora a la pregunta que planteaba columnas atrás: asumiendo por un momento que un ente maquinal fuera susceptible de conocimiento científico… ¿podríamos ya sin más atribuirle la capacidad de creación plástica, musical o literaria? Uno de los puntos de arranque  de esta reflexión es  la tesis de la  tripartición (irreductible a toda fuente común conocida) de la razón humana en tres vertientes, cognoscitiva, ética y estética, sobre las cuales reflexiona Kant en cada una de sus tres famosas críticas (Crítica de la Razón Pura, Critica de la Razón Práctica y Crítica de la Facultad de Juzgar). Los defensores de la equiparación  de la inteligencia artificial  a la inteligencia humana  habrían de mostrar  que la primera es susceptible de funcionar  en ese  triple registro. Pero además: habrían de matizar la diferencia misma en el seno de la kantiana repartición, sin proyectar sobre  una de ellas criterios lo que es propio de la otra.

Y creo que el indignado artista (al que me refería  en un texto  anterior), miembro de la academia vasca Jakiunde que protestaba ante la presentación de una composición pictórica maquinal como obra de arte, estaba barruntando que la máquina había aplicado criterios propios de la razón cognoscitiva  (temática propia de la primera crítica kantiana) apuntando a algo que concierne al sentimiento  de  lo bello o lo repulsivo (asunto que concierne a la  tercera de las críticas). Es como si un pianista creyera que su dominio técnico del instrumento (asunto a tratar  también en el marco de la primera crítica, pues hasta ahí se trata meramente de conocimiento) es lo que hace de él un artista.

Lo esencial del asunto reside en que tratándose de conocimiento, el objeto legisla, el objeto da o quita razón, mientras que tratándose de  percepción estética la razón funciona como subjetividad (en ocasiones intersubjetividad) carente de  baremo objetivo.

No hay general acuerdo sobre lo irreductible de la diferencia entre razón humana que apunta a la creación artística y razón humana que  apunta al conocimiento. Es usual escuchar  el argumento de que la percepción y creación estética responden a una forma de conocimiento que se ignora como tal. En una tesis como la hegeliana (según la cual el arte sería  una figura del pasado  inútil  ya cuando el concepto adquiere vigencia plena) parece considerarse que en el arte  se trata de un conocimiento asténico, pero al fin y al cabo se trataría de conocimiento (incluso se ha llegado a pensar que los imperativos éticos serían también corolario de una forma de conocimiento).

Establecida así la discusión, una de las modalidades de reducir la singularidad de la razón estética es anular  lo que hay de específico en los instrumentos de la misma. Consideremos el caso de la literatura. La metáfora juega en ella un papel fundamental. Por ello, si se reduce la función de la metáfora en literatura a la función  de la metáfora en ciencia se habrá ya quitado puntos a la tesis de la diferenciación entre la actividad cognoscitiva y la actividad artística de los seres de razón. Me centraré la próxima columna en este asunto.

 

Leer más
profile avatar
17 de febrero de 2022