Skip to main content
Escrito por

Víctor Gómez Pin

Victor Gómez Pin se trasladó muy joven a París, iniciando en la Sorbona  estudios de Filosofía hasta el grado de  Doctor de Estado, con una tesis sobre el orden aristotélico.  Tras años de docencia en la universidad  de Dijon,  la Universidad del País Vasco (UPV- EHU) le  confió la cátedra de Filosofía.  Desde 1993 es Catedrático de la Universitat Autònoma de Barcelona (UAB), actualmente con estatuto de Emérito. Autor de más de treinta  libros y multiplicidad de artículos, intenta desde hace largos años replantear los viejos problemas ontológicos de los pensadores griegos a la luz del pensamiento actual, interrogándose en concreto  sobre las implicaciones que para el concepto heredado de naturaleza tienen ciertas disciplinas científicas contemporáneas. Esta preocupación le llevó a promover la creación del International Ontology Congress, en cuyo comité científico figuran, junto a filósofos, eminentes científicos y cuyas ediciones bienales han venido realizándose, desde hace un cuarto de siglo, bajo el Patrocinio de la UNESCO. Ha sido Visiting Professor, investigador  y conferenciante en diferentes universidades, entre otras la Venice International University, la Universidad Federal de Rio de Janeiro, la ENS de París, la Université Paris-Diderot, el Queen's College de la CUNY o la Universidad de Santiago. Ha recibido los premios Anagrama y Espasa de Ensayo  y  en 2009 el "Premio Internazionale Per Venezia" del Istituto Veneto di Scienze, Lettere ed Arti. Es miembro numerario de Jakiunde (Academia  de  las Ciencias, de las Artes y de las Letras). En junio de 2015 fue investido Doctor Honoris Causa por la Universidad del País Vasco.

Blogs de autor

Efectivamente ajena a la evolución natural

 

Con conciencia de reiteración, a la manera usual de los docentes en cada nueva clase, sintetizo el asunto que ha alimentado últimamente esta reflexión:

He abordado la pregunta de hasta  qué punto está fundado en razón el cuestionamiento del  papel jerárquico del ser humano respecto de entidades maquinales, lo cual supondría atribuir a estas  el entero espectro de juicios cognoscitivos, éticos y estéticos  a través de los cuales se expresa la potencialidad de la razón. No estoy obviamente en condiciones de dar una respuesta asentada a esta pregunta,  entre otras razones porque no está científicamente y filosóficamente delimitado qué cabe esperar y qué no cabe esperar  de  entidades como AlphaFold2 o el previsible  ordenador cuántico. Voy simplemente a enfatizar la diferencia que supone la palabra misma artificial, y extraer algún corolario de la misma a la hora de efectuar comparaciones de estatuto con la inteligencia humana.

El hombre no es desde luego un artificio, un  resultado de una modalidad pretérita de  arte-técnica   que a su vez constituye una expresión  de  la inteligencia. Excepto en el contexto de formas  más o menos sofisticadas de creacionismo (tal la que fue llamada “diseño inteligente”), no es cuestionable que el hombre es un ser natural, un resultado de la historia evolutiva.  Un resultado ciertamente singular, pues el hombre responde a motivaciones que parecen trascender su pertenencia genérica a la animalidad.  La aparición de un ser que se pregunta por la relación entre su animalidad y su pensamiento (forjador de fórmulas, metáforas y pirámides) supone una emergencia sin precedentes algo radicalmente singular, pero al fin y al cabo se trata de un fruto de la vida, es decir: en la vida misma se daban las condiciones que posibilitaban esa ruptura de continuidad que supuso la conversión de un código de señales en lenguaje, y con ello la aparición de un ser de razón en el sentido integral de la palabra. Este hecho de  ser una inteligencia resultado de la evolución  marca una diferencia esencial respecto a cualquier ente maquinal considerado inteligente.

 La aparición de la inteligencia humana necesitó cientos de millones de años de historia evolutiva, magnitud inconmensurable respecto a la que separa el Hombre de Herto de la hipótesis de Turing sobre la inteligencia artificial, AlphaFold2 o el previsible (¿en 30 años?) ordenador cuántico. En sólo cosa de cientos de años, la inteligencia artificial habrá quizás alcanzado su desarrollo pleno. Ello exige prudencia antes de transponer  al progreso científico y técnico la idea de  evolución natural.

Hay motivos para pensar que ese ser inteligente que es el hombre, en lo esencial ha dejado de evolucionar. Obviamente en el seno de la razón se da progreso (así la ciencia  progresa rechazando conjeturas pretéritamente avanzadas y sustituyéndolas en ocasiones por conjeturas opuestas), pero en su esencia  la facultad humana de razón y lenguaje  ni avanza ni retrocede. Esta ausencia de evolución es aún más perceptible tratándose del arte, no sólo por lo diminuto (en relación a los tiempos que exige la evolución) del intervalo entre  las pinturas de Lascaux  y Joan Miró, sino porque el arte retorna cíclicamente a formas arcaicas, no para repetirlas, sino para tomar de nuevo en ellas alimento. Ya he tenido ocasión aquí de señalar que  el arte sólo avanza a la manera de la espiral de Arquímedes,  de forma que la recta que  el hombre va trazando con sus logros gira a idéntica velocidad que el pincel mismo.

Como una de las expresiones de avance en el seno de la razón (reitero que no cambio evolutivo  en  la facultad de razonar como tal) surgen  las entidades “inteligentes” maquinales, luego de  entrada con soporte en algo contrapuesto a la base misma de  la vida (aunque hoy se hagan esfuerzos que dejan estupefacto para dotarlas de rasgos comunes con esta).

Los algoritmos de nuestro tiempo, que algunos consideran creadores, y  los artefactos a los que confieren una suerte de espíritu,  no son pues un eslabón en la historia evolutiva sino un momento de la historia humana. No los ha producido directamente la naturaleza, aunque obviamente  son compatibles con el orden natural (y en ocasiones preciosa ayuda para que este orden sea inteligible), sino esa suerte de  interno  polo dialéctico de sí misma que encierra cierta forma de naturaleza viva  y que indiscutiblemente merece el nombre de inteligencia.

Leer más
profile avatar
13 de septiembre de 2022
Blogs de autor

¿Animal como modalidad de racional?

Por el momento las entidades artificiales tienen limitaciones por ejemplo la dificultad de aprender una cosa cuando han sido entrenadas para otra, quizás como resultado de una suerte de terquedad, o ausencia de flexibilidad. Señalaré al respecto una interesante observación que se ha hecho sobre AlphaFold2: empeñada en predecir la estructura de la proteína a partir de la secuencia de aminoácidos, ¿qué hará si una de estas secuencias (o una porción de la misma) es intrínsecamente reacia a plegarse, lo cual acontece en cierta proporción en las células dotadas de un núcleo? Cabe pensar que AlphaFold2 será perseverante en encontrar su pliegue y comunicárselo a los investigadores, es decir, dará una información contraria a la naturaleza de lo que observa.

Pero no es de excluir que estas limitaciones se superen y una máquina esté en condiciones de parecer responder cabalmente a la pregunta hace un momento formulada: ¿sabes la causa de esta previsión que acabas de hacer? No está a priori excluido que, en un tiempo prudente, las máquinas sean capaces de explicar su comportamiento y las razones del mismo, tanto ante nosotros los seres racionales animales como ante sus homólogos, que tendríamos derecho a denominar racionales maquinales. Y no puede dejarse de subrayar lo que lo que esto significa: ni más ni menos que una razón sin soporte vital…al menos sin soporte vital originario. Pues en un sentido laxo del término vida, se llega a hablar hoy de artefactos que responderían al modo de proceder más generales de los seres vivos, es decir: transmitirían la información que reciben y codifican, y utilizarían la energía exterior que permite vencer los mecanismos de corrupción y desorden. Cabrá así referirse a entes maquinales no sólo inteligentes sino “vivos”. Pero es obvio que aquí la vida viene después. Un ser ya considerado inteligente, deviene ser vivo. En nuestro caso la vida, y aun la modalidad de la vida que clásicamente se oponía como vida animal a la vida de las plantas, es el punto de arranque y la inteligencia es el punto de llegada. Vida animal…dotada de razón, no razón que eventualmente toma la forma de vida. El problema sin embargo sigue residiendo en la legitimidad del nuevo punto de arranque, es decir en la aceptación de que se trata de nuevos entes de razón.

Tomamos como punto de partida un artefacto provisto de esa capacidad de recibir información, procesarla, dar respuesta a un “interlocutor” maquinal o humano a la que se alude con la expresión “aprendizaje profundo”. Pero además aceptamos provisionalmente que esta “profundidad” es tal que a la capacidad de hacer descripciones y previsiones el artefacto añade la de explicar esos fenómenos. En el caso de AlphaFold2, capaz de un-folding ese fold que llegó a anunciar; capaz de, mostrar la razón de la concurrencia de los elementos simples o planos (hay acuerdo entre los filólogos en que el término simple no conjunta sine y plex -que daría sin pliegue- sino sim -indo-europeo, uno, similar- y plex, por lo cual, más que sin pliegue cabría decir pliegue límite, plano). a fin de hacer emerger un elemento complejo. Es de señalar que como los humanos no tenemos por el momento ni la capacidad previsora que muestra AlphaFold2, ni menos aún el conocimiento de las causas de lo así previsto, ha de excluirse que estas virtudes cognitivas del artefacto sean el resultado de una programación. Habría entonces que volver de nuevo la mirada al hombre e interrogarnos sobre la condición humana: ¿ese ser racional que es el hombre habría de ser necesariamente animal, es decir determinado esencialmente por la biología? Quizás fuera entonces legítimo pasar de considerar al hombre como un caso particular de animal (racional por oposición a los animales que no lo son) para poner en primer término su condición de racional que eventualmente (sólo eventualmente) tendría soporte biológico.

Leer más
profile avatar
25 de agosto de 2022
Blogs de autor

Distinción en conceptos y aspectos

 

Una discusión razonable respecto al problema rememorado en las últimas columna tomaría, por ejemplo, la forma de intentar elucidar si entidades maquinales o animales diferentes del humano disponen de esa capacidad de “recuperación de representaciones almacenadas” (en términos de J. Allan Hobson (Consciousness, Scientific American Library, New York, 1999,) que caracteriza a nuestra memoria, o si algún código de señales (natural o artificial) encierra esa simbolización de las representaciones que es signo distintivo del lenguaje humano; elucidar si el aprendizaje de las máquinas inteligentes o de los animales transciende la consignación automática de experiencias, cosa que sí ocurre con el aprendizaje humano; elucidar si cabe hablar en otros entes (maquinales o animales ) la intencionalidad, entendida como representación de objetos, que en nosotros se halla siempre conceptualmente mediatizada; desde luego, elucidar, si cabe decir que los animales tienen esa reflexión sobre representaciones, que es marco de nuestro pensamiento. Hobson designa estas y otras capacidades como bloques constitutivos de la conciencia, enfatizando el hecho de que “muy pequeñas diferencias en la estructura y función del cerebro se agigantan cuando llegan a la conciencia secundaria” o. c. pág. 19). Y la eventual negación de las mismas a animales, no excluye en absoluto el atribuirles una suerte de conciencia integrada por la capacidad de recepción de datos (sensitiva en el caso de los animales) y selección de los mismos, eventualmente emotiva y en el caso de los animales obviamente instintiva.

Bastaría aceptar que el término conciencia se usa de manera equívoca, distinguir entre conciencia primaria y conciencia secundaria, e intentar determinar el peso respectivo de cada una a la hora de constituir una “subjetividad” (el término es hoy, sin más preámbulos, y algo abusivamente, atribuido a los animales por muchos etólogos contemporáneos, pero no estamos quizás lejos de que sea atribuido a entres maquinales) y desde luego a la capacidad para experimentar dolor y placer. Pues si esta es correlativa de la subjetividad y de la conciencia ¿no sería simplemente ilógico que si el grado de complejidad alcanza una diferencia cualitativa (tal sería el caso cuando de los códigos de señales animales se pasa al lenguaje humano) ello no tenga traducción en la percepción del mundo, en la vivencia del dolor y hasta en la percepción de la enfermedad.

Leer más
profile avatar
16 de agosto de 2022
Blogs de autor

Revisión (II)

Pero es bien sabido que la tesis digamos humanista  se enfrenta también  al envite que suponen las modalidades crecientemente sofisticadas de la llamada inteligencia artificial. Y si en nuestro entorno cultural  la tendencia a borrar la diferencia jerárquica de los seres humanos todavía se manifiesta mayormente en relación a los animales, quizás no es ya lo mismo en países como Japón, donde los cuidadores robóticos son ya parte integrante del paisaje social.  Así, uno de los rasgos que  marcan a  nuestro tiempo es que a  las asociaciones que reclaman la implementación de nuestros deberes con los animales,  se suman partidarios de la extensión de derechos y deberes a robots y otras entidades maquinales que han sustituido a los humanos en tareas esenciales, perdiendo vigencia  científica y soporte ideológico la imagen de un mundo considerado como  entorno del ser humano.

Es desde luego importantísimo que nuestra singularidad  parezca ser puesta en tela de juicio por el lado de la materia inerte, esa materia en sí misma no susceptible de acción de la que se forman máquinas. Pues desde luego, la cuestión de si es posible  que haya seres artificiales que piensen y aprendan del modo en que nosotros lo hacemos ha alcanzado mayor acuidad científica, y quizás también mayor relevancia filosófica, que la cuestión de determinar si hay especies animales homologables al ser humano, aunque obviamente estas últimas  sean mucho más próximas, dada la  matriz común en ese momento singular de la transformación de la energía que significó la vida.

En las  columnas que han precedido he abordado  la cuestión de  hasta  qué punto está fundado en razón este cuestionamiento de la irreductibilidad del ser humano, poniendo ahora  el foco en el caso de las entidades maquinales y preguntándose si la capacidad  que se les atribuye  recubre el espectro de juicios cognoscitivos, éticos y estéticos que no han de ser confundidos entre sí, y que marcan nuestra condición de seres de razón. Complementariamente he abordado  la aporía que supone el que el propio ser que da cuenta del universo relativice su peso en el mismo.

 

 

Leer más
profile avatar
27 de julio de 2022
Blogs de autor

Revisión (I): espejo en el animal

Y tras el paréntesis que supuso la última columna, retorno a los temas que venía aquí tratando, empezando por una doble revisión.

En el museo de Bellas artes de Sevilla hay dos cuadros  del  maestro flamenco Jan Brueghel, el joven, que comparten el título de “El paraíso terrenal”.  A la izquierda del mayor de ellos destacan las figuras de Adán y Eva en el momento crucial de la tentación; a la derecha y, como en una historia narrativa, hacia el límite del cuadro, los dos humanos huyen de un ángel que desde lo alto les amenaza con un látigo de fuego.  El segundo cuadro parece referirse a ese momento que precede al tiempo: animales de múltiples especies,  en una suerte de onírica  indiferencia, ocupan por entero el escenario, y sólo en el fondo dos figuras casi imperceptibles representan a nuestros Adán y Eva. Se diría, pues, que antes de la caída el hombre era efectivamente un animal entre otros, incluso un animal carente de relevancia…Y en efecto, a la hora  de afirmar  la singularidad radical  del ser  humano, las disciplinas contemporáneas invitan a la prudencia, mostrando  el alto grado de homología genética entre nuestra especie y otras vecinas, o cuestionando la rigidez de la distinción entre la facultad de lenguaje  y las facultades de otras especies para sus  propios códigos de señales. Al menos hasta nuestros días,  la convicción de la singularidad vertical de la  especie humana en relación a las demás especies animadas, más que resultado de un posicionamiento filosófico era algo tan compartido como inmediato. Los humanos nos distinguiríamos por la capacidad de efectuar razonamientos (logismoi) como expresión de nuestra facultad  de decir (legein), luego decidir, escoger entre diferentes alternativas; nos distinguiríamos en suma por nuestra  singular  inteligencia, emisora de juicios cognoscitivos, éticos y estéticos, que Kant remitía a diferentes modalidades de la razón. A fortiori esta jerarquía se extendía en relación  a los vegetales,  seres vivos pero considerados carentes de anima, y aun con mayor razón a las cosas no vivas. Ello no es óbice para que la cultura  contemporánea sea particularmente sensible a la importancia de esta continuidad entre animales humanos y animales de otras especies, que evocaba en referencia al cuadro de Brueghel  el joven.

En varias ocasiones he mencionado  ya aquí a Gary L. Francione, autor de múltiples textos sobre el comportamiento respecto a los animales, entre ellos un libro que lleva el impactante sub-título de Your Child or the Dog (Temple University Filadelfia 2000). No es ocioso señalar que  Francione es jurista de formación, lo que da a sus tesis relevancia cuando desde el arranque del siglo se ha pasado de las disquisiciones teóricas relativas a derechos de los animales (e incluso, en boca de algunos, derechos humanos de los animales)  a exigencias de concreción legislativa. Francione participó en la gestación del llamado Proyecto Gran Simio y escribió largamente sobre el asunto. Francione compara a los que ni siquiera aceptarían a integrar a los simios en la comunidad moral con los racistas del siglo XIX, que se apoyaban en la frenología para declarar que la capacidad intelectiva de algunos humanos era inferior. Y estima que cuando se es, por así decirlo tan miserable, de poco sirve la evidencia de que los “chimpancés demuestren su aptitud para utilizar el lenguaje humano.

Tesis a favor de la cual se argumentaba  hace ya decenios,  cuando algún primate fue conducido a forjar, en el lenguaje de signos, elementales frases que un niño adquiere con total soltura, en razón de que la capacidad de hablar forma parte de su intrínseca naturaleza.

Este asunto de la posible atribución a otros animales de capacidades simbólicas hasta ahora consideradas exclusivas del ser humano, es como mínimo, objeto de polémica científico-filosófica. Y cuando la premisa está en tela de razonable juicio, es prudente no extraer corolarios como si se tratara de una evidencia incuestionable, más aún en el delicado terreno de la moral y la extensión de derechos. El propio Francione parece tener sus dudas, puesto que en varios momentos de su escrito acepta que  de hecho el lenguaje propiamente dicho es exclusivo del animal humano y que “ciertas distinciones entre la inteligencia humana y la de los animales que no utilizan el lenguaje son evidentes”. La cuestión es, sin embargo, medir el peso de estas distinciones. Y aquí podríamos entrar en una razonable controversia, evitando lanzar anatema sobre  el contrario.

El imperativo de no instrumentalizar al ser dotado de razón  (es decir, de pensamiento abstracto y lenguaje simbólico) que constituía el soporte de la ética kantiana, se formula ahora como imperativo de no instrumentalizar al ser meramente susceptible de sufrir. La potencialidad que tendríamos los humanos de identificarnos a tal padecer, la compasión, es la condición de posibilidad de que tal ética se instaure, mas sólo su traducción en legislación cotidiana garantizaría su efectiva realización. Y aquí una elemental pregunta: ¿no es esta actitud de puro y kantiano desinterés por el bien de otras especies  una prueba de la radical y absoluta (no mediatizada siquiera por la conveniencia de gozar de una naturaleza sana y equilibrada) singularidad de nuestra especie?

Leer más
profile avatar
14 de julio de 2022
Blogs de autor

Digresión: un encuentro en Ronda

Desde hace pronto dos decenios se celebra anualmente  en la ciudad de Ronda un seminario que lleva el título de “Encuentro Música- Filosofía”.  El tema elegido para este año es “Emoción y música contemporánea” y constituye un homenaje a la compositora finlandesa, Kaija Saariaho. Por gentileza del Teatro Real habrá una proyección filmada de “Only the Sound Remains”, opera en dos actos, estrenada en Amsterdam en  2016 con  libreto extraído de Ezra Pound  y del orientalista americano de origen español  Ernest Fenollosa.

Con motivo de la representación de la ópera en el Palais Garnier de Paris en 2018, tuve ocasión de referirme a la misma en este foro. Con dirección escénica de Peter Sellars,  la dirección musical corría a cuenta de Martínez Izquierdo, que estará presente en Ronda y participará en un coloquio con la compositora.

A través de una  doble alegoría,  la obra nos invita a una meditación sobre ese “inmenso edificio del recuerdo” que Marcel Proust cimentaba en un sabor o un aroma, pero también en la frase o gesto musicales, que Kaija Saarahio reivindica  tras  su enigmático título.

El título “Emoción y música contemporánea,” del seminario  de este año en Ronda es  casi voluntariamente provocativo. Si ciencia y emoción parecen casi de entrada conceptos contradictorios, más chocante es que se diga lo mismo en relación a la música contemporánea. Casi es popular la tesis de que una gran parte de la producción musical de nuestro tiempo excluiría esa “alteración del ánimo intensa y pasajera, agradable o penosa, que va acompañada de cierta conmoción somática, definición por la RAE del término “emoción”.

Hace unas semanas evocaba aquí  un foro académico  en el tras presentarse  una composición pictórica maquinal como obra de arte,  un artista presente se alzó indignado, denunciando una suerte de superchería. Quizás sin saberlo, estaba motivado por una disposición kantiana,  estaba barruntando que la máquina había aplicado criterios propios de la razón cognoscitiva  (temática propia de la primera crítica kantiana),  apuntando a algo que concierne al sentimiento  de  lo bello o lo repulsivo (asunto que concierne a la  tercera de las críticas). Y decía al respecto que es como si un pianista creyera que su dominio técnico del instrumento (asunto a tratar  también en el marco de la primera crítica, pues hasta ahí se trata meramente de conocimiento) es lo que hace de él un artista. Pues bien:

Algo análogo se llega a decir de la música llamada contemporánea (paradoja puesto que se incluyen a veces obras como  Wozzeck –terminada de componer hace exactamente  un siglo-  El Gantxo de Mestres Quadreny- escrita hace casi 50 años). Se tiende a decir que se trata de música de laboratorio es decir, música macada por un formalismo que tiende a la objetividad y que poco tendría que ver  con la percepción (susceptible efectivamente  de una “conmoción somática”) de lo Bello y sublime, o de su contrapunto lo repugnante.

La emoción es subjetiva o inter-subjetiva, no tiene su criterio en la objetividad. En la pausa, la tarea  del general que hace balance  no es percibir la desolación del campo de batalla sino contar el número de caídos del que depende el éxito o el fracaso en la inmediata reanudación del combate. Hay literalmente un objetivo y en la prosecución del mismo la emoción (sin duda subyacente) es variable neutra.

Ciñéndose a nuestro tema: la emoción o su ausencia no dependen de los rasgos formales de la música ni de los parámetros que permiten categorizarla. Sea contemporánea o no, en la música hay una dimensión objetivable, que depende de una techne en el estricto sentido de nuestro uso de la palabra técnica. Y me atrevo a avanzar  una hipótesis:

Precisamente porque la iteración de la música llamada clásica ha facilitado esa objetivación que supone el ser archivada en la memoria, es muy posible que el estupor inherente a la percepción de la obra de arte, sea sustituido por el mero reconocimiento de algo perfectamente objetivo, de tal manera que en lugar de conmoción lo que se experimenta es la entrañable sensación placentera  que produce el sentirse en el hogar. Nada desde luego que tenga que ver con conmoción alguna.

Y un último apunte: tal reconocimiento de lo objetivo tiene muy poco que ver con esa otra memoria de lo no falsable  y no verificable, indisociable de la palabra que lo envuelve y hasta mero pretexto para el despliegue de la misma, memoria  que alimenta la obra de Marcel Proust y de la cual he creído encontrar ecos precisamente  en “Only The Sound Remains”.

Leer más
profile avatar
4 de julio de 2022
Blogs de autor

De Descartes a John Searle

Evidentemente, desde el punto de vista filosófico el problema no es si hemos alcanzado ya o todavía no una máquina que supere el reto de Turing, sino más bien si es posible alcanzarla. Antes decía  que el mismo Turing había avanzado una amplia variedad de objeciones al respecto. Algunos pretenden que la lista incluye todas las cuestiones que se han planteado, desde que el escrito de Turing apareció… y que habrían sido respondidas por el propio Turing. Pero la cosa no está clara. Existen al menos dos argumentos:

A) Aunque la máquina haya superado el test de inteligencia de Turing, esto no prueba que tenga aspectos intencionales ligados a la consciencia. Pero consciencia e intencionalidad son características difícilmente separables de la inteligencia humana.

B) El segundo argumento está vinculado al pensador americano John Searle y esencialmente alega lo siguiente: si la máquina superase el test, simplemente simularía una conversación humana, sin llegar nunca a hablar o pensar realmente. Para hacer esta simulación basta con un ordenador que pueda seguir unas determinadas normas o pautas.

La tesis de John Searle es ampliamente conocida como The Chinese Room Argument y fue publicada por primera vez en 1980 en un documento titulado "Mentes, Cerebros y Programas". El argumento se centra en la llamada Inteligencia Artificial Fuerte (es decir, aquella que podría ser comparada a la inteligencia humana), ya que Searle no hace ninguna objeción a la posibilidad de una inteligencia artificial débil, que esencialmente sería un dispositivo auxiliar de los verdaderos seres inteligentes (por ejemplo, con el fin de estudiar  modalidades de expresión de  la inteligencia humana).

Transcribo aquí la síntesis de la reflexión que el propio Searle realiza en un texto de 1989 titulado, “Reply to Jacquette”. La letra A representa la palabra “axioma”, la letra C, representa la palabra “conclusión”.

A1. Los programas computacionales son puramente formales (sintácticos).

A2. Las mentes tienen contenidos mentales (semántica).

A3. La sintaxis por sí misma no es, ni constitutiva de la semántica, ni condición suficiente para forjarla.

C1. Los programas computacionales ni son constitutivos de la mente, ni condición suficiente de la misma.

Si ahora añadimos:

A4. Los cerebros son agentes causales de las mentes.

Se infiere:

C2. Cualquier sistema capaz de generar mentes, ha de tener poderes causales equivalentes (cuando menos) a los de los cerebros.

C3. Cualquier artefacto productor de fenómenos mentales, cualquier cerebro artificial, ha de tener la capacidad de duplicar [no meramente simular, la precisión es nuestra] los específicos poderes causales de los cerebros, y no podría realizar tal cosa limitándose a responder a un programa formal.

C4. La manera en la que el cerebro genera efectivos fenómenos mentales, no puede reducirse al hecho de responder a un programa computacional.

Cabe decir que Searle en la tradición de la tesis enunciada con absoluta claridad y distinción hace ya cuatro siglos por René Descartes:

Quería demostrar que una máquina con los órganos y la figura de un ser humano y que imitase nuestras acciones en lo que moralmente fuera posible, no podía ser considerada como un hombre; y para ello, aducía dos consideraciones irrefutables. La primera era que nunca una máquina podrá usar palabras ni signos equivalentes a ellas, como hacemos nosotros para declarar a otros nuestros pensamientos. Es posible concebir una máquina tan perfecta que profiera palabras a propósito de actos corporales que causen algún cambio en sus órganos –por ejemplo: si se le toca en un punto, que conteste lo que determinó el autor de la máquina - ; lo que no es posible, es que hable contestando con sentido a todo lo que se diga en su presencia, como hacen los hombres menos inteligentes. La segunda consideración era que, aún en el caso de que esos artefactos realizarán ciertos actos mejor que nosotros, obrarían no con conciencia de ello, sino como consecuencia de la disposición de sus órganos”. (Descartes, Discurso del Método trad. Francisco Larroyo, México: Porrúa, 1977, pág. 31-32.).

Tesis cartesiana que hoy puede ciertamente ser puesta en tela de juicio, es decir, discutida con argumentos racionales, dada de un plumazo por superada. “Los robots no tienen que ser inteligentes todo el tiempo” declaraba años atrás una estancia en Barcelona Manuela Veloso investigadora de la Carneggie Mellon University,  señalando al respecto que si las máquinas no siempre se muestran inteligentes tampoco parece que “los humanos seamos inteligentes máquinas pensantes 24 horas al día”. Sin duda está en lo cierto: los humanos no somos probablemente máquinas pensantes, ni 24 horas al día, ni un minuto. Y ello, por la sencilla razón de que  no somos máquinas, de que nuestro pensamiento de entrada  no es reductible a funcionamiento  maquinal.

En  este registro  de la inteligencia artificial (como en tantos otros, por ejemplo cuando se trata de extraer consecuencias de hechos científicos en sí indiscutibles, como el alto grado de coincidencia genética entre humanos y chimpancés) hay presupuestos, cuando no sesgos apriorísticos, que determinan la interpretación que se da de los hechos. Cabe decir que, de alguna manera, (como en “l’auberge espagnole del proverbio francés) uno sólo encuentra en ellos lo que lleva en sus alforjas. Algunos están dispuestos a encontrar a todo precio indicios de que, tanto respecto a la inteligencia como respecto al lenguaje, se difumina la frontera que separa artefactos y humanos, mientras que John Searle parece dispuesto a lo contrario Es difícil  tomar partido en esta maraña de interpretaciones, réplicas, contra-réplicas y hasta recurso a la autoridad, ya sea la autoridad de la ciencia. Pero es conveniente señalar que el argumento de ausencia de semántica es generalmente concedido a Searle cuando se trata de un programa computacional. Las objeciones van más bien por considerar que la inteligencia artificial, al menos potencialmente, no se reduce a un computer program. Si definimos la Inteligencia Artificial Fuerte como una máquina que puede emular o superar la inteligencia humana en todas las modalidades que esta adopta, entonces se plantea un doble problema:

¿Es esto un mero proyecto, o algo que cabe considerar como algo  ya alcanzado? Caso de respuesta afirmativa, ¿es seguro que las manifestaciones fenoménicas responden a la existencia en la mente maquinal de la polaridad significante/ significado, es decir de una suerte de platónico campo eidético correlativo del dominio de la conexión de signos? Intentar responder a la primera pregunta supone meterse en intrincados asuntos como por ejemplo el problema clásico de determinar si los procesos que se dan en el cerebro están o no caracterizados por el determinismo. Si así fuera, llegando a hacer que un programa duplicara exactamente las conexiones de las partículas de nuestro cerebro (¡asunto  arduo!), entonces podríamos suponer que estaría funcionando  como nuestra mente. Supongamos sin embargo la hipótesis contraria: no solo en nuestro cerebro  hay algo intrínsecamente indeterminado, sino (hipótesis de Penrose)  que la modalidad  de  indeterminación (de hecho cuántica) que se da en nuestro caso es condición del singular  funcionamiento de nuestra mente. En esta hipótesis está excluido que se pueda construir la réplica computacional del mismo y por consiguiente se cierra la posibilidad de construcción de un artefacto homologable al ser humano.

Leer más
profile avatar
20 de junio de 2022
Blogs de autor

Una cosa que piensa

¿Cabe pues hablar de máquinas que piensan?  A la  pregunta de Alan Turing  hace casi tres cuartos de siglo  lo primero que pasa por la cabeza es la de que todo depende de lo que entendemos por pensar. El propio Turing escribe en el arranque “Deberíamos  empezar definiendo lo que significan los términos máquina y pensar”. No parece que esta exigencia se haya siempre respetado.

Etimológicamente pensar es “sopesar”, alzar, relevar, hacer que algo sea  relevante  a fin de pesarlo o… pensarlo, dirimir respecto a sus posibilidades con vistas a obtener un resultado que se espera. Pero, obviamente, de entrada  esto puede ser aplicable  tanto a la compleja reacción que tiene un animal que  valora opciones  de fuga ante la presencia de un depredador, como a la disposición  de un político que  tantea o calibra los beneficios y perjuicios de adoptar tal posición. Y cuando Turing  plantea la pregunta se está refiriendo a algo más que a esto.

De hecho Turing parece tener en mente  un ser (“una cosa que piensa” Descartes dixit) cuya reacción ante el entorno fuera homologable  a la de los humanos en las circunstancias en las que  actúan racionalmente. Y quisiera al respecto insistir en un aspecto problemático ya señalado:

Cuando nos dirigimos a un ser humano, tenemos como punto de arranque,  presupuesto o condición, que estamos dirigiéndonos a un ser pensante y no esperamos la respuesta para determinar que  efectivamente es así (si responde mal o caóticamente, diremos que es un ser confuso, pero no ponemos en cuestión su condición de ser pensante). Esto no podía escapar al propio Turing, de ahí la dificultad de interpretar su texto en el sentido  de juzgar  a la invisible entidad de la misma manera que juzgaríamos  a los humanos, es decir, sólo si responden a nuestras preguntas de un modo que nos parece razonable diríamos que su respuesta es resultado de que han estado pensando, es decir que son seres inteligentes. Pero con independencia de este problema, cuando quien considera la eventualidad de una máquina inteligente es un pensador de la envergadura de Alan Turing, hemos forzosamente de considerar  que no se trata de un uso abusivo del término inteligencia.

Estamos ante la hipótesis  de que una entidad que (al igual que ocurre en nuestro caso)  se activa incluso cuando nada relativo a las condiciones de posibilidad de su existencia está en juego; una entidad cuya percepción digamos sensorial  fuera (como en nuestro caso) mediatizada por entidades que no cabe sin más reducir a elementos  sensibles, como  son los conceptos, los contenidos del platónico campo eidético; una entidad  que a partir de de un conjunto finito de elementos físicos  estuviera en condiciones de desplegar una pluralidad potencialmente infinita de elementos “significantes”; a lo cual cabe añadir que esa entidad estaría atravesada por los elementos emocionales, las ansias creativas y la frustración por no alcanzarlas que son rasgos de nuestra inteligencia.

En la intersección de la ciencia y la filosofía, el proyecto de Turing abre el siguiente interrogante: siendo el hombre un animal de razón y de lenguaje, ¿llegará él mismo a ser creador de razón y lenguaje?; ¿creador de  algo que (parafraseando a Descartes) afirma, niega, siente, conjetura, concluye  teme, se motiva y sobre todo duda, aspectos todos ellos que son expresión de inteligencia? Los cerebros artificiales solucionarán  mucho mejor que el hombre ciertos problemas antes  evocados, reemplazándonos en  tareas tecnológicas. Pero ¿serán  émulos de Dante  o Calderón, compondrán como Mozart o Vivaldi? Interrogación a la cual cabe añadir:

¿Serán esos nuevos seres  capaces  de formular algo análogo al principio de equivalencia de la relatividad general o al principio de incertidumbre de Heisenberg de la Mecánica Cuántica?  ¿Serán capaces de “interesarse” por algo como las figuras cónicas que fascinaban al pensamiento griego y que sin embargo no tuvieron durante siglos utilización técnica alguna? ¿Serán  susceptibles de ser movidos por la pura exigencia de inteligibilidad que, desde la física elemental de los jónicos hasta las discusiones sobre los fundamentos de la física cuántica (¡que se prolongan desde hace un siglo!) son un aspecto esencial de la ciencia (no el único por supuesto)? ¿Serán capaces de sentir ese “estupor” (según Aristóteles punto de  arranque de la filosofía) que experimenta un científico cuando constata algo que, funcionando perfectamente, parece escapar a los principios mismos de la ciencia, ese estupor que -por mucho que hubiera previsto el resultado- no pudo dejar de experimentar Alain Aspect ante su experimento de no localidad? En suma:

¿Dará el hombre lugar a un ser artificial dotado de la inteligencia a la vez conceptual y sentiente (por utilizar la expresión de Zubiri) que ha posibilitado un Garcilaso, pero también un Descartes o un Einstein, y que además tenga esa trágica certeza de la propia finitud que acompañaba a esos  creadores, como acompaña a todo ser de palabra?

Leer más
profile avatar
2 de junio de 2022
Blogs de autor

Repaso: de Turing a ELIZA

Como ocurre tantas veces, para entender el verdadero alcance de todos los logros relativos a artefactos que parecen mostrar alguna modalidad de inteligencia, conviene insertarlos en lo que podemos considerar el punto de arranque, el ambicioso proyecto del filósofo y matemático británico Alan Turing.

Si hacemos abstracción de consideraciones hipotéticas que se daban ya entre los griegos, el origen del asunto  test fue un juego mundano llamado "Imitation Game", que dio lugar al llamado Test de Turing, que este presentaba de esta manera:

"En el juego intervienen tres personas, un hombre (A), una mujer (B), y un interrogador (C), que puede ser de uno u otro sexo.  El interrogador se queda en una habitación separada de las otras dos. El objetivo del juego es determinar cuál es el hombre y cuál la mujer. Él los designa por las etiquetas X e Y, y al final del juego, debe decir  X es A, Y es  B, o bien  Y es A, X es B. Al interrogador se le permite formular preguntas a A y B del tipo: "X, por favor, ¿cuál  es la longitud de su pelo?".

Posteriormente Turing propuso reproducir el Imitation Game de otro modo:

 “Hagámonos la pregunta, ¿qué ocurriría si una máquina hiciese la parte de A en este juego? ¿El interrogador podría llegar a dar respuestas erróneas tan a menudo como cuando jugábamos con un hombre y una mujer? Estas interrogaciones sustituyen al original "¿pueden las máquinas pensar?"

Turing tenía en mente que con el tiempo podrían programarse ordenadores susceptibles de adquirir potencialidades que rivalizasen con la inteligencia humana. En cuanto al test en sí, argumentó que si el interlocutor era incapaz de distinguir entre la máquina y la persona a través del interrogatorio, la computadora debía ser considerada inteligente, “puesto que ésta es la forma en que juzgamos el pensamiento de otra persona”.

Creo que la última frase es un punto controvertido del asunto, porque  no es seguro que juzguemos la inteligencia de las personas de este modo. Más bien,  cuando nos encontramos con una persona, ya suponemos que es inteligente (puesto que ser inteligente forma parte de la definición de persona), y cuando eventualmente le formulamos alguna pregunta, entonces, en función de la respuesta, concluiremos que esa persona es lista o estúpida… por supuesto, todo ello dentro de la inteligencia, que es una facultad general, no una característica de alguien en particular. La inteligencia como la condición de ser moral es un punto de partida tratándose de los humanos.

Si  ante alguna pregunta  relativa a crímenes del periodo franquista  alguien responde que aquel régimen  estaba muy bien porque daba orden y seguridad a los ciudadanos, concluiremos que es un canalla… precisamente porque le atribuimos una condición moral,  como una de las modalidades de la inteligencia  humana, pues a nadie en su sano juicio se le ocurre tildar de canalla a un perro. En cualquier caso, en el texto de Turing se incluyen  no sólo las bases de lo que sería las tentativas y logros posteriores (sugerencias para alcanzar  la  Inteligencia Artificial en un modelo de máquina basado en teorías matemáticas), sino también las objeciones a sus propias conjeturas y las respuestas a las mismas.

Algunas de las observaciones de Turing apuntan ya  a la idea de una super-inteligencia: si una máquina llegase a superar el test, podría sobrepasar a los humanos en cuanto a capacidades, excediendo lo que éstos puedan realizar. Obviamente, el primer problema es determinar si las máquinas serían capaces de superar la prueba. El mismo Turing fue extraordinariamente optimista. Creía que antes del año 2000, máquinas con una potencia de 199 bits de memoria podrían confundir a los seres humanos, por lo menos durante los primeros cinco minutos de la prueba.

Turing era plenamente consciente de que su conjetura entraba en completa contradicción con las hipótesis de la singularidad de los seres humanos, y se refirió a sí mismo como un hereje. Pero de hecho, estamos en 2022 y ninguna máquina ha logrado superar la prueba de Turing. Y en todos los casos de relativo éxito hay alguna norma (introducida por el propio Turing) que no se ha respetado.

Hay un famoso programa llamado  ELIZA inventado en 1966 en  el MIT por Joseph Weizenbaum y considerado como una avanzadilla de los actuales “chatbot”, bots conversacionales. ELIZA  consiguió muy pronto  hacer creer a sus “interlocutores” (las comillas vienen porque el polo ELIZA, precisamente no es seguro que  sea un interlocutor) que estaban hablando con una persona. En las  primeras versiones (ahora el asunto ya está corregido) la persona que conecta con ELIZA no tiene ningún motivo para conjeturar que su partenaire  es una máquina. Ahora bien, esencial en el test de Turing es precisamente que el interrogador trata de determinar  si la máquina ha de ser considerada o no inteligente. Pero lo que quiero señalar sobre ELIZA es lo siguiente:

En su concepción había  la intención explícita de mostrar cómo podemos fácilmente ser llamados a engaño creyendo que se nos está verdaderamente dirigiendo la palabra cuando en realidad se está hablando mecánicamente usando ciertos trucos. Esto ocurre a menudo cuando el cruce de palabras entre humanos no es verídico, o sea no constituye realmente un cruce de palabras. Supongamos que cada vez que oye la palabra  tristeza, un psiquiatra falaz, sea cual sea el paciente,  pregunta  si ha habido algún problema con la pareja o algún roce en el trabajo. Mientras hace esta falsa pregunta, el psiquiatra en cuestión puede perfectamente estar ausente, tener la mente en otro lado, o sea no constituye realmente un interlocutor.  Pues bien, algo análogo es lo que hacía ELIZA, obviamente en relación a múltiples palabras. Ni entendía nada de lo que se le preguntaba, ni tal entender estaba realmente en juego;  se limitaba a poner un orden por contigüidad (sintaxis) siguiendo las instrucciones de un programa. Pero quien preguntaba podía perfectamente sacar la impresión de que sí había efectivamente  captado algo.

Desde ELIZA hasta acá, los chatbots han conseguido que del intercambio escrito se pase al intercambio auditivo, a multiplicar el número y la complejidad de las  frases a las que pueden responder, disminuyendo  el lapso entre mensaje enviado y respuesta, etcétera… pero en lo esencial nada ha cambiado. Sin duda en la literatura (y sobre todo en la propagandística) se hace ya diferencia entre bots digamos elementales y bots que parecen realmente inteligentes, que son susceptibles de determinar cosas como  la intención de la persona.  Pero la pregunta sigue siéndola misma: ¿se ha ido más allá de la respuesta automática y de la inferencia a partir de casos?

El problema es que aquella intención crítica de los que pusieron en marcha ELIZA, aquella denuncia de la mera apariencia de palabra de la que en tantas ocasiones somos víctimas los humanos, ha quedado hace tiempo atrás,  y hoy la intención (por ejemplo de los gestores de los servidores, esos que Javier Echeverría designó como Señores del Aire) es más bien que tomemos el mensaje de los chatbots como  si procediera de un verdadero ser lingüístico, o más bien:  que nos dé igual si se trata o no de mensaje con soporte en el lenguaje, que sólo nos interese su utilidad para ciertas exigencias. Volveré sobre este asunto que realmente es la cuestión nuclear de esta reflexión.

Leer más
profile avatar
19 de mayo de 2022
Blogs de autor

Máquinas inteligentes: el escollo del pensamiento ético

¿Qué se aprende, por ejemplo, cuando se impone  una exigencia cabalmente ética es decir no reductible a conveniencia? ¿Es la disposición ética el resultado de un proceso análogo al que lleva al conocimiento técnico, o  se trata de una disposición irreductible del espíritu humano que en ciertos aspectos entraría incluso en contradicción con las leyes evolutivas. Sin espacio aquí más que para evocar  el asunto, señalaré  que el biólogo y filósofo  T.H. Huxley (1825-1895) considerado algo así como el abogado defensor de la ortodoxia darwiniana, en su libro Evolution and ethics (publicado en 1894) sorprendió a muchos de sus seguidores presentando la disposición ética de los humanos como una suerte de  superación de lo inmediatamente dispuesto por la naturaleza. En la hipótesis (no por todos compartida) de que la moralidad es un rasgo propio de la especificidad humana, la concepción de Huxley vendría a suponer que no se trata de un refinado momento al que se habría llegado a través de la continuidad evolutiva, sino una ruptura con esta.  El darwinismo dejaría de ser operativo cuando nos introducimos en el universo de la ética Caricaturizando un tanto, tal posición equivaldría a sostener que, de seguir la pauta estrictamente evolutiva careceríamos del mínimo bagaje de altruismo. Altruismo sin el cual, sin embargo,  no es concebible la sociedad humana.

Siguiendo la vía abierta por Huxley, otros estudiosos han radicalizado la posición considerando que la emergencia de un sentimiento ético es algo más que una ruptura de continuidad en la evolución. Se trataría de una auténtica contradicción,  en la que la economía natural se negaría a sí misma. En suma: el darwinismo dejaría de ser operativo cuando nos sumergimos en el universo de la ética.

Como no podía ser menos, las reacciones de los partidarios de una antropología sustentada en una versión integradora y en la continuidad darwiniana han sido múltiples. Se trata fundamentalmente de sostener que, en alguna medida, la simpatía con los demás, la inclinación a ayudar a otros miembros de la especie (y no sólo de la especie), incluso la disposición al sacrificio están presentes en nuestra naturaleza inmediata, en razón de que esta es de orden animal, y que los animales mismos ofrecen inequívocas muestras de moralidad. Como decía, no puedo aquí más que evocar el problema, de una enorme trascendencia filosófica.

Y en otro orden: Calixto, el desafortunado protagonista de La Celestina, habla verídicamente sin apercibirse de ello y sus jóvenes criados, Pármeno y Sempronio ven en ello como un eco del destino de Virgilio, es decir, el destino de quien encarna emblemáticamente la figura del poeta. Pues bien, ¿en qué la manera de hablar de Virgilio enriquece el elemento comunicativo del discurso? Y por evocar a autores más cercano a nosotros,  ¿qué supone para el interlocutor la sentencia (núcleo de un poema de Paul Eluard considerado paradigma de la literatura contemporánea) “El mundo es azul como lo es una naranja”?  Otras veces he puesto como ejemplo  los siguientes versos del “Llanto” de Lorca: “La piedra es una espalda para llevar al tiempo/Con árboles de lágrimas y cintas y planetas”. La pregunta que formulo es muy clara: ¿Es posible reducir una frase poética a una composición sintáctica portadora de información?

Estoy intentando señalar simplemente que nuestra inteligencia supone modalidades que van más allá de lo que la experiencia, la técnica y el conocimiento científico suponen; modalidades que pasan por la ´disposición ética y asimismo por algo filosóficamente tan problemático como la comunicación estética. Si hablamos de inteligencia artificial en el sentido cabal del término inteligencia, no podemos dejar de lado ninguno de estos aspectos.

Leer más
profile avatar
6 de mayo de 2022
Close Menu