Escrito por

Víctor Gómez Pin

Blogs de autor

La experiencia de las máquinas

“Los animales no humanos viven reducidos a imágenes y recuerdos y la experiencia es para ellos poco fructífera, mientras que (por intermediación de la experiencia), los hombres acceden a la técnica y al razonamiento” (Aristóteles, Metafísica 980 b, 25-28).

La forma de aprender de entidades artificiales como una red neuronal, por su similitud (cuando menos aparente) con el aprendizaje humano, incluidas las maneras de superar momentos de atasco, es motivo de estupefacción.  Empezaré con un símil.

Supongamos que un boxeador de éxito tiene a su disposición en el gimnasio un excelente sparring. Ante este, el boxeador se enfrenta de manera menos agresiva que ante un verdadero rival, pero de manera no huera, es decir: tras el entrenamiento sabrá cómo reaccionar eficazmente ante ciertas actitudes o posiciones adoptadas por el partenaire, y en el próximo entrenamiento dejará de cometer fallos que se apreciaron en el primero. Podemos decir que ha aprendido a reconocer características de aquello a lo que se confronta, que en este caso no es un contrincante sino un cómplice.

Cabe pensar que, si en el gimnasio cuenta con más de un sparring, pongamos diez, este aprendizaje será mayor; tendrá un espectro más rico de potenciales ataques por parte del contrario o dispositivos de defensa ante los ataques propios y, reconociéndolos a la hora de enfrentarse a adversarios reales, ello le será de gran utilidad. Pues bien, supongamos ahora la situación siguiente:

Al enfrentarse de nuevo a los diferentes sparring con los que ya había entrenado, efectivamente da muestra de gran acuidad, reconociendo todas las técnicas y tics de manera que se percibe una superioridad que no se manifestaba en el primer entreno. Sin embargo, a la hora de enfrentarse a verdaderos rivales, es decir, a boxeadores con los que no se había entrenado, se revela torpe y, para sorpresa de los que habían apostado a sus grandes facultades pierde los sucesivos combates.  La pregunta que se impone es: ¿de dónde este contraste entre eficacia en los entrenamientos y torpeza en los combates en los que realmente se la juega? Un esbozo de explicación es el siguiente:

Nuestro hombre retiene los movimientos, técnicas, actitudes y en general rasgos característicos de cada uno de los púgiles con los que se entrena, pero no capaz de generalizarlos, es decir, de extenderlos a una clase de seres humanos marcados por características análogas. En términos aristotélicos: en nuestro hombre se inscriben los rasgos de comportamiento de individuos, pero no extiende tales rasgos a los representantes de un colectivo. Si la cosa no mejorara, su manager podría incluso empezar a considerar que seguir con los entrenamientos es inútil e incluso perjudicial, pues no tendrá otro resultado que reiterar reacciones inadecuadas, encelarse en los vicios.

Pues bien, sirva este símil para entender uno de los problemas que plantean las redes neuronales ocupadas en el reconocimiento de dígitos manuscritos. De hecho, hoy se muestran capaces de catalogar con precisión aspectos del rostro -una nariz, una boca-o un rostro por entero, distinguiendo, si es el de un animal o el de una persona, pero aquí me atengo al reconocimiento de números del 0 al 9. Pues bien, en ocasiones se da el siguiente caso:

Funcionan muy bien cuando se trata de clasificar dígitos de un conjunto destinado al entrenamiento, pero pierden su acuidad cuando se les enfrenta a un conjunto con el cual no se habían adiestrado. Y (utilizando una terminología proyectada desde el comportamiento humano) se conjetura entonces que tales artefactos están quizás sobre-entrenados (overtraining),  o también sobre-ajustados (overfitting),  señalando así  que han quedado  excesivamente marcados por datos contingentes, vinculados quizás exclusivamente a los dígitos individuales  confrontados y no a lo que en cada uno de estos es representativo de algo general. Podríamos decir que captan el rasgo superfluo de un siete algo mal trazado y se le escapa aquello que en el seno de los diez dígitos (0, 1, 2 3…) caracteriza a la forma 7.  El asunto es tan preocupante que hay técnicas para superar esta deficiencia, para evitar el sobre-entrenamiento o paliar sus consecuencias.  Para referirme a una de estas técnicas vuelvo al símil de los sparrings:

Supongamos que estos (eventualmente uno sólo) han sido a su vez preparados para introducir nuevas respuestas a los gestos o ataques del púgil, sesgando, torciendo o encubriendo las reacciones originarias.  En este caso, para familiarizarse con mayor variedad de comportamientos en el entrenamiento no se necesitará recurrir a nuevos sparring.  Pues bien, si se trata de hacer más eficaz el entrenamiento de una red neuronal a la hora de reconocer dígitos manuscritos, sin necesidad de recurrir a un conjunto diferente de aquellos con los que ya se ha entrenado, una modalidad es, por ejemplo, hacer que estos giren en un determinado grado. La red neuronal entrenada para reconocer un 6, se entrenará asimismo para reconocer ese mismo 6 algo inclinado a izquierda o derecha, en el bien entendido de que si la inclinación es excesiva corre el peligro de confundirlo con un 9.

Sentado lo anterior, supongamos ahora que estas técnicas de corrección de errores han sido exitosas, y que ante un conjunto de dígitos manuscritos con los que aún no se había entrenado, la red neuronal reconoce prácticamente el cien por cien. Cabe decir que a través del entrenamiento la máquina se ha hecho sensible a la presencia de un rasgo (o de una conjunción de rasgos) que se repite, y reacciona ante el mismo, mientras que permanece indiferente a rasgos contingentes que pueden acompañar al primero. Así, la presencia de un círculo restringe las posibilidades a que se trate de un 0, de un 6 o de un 9, excluido por ejemplo que pueda tratarse de un 7 o un 2. Y es variable menor el que la línea que completa el 6 este eventualmente algo inclinada. Cabe decir que en esa reiteración que constituyen los entrenamientos la máquina ha alcanzado experiencia.

Y surge aquí una segunda pregunta. De esta máquina que emula a los humanos en experiencia ¿cabe decir que también emula a los humanos en lo referente a técnica? Necesario es naturalmente precisar qué entendemos por experiencia y qué entendemos por técnica. De ello me ocuparé en la próxima columna. Por el momento me limito a citar un texto por así decir canónico.

 “Surge la técnica cuando una pluralidad de recuerdos experimentales es ocasión de un juicio universal, aplicable a todos los casos semejantes. En efecto, juzgar que tal remedio ha sido efectivo para Calias, afectado por tal enfermedad, luego a Sócrates, y después a otros tomados individualmente, es asunto de experiencia. Pero juzgar que tal remedio ha aliviado a todos los individuos de una forma (eidos) determinada que se hallan   afectados por tal o tal mal (biliosos o flemáticos, por ejemplo), esto es asunto de técnica” (Aristóteles Metafísica 981, b 5-12).

Leer más
profile avatar
19 de enero de 2022
Blogs de autor

Del traductor de Google a la ebriedad de una máquina-poeta

Hace sólo unos años, cuando se viajaba  a un país cuya lengua es desconocida, un buen consejo era aprender unas cuantas frases elementales relativas a la vida cotidiana. Así, si preguntabas dónde estaba la parada de autobuses, lo más probable es que de la respuesta no te enteraras, pero al menos habías dado un primer paso. Si se trataba de un país como Grecia en el que la dicción de las personas de habla castellana es bastante similar podías por así decirlo dar el pego. Si pedías un vaso de vino blanco en un bar,  el problema surgía si en lugar de servirte  directamente el camarero preguntaba  por tu preferido en un abanico de blancos y tintos,  pero en fin…

Hoy todo este esfuerzo por introducirte  en el universo lingüístico del otro es inútil. Si llegas por ejemplo a Pekín y preguntas torpemente por la estación de metro, tu interlocutor, sobre todo si es joven, sacará el smartphone, para que introduzcas la pregunta que la máquina traducirá al mandarín (si es el caso) y te dará la respuesta en tu lengua.

Animados por estos hechos hoy tan cotidianos los legos podemos caer en la tentación de estimar que con instrumentos maquinales más sofisticados  estaría resuelto el problema de la traducción de textos científicos, por sutiles que fueran; se piensa incluso  que las máquinas pueden llegar  a tener capacidad de traducir narración o poesía.  Un paso más y (guiados ya por una suerte de hybris) se apunta a la creación por esa  máquina  inteligente  de una composición musical, una obra pictórica que responda  a un determinado estilo, o  un poemario que un humano no sabría distinguir del realizado por un congénere.  ¿Cabe pensar que  una de estas entidades maquinales, cuya modalidad de aprendizaje aceptaríamos provisionalmente que es similar a la de un científico, está ya en condiciones de emular la tarea de un poeta,  un músico o un pintor? Evocaré al respecto  una anécdota:

En una sesión reciente de Jakiunde (Academia Vasca de Ciencias, Letras y Artes) en la que  académicos de diversas disciplinas reflexionaban sobre el creatividad y las condiciones que la favorecen  o dificultan, uno de los ponentes mostró en la pantalla imágenes forjadas por entidades artificiales que parecían tener las características de una obra de arte, algunas de ellas evocadoras quizás de pinturas de Dalí. Pues bien, otro  de los participantes, conocido artista plástico, se alzó denunciando la  falacia que supondría el considerar como arte aquellas imágenes, que calificó literalmente de cutres.

Por lo furibundo de la reacción  entendí que no estaba  designando aquello como  arte “malo”, sino como  algo que nada podía tener  que ver con el arte. Otra cosa es que  esta (a mi juicio bien fundada) denuncia de una monumental confusión hubiera sido suficientemente argumentada,  es decir, que el mencionado artista hubiera llegado a exponer las razones conceptuales de su certeza. Creo que ayudaría en la tarea el  tener  en cuenta la tripartición kantiana de la razón, tantas veces aquí  evocada.

Pues aun suponiendo (¡y es mucho suponer!) que un ente que no se da en la naturaleza inmediata, un ente que exige  directa o indirectamente la intervención  del hombre (pues eso significa en última instancia el término  “artificial”) pudiera ser capaz de un aprendizaje científico, ateniéndose meramente  a esa capacidad suya,  no  puede inferirse que ese ente sería también capaz de dar lugar a una obra de arte.

Pero es que ni siquiera hay seguridad de la premisa, seguridad de que entidades maquinales sean capaces de conocimiento científico en el sentido cabal de la palabra “ciencia”, que implica no sólo capacidad de descripción y previsión sino también capacidad de explicación. Para llegar por sus pasos a este tremendo problema, empezaré en la próxima columna  por algunas consideraciones sobre lo que cabe y no cabe atribuir a una máquina, haciendo comparación con las  etapas a las que es susceptible de acceder el espíritu humano, a saber, experiencia, conocimiento técnico, conocimiento científico y actividad artístico-creativa.

Leer más
profile avatar
10 de enero de 2022
Blogs de autor

¿Arrojar nuestro pasado?

Interrumpo momentáneamente el hilo conductor de las reflexiones que  me han ocupado en este foro en los últimos meses, para introducir un asunto desde luego espinoso.

En 1981, la editorial Gallimard publicó en su colección emblemática La Pléiade  la obra del escritor francés Frédéric Céline  Viaje al fondo de la noche.  Dada la catadura moral de Céline, colaborador de los nazis y autor de repugnantes panfletos antisemitas, la  publicación dio pie a revivir el viejo debate sobre la relación entre la obra y la personalidad del escritor, pero no hubo entonces  voces (al menos con peso) que criticaran el hecho mismo de la publicación.

Nadie ponía en cuestión la exigencia de  respetar criterios de moralidad por  los que, a priori, habría de basarse todo lazo entre hombres pueblos y culturas,  pero se consideraba  que a la hora de juzgar el valor universal de la  obra de arte es problemático introducir como variable de peso la moralidad o inmoralidad del propio artista. ¿Sería también el caso cuarenta años más tarde?

Ha habido en la historia de la creación canallas paranoicos como el propio Céline, algún asesino, ciertamente muchos seres mezquinos en sus relaciones sociales o en su vida doméstica, y por supuesto más de una excelente persona. Pero cuando se trata  la obra de uno u otro hemos de esforzarnos en que  estas variables no nos cieguen, hemos de esforzarnos en pensar que las obras  son por así decirlo anónimas. Al respecto, tienen enorme ventaja aquellas  cuya autoría no es desconocida, así esas “damas” ibéricas que tienen emblema en la de Elche y respecto a las que, afortunadamente, no hay manera de introducir interrogantes sobre la moralidad de su autor. De lo contrario hay riesgo serio de que tengamos que rechazar gran parte de nuestro legado espiritual.

Sea un libro literario-filosófico  como el Elogio de la locura, Encomium Moriae, de Erasmo ¿Está hoy esta obra  del gran humanista libre de toda amenaza? Obviamente nadie en nuestro entorno cultural propondría que no se publicase, pero es posible que en ciertos medios, sin excluir centros docentes, pudiera funcionar la censura implícita, o simplemente el retoque  de párrafos enteros.

De hecho  la tentación “correctiva” podría extenderse a libros como “Fuenteovejuna”, en cuyo pasaje central, la incitación de Laurencia a la rebeldía contra el Comendador, se utilizan expresiones ofensivas para enteros colectivos. Traductores en diversas lenguas europeas retocaron párrafos de Platón para camuflar la atmósfera obvia de atracción homo-erótica. Hoy quizás tenderíamos a retocarlos para ocultar la valoración de los efebos y  las palabras de Sócrates indicando que el bello Alcibiades, a sus 19 años, es considerado demasiado viejo  para quienes desde que era adolescente buscaban sus favores. ¿Y qué  diríamos de los insinuantes San Sebastián adolescente de Guido Reni? Y un ejemplo más cercano:

“Parece que los gitanos y gitanas solamente nacieron en el mundo para ser ladrones: nacen de padres ladrones, críanse con ladrones, estudian para ladrones y, finalmente, salen con ser ladrones corrientes y molientes a todo ruedo; y la gana de hurtar y el hurtar son en ellos como accidentes inseparables, que no se quitan sino con la muerte”.

Si hacemos abstracción de algún término que pueda sonar a arcaísmo, fácil sería atribuir este párrafo a alguno de los  políticos contemporáneos que en Europa han aprovechado la mínima ocasión para alimentar los prejuicios más larvarios  y  las inclinaciones más rastreras  de sus votantes, lanzando anatemas contra la población gitana, por ejemplo en Francia contra la comunidad  “Rom” de Moldavia o Rumanía. No es sin embargo el caso. El lector ha quizás reconocido que se trata del arranque de la novela de Miguel de Cervantes “La Gitanilla”.

¿Y cómo se sale de esta aparente incompatibilidad entre exigencia de reconocimiento de la equivalencia en dignidad entre los humanos y la reivindicación del patrimonio espiritual que para la humanidad suponen  las  obras literarias o artísticas?

Pues evitando un error conceptual de enormes implicaciones. Enuncio una posición de principio y de orden directamente filosófico: es imprescindible delimitar bien lo que depende de la kantiana  Razón práctica, que enuncia los imperativos de moralidad,  y lo que depende de la kantiana Facultad de juzgar, que explora la singularidad del  espíritu humano cuando es motivado por la exigencia que llamamos estética.   Si no se hace esta distinción, gran parte de nuestro patrimonio  debería efectivamente ser puesto en tela de juicio. Con un catastrófico corolario, esta vez sí de orden moral. Pues, como indicaba Marcel Proust, la única forma  en la que el arte puede servir a los demás es ser realmente arte. Si el Guernica hubiera sido una obra mediocre las eventuales buenas intenciones del autor hubieran sido inútiles, o hasta perjudiciales para la causa republicana, pues en el arte “las intenciones no cuentan”. Reconozco que tengo en mente cierta polémica actual en torno a la moralidad del autor de Las señoritas  de Aviñón.   

Pero el problema va incluso más allá de la estética, y concierne a la asunción de la historia. La exigencia de  alcanzar una sociedad en que cada persona pueda reconocerse como representante de la entera humanidad  pasa por abolir aquello que, aquí y ahora, impide la  realización de tal ideario; no pasa  por repudiar nominalmente  aspectos de un  pasado   sin el cual no estaríamos aquí para imponernos tal exigencia moral.  Una cosa es ser lúcido respecto al coste que necesariamente supuso un hecho histórico y otra muy diferente repudiar lo efectivamente acontecido en nombre de  lo que imaginariamente  hubiera podido acontecer,  apoyándose en una concepción del lazo entre pueblos y culturas que carecía  de condiciones de posibilidad, de lo cual es buen ejemplo la aventura, cargada de  connotaciones trágicas, de España en América.

“Arrojar el bebé con el agua del baño”. Con diversas variantes y en diferentes lenguas,  esta es la expresión a la que, se alude al estropicio en el que a veces se convierten las tentativas de soltar lastre. Cabe incluso que el bebé sea meramente ahogado y el agua se atasque. El anatema lanzado sin matices contra  momentos de la historia y la  tradición cultural  exacerbando  su connotación con  estructuras  sociales  opresivas aún persistentes, no altera realmente  a estas, pero deja sin sitio a personas para quienes reconocerse en el pasado supone una suerte de conciliación subjetiva; desarraiga sin liberar, cabría decir, cuando precisamente (como indicaba la pensadora francesa Simone Weil) la auténtica liberación pasa quizás por la fortificación de un sano arraigo.

En su admirable libro Las piedras de Venecia refiriéndose al lazo entre un entorno natural y la arquitectura,  John Ruskin ve en Venecia un emblema de ciudad como obra de arte. La construcción de Venecia se realizó ajustando pilotes en el mejor de los casos en un terreno argiloso, y con mayor generalidad en un pantano cuyo fondo había que drenar. Los troncos eran soportados y dispuestos por hombres que amenizaban con ritmos la dificilísima tarea. Es fácil imaginar la cantidad de accidentes calamitosos que ello pudo acarrear… ¿Deberíamos pues lanzar anatema contra Venecia?

Leer más
profile avatar
9 de diciembre de 2021
Blogs de autor

Un reto para la máquina…una queja del hombre

Obviamente la reivindicación de la singularidad del ser humano en virtud de su capacidad de efectuar juicios éticos y sobre todo juicios estéticos, supone dos condiciones:

En primer lugar que tales juicios sean efectivamente de un orden diferente a lo que nuestra mente efectúa cuando codifica y sopesa información recibida, es decir: que una metáfora como “las aladas almas de las rosas” no sea una forma (disimulada para nosotros mismos) de responder a aquello mismo a lo que responden los códigos de señales. Hipótesis anti- reduccionista con la que no simpatizará ciertamente quien estime que el comportamiento lingüístico no es, en lo esencial, diferente del comportamiento que pone de relieve la abeja en su danza (por atenerse al ejemplo clásico).

La segunda condición no consiste en reducir al hombre sino en homologar a la creatura artificial en lo que haría la singularidad del anterior. Habría que decir que un algoritmo puede llegar a exceder la capacidad humana a la hora de simbolizar, de dar sentido o constatar la ausencia del mismo. Desde luego la entidad maquinal sería como nosotros si llegara estar realmente motivada por aquello que motiva a Garcilaso, y si tuviera entre sus intenciones el llegar realmente a emular a este. No digo que esto no pueda darse, digo simplemente que sólo si así fuera, la idea misma de entidades post- humanas tendría el peso que algunos le otorgan.

Utilizando, como señala Aristóteles, “metáforas poéticas”, Platón nos describe un horizonte de puros conceptos, el campo eidético, en el que aspirarían a instalarse todos aquellos que fueron tocados por la dialéctica de Sócrates. Esta querencia por alcanzar la ciudad de las ideas, es decir, el lugar donde las ideas no estarían contaminadas, aparece en los diálogos de Platón llamados “metafísicos” (Parménides, Teeteto, Sofista, Filebo) como ilusión vana, puesto que en el seno de las ideas mismas reaparecen la alteridad, la oposición y la contradicción, es decir, todo aquello que el espíritu repudiaba y que atribuía a la perturbación que para las ideas supondría su inserción en la materia. Hace muchísimos años describí esta decepción de aquel que se aventura en el campo eidético en un libro que llevaba por título “El drama de la ciudad ideal”.

Pasado tanto tiempo quiero simplemente señalar que más allá de la decepción a la llegada la aspiración al campo eidético encierra una suerte de profunda queja.

“¿Es posible que yo, súbdito de Yaqub/ Almansur. Muera como tuvieron que morir las/rosas y Aristóteles?”, se interroga ácidamente el héroe magrebí de Borges. La mente que encadena metáforas, la mente que sintetiza un complejo número de ideas en una prodigiosa fórmula modificadora de las nociones mismas de masa luz y energía, la mente que explora vastos y diversos tipos de infinitud (laberinto cantoriano en el que Borges se queja de no haberle sido dado penetrar…) esta mente ¿ha der encerrada en la vida y heredar el destino de esta? La de los hombres es la única forma de vida que se sabe “un paréntesis entre dos nadas”. Saber tremendo que crea un abismo entre nosotros y el resto de seres vivos. La aspiración al campo eidético platónico, la aspiración a una poesía y una matemática no perturbadas por el transcurrir del tiempo, encierra una sorda y justificada queja por el hecho de que el verbo haya surgido de la carne, quejas por el hecho de que quien haya mutado en ser de palabra sea un animal.

Leer más
profile avatar
15 de noviembre de 2021
Blogs de autor

Un posible argumento a favor de nuestra singularidad

Las computadoras pueden conectarse a otras, apropiándose así de la capacidad de almacenar información de estas últimas. Como esto les da una ventaja sobre nosotros, se está intentando que los humanos podamos mediante implantación de chips conectarnos a las redes de silicio. Asunto que se presenta como inminente, y que contribuiría decididamente a la equiparación –cuando menos parcial- de nuestros destinos con el de seres… creados por el hombre. Entiéndase bien que, según como se interprete todo el asunto, se trataría de que el hombre pueda emular a la entidad maquinal por él generada y no al revés.

Pues bien, precisamente porque reconozco que todo esto puede desbaratar arraigadas convicciones sobre la singularidad absoluta del ser humano (por las que a priori tengo sesgo positivo), aventuro a favor de tales convicciones un argumento digamos de factura kantiana, que creo es algo más que ideológico.

El funcionamiento de nuestra mente cuando lo que está en juego no es el orden del aprendizaje empírico ni el orden del conocimiento puramente eidético (un conocimiento del tipo del que nos ofrecen las matemáticas), el funcionamiento de nuestras facultades cuando el criterio no reside en la objetividad, sea empírica o trascendental (así el funcionamiento cuando legisla un principio moral), pero sobre todo el funcionamiento cuando lo que está en juego es aquello que denominamos estética (en un sentido ciertamente muy alejado de la significación originaria), tal funcionamiento sería el indicio mayor a la vez del peso de lo simbólico cuando se trata de nuestra especie y de la radical irreductibilidad de la misma, es decir, entre otras cosas, imposibilidad de objetivación del ser humano, y por consiguiente imposibilidad de hacer del mismo un objeto de ciencia.

Leer más
profile avatar
4 de noviembre de 2021
Blogs de autor

La decisión del poeta

Las neuronas de una red artificial sopesan los datos que recibe en función de una finalidad (por ejemplo el reconocimiento de si los píxeles percibidos corresponden o no a un determinado dígito) y relativizan el monto añadiendo su propio sesgo o querencia. La mayor o menor acuidad en la tarea (por ejemplo tanto por ciento de dígitos reconocidos correctamente en un tiempo determinado) se acentúa por el hecho de que la red reconoce sus propios errores y aprende a corregirlos.

La proyección de nuestros estados psicológicos sobre sistemas artificiales se traduce directamente en el vocabulario. Un ejemplo:

En el reconocimiento de dígitos, en ocasiones el sistema parece funcionar al nivel de las imágenes que sirven de entrenamiento,  pero este buen funcionamiento es ilusorio, pues al pasar a las imágenes no específicamente seleccionadas para entrenar se percibe que el tanto por ciento de correcta clasificación se ha estancado. Se diría que el sistema, funcionando  bien ante el conjunto de dígitos elegidos para su entrenamiento, es sin embargo incapaz de generalizar. Pues bien, cuando esto ocurre se dice que el sistema, padece de sobre-entrenamiento (overtraining, también overfitting) de alguna manera está estresado. Y como se diría de un deportista que falla en el momento de la competición real mientras que se mantenía en los entrenamientos (algún caso se ha dado en los últimos juegos olímpicos), es entonces imperativo que la red neuronal deje de entrenar. En vista de todas estas analogías entre entidades artificiales y seres humanos es legítima la pregunta: ¿cabe decir que un sistema neuronal artificial adopta una resolución tal como nosotros lo hacemos de ordinario?

Tratándose de elucidar si lo que percibimos es un 5, quizás hay coincidencia entre los procesos que nosotros  efectuamos (de hecho sin conciencia de ello)  y lo que efectúa una red neuronal (por ejemplo cuando de diez neuronas output sólo la que corresponde al número 5 se activa). De todas maneras ciertos  autores  niegan que, incluso a este nivel, quepa hablar de homologación. Así el filósofo americano  John  Searle lleva decenios  proclamando que aunque la performance objetiva sea comparable, las entidades artificiales se mueven en una dimensión exclusivamente sintáctica, no teniendo acceso alguno  a la semántica.

En cualquier caso: ¿qué ocurre cuando se trata de tomar una resolución con implicaciones éticas y con datos contradictorios? Por ejemplo cuando hay variables que apoyan la decisión de tomar una medida sanitaria mientras otras variables la señalan como perjudicial. Y sobre todo: ¿es el comportamiento de la red homologable al nuestro cuando el poeta decide que las almas a las que se apela son las de las rosas (“A las aladas almas de las rosas/del almendro de nata te requiero”) y no las de algún otro ser que, de considerarse la oración desde el punto de vista de la información que da un código de señales,  sería perfectamente homologable?

Leer más
profile avatar
21 de octubre de 2021
Blogs de autor

El peso de la inteligencia y el peso de la vida

Cuando se introduce la cuestión de la potencia de cerebros artificiales, alcanza mayor sentido una pregunta filosófica que ha tomado particular relieve en nuestro tiempo, a saber, la de si hay seres homologables (ya sea parcialmente) al cerebro humano no sólo en capacidad de conocimiento sino también de simbolización.

Esta homologación está de hecho implícita tras la idea recurrente de que la comprensión de la inteligencia artificial nos ayudaría a entender el funcionamiento de nuestro propio cerebro.

En cualquier caso, esta problemática de la capacidad de entes artificiales para emular e incluso superar las facultades mentales humanas, deja de alguna manera en segundo plano, el problema simétrico de la homología entre humanos y animales. Cierto es que los animales tienen en común con nosotros la condición de seres vivos dotados de códigos de señales de gran complejidad, pero desde luego el nivel de interrogación al que se ha llegado respecto a la inteligencia animal no es comparable al sofisticadísimo en el que estamos ya embarcados en relación a la inteligencia de seres artificiales…

En síntesis: cuando se trata de cerebros artificiales se presenta con mayor acuidad una interrogación clave: ¿hay fuera de los cerebros humanos algo análogo a la prodigiosa facultad de lenguaje?; ¿hay fuera de los cerebros humanos algo análogo a lo que constituye una frase cuyo significado es irreductible al cumulo complejo de combinaciones de los significados de sus componentes?

A mi juicio es fácil responder con la negativa a estas preguntas cuando se trata de cerebros de otros animales (por muchos esfuerzos que se ha hecho para reconocer en ciertos de ellos facultades humanas como la de lenguaje, nunca se ha llegado demasiado lejos), mientras que la pregunta permanece abierta tratándose de la inteligencia artificial. Y en caso de que se llegara a una respuesta positiva, habría un sorprendente corolario: la inteligencia lingüística se ha dado en ese ser vivo que es el hombre, pero no cabría decir que la vida es una condición necesaria de la inteligencia.

Leer más
profile avatar
4 de octubre de 2021
Blogs de autor

A vueltas con la pregunta de Turing

¿Pueden las máquinas pensar? Ante  esta pregunta, formulada por Alan Turing ya en 1950 (Computering Machynery and Intelligence)  lo primero que pasa por la cabeza es la de que todo depende de lo que entendemos por pensar. El propio Turing escribe en el arranque “Deberíamos  empezar definiendo lo que significan los términos máquina y pensar” No parece que esta exigencia se haya siempre respetado.

Etimológicamente pensar es sopesar, alzar, relevar, hacer que algo destaque a fin de pesarlo o pensarlo, dirimir respecto a sus posibilidades con vistas a obtener un resultado que se espera. Pero, obviamente, esto corresponde tanto a la compleja reacción que tiene un animal que  valora opciones  de fuga ante la presencia de un depredador como a la disposición   de un político que  tantea o calibra los beneficios y perjuicios de adoptar tal posición. Y cuando Turing plantea la pregunta se está refiriendo a algo más que esto.

De hecho Turing se está refiriendo  a un ser (“una cosa que piensa” Descartes dixit) cuya reacción ante el entorno fuera homologable a la de los humanos cuando actúan racionalmente. Y quisiera al respecto hacer una precisión. En ocasiones se presenta la cosa así: Turing nos estaría pidiendo que juzguemos a la invisible entidad de la misma manera que usualmente juzgamos a los humanos: si estos responden a nuestras preguntas de un modo que nos parece razonable diremos que están pensando. Pero la cosa no es exactamente así: cuando nos dirigimos a un ser humano, tenemos como punto de arranque, presupuesto o condición que estamos dirigiéndonos a un ser pensante. Si responde mal o caóticamente, diremos que es un ser pedante, confuso o claramente estúpido, pero no esperamos la respuesta para determinar que se trata de un ser pensante.

 Pero con independencia de este problema cuando Turing se está refiriendo a una potencial máquina  inteligente, está pensando en una inteligencia que se activa incluso cuando nada concierne en lo relativo a las  condiciones de posibilidad de su existencia, es decir al soporte material de la misma. Una máquina cuya percepción sensible fuera actuada por entidades que no son ellas mismas sensibles, como en todo caso son los conceptos, una máquina que respondiera al campo eidético. Una máquina que a partir de de un conjunto finito de elementos potencialmente pudiera desplegar una pluralidad infinita. Obviamente no se trata de elementos del mismo nivel. Conjunto finito de elementos físicos, es decir significantes, versus -conjunto infinito (potencialmente, pues los elementos  no se dan al mismo tiempo) de elementos eidéticos, es decir significados. Pero el pensar al que se refiere Turing va quizás más allá.

En la intersección de la ciencia y la filosofía, el proyecto de Turing abre el siguiente interrogante. Siendo el hombre un animal de razón y de lenguaje, ¿llegará él mismo a ser creador de razón y lenguaje? ¿Conseguirá un  artificio que sea cabalmente inteligente, es decir, que incluya los aspectos emocionales y creativos de la inteligencia? ¿O aquello que llamamos inteligencia artificial no es verdaderamente algo que (parafraseando a Descartes) afirma, niega, siente, conjetura, concluye  teme, se motiva y sobre todo duda, aspectos todos ellos que son expresión de inteligencia?

Los  cerebros artificiales solucionarán  mucho mejor que el hombre ciertos problemas aquí ya  evocados, reemplazándonos en  tareas tecnológicas. Pero ¿serán  émulos de Dante  o Calderón, compondrán como Mozart o Vivaldi? A lo cual cabe añadir:

¿Serán esos nuevos seres  capaces  de formular algo análogo al principio de equivalencia de la relatividad general o al principio de incertidumbre de Heisenberg de la Mecánica Cuántica?  ¿Serán capaces de “interesarse” por algo como las figuras cónicas que fascinaban al pensamiento griego y que sin embargo no tuvieron durante siglos utilización técnica alguna? ¿Serán  susceptibles de ser movidos por la pura exigencia de inteligibilidad que, desde la física elemental de los jónicos hasta las discusiones sobre los fundamentos de la física cuántica  (¡que se prolongan desde hace un siglo!)  son un aspecto esencial de la ciencia (no el único por supuesto)? ¿Serán capaces de sentir ese estupor (según Aristóteles punto de  arranque de la filosofía) que experimenta un científico cuando constata algo que, funcionando perfectamente, parece escapar a los principios mismos de la ciencia, ese estupor que -por mucho que  hubiera previsto el resultado- no dejó de experimentar Alain Aspect ante su experimento de no localidad? En suma:

¿Dará el hombre lugar a un ser artificial dotado de la inteligencia a la vez conceptual y sentiente (por utilizar la expresión de Zubiri) que ha posibilitado un Garcilaso,  pero también un Descartes o un Einstein, y que además tenga esa trágica   certeza de la propia finitud que acompañaba a esos  creadores, como acompaña a todo ser de palabra.

Leer más
profile avatar
30 de julio de 2021
Blogs de autor

¿Sensores que detectan el mero pensar?

Un artículo en Nature en mayo de 2021 daba cuenta de  los resultados de un experimento en la universidad de Stanford: a una persona afectada por una lesión tetrapléjica se le insertaron pequeños electrodos en partes del cerebro vinculadas al movimiento de los brazos. Tales  sensores    detectan la actividad   neuronal correspondiente al deseo de activar el brazo y la mano con vistas al trazado de letras. La información es entonces  transmitida a un ordenador que escribe las frases deseadas. Se trata de un experimento  en el marco de un programa denominado Brain Gate.

 Lo que  se ha conseguido es escribir 90 caracteres por minuto, cuando en experimentos anteriores no se habían pasado de 40 caracteres, no se trata pues de un salto cualitativo. Por otro lado Humberto Bustince ha señalado que el experimento estaba desde el inicio focalizado en un individuo concreto (la máquina estaba por así decirlo adecuada a los rasgos de funcionamiento de ese individuo) y no en la mente de personas en general. La observación es tanto más pertinente cuanto  que el equipo dirigido por el propio Bustince en la universidad pública de Navarra, hace tiempo que realiza experimentos aplicables a cualquier persona, aunque restringidos a la reacción neuronal a preguntas elementales que sólo exigen la respuesta sí o no.

Conviene recordar  que el trazado caligráfico es algo enormemente complejo (de ahí las dificultades de las primeras  redes neuronales para avanzar en el mero reconocimiento de dígitos manuscritos) y compleja es pues la actividad  neuronal que le da soporte. Así que  pese a las observaciones que preceden, el asunto es desde luego impresionante, y desde luego abre la puerta a interrogaciones de calado.

Si he entendido bien  lo que se ha conseguido es detectar las señales de que se intenta efectuar una acción física, no directamente el pensamiento que ha dado lugar a tal voluntad. Supongamos, pues,  que (contrariamente al caso evocado) no se tratara  de un pensamiento tendiente a la activación de un órgano, sino de pensamiento sin otra intencionalidad que el pensamiento mismo, un pensamiento abstracto, relación matemática, por ejemplo, o una asociación metafórica; un pensamiento en suma no vinculado a la acción física. ¿Podrían sensores análogos a los evocados  decir algo de esta actividad neuronal sin intencionalidad de traducción en gesto físico luego con correlato meramente eidético?

Obviamente el pensamiento tiene soporte en el cerebro, y la correlación neuronal de tal acto de pensar podría eventualmente ser captada  por sensores análogos a los considerados. Cabría entonces decir que estos sensores interrelacionan casi directamente con el pensamiento. En suma: una cosa es que una máquina reconozca los correlatos neuronales de la intención de trazar  físicamente un dígito o una letra y otra que reconozca los correlatos neuronales del puro pensar. Si dejamos aparte casos de metapsicología, entendemos al otro a partir del aspecto físico del signo lingüístico saussuriano, sea este verbal o visual (tal el lenguaje de los sordomudos). Y es efectivamente sorprendente la posibilidad de que un instrumento acceda a lo que a nosotros mismos parece  estar  vedado.

Leer más
profile avatar
21 de julio de 2021
Blogs de autor

Distinguir y conocer no implica tener idea

Decía en una reflexión anterior que no tenía seguridad de que cuando los manuales introductorios se refieren a los artefactos que emulan el funcionamiento del cerebro humano, sea lícito hacer referencia a lo que en este funcionamiento es dependiente del lenguaje. Indicaba así que si por “responder” se entiende una respuesta lingüística, no tenía yo mucha seguridad de que haya artefacto inteligente que efectivamente de respuestas. No se trata de una duda retórica, simplemente no lo sé: no sé hasta qué punto los prodigiosos logros de la inteligencia artificial nos permiten decir que hay ya entre nosotros inter-pares, entiendo por inter-par toda entidad que efectivamente esté dotada del don de la palabra.

El problema aparece entre líneas por todas partes, incluso cuando nos estamos refiriendo a cuestiones meramente de técnica. Un ejemplo recogido de uno de esos manuales introductorios a los que hecho alguna referencia:

El autor está presentando una red neuronal básica pero que permitiría clasificar los siguientes dígitos 504192 (imagine el lector que están escritos a mano). Se plantean dos problemas, en primer lugar hay hacer que la imagen total que constituye el conjunto de los dígitos se convierta en una secuencia, es decir, hay que introducir la diversidad, de tal manera que haya seis imágenes y no una. Tras esta segmentación se plantea el problema central de clasificar cada digito individual, es decir, realizar la acción de ubicar en un grupo u otro, por ejemplo reconocer en la imagen 5 un caso particular del dígito “cinco”. Pues bien, aquí el autor señala la conveniencia de abordar directamente el segundo problema, pues su solución acarrea la solución del primero, o sea: lograr clasificar implica lograr distinguir. Desde luego suena muy platónico, pero ¿lo es realmente? Todo depende de cómo clasifica la máquina: ¿cata-loga la máquina, es decir, subsume, a la manera platónico-aristotélica, por mediación del logos, reconociendo en lo dado una forma, una especie o idea? ¿O más bien a la manera como un animal no confunde un gato con un perro, es decir, sin idea de lo que está en presencia? Hemos visto que el John Searle que se encuentra en la cámara china no tiene idea de chino y sin embargo funciona como si la tuviera, es decir: a efectos prácticos una simulación de lenguaje parece funcionar como si el lenguaje estuviera presente.

Este es el problema filosófico de fondo que este titánico proyecto de la inteligencia artificial nos plantea, y que, como ya he indicado, hay que abordar sin apriorismos. Muchos seres carentes de lenguaje realizan complejísimas funciones que en nosotros son difícilmente separables del lenguaje, y ello simplemente porque el lenguaje lo empapa todo en nuestras vidas. Esta intrínseca porosidad del cuerpo humano al lenguaje hace quizás que tomemos como efecto de lenguaje lo que quizás podría tener lugar sin presencia del mismo. Nosotros no confundimos un individuo de una especie con un individuo de otra especie, pero un perro, sin poder (por hipótesis puesto que animal no racional) especificar, tampoco los confunde, de lo contrario no podría adaptarse al entorno. De ahí una vez más la sospecha: el lenguaje, que emerge en la vida, quizás no tiene como meta esencial fortificar la vida.

Leer más
profile avatar
5 de julio de 2021