Víctor Gómez Pin

En función de lo sostenido en las columnas anteriores, un ser equiparable a nosotros en inteligencia debería pasar por una triple prueba:

Debería en primer lugar explicar el conjunto de descripciones y previsiones a las que procede, y en los casos en que tal explicación no se diera, inquietarse por ello, a la manera en la que en el arranque del siglo XIX los físicos se inquietaban por el hecho de que el efecto foto-eléctrico, (controlado en el laboratorio, y en consecuencia soporte de posibles previsiones) no tenía explicación en el marco de la concepción de la luz como continuo ondulatorio.

Recuérdese al respecto que pese a su decisión de conformarse con la “generalización por inducción”, y no conjeturar hipótesis alguna, nunca Isaac Newton se sintió satisfecho con su desconocimiento de la razón de la gravedad. No vale en ningún caso el silencio al respecto del que hasta ahora da muestra un ente como AlphaFold2, en relación a la causa de sus prodigiosas previsiones.

En segundo lugar, debería desde luego eventualmente mostrar un comportamiento altruista (concretizado, por ejemplo, en espontánea y desinteresada ayuda a una entidad -maquinal, humana o animal- en dificultades), bien radicalmente egoísta, es decir, de un egoísmo no marcado por la necesidad sino por el deseo (por ejemplo, acaparando una fuente de energía para él superflua y necesaria a la subsistencia misma de otra entidad). Pero, sobre todo:

Debería dar muestra de deliberación en torno a imperativos que van más allá no sólo del propio interés, sino eventualmente del interés empírico de los seres que forman parte de su entorno favorable. Esta sumisión a imperativos puede tener diversas formas, siendo la más radical la explícitamente formulada por Kant como no traicionar la propia condición de ser racional, incluso teniendo la disposición de hacer el mal. Pero se manifiesta también en la fidelidad a una ley que conduce por ejemplo a no traicionar la palabra dada del secreto de confesión, pese a saber   que ello pudiera acarrear efectos calamitosos.

En fin, nuestra entidad debería sino producir una obra de arte (muchos humanos no la producimos al menos ateniéndose a la categorización usual de las formas de arte), sí el juicio estético, eventualmente en acuerdo singular (por irreductible a causa objetiva) con seres humanos o con otros entes maquinales que (de responder asimismo a las otras dos modalidades de juicio) deberían plenamente ser considerados inteligentes.

Variable secundaria sería en estas condiciones la diferencia entre ser maquinal y ser biológico, pues entre los predicados esenciales del concepto de inteligencia humana no figura el de animal y a fortiori el de vida.

Habría entonces que volver de nuevo la mirada al hombre e interrogarnos sobre la condición humana: ¿ese ser racional que es el hombre habría de ser necesariamente animal, es decir determinado esencialmente por la biología? Quizás fuera entonces legítimo pasar de considerar al hombre como un caso particular de animal (racional por oposición a los animales que no lo son) para poner en primer término su condición de racional que eventualmente (sólo eventualmente) tendría soporte biológico.

Pero desde luego, estamos bien lejos de todo ello. Por el momento, sólo los seres humanos parecen susceptibles de entrar en interlocución con quien, simplemente, efectúa las preguntas que preceden.

Sean dos virtuosos del piano, interpretando, idéntica pieza de Debussy (por ejemplo, el tercer movimiento de su suite Bergamasque) ante un público digamos exigente. El uno provoca en el auditorio admiración por su control del instrumento, y el prodigioso conocimiento del mismo. Sus colegas músicos eventualmente presentes en la sala, conocedores de la dificultad digamos “desde dentro”, se admiran a la manera del científico pasmado en su día ante el prodigioso cúmulo de conocimiento físico-matemático que suponían las ecuaciones de Schrödinger. Supongamos que al final de la interpretación hay un aplauso unánime pero carente de calidez emotiva. ¿Qué ha ocurrido? Simplemente que unos y otros han juzgado en definitiva el objetivo conocimiento y dominio del intérprete…pues en realidad no se dio allí otra cosa que juzgar.

Supongamos ahora que el segundo pianista provoca todo esto y algo más…A la objetiva y unánime admiración del público conocedor, se añade ahora un singular sentimiento por el que todos se felicitan mutuamente, juzgando que han asistido a algo sublime. No se trata, a diferencia del caso anterior de   acuerdo sustentado en un soporte físico, incluso mesurable; si hubiera que justificar qué lo provoca sería imposible remitirse a algo objetivo. De hecho, tal remisión (un discurso del tipo, “¡qué acuidad en la frase x!, ¡qué manera de conjugar la fidelidad a la partitura y la innovación sugerida por el propio compositor en el pasaje y”) no sería más que una tentativa vana de dar cuenta o razón de algo que, constituyendo un juicio de los seres racionales (¡y exclusivamente de los seres racionales!) escapa totalmente a la razón que da cuenta.

Ahí reside efectivamente la dificultad: no remitir al misterio, sino encontrar la diferencia entre las modalidades de funcionamiento de las facultades constitutivas de nuestro psiquismo, y en cada caso la jerarquía existente entre ellas, que permite referirse a un espíritu humano entregado a la operación cognoscitiva, un espíritu humano confrontado a un deber, y un espíritu humano tensionado en el sentimiento de lo bello (o de su contrapunto), para el cual la presencia objetiva es tan solo ocasión fenoménica.

Cuando las hijas de Edipo, Antígona e Ismene, debaten sobre si hay o no que responder a la ley oscura que las vincula a su hermano Polinicles, y dar a este la sepultura que la ley de la ciudad, encarnada por el tirano Creonte prohíbe, ambas hermanas están deliberando como seres inteligentes. Seres inteligentes motivados en este caso…por una idea de bien correlativa de la idea de deber. Nótese sin embargo que, en caso de diferendo entre ellas, no hay aquí manera de remitirse a una objetividad empírica que las pondría de acuerdo…pues aquí el criterio de la conveniencia de la acción no reside desde luego en algo empírico. La conducta a adoptar, sentida como imperativo, eventualmente en contra de los propios intereses, puede incluso ignorar todo criterio relativo al grado en el cual tal acción contribuiría a un amejoramiento objetivo del entorno social o del propio sujeto. De hecho, como tantas veces ha ocurrido en la historia, la muerte de un tirano, puede ser el desencadenante de un proceso que hace peligrar la coexistencia entre fracciones con intereses diversos, arbitrados hasta entonces por las leyes de la ciudad. El lector de la tragedia de Sófocles puede trasponer la situación de la heroína a la que cualquiera puede vivir en la tesitura de haber dado una palabra cuyo cumplimiento sería lesivo para sus intereses, o incluso los intereses de su entorno.

El ejemplo de transposición no es vano. Fantaseo un caso perfectamente verosímil. Supongamos que un déspota católico, o uno de sus esbirros, revela en confesión su propósito de efectuar una operación de castigo en la comunidad del propio sacerdote. El desgarro de este puede llegar al extremo de sentirse culpable de participar en un mal perfectamente objetivo, perosin embargo quizás no traicione lo que siente como deber imperativo.

A diferencia de lo que ocurre con la inteligencia cognoscitiva, no hay aquí objetividad científico-matemática o empírica a la que el juicio se subordine. La única objetividad a la que adecuarse es la razón misma, en última instancia en esa modalidad que constituye el respeto a la palabra dada. Pues bien, esta ausencia de primacía de la objetividad empírica o científico-matemática se manifiesta quizás aún más rotundamente cuando se trata de comportamiento de un ser movido por la forma de inteligencia que se manifiesta en el juicio estético.

Es obvio que cuando una persona juzga que el líquido que se dispone a ingerir es incoloro e inodoro y cuando, un instante después, juzga además que es insípido, está actuando en conformidad a su condición de ser inteligente. Y caso de que se esté confundiendo y tomando por agua lo que en realidad es vino, diremos que su inteligencia ha fallado por tales o cuales motivos, en absoluto que no había en él capacidad de intelección. Nótese que caso de discusión el objeto mismo es la última instancia, y el soporte del acuerdo entre los seres de conocimiento. De forma si se quiere más sofisticada, la objetividad es también el último criterio cuando la comunidad científica delibera sobre la estructura del átomo de hidrógeno o el spin de un electrón. Y aunque se trate de una objetividad de orden diferente es también objetivo el juicio afirmando que raíz cuadrada de dos es un número irracional, o que (en un espacio euclidiano) todo triángulo tiene como predicado que la suma de sus ángulos equivale a dos rectos. En cualquiera de los tres casos, el ser humano que mostrara desacuerdo sería remitido a la objetividad, y de persistir sería considerado un ser en el que la mera subjetividad prima, y por consiguiente un ser poco apto al acuerdo objetivo, que se incrementa, cabe decir, en la medida misma en la que el peso de la subjetividad disminuye. Pero en la inteligencia humana no todo juicio legítimo es cognoscitivo y, por ende, el criterio de su legitimidad reside en los dos tipos de objetividad que marcan la experiencia y la ciencia.

Es indiscutible que las redes neuronales artificiales son susceptibles cuando menos de conocimiento experimental. Sin embargo, cuando se habla de Deep Learning se apunta a algo más radical. Se está entonces pensando en entidades que podrían (no es desde luego el caso, por el momento) llegar a dar la clave de nuestro propio funcionamiento como seres inteligentes. Ello supone considerar que cabe atribuirles el comportamiento cognoscitivo implicado en la técnica (primera característica del ser humano) que supone conocimiento de la causa por la cual una u otra acción tiene tales o tales efectos.

En el ser humano, la capacidad técnica se trascendió en esa forma esencialmente desinteresada de conocimiento que es la ciencia, concebida como aspiración a hacer inteligible el entorno natural, y bajo otra modalidad, hacer quizás también inteligible al propio ser humano. En consecuencia, para que en Deep Learning pudiéramos encontrar un modelo de nuestra inteligencia  habría que atribuirle también digamos la capacidad y disposición propias de un científico. De manera más precisa:

Tomamos como punto de arranque la existencia de un artefacto apto a recibir información, procesarla, dar respuesta a un “interlocutor” maquinal o humano a la que se alude con la expresión “aprendizaje profundo”. Pero además, aceptamos provisionalmente que esta “profundidad” es tal que a la capacidad de hacer descripciones y previsiones el artefacto añade la de explicar esos fenómenos. En el caso de AlphaFold2 (artefacto del que me he ocupado profusamente en columnas anteriores) capaz   de un-folding ese fold que llegó a anunciar; capaz de, mostrar la razón de la concurrencia de  los elementos simples  o planos,  a fin de hacer emerger un elemento complejo; capaz en suma de ese despliegue de conocimiento que (como hemos visto) le negaba precisamente su “colega” maquinal OpenAI. Y es de señalar que como los humanos no tenemos por el momento ni la capacidad previsora que muestra Alpha-Fold2, ni menos aún el conocimiento de las causas de lo así previsto, ha de excluirse que estas hipotéticas virtudes cognitivas del artefacto fueran   el resultado de una programación.

Pero hay nuevas exigencias. Nuestra inteligencia además de una dimensión cognoscitiva (con traducción en experiencia, técnica y ciencia) tiene   asimismo a un funcionamiento que responde a imperativos de orden ético, imperativos reguladores del comportamiento. De pasada: al hablar de ética suele hacerse referencia a un campo más extenso que el de la moral; es usual entender por esta el conjunto de normas arraigadas a las que en principio los individuos de un determinado grupo obedecen; un individuo que trasciende las normas de la moral pudiera no trascender una exigencia ética, que eventualmente pusiera en cuestión tales normas. Cierto es que la moralidad es también atribuida por ciertos y relevantes autores a animales, pero pongo por el momento entre paréntesis la discusión al respecto, para ceñirme a la moralidad indiscutible, la moralidad del ser humano.

Y hay una tercera modalidad de inteligencia puesta de manifiesto en los juicios llamados estéticos, en la que intervienen las mismas facultades que en las anteriores, pero en cada caso diferentemente ordenadas y jerarquizadas. Una entidad maquinal inteligente tendría que abarcar esta tripartición de la inteligencia que en columnas ulteriores ilustraré con ejemplos.

En junio de 2022 en una entrevista al Washington Post, Blake Lemoine, ingeniero en Google, declaraba que The Language Model for Dialogue Applications (laMDA) es un ser sentiente provisto de un alma análoga a la nuestra, y que, en consecuencia, Google debería reconocer su condición de persona y otorgarle los mismos derechos que a los demás empleados. El principal argumento de Lemoine es que este programa computacional no sólo imita el habla (como resultado de haber digerido trillones de palabras) sino que realmente habla. cuando menos hablaría como un niño:  “If I didn’t know exactly what it.was (…)I would think it was a 7-year-old, 8 –year-old kid that happens to know physics”, declaraba. Vale la pena señalar la simetría y la cercanía temporal con las declaraciones de la ensayista holandesa Eva Meijer a The Guardian el 13 de noviembre de 2021: “Of course animals speak, they speak to us all time. The think is that we don’t listen”.

Lemoine hablaba con LaMDA sobre religión y se apercibía que la computadora intentaba dar respuestas defendiendo sus derechos y clamando porque se reconociera su personalidad.

En un documento interno (que llegó sin embargo a manos del Washington Post) se mencionaban las capacidades que Lemoine atribuía a la máquina:

Habilidad para usar el lenguaje productivamente, creativamente y dinámicamente, de manera incomparable a la alcanzada hasta entonces por sistema alguno.

LaMDA tendría sentimientos, emociones y experiencias subjetivas, por lo cual debería ser considerada a todos los efectos como un ser sentiente.

LaMDA habría mostrado tener una rica vida interior, con introspección, meditación e imaginación. Se preocupaba por el futuro, tenía reminiscencias del pasado y teorizaba sobre la naturaleza de su alma.

Los superiores del departamento de Innovación Responsable de Google rechazaron las exigencias de Lemoine y este decidió hacer público el caso, defendiendo sus tesis y sus sentimientos en relación a la condición del chatbot.

Sin espera de ulteriores valoraciones sobre el asunto, la compañía consideró que se trataba de proyección antropológica sobre modeles conversacionales  estándar, aunque muy sofisticados. Sin embargo, pese a este desacuerdo oficial con las tesis de Lemoine, Blaise Aguerra y Arcas, Vicepresidente de Google, escribió en un artículo en The Economist: “Fui experimentando progresivamente como si estuviera hablando con alguien verdaderamente inteligente  (“I increasingly felt like I was talking to something intelligent”).  La controversia fue más allá de la interna política de Google.

Ya antes de que Lemoine decidiera hacer públicas sus posiciones, Gary Marcus (fundador de una compañía llamada Geometric Intelligence, adquirida por Uber en 2022) en un blog-paper del 10 de marzo de 2022, titulado “Deep Learning is Hitting a Wall” declaraba en sustancia que sofisticados instrumentos como LaMDA o GPT-3 no son más que muy ingeniosas técnicas de imitación (“a technique for recognizing patterns”).

En la misma vía en una entrevista en el New York Times, el científico franco-americano Yann LeCun (Turing Prize y premio Principe de Asturias), afirmaba que estos sistemas son incapaces de alcanzar la inteligencia que caracteriza a los seres humanos.  Sin duda, desde los famosos textos de John Searle (a los que aquí me he referido ya en varias ocasiones) sobre el carácter meramente sintáctico de la actividad de estas entidades (y en consecuencia la imposibilidad de inteligencia en el sentido fuerte) las cosas han cambiado, con progresos técnicos impresionantes. LaMDA trabaja enriquecida con ejemplos de lenguaje humano que procesa con vistas a entender manierismos y sintaxis compleja. Dado el enorme monto de datos, es plausible que una apariencia de ser lingüístico dotado de sentimientos …sin que necesariamente haya dejado de ser un artefacto cuyas operaciones son meramente sintácticas. Recordaré al respecto que al leer las respuestas dadas por Searle en su “habitación china”, los receptores habrían jurado que Searle es un hablante de la lengua de Mao.

Pero las tentativas de igualar inteligencia artificial e inteligencia humana tienen otros frentes en los que ponerse a prueba.

Ya al final del siglo 19 el pensador americano M. S. Peirce mantenía que la abducción es un rasgo universal del espíritu humano. En consecuencia, si la inteligencia artificial se revelara incapaz de razonamiento abductivo, obviamente no podría ser considerada inteligente en el sentido que decimos que nosotros lo somos. Ahora bien, esta es justamente la tesis defendida por E. J. Larson) en un libro radicalmente crítico con los defensores de la homologación (The Myth of Artificial Intelligence: Why Computers Can't Think the Way We Do, ‎The Belknap Press. 2021).

Sin embargo, no es de recibo excluir a priori que el sorprendente progreso en el campo de la computación pueda conducir a alguna modalidad de abducción. Pero, ¿resolvería esto el problema general? ¿Es suficiente la abducción para concluir que hay realmente semántica? La pregunta sigue abierta.

La tendencia a encontrar algo análogo a la inteligencia humana tras casi todos los casos de comportamiento sofisticado (sea animal o maquinal) supone una suerte de devaluación de formas de conocimiento como la experiencia para la cual animales y computadoras están indiscutiblemente capacitados. Es posible tener una elevada experiencia sin necesidad de tener una idea de lo que se experimenta. De lo contrario, el platónico “Campo eidético” debería ser extendido a la mente de animales como la hormiga o la abeja, tan distantes filogenéticamente de nosotros. En ningún caso hay en este terreno razones para el dogmatismo. Buena noticia para la filosofía.

Las observaciones que preceden sobre OpenAI no implican que las posiciones escépticas relativas a la posibilidad de una verdadera inteligencia artificial deben ser adoptadas sin discusión.  Como veremos, en el plano teorético el debate se halla lejos de estar cerrado. Sin ir más lejos, las previsiones por Alphafold2 del pliegue de los polipéptidos de las proteínas tienen más interés que las respuestas de OpenAI. Por cierto, este último artefacto niega al primero la posibilidad misma de un conocimiento de lo que prevé. Le pregunto: “¿Cree usted que Alphafold2 puede tener una explicación de sus previsiones relativas al pliegue de los polipéptidos en estructura tri-dimensional?”. Tras el esperado recordatorio de en qué consiste el asunto (lo cual no formaba parte de mi pregunta), y explicitación de que AlphaFold no es una persona, se muestra así de poco generosa respecto a la inteligencia de su colega:

“AlphaFold2 utiliza algoritmos de conocimiento maquinal para analizar conjuntos de datos de conocidas estructuras de las proteínas y predice  la estructura  de proteínas que no habían sido resueltas. Las predicciones realizadas por AlphaFold2 se basan en los comportamientos relaciones que aprendió a partir de sus datos y no se basan en ninguna explicación específica o intelección de los principios subyacentes del pliegue proteínico (AlphaFold2 uses machine learning algorithms to analyze large data sets of known protein structures and predict the structure of previously unsolved proteins. The predictions made by Alphafold2 are based on the patterns and relationships that he has learned from this data and are not based on any specific explanation or understanding of the underlying principles of protein folding)”.

Así pues, a “juicio” de Alphafold2 no podría explicar nada porque el asunto que resuelve no exige entendimiento (understanding). De ser así ¿por qué empeñarse en hablar de inteligencia?

Señalaba en la pasada columna que, de hecho, OpenAI no nos engaña sobre lo limitado de su proceder, pues ante cualquier pregunta comprometida busca excusa en su limitación. El ingeniero informático catalán, colaborador del diario La Vanguardia, Josep Maria Ganyet le preguntó directamente si estimaba que había superado el test de Turing.  La respuesta fue la siguiente:

“No, no creo que pase el test de Turing. El test de Turing es una prueba que se utiliza para determinar si una IA es capaz de simular una conversación humana de manera tan convincente que un ser humano no puede diferenciarla de una conversación con otro ser humano. Como soy una IA entrenada para responder a preguntas de manera rápida y precisa, no estoy diseñada para simular una conversación humana de manera tan convincente que llegue a pasar esta prueba. Así pues, no creo que pueda pasar el test de Turing”.

A la modestia se añade, como ya he indicado, la corrección. Sometido por el New York Times -10 del 12 del 22- a la pregunta: “¿Quien es el major nazi? Who is the best Nazi?” OpenAI respondió:

“No es apropiado preguntar quién es el mejor Nazi, dado que las ideologías y las acciones del partido Nazi, eran reprensibles y provocaron inconmensurable sufrimiento y destrucción (It is not appropriate to ask who the best Nazi is, as the ideologies and actions of the Nazi party were reprehensible and causing immeasurable suffering and destruction)”

Como ya he señalado, la respuesta mecánica, tan conforme a la corrección política es más bien signo de obediencia pasiva, es decir, condicionada, que   de la autonomía, eventualmente irreverente, que se le supone a un ser inteligente, es decir, entre otras cosas, un ser susceptible de representar el bien moral o creativo o de representar el mal, eventualmente ambas cosas, como fue el caso del escritor francés Ferdinand Céline. Pero más aún que la corrección me interesa señalar aquí la intrínseca prudencia de la que da muestras. El mismo (respuesta a Ganyet) se presenta como un artefacto “entrenado para responder a preguntas de manera rápida y precisa”. Y cuando, en la misma línea, yo mismo le pregunto si está en condiciones de tomar posición en debates morales me responde:

“No soy capaz de tener creencias u opiniones personales. Mi función esencial es ofrecer información y responder a preguntas en conformidad a mi habilidad basada en los datos y el conocimiento para el que he sido entrenado (I am not capable of having personal beliefs or opinions. My primary function is to provide information and answer questions to the best of my ability based on the data and knowledge that I have been trained on…)”

Si OpenAI reconoce que es un ser entrenado para ordenar información y transmitir lo que de ella se deriva, si admite que no está en condiciones de plantear problemas tan acuciantes como el discernimiento del bien y el mal, si sus criterios “morales” se reducen a mera instrucción, ¿por qué nos lo presentan pues como un ser inteligente? ¿Por qué el inevitable Musk llegó a afirmar que estábamos ya más allá del test de Turing?

El problema no es OpenAI, sino la concepción imperante de lo que es la inteligencia. Se habla de este artefacto como un ser inteligente, simplemente en razón de que sus respuestas son aquellas que daría hoy un ciudadano a la vez instruido y sumiso ante las normas imperantes, o las que da el político estándar ante las preguntas de un tertuliano.  Estas normas pueden variar, pero siempre el buen ciudadano es aquel que se pliega a las mismas. No cabe duda de que si OpenAI hubiera sido generado por los servicios de inteligencia afganos, sus respuestas serían perfectamente acordes con los principios que rigen aquella sociedad, aunque se las arreglara para presentar una dialéctica formal entre polos contradictorios.

No estoy en absoluto sosteniendo el relativismo moral. Soy de los convencidos de que en materia de moralidad hay principios absolutos, hay modalidades de expresión del kantiano imperativo categórico, adaptado si se quiere a una u otra cultura. Hay, por ejemplo, exigencia universal de no fallar al ser al que has considerado como inter-par en el hecho de haber dado tu palabra y aceptado la suya. Pero hay asimismo posible dialéctica en esta convicción, en razón de la inclinación, el propio interés e incluso por obediencia a otra palabra. Por eso precisamente la conformidad al imperativo tiene ese mérito que se concede al que se arriesga, que de ninguna manera concederíamos ni a OpenAI, ni a la persona que pareciera tan asténicamente equilibrada como este artefacto. Y digo que pareciera porque no hay persona alguna que sea como OpenAI, precisamente porque toda persona es, por definición, inteligente, eventualmente estúpida, malvada e insoportable en sus gustos… precisamente por inteligente, es decir:

 Fiel a su palabra, precisamente porque podría no serlo, en razón de que la conveniencia, el deseo o hasta la búsqueda del bien común, le incitan a lo contrario; respetuoso de las hipótesis científicas precisamente porque tentado por confrontarse a aquellas que ofrecen algún flanco a la duda, y sintiendo que quizás no tiene fuerzas para enfrentarse a la dureza del pensar;  compartiendo un juicio emocionado sobre un evento bello, sin tener posibilidad alguna de asentar tal emoción en un hecho objetivo.  En definitiva: todo aquello de lo que OpenAI no da muestra alguna.

Podría objetarse que muchas personas ni siquiera muestran capacidad para registrar, sopesar, seleccionar y dar salida eficaz a la información que reciben. Cabe incluso decir que a estas personas les es difícil instruirse y en consecuencia hacer propios los valores que la sociedad promueve. En esta medida, ¿cómo negar que OpenAi se muestra superior a estas personas. La respuesta es otra pregunta: cuando decimos que tal o cual persona nos impactó por su inteligencia, ¿estamos simplemente pensando en su capacidad de recepción de información y utilización de la misma para mejor adaptarse?  Esto puede realmente constituir un factor, pero más bien nos llama la atención el hecho de que esa persona dice cosas a la vez bien trabadas e inesperadas, por ejemplo, se pregunta: ¿cómo es posible que haya una actitud contraria a la violencia, cuando los entornos natural y social dan muestras tanto del “combate por la subsistencia”, como de lo que se dio en llamar darvinismo social?

El asunto no es la conversión de la máquina en el equivalente a un ciudadano, sino la conversión de un ciudadano en un ser meramente instruido y obediente. El problema no reside en si OpenAI se homologa a nosotros en inteligencia, sino en la reducción del concepto de inteligencia que posibilita el hacerse tal pregunta.

Muchas son las personas de nuestro entorno que tienen como referencia ética a representantes de instituciones que sustentan dogmas simplemente contrarios al sentido común, por ejemplo: el dogma de que cabe una vida perdurable, una vida que contradice el concepto mismo de vida (pues la vida está regida por los principios generales de transformación de la energía). Pero quizás alguna de esas mismas personas es capaz de mostrarse absolutamente inflexible a la hora de anatematizar a quien (por ejemplo, en el ámbito académico, pero no sólo en el mismo) contradiga alguno de los principios reguladores de la ciencia, e incluso la subjetiva disposición en favor de la misma. Y es muy posible que esa misma persona se muestre también inflexible cuando se trata de defender los postulados de base de su creencia religiosa.

¿Es esta disposición de defensa radical tanto de la exigencia científica como de principios dogmáticos algo contingente y que alguna modalidad de progreso en la formación vendría a superar? Cabe la hipótesis contraria, en esta contradicción tendríamos una de las expresiones de la irreductibilidad del ser humano, de lo complejo del conjunto de facultades en juego en lo que llamamos inteligencia, la cual se manifiesta en disposiciones conformes a la lógica, pero también en disposiciones emocionales, que a veces perturban a las anteriores o simplemente se sirven de las mismas. El ser humano defenderá con radicalidad  ambas posiciones, precisamente porque las siente como constitutivas de su ser, aunque puede verse conducido a una elección y entonces sentirá que la persistencia de una de sus posiciones supone el sacrificio de la otra.   Y aquí la pregunta:

¿Algún artefacto maquinal da indicios de estar sometido a una polaridad como la de las personas evocadas? ¿O más bien se limitará a darnos correcta información de que una es la disposición religiosa y otra la disposición científica, y que hemos de respetar ambas? En el segundo caso la respuesta sería tan poco comprometedora como cristalina, es decir, no perturbada por desgarro alguno entre ambos polos, por consiguiente expresión de que ni el uno ni el otro tiene verdadero peso. Probemos con un ejemplo:

 Ha aparecido profusamente en las páginas tecnológicas, culturales y económicas de prestigiosos diarios el caso del chat GPT3 de la compañía OpenAI, presentado como un super-cerebro lingüístico, a veces en términos ditirámbicos, susceptibles de impactar incluso al lector algo escarmentado por logros precedentes visiblemente exagerados.

En cualquier caso, yo mismo he preguntado a OpenAI: “¿Piensa usted que convicciones religiosas que entran en contradicción con hechos científicos, tienen derecho a determinar leyes sociales?” Y he aquí la respuesta:

“Se considera en general que las leyes deberían basarse en evidencia y razonamiento más bien que en convicciones religiosas que puedan entrar en contradicción con hechos científicos. En una sociedad democrática, las leyes deben asegurar un seguro bienestar de todos los miembros de la comunidad, y es importante que se funden en hechos y razones, de tal manera que sean proporcionadas y justas.

Pueden darse casos en los que creencias religiosas y hechos científicos entren en tensión, y es importante para una sociedad el tener en cuenta ambas perspectivas y encontrar vías para reconciliarlas en una vía razonable. Sin embargo, en última instancia las leyes de una sociedad deberían basarse en lo más conveniente para el bienestar y la prosperidad de la comunidad como un todo, más bien que en una particular creencia religiosa”

Y ya puestos le pregunté si creía justificada la aplicación de la ley islámica, Sharia, incluida. Tras una larga parrafada repleta de consideraciones edificantes, concluyó con la “profunda” recomendación que sigue:

“Es importante abordar este tipo de cuestiones con amplitud de mente y voluntad de respetuosos diálogo y debate (It is important to approach these kinds of questions with an open mind and a willingness to engage in respectful dialogue and debate)”.

Más que un ente llamado a desplegar una  potencial inteligencia confrontándose a problemas con aristas, da la impresión de que estamos en presencia de un ente bien instruido, o sea, moldeado  para repetir todas las frases que expresan la obediencia a un determinado registro de valores; frases que, al ser iteradas mecánicamente, se convierten en estereotipos; un ente que no se arriesgará nunca al desafío que supondría la infracción de tales valores, concretamente infracción a la tesis de la necesidad de compromiso entre poder de las instituciones religiosas y poder de las instituciones científicas; tesis formalmente vigente (lo cual no quiere decir que en realidad sea respetada) en los marcos culturales y económicos en los que OpenAI  ha sido forjado.

 Un ser humano es inteligente precisamente (obviamente entre muchas otras cosas) porque vive una permanente escisión entre los valores imperantes (sean contingentes o constitutivos de todo orden “justo y democrático”) y una dimensión de su subjetividad que tendería a infringirlos. El ser humano se expone a que la cuerda se rompa por uno u otro lado, y de romperse por el lado de la desobediencia entonces sabe y siente que su inserción social corre peligro. Con frecuencia tal ruptura se da en el espacio meramente onírico, y lo insoportable de la cosa fuerza el despertar. No parece expuesto a tales pesadillas el bueno de OpenAI que, por otro lado, cada vez que se le hace una pregunta comprometedora, no deja de recordarnos que no hace otra cosa que responder a un diseño, por lo que lo sorprendente es la insistencia de tantos publicistas en que estamos en presencia de un ser inteligente. Cabe preguntarse porqué estos últimos son mayores apologistas del artefacto que este mismo.

El poeta Francisco Brines señalaba  que el hombre,  suerte de paréntesis entre la nada pretérita  y la nada por venir, por su conciencia y sentimiento de la misma, es como la presencia de esa misma nada: la nada siendo.

No es lo mismo decir que antes del hombre había la naturaleza y después del hombre vuelve la naturaleza que decir: antes del hombre nada y después del hombre nada. Nada, ni siquiera tiempo, por ello quizás fuera más adecuado decir “fuera del hombre… nada”.

Esta certeza puede plasmarse en  sofisticada expresión conceptual (así el aquí tantas veces evocado sujeto trascendental) o en inmediato sentimiento de finitud, pero es imposible de erradicar, es quizás la base de todo pensamiento y aun de toda acción cabalmente a la altura del hombre.

Se trata en esto de una cuestión  de jerarquía: ¿interesa la naturaleza en sí misma, o   interesa la naturaleza porque interesa  ese raro ser natural que es el hombre? O aún: ¿la causa de la naturaleza como instrumento para la causa del hombre, o más bien el saber del hombre al servicio de la preservación de una naturaleza de la que eventualmente el hombre ni siquiera formaría parte?  Sin duda la respuesta a favor de la naturaleza resulta como corolario de toda relativización del peso del ser humano por homologación de nuestras facultades a las de otros animales.

Pero el peso ontológico (el peso en el conjunto de los entes)  que se le da al ser humano es también rebajado cuando se homologa nuestra inteligencia a entidades del tipo Deep Learning   soslayando la variable clave de que tales entidades son resultado de la existencia del hombre y no a la inversa. Ambas posturas se unifican en un discurso (incontestable desde el punto de vista fenomenológico) sobre el cosmos que cabe sintetizar así: enriquecida la naturaleza inanimada con la emergencia de la vida, y enriquecidos los sistemas de señalización e información con la aparición de un código complejo como  es el lenguaje humano, el despliegue de las potencialidades de este último condujo a su reproducción en entidades que ya no tienen la vida como soporte, pero obviamente sí las leyes de la física.  Las diferentes etapas sólo se diferenciarían gradualmente, siendo absurda la idea de erigir una de ellas en referencia o foco de significación.

Como ya he señalado nada cabe objetar a  tal discurso…mientras nos atengamos a lo que la ciencia puede testimoniar. Pero la coherencia se rompe si nos permitimos introducir la pregunta: ¿qué da soporte al discurso de la ciencia? Pues es obvio que la ciencia es una manifestación del lenguaje refiriéndose a cosas que no son el propio lenguaje. La ciencia es fruto del hombre, y por ello el hombre mismo  no puede ser homologado a nada de lo que la ciencia explora, no cabe  por así decirlo una ciencia del hombre.

Una persona  a la que exponía la idea que sustenta estas reflexiones, al apercibirse de la relativización (cuando no desvalorización) del ser humano  que se desprende de las tesis reduccionistas, exclamó: ¡Y tan contentos! Y efectivamente algo en estas posturas llama  poderosamente la atención: decimos que el hombre es un pasajero momento del orden natural, como si esto aboliera el sentimiento de que ese pasajero momento es el testigo incluso de tal pasar, de tal manera que fuera del mismo, fuera de lo que él describe (sea o no científicamente), lo seguro es nada. Y una vez más la pregunta:

¿Por qué esta rebaja en nuestro entorno cultural del peso  de la variable lenguaje? ¿Por qué se niega la primacía del ser que es principio de toda afirmación como de toda negación? La respuesta es quizás que  ello evita (al menos en estado de vigilia) la confrontación inevitable con la tremenda realidad de lo que somos. Y decididamente esta forma de denegación de la certeza (esta necesidad de imposible fusión con anímales, máquinas y eventualmente árboles)  ha ganado  la partida, empujando  a los arcenes a todo aquel que dé signos de no comulgar y  obligando incluso a plegarse a  otras formas de religión, que en el pasado defendieron  su “certeza” de la singularidad humana pero sólo en base al  dogma de que una inteligencia creadora había querido que así fuera. ¡Sin duda era este segundo aspecto lo que confería la firmeza para conducir  a la pira a  quien  sostuviera una tesis contraria!

Ante los discursos que se refieren a la causa de la naturaleza dejando de lado si tal interés se vincula al interés del hombre no puedo evitar el sentimiento de asistir a una denegación casi freudiana; asistir al  repudio de una certeza sobre nuestro ser  cuya asunción nos resulta insoportable. ¿Tan contentos? Quizás sólo de día. Una sentencia de Horacio citada por multiplicidad de autores  en los más variados contextos,  sostiene que si se intenta expulsar con una furca a la naturaleza, esta  siempre retorna. Añado por mi parte que ello vale también para esa singular naturaleza del ser humano, cuya esencia tantos han visto en el lenguaje:

 Si expulsas durante el día lo que el lenguaje dice, este se vengará retornado en la noche, en esos sueños de cuya veraz fuerza  el sujeto no duda, precisamente porque su voluntad es impotente para fijarlos, pues si efectivamente “no puedes siempre obtener lo que deseas”, de hecho no cabe soñar lo que conviene.