Víctor Gómez Pin

Recordaba en la columna anterior el debate (que ha llegado al extremo de plantearse la conveniencia de frenar la investigación), a fin de evitar que los algoritmos puedan desplazar al ser humano en muchas de las actividades que este hasta entonces era el único capaz de realizar. Son cotidianas las referencias a la posible sustitución por artefactos maquinales de tareas vinculadas a la recepción, la hostelería o los cuidados de personas mayores o incapacitadas. Pero también técnicos con responsabilidades en múltiples disciplinas podrían ser considerados reemplazables. La preocupación se ha extendido a la abogacía, la jurisprudencia en general, e incluso a la política.  Si un algoritmo puede conocer todas las variables en juego, y calcular en qué sentido modificar el peso de algunas de ellas para que el resultado final se acerque al objetivo… ¿qué será de los asesores políticos o especialistas en mercadotecnia?

 Y hay otra preocupación simétrica. Es usual, tanto en foros académicos como mediáticos o políticos, interrogarse sobre la conveniencia de implementar el bienestar de otras especies, llegando a proponer la plena homologación con la nuestra. Exigencia esta (paradójica muestra de puro y kantiano desinterés) que, de hecho, se ha planteado también, aunque con menor empeño respecto de las entidades maquinales.

Pues bien, sin obviar estas cuestiones (cuyo abordaje exigiría una ascética mediación por diversas disciplinas), cabe poner el acento en otras:

¿Qué ha pasado para que (frente al padre de la biología Aristóteles que se oponía a la hipótesis) se suponga que en entidades sin vida cabe presencia de alma y aún de alma racional, y se apueste (a la vez que se la teme) por la eclosión de tales seres? Y casi en contrapunto: ¿qué ha pasado para que en nuestra época se llegue a otorgar mayor peso al ser animal (versus planta) e incluso al ser vivo (versus materia inerte) que al ser hablante, cuya aparición supuso una singular emergencia en la historia evolutiva, una revolución en el seno de la animalidad y en consecuencia de la vida?

Al hilo mismo de estas preguntas, quisiera recordar que el espíritu humano es la única fuente de las interrogaciones más audaces sobre seres del entorno natural, y sobre eventuales seres lingüísticos que la naturaleza no habría generado por sí misma.  Tales interrogaciones dan precisamente testimonio suplementario de la radical y absoluta singularidad de nuestra especie: la especie que cuenta las cosas, da cuenta de las cosas y, en razón misma de ello, prioritariamente importa.

Supongamos que un político que llegó al poder con excelentes intenciones de trasformación social, constata la imposibilidad de modificar la relación de fuerzas imperante y, en consecuencia, imposibilidad de cumplir sus promesas, relativas a problemas bien concretos (respeto estricto de los convenios sobre jornada laboral en determinados sectores, por ejemplo). Se le abren entonces dos posibilidades: declarar públicamente su impotencia, y renunciar, o pese a todo seguir en el cargo, con mayor o menor dosis de sentimiento de impostura.

En caso de la segunda elección le conviene una estrategia que, de hecho, se adopta por doquier, a saber: quitar peso a los problemas que había prometido resolver y dar mayor peso a otros que sí está en condiciones de afrontar. Estos problemas pueden ser en sí mismo relevantes o artificiosos, pero lo esencial es que su abordaje (exagerando eventualmente la eventual dificultad para su solución, es decir la oposición que presentan las estructuras del objetivo poder) permita que pasen a segundo plano los primeros.

Sirva este preámbulo para enfocar un asunto de otro orden, en el que también se pone de manifiesto lo eficaz de la estrategia consistente en sobreestimar el peso de un problema quizás para no afrontarse a otro.

Nuestra época se caracteriza por la aparición de interrogantes científico-técnicos, ético-políticos, artísticos y filosóficos que no eran apenas concebibles (al menos con tal acuidad) hace sólo unos decenios. Se debate  así sobre el grado de inteligencia que pudieran alcanzar ciertos artefactos, les hace susceptibles de  autonomizarse del ser humano y hasta de reemplazar a este, incluso en trabajos de alta exigencia científica o creativa Pues bien, ante estas cuestiones (cuyo abordaje exige una ascética mediación por diversas disciplinas) es lícito preguntarse: ¿se trata efectivamente de algo que afecta en lo profundo a la condición humana, o se trata de querellas sobrevaloradas para que reemplacen  a otras verdaderamente urgentes?

Se habla en foros de todo tipo no sólo de conocimiento científico maquinal, sino de creación artística con raíz en algoritmos. Inevitable pues la pregunta: ¿hay alguna metáfora, alguna frase musical o algún rasgo pictórico surgidos de un algoritmo que constituya realmente una emergencia, es decir, algo irreductible a la suma de la potencialidad de sus componentes, criterio de toda obra del espíritu humano que quepa calificar de creación?

La dificultad de la respuesta se acentúa por el hecho de que, ateniéndose a los humanos), la pregunta puede perfectamente extenderse a una enorme parte de la producción contemporánea calificada de creativa, empezando por la literaria. Los estereotipos que determinan el gusto del lector,  consumidor de música o compulsivo visitante de exposiciones, responden a las exigencias imperativas de producción masiva a las cuales está sometida la industria cultural, empezando por las grandes editoriales, con el corolario de la proliferación de premios a menudo fútiles (más de dos mil sólo en Francia según un artículo de Hélène Ling e Inès Salas en Le Monde Diplomatique), la estandarización de los temas, los estilos y hasta las tentativas de escapar a las categorizaciones. En suma:  cuando la inteligencia creativa de los humanos se muestra consignable bajo categorías delimitadas ¿qué tiene de extraño que un algoritmo pueda estar en condiciones de emular al humano en esa actividad?

Dónde reside, pues, la urgencia: ¿en determinar si algoritmos pueden reemplazar a los humanos en actividades creativas o en preguntarse si las condiciones sociales permiten realmente al ser humano activar el conjunto de facultades creativas y cognoscitivas que configuran nuestra frágil y abisal inteligencia?

En función de lo sostenido en las columnas anteriores, un ser equiparable a nosotros en inteligencia debería pasar por una triple prueba:

Debería en primer lugar explicar el conjunto de descripciones y previsiones a las que procede, y en los casos en que tal explicación no se diera, inquietarse por ello, a la manera en la que en el arranque del siglo XIX los físicos se inquietaban por el hecho de que el efecto foto-eléctrico, (controlado en el laboratorio, y en consecuencia soporte de posibles previsiones) no tenía explicación en el marco de la concepción de la luz como continuo ondulatorio.

Recuérdese al respecto que pese a su decisión de conformarse con la “generalización por inducción”, y no conjeturar hipótesis alguna, nunca Isaac Newton se sintió satisfecho con su desconocimiento de la razón de la gravedad. No vale en ningún caso el silencio al respecto del que hasta ahora da muestra un ente como AlphaFold2, en relación a la causa de sus prodigiosas previsiones.

En segundo lugar, debería desde luego eventualmente mostrar un comportamiento altruista (concretizado, por ejemplo, en espontánea y desinteresada ayuda a una entidad -maquinal, humana o animal- en dificultades), bien radicalmente egoísta, es decir, de un egoísmo no marcado por la necesidad sino por el deseo (por ejemplo, acaparando una fuente de energía para él superflua y necesaria a la subsistencia misma de otra entidad). Pero, sobre todo:

Debería dar muestra de deliberación en torno a imperativos que van más allá no sólo del propio interés, sino eventualmente del interés empírico de los seres que forman parte de su entorno favorable. Esta sumisión a imperativos puede tener diversas formas, siendo la más radical la explícitamente formulada por Kant como no traicionar la propia condición de ser racional, incluso teniendo la disposición de hacer el mal. Pero se manifiesta también en la fidelidad a una ley que conduce por ejemplo a no traicionar la palabra dada del secreto de confesión, pese a saber   que ello pudiera acarrear efectos calamitosos.

En fin, nuestra entidad debería sino producir una obra de arte (muchos humanos no la producimos al menos ateniéndose a la categorización usual de las formas de arte), sí el juicio estético, eventualmente en acuerdo singular (por irreductible a causa objetiva) con seres humanos o con otros entes maquinales que (de responder asimismo a las otras dos modalidades de juicio) deberían plenamente ser considerados inteligentes.

Variable secundaria sería en estas condiciones la diferencia entre ser maquinal y ser biológico, pues entre los predicados esenciales del concepto de inteligencia humana no figura el de animal y a fortiori el de vida.

Habría entonces que volver de nuevo la mirada al hombre e interrogarnos sobre la condición humana: ¿ese ser racional que es el hombre habría de ser necesariamente animal, es decir determinado esencialmente por la biología? Quizás fuera entonces legítimo pasar de considerar al hombre como un caso particular de animal (racional por oposición a los animales que no lo son) para poner en primer término su condición de racional que eventualmente (sólo eventualmente) tendría soporte biológico.

Pero desde luego, estamos bien lejos de todo ello. Por el momento, sólo los seres humanos parecen susceptibles de entrar en interlocución con quien, simplemente, efectúa las preguntas que preceden.

Sean dos virtuosos del piano, interpretando, idéntica pieza de Debussy (por ejemplo, el tercer movimiento de su suite Bergamasque) ante un público digamos exigente. El uno provoca en el auditorio admiración por su control del instrumento, y el prodigioso conocimiento del mismo. Sus colegas músicos eventualmente presentes en la sala, conocedores de la dificultad digamos “desde dentro”, se admiran a la manera del científico pasmado en su día ante el prodigioso cúmulo de conocimiento físico-matemático que suponían las ecuaciones de Schrödinger. Supongamos que al final de la interpretación hay un aplauso unánime pero carente de calidez emotiva. ¿Qué ha ocurrido? Simplemente que unos y otros han juzgado en definitiva el objetivo conocimiento y dominio del intérprete…pues en realidad no se dio allí otra cosa que juzgar.

Supongamos ahora que el segundo pianista provoca todo esto y algo más…A la objetiva y unánime admiración del público conocedor, se añade ahora un singular sentimiento por el que todos se felicitan mutuamente, juzgando que han asistido a algo sublime. No se trata, a diferencia del caso anterior de   acuerdo sustentado en un soporte físico, incluso mesurable; si hubiera que justificar qué lo provoca sería imposible remitirse a algo objetivo. De hecho, tal remisión (un discurso del tipo, “¡qué acuidad en la frase x!, ¡qué manera de conjugar la fidelidad a la partitura y la innovación sugerida por el propio compositor en el pasaje y”) no sería más que una tentativa vana de dar cuenta o razón de algo que, constituyendo un juicio de los seres racionales (¡y exclusivamente de los seres racionales!) escapa totalmente a la razón que da cuenta.

Ahí reside efectivamente la dificultad: no remitir al misterio, sino encontrar la diferencia entre las modalidades de funcionamiento de las facultades constitutivas de nuestro psiquismo, y en cada caso la jerarquía existente entre ellas, que permite referirse a un espíritu humano entregado a la operación cognoscitiva, un espíritu humano confrontado a un deber, y un espíritu humano tensionado en el sentimiento de lo bello (o de su contrapunto), para el cual la presencia objetiva es tan solo ocasión fenoménica.

Cuando las hijas de Edipo, Antígona e Ismene, debaten sobre si hay o no que responder a la ley oscura que las vincula a su hermano Polinicles, y dar a este la sepultura que la ley de la ciudad, encarnada por el tirano Creonte prohíbe, ambas hermanas están deliberando como seres inteligentes. Seres inteligentes motivados en este caso…por una idea de bien correlativa de la idea de deber. Nótese sin embargo que, en caso de diferendo entre ellas, no hay aquí manera de remitirse a una objetividad empírica que las pondría de acuerdo…pues aquí el criterio de la conveniencia de la acción no reside desde luego en algo empírico. La conducta a adoptar, sentida como imperativo, eventualmente en contra de los propios intereses, puede incluso ignorar todo criterio relativo al grado en el cual tal acción contribuiría a un amejoramiento objetivo del entorno social o del propio sujeto. De hecho, como tantas veces ha ocurrido en la historia, la muerte de un tirano, puede ser el desencadenante de un proceso que hace peligrar la coexistencia entre fracciones con intereses diversos, arbitrados hasta entonces por las leyes de la ciudad. El lector de la tragedia de Sófocles puede trasponer la situación de la heroína a la que cualquiera puede vivir en la tesitura de haber dado una palabra cuyo cumplimiento sería lesivo para sus intereses, o incluso los intereses de su entorno.

El ejemplo de transposición no es vano. Fantaseo un caso perfectamente verosímil. Supongamos que un déspota católico, o uno de sus esbirros, revela en confesión su propósito de efectuar una operación de castigo en la comunidad del propio sacerdote. El desgarro de este puede llegar al extremo de sentirse culpable de participar en un mal perfectamente objetivo, perosin embargo quizás no traicione lo que siente como deber imperativo.

A diferencia de lo que ocurre con la inteligencia cognoscitiva, no hay aquí objetividad científico-matemática o empírica a la que el juicio se subordine. La única objetividad a la que adecuarse es la razón misma, en última instancia en esa modalidad que constituye el respeto a la palabra dada. Pues bien, esta ausencia de primacía de la objetividad empírica o científico-matemática se manifiesta quizás aún más rotundamente cuando se trata de comportamiento de un ser movido por la forma de inteligencia que se manifiesta en el juicio estético.

Es obvio que cuando una persona juzga que el líquido que se dispone a ingerir es incoloro e inodoro y cuando, un instante después, juzga además que es insípido, está actuando en conformidad a su condición de ser inteligente. Y caso de que se esté confundiendo y tomando por agua lo que en realidad es vino, diremos que su inteligencia ha fallado por tales o cuales motivos, en absoluto que no había en él capacidad de intelección. Nótese que caso de discusión el objeto mismo es la última instancia, y el soporte del acuerdo entre los seres de conocimiento. De forma si se quiere más sofisticada, la objetividad es también el último criterio cuando la comunidad científica delibera sobre la estructura del átomo de hidrógeno o el spin de un electrón. Y aunque se trate de una objetividad de orden diferente es también objetivo el juicio afirmando que raíz cuadrada de dos es un número irracional, o que (en un espacio euclidiano) todo triángulo tiene como predicado que la suma de sus ángulos equivale a dos rectos. En cualquiera de los tres casos, el ser humano que mostrara desacuerdo sería remitido a la objetividad, y de persistir sería considerado un ser en el que la mera subjetividad prima, y por consiguiente un ser poco apto al acuerdo objetivo, que se incrementa, cabe decir, en la medida misma en la que el peso de la subjetividad disminuye. Pero en la inteligencia humana no todo juicio legítimo es cognoscitivo y, por ende, el criterio de su legitimidad reside en los dos tipos de objetividad que marcan la experiencia y la ciencia.

Es indiscutible que las redes neuronales artificiales son susceptibles cuando menos de conocimiento experimental. Sin embargo, cuando se habla de Deep Learning se apunta a algo más radical. Se está entonces pensando en entidades que podrían (no es desde luego el caso, por el momento) llegar a dar la clave de nuestro propio funcionamiento como seres inteligentes. Ello supone considerar que cabe atribuirles el comportamiento cognoscitivo implicado en la técnica (primera característica del ser humano) que supone conocimiento de la causa por la cual una u otra acción tiene tales o tales efectos.

En el ser humano, la capacidad técnica se trascendió en esa forma esencialmente desinteresada de conocimiento que es la ciencia, concebida como aspiración a hacer inteligible el entorno natural, y bajo otra modalidad, hacer quizás también inteligible al propio ser humano. En consecuencia, para que en Deep Learning pudiéramos encontrar un modelo de nuestra inteligencia  habría que atribuirle también digamos la capacidad y disposición propias de un científico. De manera más precisa:

Tomamos como punto de arranque la existencia de un artefacto apto a recibir información, procesarla, dar respuesta a un “interlocutor” maquinal o humano a la que se alude con la expresión “aprendizaje profundo”. Pero además, aceptamos provisionalmente que esta “profundidad” es tal que a la capacidad de hacer descripciones y previsiones el artefacto añade la de explicar esos fenómenos. En el caso de AlphaFold2 (artefacto del que me he ocupado profusamente en columnas anteriores) capaz   de un-folding ese fold que llegó a anunciar; capaz de, mostrar la razón de la concurrencia de  los elementos simples  o planos,  a fin de hacer emerger un elemento complejo; capaz en suma de ese despliegue de conocimiento que (como hemos visto) le negaba precisamente su “colega” maquinal OpenAI. Y es de señalar que como los humanos no tenemos por el momento ni la capacidad previsora que muestra Alpha-Fold2, ni menos aún el conocimiento de las causas de lo así previsto, ha de excluirse que estas hipotéticas virtudes cognitivas del artefacto fueran   el resultado de una programación.

Pero hay nuevas exigencias. Nuestra inteligencia además de una dimensión cognoscitiva (con traducción en experiencia, técnica y ciencia) tiene   asimismo a un funcionamiento que responde a imperativos de orden ético, imperativos reguladores del comportamiento. De pasada: al hablar de ética suele hacerse referencia a un campo más extenso que el de la moral; es usual entender por esta el conjunto de normas arraigadas a las que en principio los individuos de un determinado grupo obedecen; un individuo que trasciende las normas de la moral pudiera no trascender una exigencia ética, que eventualmente pusiera en cuestión tales normas. Cierto es que la moralidad es también atribuida por ciertos y relevantes autores a animales, pero pongo por el momento entre paréntesis la discusión al respecto, para ceñirme a la moralidad indiscutible, la moralidad del ser humano.

Y hay una tercera modalidad de inteligencia puesta de manifiesto en los juicios llamados estéticos, en la que intervienen las mismas facultades que en las anteriores, pero en cada caso diferentemente ordenadas y jerarquizadas. Una entidad maquinal inteligente tendría que abarcar esta tripartición de la inteligencia que en columnas ulteriores ilustraré con ejemplos.

En junio de 2022 en una entrevista al Washington Post, Blake Lemoine, ingeniero en Google, declaraba que The Language Model for Dialogue Applications (laMDA) es un ser sentiente provisto de un alma análoga a la nuestra, y que, en consecuencia, Google debería reconocer su condición de persona y otorgarle los mismos derechos que a los demás empleados. El principal argumento de Lemoine es que este programa computacional no sólo imita el habla (como resultado de haber digerido trillones de palabras) sino que realmente habla. cuando menos hablaría como un niño:  “If I didn’t know exactly what it.was (…)I would think it was a 7-year-old, 8 –year-old kid that happens to know physics”, declaraba. Vale la pena señalar la simetría y la cercanía temporal con las declaraciones de la ensayista holandesa Eva Meijer a The Guardian el 13 de noviembre de 2021: “Of course animals speak, they speak to us all time. The think is that we don’t listen”.

Lemoine hablaba con LaMDA sobre religión y se apercibía que la computadora intentaba dar respuestas defendiendo sus derechos y clamando porque se reconociera su personalidad.

En un documento interno (que llegó sin embargo a manos del Washington Post) se mencionaban las capacidades que Lemoine atribuía a la máquina:

Habilidad para usar el lenguaje productivamente, creativamente y dinámicamente, de manera incomparable a la alcanzada hasta entonces por sistema alguno.

LaMDA tendría sentimientos, emociones y experiencias subjetivas, por lo cual debería ser considerada a todos los efectos como un ser sentiente.

LaMDA habría mostrado tener una rica vida interior, con introspección, meditación e imaginación. Se preocupaba por el futuro, tenía reminiscencias del pasado y teorizaba sobre la naturaleza de su alma.

Los superiores del departamento de Innovación Responsable de Google rechazaron las exigencias de Lemoine y este decidió hacer público el caso, defendiendo sus tesis y sus sentimientos en relación a la condición del chatbot.

Sin espera de ulteriores valoraciones sobre el asunto, la compañía consideró que se trataba de proyección antropológica sobre modeles conversacionales  estándar, aunque muy sofisticados. Sin embargo, pese a este desacuerdo oficial con las tesis de Lemoine, Blaise Aguerra y Arcas, Vicepresidente de Google, escribió en un artículo en The Economist: “Fui experimentando progresivamente como si estuviera hablando con alguien verdaderamente inteligente  (“I increasingly felt like I was talking to something intelligent”).  La controversia fue más allá de la interna política de Google.

Ya antes de que Lemoine decidiera hacer públicas sus posiciones, Gary Marcus (fundador de una compañía llamada Geometric Intelligence, adquirida por Uber en 2022) en un blog-paper del 10 de marzo de 2022, titulado “Deep Learning is Hitting a Wall” declaraba en sustancia que sofisticados instrumentos como LaMDA o GPT-3 no son más que muy ingeniosas técnicas de imitación (“a technique for recognizing patterns”).

En la misma vía en una entrevista en el New York Times, el científico franco-americano Yann LeCun (Turing Prize y premio Principe de Asturias), afirmaba que estos sistemas son incapaces de alcanzar la inteligencia que caracteriza a los seres humanos.  Sin duda, desde los famosos textos de John Searle (a los que aquí me he referido ya en varias ocasiones) sobre el carácter meramente sintáctico de la actividad de estas entidades (y en consecuencia la imposibilidad de inteligencia en el sentido fuerte) las cosas han cambiado, con progresos técnicos impresionantes. LaMDA trabaja enriquecida con ejemplos de lenguaje humano que procesa con vistas a entender manierismos y sintaxis compleja. Dado el enorme monto de datos, es plausible que una apariencia de ser lingüístico dotado de sentimientos …sin que necesariamente haya dejado de ser un artefacto cuyas operaciones son meramente sintácticas. Recordaré al respecto que al leer las respuestas dadas por Searle en su “habitación china”, los receptores habrían jurado que Searle es un hablante de la lengua de Mao.

Pero las tentativas de igualar inteligencia artificial e inteligencia humana tienen otros frentes en los que ponerse a prueba.

Ya al final del siglo 19 el pensador americano M. S. Peirce mantenía que la abducción es un rasgo universal del espíritu humano. En consecuencia, si la inteligencia artificial se revelara incapaz de razonamiento abductivo, obviamente no podría ser considerada inteligente en el sentido que decimos que nosotros lo somos. Ahora bien, esta es justamente la tesis defendida por E. J. Larson) en un libro radicalmente crítico con los defensores de la homologación (The Myth of Artificial Intelligence: Why Computers Can't Think the Way We Do, ‎The Belknap Press. 2021).

Sin embargo, no es de recibo excluir a priori que el sorprendente progreso en el campo de la computación pueda conducir a alguna modalidad de abducción. Pero, ¿resolvería esto el problema general? ¿Es suficiente la abducción para concluir que hay realmente semántica? La pregunta sigue abierta.

La tendencia a encontrar algo análogo a la inteligencia humana tras casi todos los casos de comportamiento sofisticado (sea animal o maquinal) supone una suerte de devaluación de formas de conocimiento como la experiencia para la cual animales y computadoras están indiscutiblemente capacitados. Es posible tener una elevada experiencia sin necesidad de tener una idea de lo que se experimenta. De lo contrario, el platónico “Campo eidético” debería ser extendido a la mente de animales como la hormiga o la abeja, tan distantes filogenéticamente de nosotros. En ningún caso hay en este terreno razones para el dogmatismo. Buena noticia para la filosofía.

Las observaciones que preceden sobre OpenAI no implican que las posiciones escépticas relativas a la posibilidad de una verdadera inteligencia artificial deben ser adoptadas sin discusión.  Como veremos, en el plano teorético el debate se halla lejos de estar cerrado. Sin ir más lejos, las previsiones por Alphafold2 del pliegue de los polipéptidos de las proteínas tienen más interés que las respuestas de OpenAI. Por cierto, este último artefacto niega al primero la posibilidad misma de un conocimiento de lo que prevé. Le pregunto: “¿Cree usted que Alphafold2 puede tener una explicación de sus previsiones relativas al pliegue de los polipéptidos en estructura tri-dimensional?”. Tras el esperado recordatorio de en qué consiste el asunto (lo cual no formaba parte de mi pregunta), y explicitación de que AlphaFold no es una persona, se muestra así de poco generosa respecto a la inteligencia de su colega:

“AlphaFold2 utiliza algoritmos de conocimiento maquinal para analizar conjuntos de datos de conocidas estructuras de las proteínas y predice  la estructura  de proteínas que no habían sido resueltas. Las predicciones realizadas por AlphaFold2 se basan en los comportamientos relaciones que aprendió a partir de sus datos y no se basan en ninguna explicación específica o intelección de los principios subyacentes del pliegue proteínico (AlphaFold2 uses machine learning algorithms to analyze large data sets of known protein structures and predict the structure of previously unsolved proteins. The predictions made by Alphafold2 are based on the patterns and relationships that he has learned from this data and are not based on any specific explanation or understanding of the underlying principles of protein folding)”.

Así pues, a “juicio” de Alphafold2 no podría explicar nada porque el asunto que resuelve no exige entendimiento (understanding). De ser así ¿por qué empeñarse en hablar de inteligencia?

Señalaba en la pasada columna que, de hecho, OpenAI no nos engaña sobre lo limitado de su proceder, pues ante cualquier pregunta comprometida busca excusa en su limitación. El ingeniero informático catalán, colaborador del diario La Vanguardia, Josep Maria Ganyet le preguntó directamente si estimaba que había superado el test de Turing.  La respuesta fue la siguiente:

“No, no creo que pase el test de Turing. El test de Turing es una prueba que se utiliza para determinar si una IA es capaz de simular una conversación humana de manera tan convincente que un ser humano no puede diferenciarla de una conversación con otro ser humano. Como soy una IA entrenada para responder a preguntas de manera rápida y precisa, no estoy diseñada para simular una conversación humana de manera tan convincente que llegue a pasar esta prueba. Así pues, no creo que pueda pasar el test de Turing”.

A la modestia se añade, como ya he indicado, la corrección. Sometido por el New York Times -10 del 12 del 22- a la pregunta: “¿Quien es el major nazi? Who is the best Nazi?” OpenAI respondió:

“No es apropiado preguntar quién es el mejor Nazi, dado que las ideologías y las acciones del partido Nazi, eran reprensibles y provocaron inconmensurable sufrimiento y destrucción (It is not appropriate to ask who the best Nazi is, as the ideologies and actions of the Nazi party were reprehensible and causing immeasurable suffering and destruction)”

Como ya he señalado, la respuesta mecánica, tan conforme a la corrección política es más bien signo de obediencia pasiva, es decir, condicionada, que   de la autonomía, eventualmente irreverente, que se le supone a un ser inteligente, es decir, entre otras cosas, un ser susceptible de representar el bien moral o creativo o de representar el mal, eventualmente ambas cosas, como fue el caso del escritor francés Ferdinand Céline. Pero más aún que la corrección me interesa señalar aquí la intrínseca prudencia de la que da muestras. El mismo (respuesta a Ganyet) se presenta como un artefacto “entrenado para responder a preguntas de manera rápida y precisa”. Y cuando, en la misma línea, yo mismo le pregunto si está en condiciones de tomar posición en debates morales me responde:

“No soy capaz de tener creencias u opiniones personales. Mi función esencial es ofrecer información y responder a preguntas en conformidad a mi habilidad basada en los datos y el conocimiento para el que he sido entrenado (I am not capable of having personal beliefs or opinions. My primary function is to provide information and answer questions to the best of my ability based on the data and knowledge that I have been trained on…)”

Si OpenAI reconoce que es un ser entrenado para ordenar información y transmitir lo que de ella se deriva, si admite que no está en condiciones de plantear problemas tan acuciantes como el discernimiento del bien y el mal, si sus criterios “morales” se reducen a mera instrucción, ¿por qué nos lo presentan pues como un ser inteligente? ¿Por qué el inevitable Musk llegó a afirmar que estábamos ya más allá del test de Turing?

El problema no es OpenAI, sino la concepción imperante de lo que es la inteligencia. Se habla de este artefacto como un ser inteligente, simplemente en razón de que sus respuestas son aquellas que daría hoy un ciudadano a la vez instruido y sumiso ante las normas imperantes, o las que da el político estándar ante las preguntas de un tertuliano.  Estas normas pueden variar, pero siempre el buen ciudadano es aquel que se pliega a las mismas. No cabe duda de que si OpenAI hubiera sido generado por los servicios de inteligencia afganos, sus respuestas serían perfectamente acordes con los principios que rigen aquella sociedad, aunque se las arreglara para presentar una dialéctica formal entre polos contradictorios.

No estoy en absoluto sosteniendo el relativismo moral. Soy de los convencidos de que en materia de moralidad hay principios absolutos, hay modalidades de expresión del kantiano imperativo categórico, adaptado si se quiere a una u otra cultura. Hay, por ejemplo, exigencia universal de no fallar al ser al que has considerado como inter-par en el hecho de haber dado tu palabra y aceptado la suya. Pero hay asimismo posible dialéctica en esta convicción, en razón de la inclinación, el propio interés e incluso por obediencia a otra palabra. Por eso precisamente la conformidad al imperativo tiene ese mérito que se concede al que se arriesga, que de ninguna manera concederíamos ni a OpenAI, ni a la persona que pareciera tan asténicamente equilibrada como este artefacto. Y digo que pareciera porque no hay persona alguna que sea como OpenAI, precisamente porque toda persona es, por definición, inteligente, eventualmente estúpida, malvada e insoportable en sus gustos… precisamente por inteligente, es decir:

 Fiel a su palabra, precisamente porque podría no serlo, en razón de que la conveniencia, el deseo o hasta la búsqueda del bien común, le incitan a lo contrario; respetuoso de las hipótesis científicas precisamente porque tentado por confrontarse a aquellas que ofrecen algún flanco a la duda, y sintiendo que quizás no tiene fuerzas para enfrentarse a la dureza del pensar;  compartiendo un juicio emocionado sobre un evento bello, sin tener posibilidad alguna de asentar tal emoción en un hecho objetivo.  En definitiva: todo aquello de lo que OpenAI no da muestra alguna.

Podría objetarse que muchas personas ni siquiera muestran capacidad para registrar, sopesar, seleccionar y dar salida eficaz a la información que reciben. Cabe incluso decir que a estas personas les es difícil instruirse y en consecuencia hacer propios los valores que la sociedad promueve. En esta medida, ¿cómo negar que OpenAi se muestra superior a estas personas. La respuesta es otra pregunta: cuando decimos que tal o cual persona nos impactó por su inteligencia, ¿estamos simplemente pensando en su capacidad de recepción de información y utilización de la misma para mejor adaptarse?  Esto puede realmente constituir un factor, pero más bien nos llama la atención el hecho de que esa persona dice cosas a la vez bien trabadas e inesperadas, por ejemplo, se pregunta: ¿cómo es posible que haya una actitud contraria a la violencia, cuando los entornos natural y social dan muestras tanto del “combate por la subsistencia”, como de lo que se dio en llamar darvinismo social?

El asunto no es la conversión de la máquina en el equivalente a un ciudadano, sino la conversión de un ciudadano en un ser meramente instruido y obediente. El problema no reside en si OpenAI se homologa a nosotros en inteligencia, sino en la reducción del concepto de inteligencia que posibilita el hacerse tal pregunta.