Blogs de autor

Repaso: de Turing a ELIZA

Por 19 de mayo de 2022 Sin comentarios

Víctor Gómez Pin

Como ocurre tantas veces, para entender el verdadero alcance de todos los logros relativos a artefactos que parecen mostrar alguna modalidad de inteligencia, conviene insertarlos en lo que podemos considerar el punto de arranque, el ambicioso proyecto del filósofo y matemático británico Alan Turing.

Si hacemos abstracción de consideraciones hipotéticas que se daban ya entre los griegos, el origen del asunto  test fue un juego mundano llamado «Imitation Game», que dio lugar al llamado Test de Turing, que este presentaba de esta manera:

«En el juego intervienen tres personas, un hombre (A), una mujer (B), y un interrogador (C), que puede ser de uno u otro sexo.  El interrogador se queda en una habitación separada de las otras dos. El objetivo del juego es determinar cuál es el hombre y cuál la mujer. Él los designa por las etiquetas X e Y, y al final del juego, debe decir  X es A, Y es  B, o bien  Y es A, X es B. Al interrogador se le permite formular preguntas a A y B del tipo: «X, por favor, ¿cuál  es la longitud de su pelo?».

Posteriormente Turing propuso reproducir el Imitation Game de otro modo:

 “Hagámonos la pregunta, ¿qué ocurriría si una máquina hiciese la parte de A en este juego? ¿El interrogador podría llegar a dar respuestas erróneas tan a menudo como cuando jugábamos con un hombre y una mujer? Estas interrogaciones sustituyen al original «¿pueden las máquinas pensar?»

Turing tenía en mente que con el tiempo podrían programarse ordenadores susceptibles de adquirir potencialidades que rivalizasen con la inteligencia humana. En cuanto al test en sí, argumentó que si el interlocutor era incapaz de distinguir entre la máquina y la persona a través del interrogatorio, la computadora debía ser considerada inteligente, “puesto que ésta es la forma en que juzgamos el pensamiento de otra persona”.

Creo que la última frase es un punto controvertido del asunto, porque  no es seguro que juzguemos la inteligencia de las personas de este modo. Más bien,  cuando nos encontramos con una persona, ya suponemos que es inteligente (puesto que ser inteligente forma parte de la definición de persona), y cuando eventualmente le formulamos alguna pregunta, entonces, en función de la respuesta, concluiremos que esa persona es lista o estúpida… por supuesto, todo ello dentro de la inteligencia, que es una facultad general, no una característica de alguien en particular. La inteligencia como la condición de ser moral es un punto de partida tratándose de los humanos.

Si  ante alguna pregunta  relativa a crímenes del periodo franquista  alguien responde que aquel régimen  estaba muy bien porque daba orden y seguridad a los ciudadanos, concluiremos que es un canalla… precisamente porque le atribuimos una condición moral,  como una de las modalidades de la inteligencia  humana, pues a nadie en su sano juicio se le ocurre tildar de canalla a un perro. En cualquier caso, en el texto de Turing se incluyen  no sólo las bases de lo que sería las tentativas y logros posteriores (sugerencias para alcanzar  la  Inteligencia Artificial en un modelo de máquina basado en teorías matemáticas), sino también las objeciones a sus propias conjeturas y las respuestas a las mismas.

Algunas de las observaciones de Turing apuntan ya  a la idea de una super-inteligencia: si una máquina llegase a superar el test, podría sobrepasar a los humanos en cuanto a capacidades, excediendo lo que éstos puedan realizar. Obviamente, el primer problema es determinar si las máquinas serían capaces de superar la prueba. El mismo Turing fue extraordinariamente optimista. Creía que antes del año 2000, máquinas con una potencia de 199 bits de memoria podrían confundir a los seres humanos, por lo menos durante los primeros cinco minutos de la prueba.

Turing era plenamente consciente de que su conjetura entraba en completa contradicción con las hipótesis de la singularidad de los seres humanos, y se refirió a sí mismo como un hereje. Pero de hecho, estamos en 2022 y ninguna máquina ha logrado superar la prueba de Turing. Y en todos los casos de relativo éxito hay alguna norma (introducida por el propio Turing) que no se ha respetado.

Hay un famoso programa llamado  ELIZA inventado en 1966 en  el MIT por Joseph Weizenbaum y considerado como una avanzadilla de los actuales “chatbot”, bots conversacionales. ELIZA  consiguió muy pronto  hacer creer a sus “interlocutores” (las comillas vienen porque el polo ELIZA, precisamente no es seguro que  sea un interlocutor) que estaban hablando con una persona. En las  primeras versiones (ahora el asunto ya está corregido) la persona que conecta con ELIZA no tiene ningún motivo para conjeturar que su partenaire  es una máquina. Ahora bien, esencial en el test de Turing es precisamente que el interrogador trata de determinar  si la máquina ha de ser considerada o no inteligente. Pero lo que quiero señalar sobre ELIZA es lo siguiente:

En su concepción había  la intención explícita de mostrar cómo podemos fácilmente ser llamados a engaño creyendo que se nos está verdaderamente dirigiendo la palabra cuando en realidad se está hablando mecánicamente usando ciertos trucos. Esto ocurre a menudo cuando el cruce de palabras entre humanos no es verídico, o sea no constituye realmente un cruce de palabras. Supongamos que cada vez que oye la palabra  tristeza, un psiquiatra falaz, sea cual sea el paciente,  pregunta  si ha habido algún problema con la pareja o algún roce en el trabajo. Mientras hace esta falsa pregunta, el psiquiatra en cuestión puede perfectamente estar ausente, tener la mente en otro lado, o sea no constituye realmente un interlocutor.  Pues bien, algo análogo es lo que hacía ELIZA, obviamente en relación a múltiples palabras. Ni entendía nada de lo que se le preguntaba, ni tal entender estaba realmente en juego;  se limitaba a poner un orden por contigüidad (sintaxis) siguiendo las instrucciones de un programa. Pero quien preguntaba podía perfectamente sacar la impresión de que sí había efectivamente  captado algo.

Desde ELIZA hasta acá, los chatbots han conseguido que del intercambio escrito se pase al intercambio auditivo, a multiplicar el número y la complejidad de las  frases a las que pueden responder, disminuyendo  el lapso entre mensaje enviado y respuesta, etcétera… pero en lo esencial nada ha cambiado. Sin duda en la literatura (y sobre todo en la propagandística) se hace ya diferencia entre bots digamos elementales y bots que parecen realmente inteligentes, que son susceptibles de determinar cosas como  la intención de la persona.  Pero la pregunta sigue siéndola misma: ¿se ha ido más allá de la respuesta automática y de la inferencia a partir de casos?

El problema es que aquella intención crítica de los que pusieron en marcha ELIZA, aquella denuncia de la mera apariencia de palabra de la que en tantas ocasiones somos víctimas los humanos, ha quedado hace tiempo atrás,  y hoy la intención (por ejemplo de los gestores de los servidores, esos que Javier Echeverría designó como Señores del Aire) es más bien que tomemos el mensaje de los chatbots como  si procediera de un verdadero ser lingüístico, o más bien:  que nos dé igual si se trata o no de mensaje con soporte en el lenguaje, que sólo nos interese su utilidad para ciertas exigencias. Volveré sobre este asunto que realmente es la cuestión nuclear de esta reflexión.

profile avatar

Víctor Gómez Pin

Victor Gómez Pin se trasladó muy joven a París, iniciando en la Sorbona  estudios de Filosofía hasta el grado de  Doctor de Estado, con una tesis sobre el orden aristotélico.  Tras años de docencia en la universidad  de Dijon,  la Universidad del País Vasco (UPV- EHU) le  confió la cátedra de Filosofía.  Desde 1993 es Catedrático de la Universitat Autònoma de Barcelona (UAB), actualmente con estatuto de Emérito. Autor de más de treinta  libros y multiplicidad de artículos, intenta desde hace largos años replantear los viejos problemas ontológicos de los pensadores griegos a la luz del pensamiento actual, interrogándose en concreto  sobre las implicaciones que para el concepto heredado de naturaleza tienen ciertas disciplinas científicas contemporáneas. Esta preocupación le llevó a promover la creación del International Ontology Congress, en cuyo comité científico figuran, junto a filósofos, eminentes científicos y cuyas ediciones bienales han venido realizándose, desde hace un cuarto de siglo, bajo el Patrocinio de la UNESCO. Ha sido Visiting Professor, investigador  y conferenciante en diferentes universidades, entre otras la Venice International University, la Universidad Federal de Rio de Janeiro, la ENS de París, la Université Paris-Diderot, el Queen's College de la CUNY o la Universidad de Santiago. Ha recibido los premios Anagrama y Espasa de Ensayo  y  en 2009 el "Premio Internazionale Per Venezia" del Istituto Veneto di Scienze, Lettere ed Arti. Es miembro numerario de Jakiunde (Academia  de  las Ciencias, de las Artes y de las Letras). En junio de 2015 fue investido Doctor Honoris Causa por la Universidad del País Vasco.

Obras asociadas