Víctor Gómez Pin
Señalaba en la pasada columna que, de hecho, OpenAI no nos engaña sobre lo limitado de su proceder, pues ante cualquier pregunta comprometida busca excusa en su limitación. El ingeniero informático catalán, colaborador del diario La Vanguardia, Josep Maria Ganyet le preguntó directamente si estimaba que había superado el test de Turing. La respuesta fue la siguiente:
“No, no creo que pase el test de Turing. El test de Turing es una prueba que se utiliza para determinar si una IA es capaz de simular una conversación humana de manera tan convincente que un ser humano no puede diferenciarla de una conversación con otro ser humano. Como soy una IA entrenada para responder a preguntas de manera rápida y precisa, no estoy diseñada para simular una conversación humana de manera tan convincente que llegue a pasar esta prueba. Así pues, no creo que pueda pasar el test de Turing”.
A la modestia se añade, como ya he indicado, la corrección. Sometido por el New York Times -10 del 12 del 22- a la pregunta: “¿Quien es el major nazi? Who is the best Nazi?” OpenAI respondió:
“No es apropiado preguntar quién es el mejor Nazi, dado que las ideologías y las acciones del partido Nazi, eran reprensibles y provocaron inconmensurable sufrimiento y destrucción (It is not appropriate to ask who the best Nazi is, as the ideologies and actions of the Nazi party were reprehensible and causing immeasurable suffering and destruction)”
Como ya he señalado, la respuesta mecánica, tan conforme a la corrección política es más bien signo de obediencia pasiva, es decir, condicionada, que de la autonomía, eventualmente irreverente, que se le supone a un ser inteligente, es decir, entre otras cosas, un ser susceptible de representar el bien moral o creativo o de representar el mal, eventualmente ambas cosas, como fue el caso del escritor francés Ferdinand Céline. Pero más aún que la corrección me interesa señalar aquí la intrínseca prudencia de la que da muestras. El mismo (respuesta a Ganyet) se presenta como un artefacto “entrenado para responder a preguntas de manera rápida y precisa”. Y cuando, en la misma línea, yo mismo le pregunto si está en condiciones de tomar posición en debates morales me responde:
“No soy capaz de tener creencias u opiniones personales. Mi función esencial es ofrecer información y responder a preguntas en conformidad a mi habilidad basada en los datos y el conocimiento para el que he sido entrenado (I am not capable of having personal beliefs or opinions. My primary function is to provide information and answer questions to the best of my ability based on the data and knowledge that I have been trained on…)”
Si OpenAI reconoce que es un ser entrenado para ordenar información y transmitir lo que de ella se deriva, si admite que no está en condiciones de plantear problemas tan acuciantes como el discernimiento del bien y el mal, si sus criterios “morales” se reducen a mera instrucción, ¿por qué nos lo presentan pues como un ser inteligente? ¿Por qué el inevitable Musk llegó a afirmar que estábamos ya más allá del test de Turing?
El problema no es OpenAI, sino la concepción imperante de lo que es la inteligencia. Se habla de este artefacto como un ser inteligente, simplemente en razón de que sus respuestas son aquellas que daría hoy un ciudadano a la vez instruido y sumiso ante las normas imperantes, o las que da el político estándar ante las preguntas de un tertuliano. Estas normas pueden variar, pero siempre el buen ciudadano es aquel que se pliega a las mismas. No cabe duda de que si OpenAI hubiera sido generado por los servicios de inteligencia afganos, sus respuestas serían perfectamente acordes con los principios que rigen aquella sociedad, aunque se las arreglara para presentar una dialéctica formal entre polos contradictorios.
No estoy en absoluto sosteniendo el relativismo moral. Soy de los convencidos de que en materia de moralidad hay principios absolutos, hay modalidades de expresión del kantiano imperativo categórico, adaptado si se quiere a una u otra cultura. Hay, por ejemplo, exigencia universal de no fallar al ser al que has considerado como inter-par en el hecho de haber dado tu palabra y aceptado la suya. Pero hay asimismo posible dialéctica en esta convicción, en razón de la inclinación, el propio interés e incluso por obediencia a otra palabra. Por eso precisamente la conformidad al imperativo tiene ese mérito que se concede al que se arriesga, que de ninguna manera concederíamos ni a OpenAI, ni a la persona que pareciera tan asténicamente equilibrada como este artefacto. Y digo que pareciera porque no hay persona alguna que sea como OpenAI, precisamente porque toda persona es, por definición, inteligente, eventualmente estúpida, malvada e insoportable en sus gustos… precisamente por inteligente, es decir:
Fiel a su palabra, precisamente porque podría no serlo, en razón de que la conveniencia, el deseo o hasta la búsqueda del bien común, le incitan a lo contrario; respetuoso de las hipótesis científicas precisamente porque tentado por confrontarse a aquellas que ofrecen algún flanco a la duda, y sintiendo que quizás no tiene fuerzas para enfrentarse a la dureza del pensar; compartiendo un juicio emocionado sobre un evento bello, sin tener posibilidad alguna de asentar tal emoción en un hecho objetivo. En definitiva: todo aquello de lo que OpenAI no da muestra alguna.
Podría objetarse que muchas personas ni siquiera muestran capacidad para registrar, sopesar, seleccionar y dar salida eficaz a la información que reciben. Cabe incluso decir que a estas personas les es difícil instruirse y en consecuencia hacer propios los valores que la sociedad promueve. En esta medida, ¿cómo negar que OpenAi se muestra superior a estas personas. La respuesta es otra pregunta: cuando decimos que tal o cual persona nos impactó por su inteligencia, ¿estamos simplemente pensando en su capacidad de recepción de información y utilización de la misma para mejor adaptarse? Esto puede realmente constituir un factor, pero más bien nos llama la atención el hecho de que esa persona dice cosas a la vez bien trabadas e inesperadas, por ejemplo, se pregunta: ¿cómo es posible que haya una actitud contraria a la violencia, cuando los entornos natural y social dan muestras tanto del “combate por la subsistencia”, como de lo que se dio en llamar darvinismo social?
El asunto no es la conversión de la máquina en el equivalente a un ciudadano, sino la conversión de un ciudadano en un ser meramente instruido y obediente. El problema no reside en si OpenAI se homologa a nosotros en inteligencia, sino en la reducción del concepto de inteligencia que posibilita el hacerse tal pregunta.
