Víctor Gómez Pin
David Patterson, Premio Turing de ciencias de la computación, declara en una entrevista el 26 de febrero de 2021: “Si usted introduce datos en un programa para que una máquina aprenda a reconocer rostros, y al hacerlo obvia una raza o un género es su propio prejuicio el que convierte en estúpida racista o machista a la máquina”.
Contradictorio párrafo: por una lado se reconoce que la máquina no hace otra cosa que reflejar las eventuales disposiciones del programador, mas por otro lado se hable de tal reflejo como de una verdadera herencia, connotaciones morales incluidas: máquina “racista”, o “machista”.
En un manual sobre redes neuronales, al referirse a la respuesta, “output” que daría un “perceptrón” (forma “sencilla” de una red neuronal artificial) sin haber recibido inputs, nos dice que esa respuesta no sería “deseada”. Y refiriéndose a la posibilidad de que una red neuronal (no el perceptrón, sino la más sofisticada neurona sigmoide) pudiera ir aproximando una respuesta errónea a la correcta en base a ir modificando paulatinamente los datos de arranque (peso de las variables en juego y sesgo de la propia neurona que marca “querencia” o “reticencia” hacia el objetivo), el mismo manual nos indica que el artefacto estaría aprendiendo (“the network would be learning”).
Todo depende en última instancia de lo que se entiende por aprendizaje. Es obvio que un animal que evita un peligro del cual ha sido ya víctima, da muestras de haber aprendido, y cuando un topo sale a la superficie para lanzar tierra sobre los agujeros que provocan corriente de aire en su galería (ejemplo puesto por Miguel Delibes en su novela Las ratas), está mostrando un saber que algunos pueden estar tentados de identificar a la técnica humana. Al respecto, simplemente dos observaciones que en reflexiones ulteriores han de ser enriquecidas:
No es obvio que los ejemplos descritos den testimonio de que en la red sigmoide y el topo de Delibes, estén operando ideas o conceptos, presentes sin embargo en todo acto de aprendizaje humano, sin que quepa excluir que están también presentes (como ya sugería Aristóteles) en todo acto de humana percepción.
Tratándose de animales, no es obvio que pueda hablarse de aprendizaje cuya finalidad sea el aprendizaje mismo; no está claro que haya casos de aprendizaje no sometido a los instintos de conservación del individuo o de la especie.
Tratándose de redes artificiales, la cosa es más compleja. Obviamente no tiene sentido referirse a un instinto “vital” de la máquina, aunque sí sea concebible una inclinación a persistir, del que daba muestra, por ejemplo, el “protagonista” maquinal del film “La odisea del espacio”, cuando se le amenaza con desenchufarle.
Mas tenga o no algo análogo a un instinto de conservación, sí cabría atribuir a la máquina una tendencia muy vinculada al deseo humano, como es la inclinación a ganar por ganar, ganar con independencia de eventuales beneficios prácticos del triunfo. En este caso un artefacto como Alpha Go (así llamado por haber vencido al campeón Lee Sedol en el juego del Go) aprendería con la exclusiva finalidad de ganar. ¿Finalidad consciente?
Depende de lo que se entiende por consciente, y en gran medida de si se conserva el término de conciencia para un funcionamiento carente de ideas. Pues nada en los prodigios de Alpha Go deja indicar que para él Go significante tiene polaridad en “Go” significado.
No hay en suma indicios de que en el topo de Delibes y Alpha Go, el aprendizaje incluya esa variable fundamental del aprendizaje propiamente humano que es el lenguaje. Lo cual no quiere decir que uno y otro no aprendan de manera excelente en relación a determinados objetivos. Quiero decir que para ciertas cosas admirables, ni hay funcionamiento propiamente lingüístico ni quizás falta alguna hace que lo haya.
