El apóstata de Weizenbaum
Esto supone un tipo de paréntesis respecto al resto de publicaciones que he ido presentado en el blog. Eso no quita que vaya a hablar de otro asunto, pero esta vez tengo la sensación de que será diferente, pues se trata más de una reflexión que de conocimiento en sí.
Pues bien, empecemos. Supongo que ya conocéis algo de ELIZA, la que se puede denominar como el primer bot psicológico, la cual imitaba al psicólogo Carl Rogers. Bueno, pues hoy quiero centrarme en Weizenbaum, su Creador, el cual se llegó a convertir en un gran crítico de la incorporación de la inteligencia en las máquinas.
PONEROS EN CONTEXTO: AÑOS 60
En el Natural History, el destacado astrofísico Sagan mostró un gran entusiasmo por el potencial de ELIZA. Preveía el desarrollo de “una red de terminales informáticas de uso terapéutico, como esas cabinas telefónicas dispuestas en fila, que, al precio de unos pocos dólares por sesión, nos permitiría hablar con un psicoterapeuta atento, probado y, en gran medida, no directivo.”
La gente quería creer que ELIZA era una máquina capaz de pensar, es decir, una máquina pensante. Se le quería atribuir cualidades humanas, aun cuando se era consciente de que simplemente era un programa informático que seguía instrucciones simples y obvias. Con esto, el test de Turing mostró ser tan ilustrativo de la forma en que piensan los humanos como de la forma de pensar de las máquinas… En el Journal of Nervous and Mental Disease no solo se defendía a ELIZA sino que se decía que un psicoterapeuta era en esencia un tipo de ordenador: “Un terapeuta humano puede ser visto como un procesador de información que adopta sus decisiones ateniéndose a un conjunto de reglas de decisión que están estrechamente vinculadas a metas a corto y largo plazo.”
Todo esto inquietó al Creador, a Weizenbaum. Planteó algo que le estuvo torturando durante muchos años y fue lo siguiente: “¿Qué tendrán los ordenadores para haber elevado la visión del hombre como máquina a un nuevo nivel de credibilidad?” Aporta una respuesta a ello en 1967 en su libro La frontera entre el ordenador y la mente. Dijo que para entender los efectos del ordenador había que ver a la máquina en el contexto de las pasadas tecnologías intelectuales de la humanidad, la larga serie de herramientas que transformaron la naturaleza y alteraron “la percepción que el hombre tenía de la realidad”. Estas tecnologías forman parte de “las mismas cosas sobre las que el hombre construye su mundo”. Una vez adoptadas, no pueden abandonarse. Escribió:
“una tecnología intelectual se convierte en un componente indispensable de cualquier estructura una vez que está tan bien integrada en ella, tan imbricada en varias subestructuras vitales, que ya no se puede prescindir de ella sin alterar fatalmente la estructura entera.”
El gran riesgo que tenemos al implicarnos tan íntimamente con nuestros ordenadores es el de empezar a perder lo que es nuestra humanidad, a sacrificar las cualidades que nos separan de las máquinas (y esto incluye entre tantas a nuestro complejo lenguaje)… Weizenbaum dice que la única manera de evitar tener este destino es tener la conciencia y la valentía de negarse a delegar en los ordenadores las más humanas de nuestras actividades mentales e intelectuales, en particular “aquellas que requieran sabiduría.”
El libro de Weizenbaum es un grito desde su corazón analizando los límites de su profesión. No tuvo por ello muchas simpatías entre sus compañeros. Fue rechazado y considerado principal hereje, en especial por aquellos que perseguían la Inteligencia Artificial. Mcarthy, uno de los organizadores de la conferencia de Dartmouth sobre IA, hablaba en nombre de muchos tecnólogos en una crítica burlesca despachando La frontera entre el ordenador y la mente como “un libro poco razonable”, además de ir contra Weizenbaum por su “moralismo” poco científico. La opinión pública fue más de lo mismo: no estaba de humor para atender las dudas de un apóstata.
¿Qué pensáis? ¿Realmente estamos progresivamente sacrificando nuestras cualidades “más humanas”, como es nuestra manera de comunicarnos con los demás, debido a las máquinas, chatbots o similares? ¿Tenía razón Weizenbaum o simplemente quería su minuto de fama? ¿Qué bien nos está haciendo entonces todas estas nuevas máquinas con IA que aparecen actualmente si ya estamos saliendo de nuestra humanidad?
Referencias:
Carr, N. (2011). Superficiales:¿ qué está haciendo Internet con nuestras mentes?. Taurus.
