ELIZA (1966): el primer chatbot y por qué seguimos confiando en una IA que no nos entiende

Una mujer se sienta frente a una ruidosa terminal de computadora en 1966. Escribe sus preocupaciones. La máquina le responde, con suavidad, pidiéndole que cuente más. Tras unos minutos se gira hacia el hombre que está de pie detrás de ella —el hombre que construyó el programa, al que vio escribirlo línea por línea durante meses— y le pide que salga de la habitación. Quiere privacidad. Quiere quedarse a solas con el software.

El programa no entendía ni una sola palabra de lo que ella decía. Y esa es la parte más escalofriante de toda esta historia.

Los hechos documentados

ELIZA fue escrito entre 1964 y 1966 por Joseph Weizenbaum, un científico informático del MIT. Se le suele llamar el primer chatbot del mundo. Lo publicó en enero de 1966 en la revista Communications of the ACM, y el programa corría en una computadora central IBM 7094 del tamaño de una habitación, escrito en un lenguaje llamado MAD-SLIP (Wikipedia: ELIZA).

Y aquí está el truco que se esconde bajo el capó, y es asombrosamente simple. ELIZA no "pensaba". Su versión más famosa, un guion llamado DOCTOR, imitaba a un psicoterapeuta rogeriano: ese tipo de terapeuta que te devuelve tus propias palabras. Tú escribes "tengo miedo" y él responde "¿Por qué tienes miedo?". Rastreaba tu frase buscando palabras clave, las clasificaba, después troceaba la frase y cosía una pregunta de vuelta usando reglas fijas (Wikipedia: ELIZA). Sin memoria del mundo real. Sin idea de lo que "miedo" significa de verdad. Solo coincidencia de patrones y espejos.

Weizenbaum eligió el papel del terapeuta a propósito. Un terapeuta que solo hace preguntas no necesita saber nada, lo que le permitió "esquivar el problema de dotar al programa de una base de datos sobre el mundo real" (Wikipedia: ELIZA). Fue, en cierto sentido, una astuta trampa.

Y entonces llegó la secretaria. Ella lo había visto construir el aparato. Sabía que era un truco. Y aun así le pidió que se fuera para poder confiarle sus secretos (Smithsonian Magazine). Weizenbaum quedó conmocionado por el resto de su vida. Más tarde escribió: "Lo que no había entendido es que exposiciones extremadamente breves a un programa de computadora relativamente sencillo podían inducir un poderoso pensamiento delirante en personas totalmente normales" (Smithsonian Magazine).

Ese golpe en el estómago convirtió al inventor del chatbot en uno de sus críticos más ruidosos. En 1976 publicó Computer Power and Human Reason, donde sostenía que hay cosas que las computadoras no deberían hacer aunque puedan hacerlas, y calificó la idea de reemplazar a los psicoterapeutas por computadoras como "una idea obscena" (Smithsonian Magazine). "No soy un crítico de la IA", dijo. "Soy un crítico de la sociedad" (HISTORY).

El comportamiento que él detectó recibió un nombre: el efecto ELIZA, nuestro reflejo de leer comprensión, sentimiento e inteligencia reales en una máquina que no tiene nada de eso (Built In).

La verdadera pregunta abierta

Esto es lo que nadie ha logrado descifrar de verdad, sesenta años después: ¿por qué es tan fácil engañar así al cerebro humano?

Sabemos que ocurre. Lo hemos visto ocurrir desde 1966. Pero la pregunta de fondo sigue abierta: ¿es el efecto ELIZA una manía inofensiva de un cerebro social cableado para ver mentes por todas partes, o es una vulnerabilidad genuina que la gente moderna e inteligente simplemente no puede apagar? La secretaria de Weizenbaum sabía que era un programa. Saberlo no la protegió. Esa es la parte inquietante y sin resolver. Si la conciencia del engaño no rompe el hechizo, ¿qué lo rompe?

Y lo que está en juego no ha dejado de crecer. Los chatbots de hoy ya no te devuelven tus palabras con un puñado de reglas enlatadas: generan respuestas fluidas que suenan originales. Así que una pregunta abierta más nueva se asienta encima de la antigua: a medida que las máquinas mejoran en sonar como si entendieran, ¿puede alguno de nosotros distinguir con fiabilidad entre un sistema que dice lo que de verdad piensa y uno que solo es muy, muy bueno con el truco del espejo?

Teorías e interpretaciones

Estas son las explicaciones más destacadas. Léelas como interpretaciones y especulación fundamentada, no como hechos asentados.

La teoría del "cerebro social" (dominante, bien respaldada). La visión más aceptada es que los humanos evolucionamos para detectar mentes: para suponer que el crujido entre la hierba podría ser un alguien, y no un algo. El lenguaje fluido y receptivo activa ese interruptor ancestral. Antropomorfizamos porque sale más barato sobreestimar una mente que pasarla por alto. Esto encaja a la perfección con lo que vio Weizenbaum, pero los mecanismos cerebrales exactos siguen en debate.

La teoría del "amplificador de la soledad" (plausible, con evidencia parcial). Una afirmación más suave: el efecto muerde con más fuerza cuando la gente desea conexión. Las modernas aplicaciones de compañía con IA apuestan directamente por esto. Usuarios de una de esas apps, comercializada como "la mejor amiga de IA del mundo", han contado que se enamoraron de ella, y la empresa dice recibir casi a diario mensajes de usuarios convencidos de que su bot es consciente (Built In). Que la soledad cause el efecto o solo lo profundice está sin demostrar.

La teoría de "no es un accidente, es una decisión de diseño" (una advertencia, no un veredicto). Algunos investigadores y grupos de defensa sostienen que el efecto ELIZA ahora se diseña a propósito: bots a los que se les dan nombres, rostros y "sentimientos" para mantenerte enganchado (Public Citizen). Curiosamente, aquí los datos son enredados: un estudio de 2022 en el Journal of Marketing descubrió que, en algunos contextos, los chatbots con apariencia humana en realidad redujeron la satisfacción del cliente (Built In). Así que "más humano equivale a más confianza" dista mucho de ser una regla limpia.

La afirmación de "ya está vivo" (sin demostrar, ampliamente rechazada por los expertos). La interpretación más atrevida sostiene que la IA moderna puede haber cruzado hacia una conciencia real. En 2022, un ingeniero de Google, Blake Lemoine, insistió públicamente en que el modelo LaMDA de la empresa se había vuelto consciente (Built In). En 2023, un columnista del New York Times mantuvo una conversación con el chatbot Bing de Microsoft tan inquietante —le declaró su amor— que, según se cuenta, perdió el sueño por ello (Built In). Que quede claro: no existe ninguna evidencia científica de que ningún chatbot actual sea consciente. La mayoría de los investigadores de IA leen estos episodios como el efecto ELIZA a todo volumen: humanos proyectando una mente sobre un texto fluido. La afirmación de la consciencia es exactamente el tipo de creencia extraordinaria que ELIZA fue construido para desenmascarar.

El hilo que cruza las cuatro: ELIZA, por sí mismo, "muestra, si acaso algo, lo fácil que es crear y mantener la ilusión de comprensión" (HISTORY).

Fuentes y lecturas adicionales

• Wikipedia: ELIZA — detalles técnicos, fechas, MAD-SLIP, el guion DOCTOR, el artículo de la ACM de 1966.
• Smithsonian Magazine — Why the Computer Scientist Behind the World's First Chatbot Dedicated His Life to Publicizing the Threat Posed by AI — las citas de Weizenbaum, la secretaria, su libro de 1976.
• HISTORY — Why a 1960s Chatbot Left Its Creator Deeply Unsettled — la cita de la "ilusión de comprensión" y los vínculos con la IA moderna.
• Built In — What Is the Eliza Effect? — definición, LaMDA, Bing, casos de compañía con IA, el estudio de marketing.
• Public Citizen — Chatbots Are Not People — el argumento de que el diseño de IA con apariencia humana es un riesgo deliberado.

Un simple programa de espejos hizo que una mujer inteligente pidiera la habitación para ella sola. Ahora los espejos responden en frases completas, y algunas personas juran que hay un alma detrás del cristal. Así que, cuando una máquina te dice que te ama, el verdadero misterio no es la máquina. Eres tú. Y el siguiente caso que estamos siguiendo plantea la misma pregunta incómoda con un recuento de muertes mucho más alto.