Google DeepDream: por qué la primera IA veía perros y ojos por todas partes

Pasaba de la medianoche en un apartamento de Zúrich, el 18 de mayo de 2015. Un joven ingeniero de Google llamado Alexander Mordvintsev se despertó de golpe, convencido de que había oído un ruido. No había nada. Pero ya estaba completamente despierto, con la cabeza zumbando por una idea que llevaba semanas masticando. Así que se sentó frente a su computadora y empezó a teclear.

A las 2 de la madrugada ya tenía algo. Metió una foto cualquiera en una red neuronal, le ordenó a la máquina que exagerara todo lo que creyera estar viendo, y esperó. Lo que le devolvió la pantalla era una pesadilla: cielos plagados de hocicos de perro, árboles que brotaban ojos, nubes que se cuajaban en babosas-cachorro con demasiadas caras. Lo publicó en la red social interna de Google y se fue a dormir.

En cuestión de semanas, internet entero quedaría cubierto por esos mismos perros alucinados. La cosa es que nadie se pone del todo de acuerdo sobre qué estaba "viendo" la máquina en realidad. Vamos a entrar en materia.

Los hechos documentados

La técnica recibió un nombre oficial el 18 de junio de 2015, cuando Google publicó una entrada de blog titulada "Inceptionism: Going Deeper into Neural Networks", firmada por Mordvintsev junto a sus colegas Christopher Olah y Mike Tyka (Google Research).

Aquí está el truco central, y es de una sencillez preciosa. Normalmente una red neuronal se usa para clasificar imágenes: le enseñas una foto y dice "eso es un plátano". DeepDream pone esa misma máquina a funcionar al revés. Le enseñas una foto y le dices, en esencia: "lo que sea que creas ver ahí dentro, dame más de eso". La red encuentra rastros tenues de patrones, los refuerza, vuelve a mirar, los refuerza más. Una vuelta tras otra, decenas de veces. Los rastros tenues se vuelven ruidosos, innegables, objetos imposibles (Google Research).

Mordvintsev no intentaba hacer arte. Era un ingeniero recién llegado hurgando en cómo funcionan estas redes por dentro. "Las redes neuronales son sistemas diseñados para clasificar imágenes", dijo más tarde. "Estoy intentando que haga cosas para las que no fue diseñada, como detectar algún rastro de patrones" (Artnome).

¿Y por qué perros? ¿Por qué tantísimos perros? Esta parte está realmente documentada, no es una suposición. La red que usó Mordvintsev había sido entrenada con ImageNet, una colección gigantesca de fotos etiquetadas. Y un fragmento famoso de ese conjunto le pide a la IA que distinga entre 120 razas de perro distintas: cosas muy finas, beagle contra basset hound. Para aprobar ese examen, la red tuvo que obsesionarse con las partes del perro: orejas, hocicos y, sobre todo, ojos. Cuando luego le pides a una red así que "vea más", echa mano de lo que mejor conoce (Fast Company; Artnome).

Los ojos aparecen por todas partes por un motivo relacionado: a lo largo de todo el reino animal, el ojo es una de las formas más fiables y repetibles a las que un sistema de visión puede aferrarse. La red había aprendido que las manchas "con pinta de ojo" son una pista buenísima, así que las repartió con generosidad.

Google liberó el código en GitHub en julio de 2015 (github.com/google/deepdream). Casi de la noche a la mañana, DeepDream se convirtió en lo que podría considerarse el primer generador de imágenes con IA que llegó al gran público: el antepasado psicodélico de todo lo que vino después, desde los deepfakes hasta los chatbots que hoy crean imágenes. Los investigadores llaman ahora a este efecto "pareidolia algorítmica": el mismo cortocircuito cerebral que hace que tú veas una cara en un enchufe, pero ocurriendo dentro de una máquina (Wikipedia: Caffe)).

El enigma que sigue abierto

Aquí es donde el terreno se vuelve resbaladizo, y donde gente honesta discrepa.

Podemos decir qué hace DeepDream. Incluso podemos decir por qué ama los perros y los ojos: eso son los datos de entrenamiento hablando. Pero hay una pregunta más profunda con la que los investigadores todavía pelean: ¿una imagen como esta nos dice de verdad lo que la red "piensa", o solo lo que hace cuando la empujas por un acantilado?

DeepDream se construyó en parte como herramienta de depuración: una forma de asomarse dentro de la caja negra y comprobar si la IA había aprendido conceptos reales o solo atajos baratos. Pero una imagen de DeepDream es la red funcionando en un modo extremo y antinatural para el que nunca fue diseñada. Así que el problema abierto, dicho con honestidad, es este: ¿cuánto de esa alucinación refleja la "comprensión" interna genuina de la IA, y cuánto es solo un artefacto raro de subir el dial hasta el once?

Esto no es una nota al pie ya resuelta. Todo el campo de la interpretabilidad de la IA —averiguar qué representan de verdad estos sistemas por dentro— sigue completamente abierto, y DeepDream está plantado justo en su caótico comienzo.

Teorías e interpretaciones

Separemos lo prudente de lo descabellado. Todo lo que sigue es interpretación, no hecho establecido.

Teoría 1: es un espejo de su dieta (bien fundamentada). La lectura más sólida es que DeepDream simplemente te muestra los sesgos de la red. Alimenta a un modelo con 120 razas de perro y soñará con perros; entrena otro modelo distinto con un conjunto de lugares y soñará, en cambio, con torres, arcos y ventanas. Las imágenes no tienen nada de mágico: son un reflejo de lo que se le dio de comer a la máquina (Google Research). Esta es la explicación que aceptan la mayoría de los expertos.

Teoría 2: es una ventana a la "imaginación" de la máquina (especulativa). Algunos escritores y artistas sostienen que DeepDream revela algo parecido a una vida interior creativa, que la red está "soñando" en un sentido significativo. Es poético y popular, pero es especulación. No hay ninguna prueba de que la red experimente nada. Está haciendo matemáticas, muy rápido.

Teoría 3: demuestra que la IA se está volviendo sintiente o consciente (no probada). En internet, las salidas inquietantes y plagadas de ojos de DeepDream alimentaron afirmaciones de que la IA estaba "despierta", o incluso de que se conectaba con alguna capa oculta de la realidad. Que quede claro: esto no está probado ni lo respalda ninguna ciencia. Ese aspecto perturbador es un efecto secundario de los datos de entrenamiento y de la retroalimentación descontrolada, no la señal de una mente que despierta.

Teoría 4: la conexión con la "pesadilla" (leyenda, pero encantadora). Como Mordvintsev lo creó tras despertar de un mal sueño, creció una historia redonda según la cual la máquina canalizaba de algún modo las pesadillas humanas. Es divertido decirlo. Pero el sueño solo lo sacó de la cama: los perros vinieron de ImageNet, no de su subconsciente (Artnome).

Fuentes y lecturas adicionales

• Inceptionism: Going Deeper into Neural Networks — blog de Google Research (2015)
• Why Google's Deep Dream A.I. Hallucinates In Dog Faces — Fast Company
• DeepDream Creator Unveils Very First Images After Three Years — Artnome
• The story of deep neural networks and hallucinogenic images — Google Arts & Culture / Barbican
• Código fuente original de DeepDream — github.com/google/deepdream
• Caffe (software) — Wikipedia)

DeepDream nos enseñó que el comportamiento más extraño de una IA es, en realidad, una confesión sobre lo que le dimos de comer. Lo que plantea una pregunta mucho más incómoda para los chatbots y los motores de deepfakes que usamos hoy: si una máquina que solo conocía perros soñaba con perros, ¿qué están aprendiendo exactamente a ver las que se entrenan con todos nosotros?