La historia veloz y extraña de los deepfakes: de un truco de laboratorio a un robo de 25 millones de dólares

Un empleado de finanzas en Hong Kong se sentó frente a una videollamada con su jefe. El director financiero estaba ahí, en la pantalla. También varios colegas a los que conocía de cara. Charlaron. Le pidieron mover algo de dinero. Y lo hizo: quince transferencias, 25 millones de dólares, todo en un solo día.

Cada persona en esa llamada era falsa.

Ni una sola era real. Las caras. Las voces. Los pequeños gestos y pausas. Todo lo escupió una computadora. Solo olió algo raro días después, cuando llamó a la oficina central y descubrió que la reunión nunca existió (CNN, 2024).

¿Cómo llegamos hasta aquí? ¿Cómo aprendió una máquina a ponerse un rostro humano? La historia es más corta de lo que crees. Y mucho más rara.

Todo empezó con una boca

La palabra "deepfake" suena recién salida del horno. El truco que hay detrás, no.

Retrocede a 1997. Tres investigadores construyeron un programa llamado Video Rewrite. Le metías metraje viejo de alguien hablando, y él recortaba su boca y la volvía a coser, hasta que la persona en pantalla parecía decir palabras que nunca dijo. En voz alta. El objetivo era inofensivo: doblar películas a otros idiomas. Era torpe. Pero fue la primera máquina capaz de automatizar por completo esta clase de marioneta facial (History of Information).

Después, durante años, casi nada. La tecnología avanzaba a gatas.

Y entonces echó a correr.

Dos máquinas, trabadas en una pelea

Junio de 2014. Un investigador llamado Ian Goodfellow y sus colegas presentaron algo llamado Red Generativa Adversaria, una GAN (Wikipedia). Frena aquí un momento, porque este es el motor de todo lo que viene.

Imagina dos programas de computadora, trabados en un duelo. Uno es un falsificador. Pinta caras falsas. El otro es un detective. Su único trabajo es cazar las falsificaciones. Cada vez que el detective atrapa una, el falsificador estudia su error, aprende y pinta una mejor. Y vuelven a empezar. Y otra vez. Miles de rondas (MIT Sloan).

El falsificador se vuelve aterradoramente bueno, porque el detective nunca deja de perseguirlo. Y por el otro extremo sale una cara que jurarías que pertenece a una persona real.

El nombre salió de la oscuridad

La palabra "deepfake" como tal apareció en noviembre de 2017. Y se arrastró desde el peor rincón posible de internet.

Un usuario de Reddit, con el apodo "deepfakes", empezó a pegar caras de famosos en pornografía. "Deep learning" más "fake". El nombre se quedó. Una comunidad entera creció a su alrededor, casi 90.000 miembros, antes de que Reddit le bajara el interruptor en febrero de 2018 (Reality Defender; The Verge).

La prohibición no cambió nada. Las herramientas ya andaban sueltas por ahí.

Del sótano a la bóveda del banco

Aquí es donde deja de ser un pasatiempo escalofriante y empieza a costar dinero de verdad.

2019. Unos criminales clonaron la voz del jefe de una empresa: el leve acento alemán, el ritmo de su habla, cada detalle. Luego llamaron por teléfono a un empleado de una firma de energía en el Reino Unido. El trabajador estaba seguro de estar hablando con su jefe. En menos de una hora, 220.000 euros (unos 243.000 dólares) habían desaparecido (Trend Micro).

Cinco años después: el robo por video de 25 millones de dólares en Hong Kong que leíste al principio.

¿Notas el patrón? En cada paso, las falsificaciones se volvían más baratas. Más rápidas. Más difíciles de atrapar. Y esa línea sigue subiendo.

¿Todavía podemos notar la diferencia?

Aquí está la pregunta que nadie ha resuelto: ¿podemos distinguir de forma confiable lo real de lo falso, y lo lograremos algún día?

Pensarías que la respuesta es fácil. Solo hay que construir un detector de falsificaciones. Lo hicimos. No aguantó.

¿Recuerdas el duelo, el falsificador contra el detective? Ese es justo el problema. Las GAN nacieron para vencer detectores. Enseña a una máquina a cazar deepfakes, y le acabas de entregar a los creadores de deepfakes una lista de tareas con todo lo que deben arreglar. El gato y el ratón, salvo que el ratón cada vez se vuelve más listo (Optica).

Y la inundación va en aumento. Para finales de 2024, los grandes bancos nacionales recibían más de cinco ataques al día, frente a menos de dos diarios al comienzo de ese mismo año (SecurityWeek). Y los investigadores que persiguen el problema admitieron en 2024 la parte dolorosa: la detección todavía se desmorona en cuanto se topa con una clase nueva de falsificación que nunca había visto (arXiv, 2024).

¿La respuesta honesta? No tenemos una manera confiable, a prueba de futuro, de detectar un deepfake. Ahora mismo, los falsificadores van ganando.

¿Y hacia dónde va todo esto?

Tres grandes apuestas sobre lo que viene. Y son justo eso, apuestas: son interpretaciones y predicciones, no hechos consolidados.

Quizá los detectives alcancen a los ladrones. Algunos expertos apuestan por detectores de IA más inteligentes sumados a "marcas de agua": etiquetas invisibles grabadas en el video real en el instante mismo en que se filma. Eso podría inclinar la balanza de nuevo. Pero solo funciona si cada fabricante de cámaras del planeta acuerda usar el mismo sistema. Lejos de algo seguro.

Quizá dejemos de preguntar "¿es falso?". Otros creen que le daremos la vuelta a la pregunta por completo: no "¿es falso este video?", sino "¿puede este video demostrar de dónde vino?". Como el sello inviolable de un frasco de medicina. La tecnología existe. Pero todavía no está en todas partes, ni de lejos.

O quizá el verdadero peligro no sean las máquinas, seamos nosotros. Esta es la que duele. Como lo expresó un grupo de investigadores, la amenaza "no viene de la tecnología usada para crearlo, sino de la inclinación natural de las personas a creer lo que ven" (UNESCO). Y hay un reverso feo llamado "el dividendo del mentiroso": una vez que todos saben que las falsificaciones existen, cualquiera al que pillen en una cámara real puede encogerse de hombros y decir "eso es un deepfake". Es un argumento, no un dato medido. Pero cuesta mucho quitárselo de encima.

Ahora, lo desquiciado. Encontrarás publicaciones que juran que eventos famosos, las llegadas a la Luna o ciertos líderes mundiales son todos deepfakes en secreto, o que algún grupo en las sombras lleva años reemplazando a personas reales. No hay ninguna prueba creíble de nada de eso. Archívalo bajo folclore de internet: sin verificar, y casi con seguridad falso.

Fuentes y lecturas adicionales

• CNN — Empleado de finanzas paga 25 millones de dólares tras una videollamada con un director financiero deepfake (2024)
• History of Information — Video Rewrite, los orígenes de los deepfakes (1997)
• Wikipedia — Red Generativa Adversaria
• MIT Sloan — Los deepfakes, explicados
• Reality Defender — Una breve historia de los deepfakes
• The Verge — Reddit prohíbe la comunidad de pornografía deepfake con intercambio de rostros (2018)
• Trend Micro — Inusual fraude de CEO con audio deepfake roba 243.000 dólares (2019)
• SecurityWeek — La carrera armamentista de la IA: generación de deepfakes vs. detección
• Optica — Generar y detectar deepfakes: una carrera armamentista del siglo XXI (2025)
• arXiv — La detección robusta de deepfakes exige más que análisis forense visual (2024)
• UNESCO — Los deepfakes y la crisis del saber

El deepfake empezó como un duelo entre dos máquinas: una mentía, la otra intentaba atrapar la mentira. Pero ese mismo truco, dos IA trabadas en una competencia, ahora le está enseñando a las computadoras algo mucho más extraño que cómo falsificar un rostro. Algunos investigadores creen que les está enseñando a desear cosas. ¿Qué pasa cuando una IA deja de copiarnos y empieza a decidir por sí misma?