Contenido
- Qué significa deepfake y de dónde viene la palabra
- Cómo se fabrica un deepfake
- Deepfakes y cheapfakes: no toda manipulación usa IA
- Para qué se usan los deepfakes
- Cómo reconocer un deepfake
- Qué dice la ley sobre los deepfakes
- Deepfakes en empresas de Panamá: un protocolo básico
- Preguntas frecuentes sobre qué es un deepfake
Un deepfake es un video, audio, imagen o texto creado o alterado con inteligencia artificial para mostrar algo que nunca ocurrió, con tanto realismo que puede pasar por auténtico. La palabra une «deep learning», aprendizaje profundo, y «fake», falso. Se popularizó a finales de 2017 por un usuario de Reddit que se hacía llamar así.
Qué significa deepfake y de dónde viene la palabra
El informe Increasing Threats of Deepfake Identities, publicado por el Departamento de Seguridad Nacional de Estados Unidos, define los deepfakes como un tipo de medio sintético. Según ese informe, usan IA y aprendizaje automático para crear videos, imágenes, audios y textos creíbles de hechos que nunca ocurrieron.
El mismo informe cuenta el origen. A finales de 2017, la revista Motherboard informó de un video falso que superponía el rostro de la actriz Gal Gadot sobre un video pornográfico. Después, un usuario anónimo de Reddit que se hacía llamar «deepfakes» dijo ser el autor. El nombre viene de las técnicas de aprendizaje profundo usadas para fabricar esas falsificaciones.
Por su parte, la Unión Europea usa un término propio en español: «ultrasuplantación». El Reglamento de Inteligencia Artificial, en su artículo 3, la define como un contenido de imagen, audio o video generado o manipulado por una IA. Además, ese contenido se asemeja a personas, objetos, lugares o sucesos reales y puede hacer creer que es auténtico.
Cómo se fabrica un deepfake
Un deepfake se apoya en el aprendizaje profundo, una rama del aprendizaje automático. Si quieres entender esa base, lee qué significa deep learning en inteligencia artificial. Sobre esa base, el informe del Departamento de Seguridad Nacional describe tres técnicas habituales:
- Intercambio de rostro. Pone la cara de una persona sobre el cuerpo de otra. Para lograrlo, el sistema aprende a comprimir y reconstruir las caras de ambas personas.
- Sincronización de labios. Ajusta los movimientos de la boca a una grabación de voz, para que la persona parezca decir algo que nunca dijo.
- Técnica de marioneta. Hace que la persona mueva la cara o el cuerpo de una forma en que nunca se movió.
Además, el mismo informe señala que algunas aplicaciones ya reducen mucho el conocimiento técnico necesario. Incluso permiten manipulaciones en tiempo real.
Las redes generativas antagónicas
Una tecnología clave detrás de muchos deepfakes son las redes generativas antagónicas. Ian Goodfellow y su equipo las presentaron en un artículo de junio de 2014. El método enfrenta a dos redes. Por un lado, el generador crea ejemplos nuevos a partir de los datos. Por otro lado, el discriminador estima si cada ejemplo es real o fabricado. Así, la competencia entre las dos redes mejora la calidad de las falsificaciones. Para ver cómo se crean imágenes con otras técnicas, revisa cómo funciona la IA generadora de imágenes.
Deepfakes y cheapfakes: no toda manipulación usa IA
No todo contenido manipulado es un deepfake. El informe del Departamento de Seguridad Nacional distingue los llamados «cheapfakes». Son manipulaciones con técnicas digitales simples, como ralentizar un discurso o acelerar un video. Además, el informe advierte algo importante. La amenaza viene de nuestra tendencia natural a creer lo que vemos, por lo que un falso no necesita ser muy avanzado para engañar.
| Formato | Qué se manipula | Uso fraudulento que describe el FBI |
|---|---|---|
| Video | Rostro, labios o movimientos de una persona | Videollamadas en vivo que suplantan a ejecutivos o autoridades |
| Audio | La voz, clonada a partir de grabaciones | Falsas emergencias de un familiar para pedir dinero o rescates |
| Imagen | Fotos de perfil, documentos y fotos íntimas | Identificaciones falsas y fotos explícitas falsas para extorsionar |
| Texto | Mensajes, perfiles y sitios web | Perfiles falsos en masa y sitios de inversión fraudulentos |
| Cheapfake | Velocidad o edición simple de un video real | Alterar la percepción de un hecho sin usar IA avanzada |
Para qué se usan los deepfakes
La tecnología no es mala en sí misma. De hecho, el informe del Departamento de Seguridad Nacional reconoce que muchos usos del contenido sintético son entretenimiento inocente. Sin embargo, los usos dañinos crecen. La alerta I-120324-PSA del FBI, del 3 de diciembre de 2024, describe cómo los delincuentes usan la IA generativa para cometer fraudes financieros. Entre esos usos están la clonación de voz, los videos falsos y los documentos de identidad fabricados. Para entender el panorama completo de amenazas, revisa los desafíos y riesgos de la inteligencia artificial.
Cómo reconocer un deepfake
Ninguna señal es infalible. Por eso conviene combinar la observación con la verificación. La alerta del FBI recomienda estos pasos:
- Observa los detalles. Busca manos o dientes deformes, caras irregulares, sombras incorrectas, retrasos y movimientos poco naturales.
- Escucha con atención. Fíjate en el tono y en la elección de palabras de la llamada.
- Acuerda una palabra secreta. Úsala con tu familia para confirmar la identidad en una emergencia.
- Cuelga y vuelve a llamar. Contacta al banco o a la persona con un número que ya conoces.
- Limita lo que publicas. Comparte menos fotos y grabaciones de tu voz, y usa cuentas privadas.
Fuente: FBI, Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud; consulta: 12 de noviembre de 2026.
Además, existen herramientas para comprobar el origen de un archivo. La coalición C2PA mantiene un estándar técnico abierto para establecer el origen y los cambios de un contenido digital. Sus credenciales de contenido funcionan como una etiqueta que cualquiera puede consultar.
Qué dice la ley sobre los deepfakes
La Unión Europea ya regula los deepfakes. Según la Comisión Europea, la Ley de IA obliga a etiquetar los deepfakes de forma clara y visible desde agosto de 2026. Según el artículo 50 del reglamento, en las obras claramente artísticas, satíricas o de ficción basta un aviso que no dificulte el disfrute de la obra. Además, en diciembre de 2026 entra en vigor una novena prohibición: los sistemas que generan contenido sexual íntimo no consentido, como las aplicaciones de «nudificación».
En Panamá, la Ley 81 de 2019 no menciona los deepfakes. Aun así, su artículo 4 considera sensibles los datos biométricos dirigidos a identificar de manera unívoca a una persona. Por lo tanto, una empresa que trate rostros o voces para identificar a alguien debe aplicar las reglas reforzadas de esa ley.
Deepfakes en empresas de Panamá: un protocolo básico
Para una empresa, el riesgo más directo es la suplantación de un directivo en una llamada o videollamada. Por eso conviene fijar reglas simples y ponerlas por escrito. También ayuda que el personal sepa reconocer el engaño, así que capacitar al equipo es parte del protocolo. Por ejemplo, ningún pago urgente se aprueba solo por video o por voz. Además, toda orden inusual se confirma por un segundo canal ya conocido. Si tu empresa publica contenido creado con IA, revisa también los riesgos del contenido generado por IA. Para reforzar esas defensas, consulta nuestra guía de seguridad de la IA para empresas y nuestras soluciones de inteligencia artificial en Panamá.
Preguntas frecuentes sobre qué es un deepfake
¿Qué significa deepfake en español?
Significa, de forma literal, «falso profundo». La palabra une «deep learning», que es aprendizaje profundo, y «fake», que es falso. Designa contenidos creados o alterados con IA que parecen reales. En la normativa europea en español se usa el término «ultrasuplantación» para los deepfakes de imagen, audio o video.
¿Quién inventó los deepfakes?
No hay un único inventor. El término se popularizó a finales de 2017, cuando un usuario anónimo de Reddit que se hacía llamar «deepfakes» dijo ser el autor de un video falso con el rostro de Gal Gadot. Una de las técnicas clave, las redes generativas antagónicas, la presentaron Ian Goodfellow y su equipo en 2014.
¿Cómo puedo saber si un video es un deepfake?
Fíjate en los detalles y verifica por otra vía. El FBI aconseja buscar manos o dientes deformes, caras irregulares, sombras incorrectas, retrasos y movimientos poco naturales. Si el video pide dinero o datos, cuelga y contacta a la persona o a la entidad con un número que ya conoces.
¿Se puede clonar mi voz con inteligencia artificial?
Sí. El FBI alertó en diciembre de 2024 que los delincuentes clonan la voz de familiares para simular emergencias y pedir dinero. Para reducir el riesgo, comparte menos grabaciones de tu voz en redes, usa cuentas privadas y acuerda con tu familia una palabra secreta para confirmar la identidad.
¿Qué diferencia hay entre un deepfake y un cheapfake?
La técnica. Un deepfake usa aprendizaje profundo para crear o alterar contenido. Un cheapfake, en cambio, usa ediciones digitales simples, como ralentizar o acelerar un video. Los dos pueden engañar, porque según el Departamento de Seguridad Nacional de Estados Unidos las personas tienden a creer lo que ven.
¿Hacer un deepfake es ilegal?
Depende del uso y del país. En Europa, la Ley de IA exige etiquetar los deepfakes desde agosto de 2026 y prohíbe desde diciembre de 2026 los sistemas de contenido sexual no consentido. En Panamá, la Ley 81 de 2019 no los menciona, pero protege como datos sensibles los datos biométricos que identifican a una persona.
