En enero de 2024, un empleado de finanzas de la firma británica de ingeniería Arup participó en una videollamada con el director financiero de la compañía y varios colegas. Durante 40 minutos, siguió instrucciones para ejecutar 15 transferencias bancarias por valor de 25 millones de dólares a cinco cuentas en Hong Kong. Días después descubrió que todos los participantes en aquella reunión eran deepfakes generados por inteligencia artificial. La policía hongkonesa confirmó que los delincuentes habían entrenado los algoritmos con grabaciones públicas de videoconferencias corporativas.

Este caso, ampliamente documentado por las autoridades hongkonesas y medios como Financial Times y CNN, representa más que una anécdota alarmante. Los datos de la firma Regula, que en agosto de 2024 encuestó a 575 responsables de decisiones empresariales en sectores financieros, criptográfico, tecnológico y sanitario en cinco países, revelan que el 49% de las empresas globales experimentaron incidentes de fraude con deepfakes de audio o vídeo durante 2024. En 2022, esa proporción era del 37% para vídeo y 29% para audio. Signicat, proveedor europeo de verificación de identidad, reporta un incremento del 2.137% en intentos de fraude con deepfakes durante los últimos tres años: representaban el 0,1% de todos los intentos de fraude detectados hace tres años, hoy suponen el 6,5%.

El impacto económico resulta considerable. Empresas de todos los tamaños perdieron un promedio de 450.000 dólares por incidente relacionado con deepfakes en 2024, según datos de Regula. Para grandes corporaciones, las pérdidas alcanzaron 680.000 dólares por ataque. El Centro de Servicios Financieros de Deloitte proyecta que las pérdidas por fraude facilitado con inteligencia artificial generativa alcanzarán 40.000 millones de dólares en Estados Unidos para 2027, partiendo de 12.300 millones en 2023. Esto representa una tasa de crecimiento anual compuesta del 32%.

La metodología del ataque varía. Los sistemas de clonación de voz requieren apenas tres segundos de audio para crear una réplica con 85% de similitud a la voz original, según estudios de McAfee publicados en 2024. Los atacantes obtienen ese material de redes sociales, podcasts corporativos, webinars o canales de YouTube. El coste de producción es irrisorio: la llamada deepfake que suplantó al presidente Biden en las primarias de New Hampshire costó un dólar y requirió menos de 20 minutos de trabajo, según reportó The New York Times. La efectividad, sin embargo, es notable: el 77% de las víctimas que confirmaron haber sido objetivo de un ataque de clonación de voz reconocieron haber sufrido pérdidas financieras.

El marco europeo: transparencia obligatoria desde agosto de 2025

El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, conocido como AI Act o Reglamento de Inteligencia Artificial, entró en vigor el 1 de agosto de 2024 y será plenamente aplicable el 2 de agosto de 2026, aunque algunas obligaciones tienen calendarios específicos. Se trata de la primera normativa integral sobre inteligencia artificial aprobada en el mundo.

El artículo 50 del Reglamento establece obligaciones de transparencia para sistemas de IA que generan o manipulan contenido audiovisual. Los responsables del despliegue de estos sistemas deben revelar que el contenido ha sido generado o manipulado artificialmente. Esta exigencia aplica específicamente a imágenes, audio o vídeo que puedan parecer auténticamente asociados a personas, objetos, lugares u otras entidades o acontecimientos reales, y que puedan parecer falsos o falsificados a una persona. El texto legal establece excepciones cuando el uso esté autorizado por ley para detectar, prevenir, investigar o perseguir infracciones penales, o cuando el contenido forme parte evidentemente de una obra creativa, satírica, artística o de ficción, sujeta a salvaguardias adecuadas para los derechos de terceros.

Esta obligación de transparencia entró en vigor el 2 de agosto de 2025. Las empresas que desarrollan o despliegan sistemas generativos de IA deben implementar mecanismos técnicos para marcar el contenido sintético. El considerando 134 del Reglamento aclara que los deepfakes deben identificarse como contenido generado o manipulado artificialmente. Sin embargo, el Reglamento clasifica estos sistemas como de «riesgo limitado», no de «alto riesgo», lo que ha generado críticas doctrinales. Un análisis publicado en 2024 en Dialnet por investigadores españoles califica esta regulación como «muy defectuosa», argumentando que la amenaza que representan los deepfakes para el debate democrático y los derechos fundamentales justificaría una clasificación más estricta.

La respuesta española: del vacío normativo a la reforma penal

El ordenamiento español carecía hasta recientemente de regulación específica sobre deepfakes. En octubre de 2023, el grupo parlamentario Sumar presentó ante el Congreso de los Diputados la Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial. La iniciativa proponía modificar la Ley Orgánica 1/1982 de protección civil del derecho al honor, intimidad y propia imagen, el Código Penal, la Ley de Enjuiciamiento Civil, y otras normas sectoriales.

La Proposición planteaba incorporar como infracción muy grave la difusión de deepfakes sin autorización o consentimiento expreso, salvo que incluyeran advertencia clara de su naturaleza artificial. Para vídeos e imágenes, esta advertencia debería figurar sobreimpresa y ser claramente legible; para audios, debería emitirse inmediatamente antes y después de la reproducción. La excepción contemplaba usos autorizados legalmente para detectar, prevenir, investigar y perseguir infracciones penales, o cuando el contenido formara parte de obra evidentemente creativa, satírica, artística o de ficción.

Esta proposición no prosperó, pero el Gobierno español retomó la cuestión. El 25 de marzo de 2025, el Consejo de Ministros aprobó un anteproyecto de ley orgánica que reforma el Código Penal para tipificar como delito los deepfakes de contenido sexual. Según anunció el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, se trata de una «iniciativa pionera en Europa» que penaliza la ultrafalsificación mediante inteligencia artificial del rostro o cuerpo de una persona sin su consentimiento cuando tiene contenido sexual.

La reforma introduce un nuevo artículo 208 bis en el Código Penal dentro del capítulo de delitos contra el honor. Modifica también el artículo 197.7, que ya contemplaba el llamado «sexting no consentido» (divulgación de imágenes o grabaciones íntimas sin autorización). El proyecto distingue entre la simple creación de contenido deepfake íntimo, que puede ser punible incluso sin difusión masiva, y su distribución, que agrava la pena. Esta regulación atiende específicamente al sesgo de género detectado en estudios citados por la propia Proposición de Ley de 2023: entre el 90 y 95% de todos los deepfakes son de naturaleza pornográfica, y el 90% suplantan la identidad de mujeres.

El precedente administrativo: la AEPD y el caso Almendralejo

Antes de la reforma penal, la Agencia Española de Protección de Datos estableció un precedente relevante. En septiembre de 2023, en Almendralejo (Badajoz), adolescentes de entre 12 y 14 años crearon imágenes deepfake de contenido sexual de compañeras de instituto y las distribuyeron mediante aplicaciones de mensajería. El caso tuvo respuesta judicial: el Juzgado de Menores de Badajoz declaró responsables a 15 menores por delitos contra la integridad moral y pornografía infantil, imponiéndoles un año de libertad vigilada y medidas educativas.

Paralelamente, la AEPD inició actuaciones de oficio el 20 de septiembre de 2023 tras conocer los hechos por prensa, además de recibir reclamaciones formales de las víctimas. La Agencia no centró su análisis en el contenido pornográfico, sino en la vulneración del derecho fundamental a la protección de datos. La resolución, pionera en Europa, consideró que el acto mismo de crear el deepfake y su difusión constituyen tratamiento ilícito de datos personales que carece de base de legitimación según el artículo 6.1 del RGPD.

Esta aproximación resulta relevante porque amplía la protección más allá del ámbito penal. La imagen constituye un dato personal cuyo tratamiento mediante algoritmos de IA para generar contenido sintético requiere base legal. La ausencia de consentimiento y la inexistencia de otra base legitimadora convierte el proceso en ilícito desde el momento de la creación, no solo en el de la difusión. El jurista Miguel Ortego Ruiz calificó la resolución como «hito en la defensa del derecho a la identidad digital», estableciendo el principio de que no existe vacío legal en la IA cuando se tratan datos personales.

Esta vía administrativa ofrece ventajas procedimentales. La AEPD puede actuar de oficio, como efectivamente hizo en Almendralejo, y sus resoluciones son ejecutivas. Esto crea una forma de tutela administrativa de la identidad digital más ágil que los procedimientos civiles o penales. El único precedente europeo comparable había sido un caso alemán donde un tribunal de Berlín emitió prohibición cautelar contra un deepfake del canciller Olaf Scholz, pero basándose en vulneración de derechos de la personalidad por vía civil, no administrativa.

Los desafíos de implementación y las brechas regulatorias

La efectividad de este marco normativo enfrenta varios desafíos. En el ámbito empresarial, los datos de Business.com recogidos por múltiples informes especializados revelan que aproximadamente uno de cada cuatro directivos reconoce tener escaso o nulo conocimiento sobre tecnología deepfake. Más de la mitad de los líderes empresariales admiten que sus empleados no han recibido formación alguna sobre cómo reconocer o afrontar ataques deepfake. Solo el 5% de los responsables empresariales declaran contar con prevención integral contra ataques deepfake en múltiples niveles. El 80% de las compañías carecen de protocolos específicos para manejar estos incidentes.

La detección técnica presenta limitaciones importantes. Los sistemas de detección de audio deepfake alcanzan aproximadamente 88,9% de precisión en entornos controlados, pero su efectividad se degrada significativamente ante contenido adversarial. Investigadores publicaron en 2024 el benchmark Deepfake-Eval-2024 con casos reales, y múltiples modelos de detección experimentaron caídas de rendimiento del 45-50%. La detección humana resulta igualmente inconsistente: estudios muestran tasas variables entre evaluadores, y contenido deepfake de alta calidad puede resultar indistinguible para observadores no entrenados.

En el plano jurídico-penal, la cuestión probatoria resulta compleja. Los tribunales españoles no pueden aceptar deepfakes como prueba sin acreditar previamente su autenticidad. Las partes pueden impugnarlos mediante peritaje digital forense, pero esto requiere cadena de custodia adecuada y análisis especializado de metadatos, artefactos de compresión, inconsistencias de iluminación y otras características técnicas. La simple apariencia no basta: la autenticidad constituye una hipótesis que debe demostrarse, nunca un punto de partida.

Persiste además una brecha entre el contenido sexual, ahora específicamente regulado en la reforma penal española, y otros usos delictivos de deepfakes. El caso Arup ilustra fraude empresarial sin componente sexual. Los artículos existentes del Código Penal sobre estafa (artículo 248 y siguientes), delitos contra el honor (artículos 205 y 208 sobre calumnias e injurias) o usurpación de funciones públicas (artículos 402 y 403) pueden aplicarse según las circunstancias, pero no contemplan específicamente la técnica deepfake. Esta regulación fragmentaria contrasta con la naturaleza transversal de la amenaza.

El carácter transnacional del fenómeno añade complejidad. Los servidores que alojan servicios de generación deepfake, las cuentas bancarias receptoras de fondos fraudulentos y los propios atacantes frecuentemente operan desde jurisdicciones distintas a aquella donde se produce el daño. La Proposición de Ley española de 2023 reconocía explícitamente esta dimensión: «el factor internacional de la creación y difusión de los deepfakes» requiere «propiciar y unirse a otros países para que sea realmente eficaz la prohibición o penalización». Sin cooperación internacional efectiva, la aplicación territorial de normas nacionales presenta limitaciones prácticas evidentes.

Una respuesta necesariamente integral

El fenómeno deepfake representa un caso paradigmático de disrución tecnológica que desborda las categorías jurídicas tradicionales. Afecta simultáneamente al derecho al honor, la intimidad, la propia imagen, la protección de datos, la fe pública, el patrimonio y la integridad de los procesos democráticos. La respuesta normativa española, articulada entre la vía penal (reforma del Código Penal para deepfakes sexuales), administrativa (doctrina AEPD sobre tratamiento ilícito de datos) y la próxima implementación del AI Act europeo (obligaciones de transparencia), reconoce esta multidimensionalidad.

Sin embargo, la efectividad de cualquier marco normativo depende crucialmente de factores extralegales. La formación de empleados en verificación de comunicaciones sensibles, la implementación de protocolos de autenticación multifactor para operaciones financieras significativas, el desarrollo de herramientas técnicas de detección más robustas y la creación de cultura organizacional que normalice el escepticismo saludable ante solicitudes inusuales constituyen elementos tan relevantes como la propia legislación.

El caso Arup resulta ilustrativo: el empleado inicialmente desconfió del correo electrónico, pero la videollamada multipersonal superó sus defensas. Rob Greig, director global de información de Arup, declaró al World Economic Forum que aquello no fue un ciberataque tradicional que comprometa sistemas digitales, sino «ingeniería social mejorada con tecnología». Ningún sistema interno de Arup fue vulnerado. El ataque explotó la confianza humana en señales audiovisuales, históricamente fiables, ahora tecnológicamente replicables.

La estadística central permanece: la mitad de las empresas globales experimentó incidentes con deepfakes en 2024. Este dato, documentado por estudios sectoriales de Regula y confirmado por otras fuentes especializadas, sugiere que el fenómeno ha cruzado el umbral desde amenaza emergente hasta riesgo ordinario de gestión empresarial. La respuesta española, aunque tardía comparada con la velocidad de evolución tecnológica, ofrece finalmente instrumentos jurídicos específicos. Su efectividad dependerá de cómo esos instrumentos se articulen con capacitación, tecnología y procedimientos organizativos en los próximos años.