La tecnología avanza a un ritmo tan vertiginoso que, a veces, la frontera entre lo auténtico y lo artificial se vuelve casi invisible. Hace apenas unos años, las recreaciones digitales o las voces sintéticas resultaban artificiales a simple vista (y oído). Hoy, sin embargo, basta un vistazo a Twitter para comprobar cómo la inteligencia artificial ha superado esa barrera.
El último ejemplo lo ha dado Arnau Font, especialista en IA, que ha encendido todas las alarmas con un sencillo pero impactante mensaje. "Este video ha sido generado con IA. No para generar miedo, sino para abrir los ojos".
Deepfakes que parecen reales: el caso del vídeo viral de Arnau Font
El vídeo de 48 segundos compartido por Arnau Font es, en apariencia, una pieza cotidiana. Hay voces en catalán, rostros naturales, gestos fluidos y una conversación que podría formar parte de cualquier reportaje televisivo. Pero en realidad, todo ha sido generado por inteligencia artificial de última generación, concretamente con VEO3.
La sorpresa para muchos no ha sido solo la naturalidad de las voces, sino también la expresividad y el detalle de los personajes. Es difícil, incluso para un ojo entrenado, detectar el truco. El propio Font insiste: “La IA puede hacer cosas increíbles, pero también puede confundir si no sabemos como funciona”.
Este aviso, más que una advertencia apocalíptica, es una invitación a la reflexión colectiva. Porque el verdadero desafío ya no está en lo que la IA es capaz de crear, sino en cómo la sociedad debe prepararse. No es fácil distinguir lo real de lo falso en un escenario donde los vídeos deepfake, la clonación de voces y las simulaciones hiperrealistas están al alcance de cualquiera.
¿Cómo se ha llegado a este punto? Un salto tecnológico sin precedentes
Herramientas como VEO3, Sora de OpenAI o Stable Video han marcado un antes y un después en la generación de contenido digital. Estos sistemas no solo imitan voces y gestos. Ya son capaces de crear escenas completas, ambientes, efectos de iluminación y hasta emociones casi indetectables como artificiales. Cualquier usuario con acceso a estas plataformas puede, en cuestión de minutos, generar clips que podrían engañar a periodistas, autoridades y ciudadanos por igual.
Hasta hace poco, la mayoría de herramientas destacaban por su precisión en inglés. Sin embargo, la nueva generación de IA se adapta con sorprendente fidelidad a lenguas como el catalán, el español o el francés. Este salto idiomático multiplica la amenaza en contextos locales y refuerza la necesidad de concienciación.
El peligro real: manipulación, estafas y pérdida de confianza
La posibilidad de crear deepfakes indistinguibles de la realidad abre la puerta a múltiples riesgos. Desde campañas de desinformación hasta extorsiones con vídeos manipulados, pasando por estafas con voces clonadas que simulan ser familiares, responsables políticos o figuras públicas. Los expertos en ciberseguridad ya alertan del repunte de fraudes basados en la clonación de voz.
Además, la confianza social en la veracidad de las imágenes y sonidos, una piedra angular de la comunicación digital, se ve amenazada en un entorno donde “ver para creer” ya no es suficiente.
En el análisis de consumo, los usuarios también deben extremar la cautela. Las marcas pueden ser víctimas de campañas de desprestigio con vídeos manipulados y los propios consumidores pueden caer en engaños comerciales o informativos. El reto, según Font y otros expertos, está en dotar a la sociedad de herramientas, formación y espíritu crítico para identificar las señales de alerta.
La inteligencia artificial, bien utilizada, tiene el potencial de transformar positivamente la vida cotidiana, la educación y la creatividad digital. Pero su poder para generar contenidos indistinguibles de la realidad exige una respuesta colectiva, desde la alfabetización mediática hasta la regulación tecnológica. El futuro ya no es solo cuestión de innovación, sino de responsabilidad compartida.