English
FrançaisActualmente, la tecnología nos aporta un gran valor al ser humano. Sin embargo, hay quien utiliza tecnología con fines no tan puros. Por ello, es necesario estar al tanto, de las novedades tecnológicas, positivas y negativas, y una de ellas son los deepfakes. Pero ¿qué son los deepfake? En este artículo veremos en profundidad que son y qué cualidades tienen.
¿Qué son los deepfakes?
Un deepfake hace referencia a una imagen, vídeo o audio generado a través de inteligencia artificial, que imita la apariencia y sonido de otra persona. Este tipo de falsificaciones llegan a ser tan realistas que pueden engañar tanto a personas como a los algoritmos. Este tipo de tecnología es potencialmente peligrosa, ya que tiene la capacidad de dañar, la imagen y de producir Fake News.
La mayoría de los deepfakes son generados por inteligencia artificial, y a todo ello hay que sumarle la capacidad de ser generados en directo. Es decir, al mismo tiempo que una persona está reproduciendo su discurso, esta tecnología puede reemplazar su rostro por otro, sin que el espectador se de cuenta.
El origen de esta palabra proviene de la combinación de “Deep Learning” y “Fake” para representar el resultado de una cosa falsa generado por la tecnología de aprendizaje profundo. Pero no todos son malas noticias, existen aplicaciones que su fin es bueno sin embargo, a medida que esta tecnología se propague se desplegará el nivel de estos deepfakes.
¿Cómo funcionan estos deepfakes?
Ahora que ya sabes que son los deepfakes, vamos a ilustrarte sobre su funcionamiento. Los deepfakes se crear mediante el deep learning, (aprendizaje profundo). Para ello se entrenan redes neuronales que puedan manipular y sintetizar contenido audiovisual. En este sentido es capaz de reemplazar caras y voces en vídeos existentes. Pero esto solo es rascar la superficie, para la generación de los deepfakes interviene una tecnología llamada GAN.
GAN o redes generativas adversarias (Generative Adversarie Network) es una tecnología de aprendizaje profundo que contiene dos redes neuronales, el generador y el discriminador:
- El generador: crea datos sintéticos como imágenes p videos que intentan producir contenido que sea indistinguible de los datos reales.
- El discriminado: evalúa la autenticidad de los datos, diferenciando datos realices y generados. El objetivo principal de este es identificar los datos falsos.
Ambas redes se entrenan simultáneamente y el proceso de competencia entre generador y discriminador conduce a la mejora continua del generador para la producción de datos realistas.
El proceso de creación de deepfakes :
Primero se recopilan grandes conjuntos de datos sobre las personas cuyos rostros o voces serán sustituidas. Estos datos suelen ser vídeos, imágenes o audios en alta calidad.
Posteriormente el generador toma datos aleatorios y los transforma para que parezcan auténticos simulando la apariencia física o tono de voz que provienen del conjunto de datos del entrenamiento.
El tercer paso pertenece al discriminador que se encarga de evaluar la autenticidad de los videos o audios generados. Su objetivo es distinguir entre el contenido generado y el real.
Después de ello el generador se retroalimenta de esa información y busca volverse más hábil para engañar al discriminador. Después este último busca volverse más eficaz detectando anomalías falsas. Este proceso de retroalimentación continúa hasta el punto de que el generador reproduce imágenes falsas indetectables por el discriminador.
Por último una vez entregado el modelo GAN, este se aplica a videos existentes reemplazando rostros o voces con la información generada. De esta manera, esta tecnología puede mostrar a una persona haciendo o diciendo cosas que jamás hicieron.
Ejemplos de Deepfakes:
Ahora que ya sabes que son los deepkafes y cómo funciona aquí van algunos ejemplos:
Un ejemplo reciente del uso del deepfake fue un fraude financiero ocurrido en Hong Kong en febrero de 2024. Un empleado de una empresa multinacional recibió una videollamada de quien creía que era su director financiero, pero en realidad era un impostor. Este había utilizado un software de inteligencia artificial para copiar su rostro y su voz. El falso director le ordenó que transfiriera unos 25 millones de dólares a una cuenta bancaria para una operación secreta. El empleado obedeció sin sospechar nada. Más tarde, se descubrió que los estafadores habían usado también documentos de identidad falsos para solicitar préstamos. Este caso demuestra el peligro que supone el deepfake para la seguridad y la verificación digital, y la necesidad de desarrollar mecanismos para detectar y prevenir este tipo de ataques. (Más sobre la noticia)
Otros ejemplos muy conocidos:
El deepfake de Tom Cruise en TikTok. Un usuario se hace pasar por el actor y realiza videos y comentarios graciosos. La cuenta tiene más de 3 millones de seguidores y muchos no se dan cuenta de la imitación. (Más sobre la noticia)
El deepfake de Barack Obama en YouTube. En el se le oye insultar a Donald Trump y advertir sobre el peligro del deepfake. El video fue realizado por el actor Jordan Peele, que imitó la voz del expresidente. Sirvió para concienciar sobre la importancia de verificar las fuentes de información.
¿Estás interesado en desarrollar modelos de inteligencia artificial? Contacta con nosotros y cuéntanos tu caso, ¡desarrollaremos tu primer modelo en 4 semanas!
