ADN digital

Deepfakes, inteligencia artificial para suplantar voz e imagen

Marc Griful

El pasado domingo 22 de septiembre, tuvimos el placer de hablar junto con Xantal Llavina, en el programa “Revolució 4.0”, sobre los Deepfake y cómo la inteligencia artificial se está utilizando para crear contenido fraudulento, en formato de vídeo y voz, entre otros.

No os perdáis la entrevista a Marc Griful, responsable de desarrollo de negocio en Quantion, en la cual desvela los puntos clave de esta tecnología y su impacto en la información que nos llega a través de los medios de comunicación.

¡Empezamos con la entrevista! 

XANTAL: Para empezar la sección, escuchemos un fragmento de un discurso del ex-presidente de los Estados Unidos.

Marc Griful, responsable de desarrollo de negocio en Quantion, bienvenido una temporada más al “Revolución”

“Trump es un completo imbécil”. Lo acabamos de oír en la voz de Barack Obama. Pero hay un pequeño matiz, ¿verdad Marc?

MARC: Pues que no era Obama realmente. Era un actor que, gracias a la Inteligencia Artificial, hizo un discurso con la cara del presidente de una forma muy realista en un vídeo, que generó mucha polémica. Esto es lo que se conoce como Deepfake.

XANTAL: El vídeo lo podéis buscar en la red. Para empezar, definamos qué son los Deepfakes, ¿son una nueva herramienta, de desinformación del futuro?

MARC: Seguramente la palabra Deepfake viene de Deep Learning (traducido como “aprendizaje profundo”. En este caso, es aprendizaje con inteligencia artificial, se utiliza con el objetivo de crear contenido y noticias falsas. Consiste en suplantar la identidad de alguien o crear alguna cosa que no existe, mediante la inteligencia artificial.

Deepfake es aprendizaje con inteligencia artificial que se utiliza con el objetivo de crear contenido y noticias falsas

XANTAL: Y ¿por qué los Deepfakes se han convertido en la técnica más sofisticada, para crear noticias falsas, las famosas Fakenews?

MARC: Porque los algoritmos de inteligencia artificial permiten manipular, no solo vídeos con un sorprendente grado de realismo, sino también la voz humana.

XANTAL: Claro, ¿por eso los famosos están tan preocupados?

MARC: Si, porque al ser personajes públicos con millones de fotos y vídeos suyos por Internet, es muy fácil crear contenido falso a través de un software de suplantación de caras, y algunos de ellos han sido víctimas de vídeos pornográficos falsos. El caso más conocido fue el de Scarlett Johanson.

XANTAL: Supongo que esta técnica no solo afecta a los famosos, sino que a todos nosotros. ¿Qué podemos hacer para evitarlo?

MARC: Está claro, que nunca tendremos el control del 100% de las imágenes y vídeos que publicamos en las plataformas, como Instagram o Facebook, ya que son estas compañías las que debes velar por la seguridad de los datos del usuario, pero lo que si podemos hacer es evitar “caer” en algunas trampas que pueden parecer caramelos.

XANTAL: Pon nos algunos ejemplos.

MARC: Las aplicaciones de móvil que se han puesto tan de moda este verano, dan la posibilidad al usuario de ver su cara modificada según la edad (como es el caso de FaceApp), y de verse en secuencias de películas sustituyendo tu cara por la de Leonardo DiCaprio, por ejemplo (en el caso de la china Zao). Cuando nos descargamos y aceptamos las políticas de uso de esta aplicación, hemos de ser conscientes que estamos aceptando que puedan hacer uso de las imágenes de nuestra cara. Y lo debemos tener en cuenta. Nunca se sabe donde puede ir a para tu cara.

Cuando nos descargamos y aceptamos las políticas de uso de esta aplicación, hemos de ser conscientes que estamos aceptando que puedan hacer uso de las imágenes de nuestra cara.

XANTAL: Volvamos al vídeo falso de ex presidente Barack Obama. ¿Se sabe quién lo hizo?

MARC: El vídeo lo difundió Buzzfeed, una empresa de medios de comunicación, precisamente para concienciar de los peligros de estos vídeos hiperrealistas y como pueden influir en la opinión publica.

XANTAL: ¿Ha habido más casos similares? ¿Qué incluso puedan generar conflictos políticos?

MARC: El año pasado, el partido socialista belga creó un Deepfake, donde se podía ver el presidente americano Donald Trump recomendando a Bélgica abandonar los pactos de París. Todo y ser un vídeo de mala calidad, es difundió muy rápido.

XANTAL: ¿Estos vídeos se pueden encontrar en Internet?

MARC: Y tanto. Se pueden encontrar fácilmente en Youtube, pero también hay una web que seguro que no dejará a nadie indiferente: es la web Thispersondoesnotexist Aquí encontraréis millones de caras que tienen una cosa en común: ninguna pertenece a una persona real. Todas han sido generadas con inteligencia artificial.

XANTAL: Has dicho que las Deepfakes también pueden suplantar nuestra voz.

MARC: Si. De hecho, según publicó The Wall Street Journal hace dos semanas, un grupo de cibercriminales, utilizaron un software basado en inteligencia artificial para hacerse pasar por la voz de un director ejecutivo y transferir de forma fraudulenta unos 220.000 euros, de una importante compañía energética británica.

XANTAL: Da miedo lo que estamos oyendo. ¿Cuál es el futuro de las Deepfakes?

MARC: Según nuestros expertos en inteligencia artificial que tenemos en Quantion, de aquí a 2 años, será prácticamente imposible que una persona pueda detectar una Deepfake a una noticia real. Por eso es muy importante que gobiernos, las grandes tecnológicas y medios de comunicación, trabajen juntos para hacer frente a la creación de un contenido falso y evitar la difusión.

Según nuestros expertos en inteligencia artificial que tenemos en Quantion, de aquí a 2 años, será prácticamente imposible que una persona pueda detectar una Deepfake a una noticia real.

XANTAL: Estaremos muy pendientes. Marc Griful, responsable de desarrollo de negocio de Quantion. Gracias por acompañarnos un día más al “Revolució 4.0.”


Puedes escuchar la entrevista aquí

Do NOT follow this link or you will be banned from the site!
Privacidad

En este portal web procesamos datos personales como, por ejemplo, tus datos de navegación. Si sigues navegando por nuestro portal, nosotros y otras compañías seleccionadas podrán instalar cookies o acceder a información no sensible de tu dispositivo con el objetivo de crear perfiles, personalizar contenidos, servir anuncios adaptados a tus preferencias y elaborar estadísticas. Puedes configurar tus preferencias de privacidad ahora o en cualquier momento accediendo a nuestra Política de Privacidad

Más información
Seguir navegando

Medición

La recogida de información sobre el uso de contenido y la combinación con información previamente recogida, usada para medir, entender e informar sobre la utilización del contenido.

Código de terceras partes

Uso de código de terceras partes para ofrecer funcionalidades e información. El almacenamiento de información, o el acceso a información que ya está almacenada en su dispositivo, como identificadores de dispositivos, cookies y tecnologías similares.

Datos

La recogida de información sobre el uso de contenido por su parte y la combinación con información previamente recogida, usada para medir, entender e informar sobre su utilización del contenido. Esto no incluye la Personalización, la recogida de información sobre su uso de este servicio para personalizar posteriormente el contenido y/o la publicidad dirigida a usted en otros contextos, es decir, en otros servicios, como sitios web o aplicaciones, a lo largo del tiempo.