El pasado domingo 22 de septiembre, tuvimos el placer de hablar junto con Xantal Llavina, en el programa “Revolució 4.0”, sobre como el Deepfake e inteligencia artificial, se está utilizando para crear contenido fraudulento, en formato de vídeo y voz, entre otros.

No os perdáis la entrevista a Marc Griful, responsable de desarrollo de negocio en Quantion, en la cual desvela los puntos clave de esta tecnología y su impacto en la información que nos llega a través de los medios de comunicación.

¡Empezamos con la entrevista! 

XANTAL: Para empezar la sección, escuchemos un fragmento de un discurso del ex-presidente de los Estados Unidos.

Marc Griful, responsable de desarrollo de negocio en Quantion, bienvenido una temporada más al “Revolución”

“Trump es un completo imbécil”. Lo acabamos de oír en la voz de Barack Obama. Pero hay un pequeño matiz, ¿verdad Marc?

MARC: Pues que no era Obama realmente. Era un actor que, gracias a la Inteligencia Artificial, hizo un discurso con la cara del presidente de una forma muy realista en un vídeo, que generó mucha polémica. Esto es lo que se conoce como Deepfake.

XANTAL: El vídeo lo podéis buscar en la red. Para empezar, definamos qué son los Deepfakes, ¿son una nueva herramienta, de desinformación del futuro?

MARC: Seguramente la palabra Deepfake viene de Deep Learning (traducido como “aprendizaje profundo”. En este caso, es aprendizaje con inteligencia artificial, se utiliza con el objetivo de crear contenido y noticias falsas. Consiste en suplantar la identidad de alguien o crear alguna cosa que no existe, mediante la inteligencia artificial.

Deepfake es aprendizaje con inteligencia artificial que se utiliza con el objetivo de crear contenido y noticias falsas

XANTAL: Y ¿por qué los Deepfakes se han convertido en la técnica más sofisticada, para crear noticias falsas, las famosas Fakenews?

MARC: Porque los algoritmos de inteligencia artificial permiten manipular, no solo vídeos con un sorprendente grado de realismo, sino también la voz humana.

XANTAL: Claro, ¿por eso los famosos están tan preocupados?

MARC: Si, porque al ser personajes públicos con millones de fotos y vídeos suyos por Internet, es muy fácil crear contenido falso a través de un software de suplantación de caras, y algunos de ellos han sido víctimas de vídeos pornográficos falsos. El caso más conocido fue el de Scarlett Johanson.

XANTAL: Supongo que esta técnica no solo afecta a los famosos, sino que a todos nosotros. ¿Qué podemos hacer para evitarlo?

MARC: Está claro, que nunca tendremos el control del 100% de las imágenes y vídeos que publicamos en las plataformas, como Instagram o Facebook, ya que son estas compañías las que debes velar por la seguridad de los datos del usuario, pero lo que si podemos hacer es evitar “caer” en algunas trampas que pueden parecer caramelos.

XANTAL: Pon algunos ejemplos.

MARC: Las aplicaciones de móvil que se han puesto tan de moda este verano, dan la posibilidad al usuario de ver su cara modificada según la edad (como es el caso de FaceApp), y de verse en secuencias de películas sustituyendo tu cara por la de Leonardo DiCaprio, por ejemplo (en el caso de la china Zao). Cuando nos descargamos y aceptamos las políticas de uso de esta aplicación, hemos de ser conscientes que estamos aceptando que puedan hacer uso de las imágenes de nuestra cara. Y lo debemos tener en cuenta. Nunca se sabe donde puede ir a para tu cara.

Cuando nos descargamos y aceptamos las políticas de uso de esta aplicación, hemos de ser conscientes que estamos aceptando que puedan hacer uso de las imágenes de nuestra cara.

XANTAL: Volvamos al vídeo falso de expresidente Barack Obama. ¿Se sabe quién lo hizo?

MARC: El vídeo lo difundió Buzzfeed, una empresa de medios de comunicación, precisamente para concienciar de los peligros de estos vídeos hiperrealistas y como pueden influir en la opinión publica.

XANTAL: ¿Ha habido más casos similares? ¿Qué incluso puedan generar conflictos políticos?

MARC: El año pasado, el partido socialista belga creó un Deepfake, donde se podía ver el presidente americano Donald Trump recomendando a Bélgica abandonar los pactos de París. Todo y ser un vídeo de mala calidad, es difundió muy rápido.

XANTAL: ¿Estos vídeos se pueden encontrar en Internet?

MARC: Y tanto. Se pueden encontrar fácilmente en YouTube, pero también hay una web que seguro que no dejará a nadie indiferente: es la web Thispersondoesnotexist Aquí encontraréis millones de caras que tienen una cosa en común: ninguna pertenece a una persona real. Todas han sido generadas con inteligencia artificial.

XANTAL: Has dicho que las Deepfakes también pueden suplantar nuestra voz.

MARC: Si. De hecho, según publicó The Wall Street Journal hace dos semanas, un grupo de cibercriminales, utilizaron un software basado en inteligencia artificial para hacerse pasar por la voz de un director ejecutivo y transferir de forma fraudulenta unos 220.000 euros, de una importante compañía energética británica.

XANTAL: Da miedo lo que estamos oyendo. ¿Cuál es el futuro de las Deepfakes?

MARC: Según el equipo en inteligencia artificial de Quantion, de aquí a 2 años, será prácticamente imposible que una persona pueda detectar una Deepfake a una noticia real. Por eso es muy importante que gobiernos, las grandes tecnológicas y medios de comunicación, trabajen juntos para hacer frente a la creación de un contenido falso y evitar la difusión.

Según nuestros expertos en inteligencia artificial que tenemos en Quantion, de aquí a 2 años, será prácticamente imposible que una persona pueda detectar una Deepfake a una noticia real.

XANTAL: Estaremos muy pendientes. Marc Griful, responsable de desarrollo de negocio de Quantion. Gracias por acompañarnos un día más al “Revolució 4.0.”

Puedes escuchar la entrevista aquí