OpenExpo 2021 nos habló sobre cómo descubrir las DeepFakes, algo que no es fácil, y otros temas de interés

OpenExpo nos vemos en 2022

Tal y como avanzamos a principios de junio, este mes se tenía que celebrar la OpenExpo 2021, un evento tecnológico que este año iba a hacer uso de la tecnología un poco más, porque iba a ser todo virtual. Ya se sabía que para todo amante de la tecnología iba a ser interesante, pero los que pudimos presenciarlo no habíamos pensado que tratarían temas que, si bien es cierto que ya están entre nosotros, no todos los usamos ni tenemos en cuenta.

De lo más interesante que se trató en la OpenExpo de este año fue la conferencia que impartió Chema Alonso, famoso, en parte, por tratar temas de ciberseguridad o seguridad en todo tipo de equipos. Y es que esos vídeos llamados DeepFakes que todos estamos viendo en redes como algo gracioso puede en realidad ser peligroso. Y no, no estamos hablando de que cuando yo subo un vídeo de una escena de una película y le pongo mi cara a un actor estoy siendo un delincuente o hago algo que esté mal, pero la tecnología que hay detrás, la más avanzada, puede ser un problema tanto por la seguridad (suplantación) como para la difusión de falsa información (Fake News).

La OpenExpo revela que ya hay cerca de 50.000 DeepFakes circulando

Por suerte, están pasando dos cosas: la primera es que muchos de esos DeepFakes, hasta el 96%, se hacen para subir un vídeo pornográfico en el que vemos a un actor o actriz famosos en plena acción. Las webs más prestigiosas los eliminan en cuanto los detectan, pero es difícil cuando suben unos 1000 vídeos al mes. Y esto de la detección es lo otro bueno que está pasando o pasará: ya hay maneras de detectar DeepFakes con análisis forenses de las imágenes y extracción de datos biológicos a partir de las mismas, eso y que se está reclutando a gente para realizar las investigaciones.

Aunque el tema de la seguridad es importante, también lo es que no «compremos» o «nos traguemos» cualquier noticia que veamos. Por ese motivo, Chema Alonso y su equipo Ideas Locas han desarrollado un plugin para Chrome (y compatibles, para los que no nos gusta tanto Google) que realiza cuatro investigaciones científica para detectar DeepFakes:

  • FaceForensics++: lo que hace este análisis es básicamente lo que vemos en las películas, pero en vez de comparar caras o huellas, compara DeepFakes en base a un modelo entrenado sobre su propia base de datos.
  • Exposing DeepFake Videos by Detecting Face Warping Artifacts: esto aprovechará un punto débil de las actuales DeepFakes, como es la baja resolución de las imágenes, para dar con las pistas necesarias.
  • Exposing Deep Fakes Using Inconsistent Head Poses: Yo no soy una IA ni nada por el estilo, pero a veces he puesto caras encima de caras. Es algo difícil, y los mismos errores que cometemos los humanos los cometen las máquinas. Los errores humanos los detectamos los humanos, y los que cometen las máquinas los detectan las máquinas. Básicamente, lo que la «maquina buena» ve es que la cara no queda perfecta en su nuevo cuerpo, sobre todo en el movimiento en tres dimensiones.
  • CNN-generated images are surprisingly easy to spot… for now: las imágenes creadas por 11 modelos distintos generadores basados en CNN tienen unas características muy especiales, por lo que un clasificador puede generalizar bien a otras arquitecturas. Las imágenes actuales generadas por CNN tienen defectos sistemáticos, por lo que no son realistas.

«For now» da a entender que habrá problemas en el futuro

En el último punto de lo que hace (o hará) el plugin explica también lo que Chema explicó más adelante: los DeepFakes ya están entre nosotros y hay que estar preparados para lo que pueda pasar. Y lo que pasará seguro es que los sistemas de creación de falso contenido van a mejorar, y mucho si tenemos en cuenta que se usará inteligencia artificial y deep learning, por lo que hay que arremangarse y trabajar para estar a la altura. Un vídeo X puede ser sólo una molestia para un famoso, y lo que hacemos nosotros con los móviles es totalmente inofensivo, pero que pongan nuestra cara encima de alguien que comete un delito, por ejemplo, eso es totalmente diferente.

En cuanto al plugin que menciona Alonso, aún habrá que esperar para poder usarlo, pero creo que será un «must have» para el que quiera estar informado y sin creérselo todo.

Y aunque esto fue de lo más interesante del evento, lo es porque es tecnología relativamente nueva, que forma parte de nuestras vidas y se está trabajando para mejorarla, tanto por el bando de los creadores como el de los que quieren destapar la falsificación. Pero la OpenExpo 2021 también habló de la GovTech, es decir, la tecnología que usan los Gobiernos, la tecnología relacionada a la educación o EdTech, siempre importante y más en tiempos en los que salir de casa no es buena idea, la sostenibilidad, el medio ambiente, el negocio de la música y digitalización y la accesibilidad. OpenExpo es un evento bastante completo, y si te perdiste el de este mes, el año que viene volverán con más, esperamos ya que en vivo.


El contenido del artículo se adhiere a nuestros principios de ética editorial. Para notificar un error pincha aquí.

Sé el primero en comentar

Deja tu comentario

Tu dirección de correo electrónico no será publicada.

*

*

  1. Responsable de los datos: Miguel Ángel Gatón
  2. Finalidad de los datos: Controlar el SPAM, gestión de comentarios.
  3. Legitimación: Tu consentimiento
  4. Comunicación de los datos: No se comunicarán los datos a terceros salvo por obligación legal.
  5. Almacenamiento de los datos: Base de datos alojada en Occentus Networks (UE)
  6. Derechos: En cualquier momento puedes limitar, recuperar y borrar tu información.