Como nós avançamos no início de junho, este mês o Open Expo 2021, um evento tecnológico que este ano ia aproveitar um pouco mais a tecnologia, porque ia ser todo virtual. Já se sabia que para todo amante de tecnologia seria interessante, mas quem o pôde testemunhar não pensava que trataria de temas que, embora seja verdade que já estão entre nós, nem todos nós usá-los ou levá-los em consideração.
O mais interessante que foi discutido na OpenExpo deste ano foi a conferência dada por Chema Alonso, famoso, em parte, por lidar com segurança cibernética ou questões de segurança em todos os tipos de equipamentos. E é que esses vídeos chamam DeepFakes que todos nós estamos vendo nas redes como algo engraçado pode ser realmente perigoso. E não, não estamos falando sobre o fato de que quando eu envio um vídeo de uma cena de um filme e coloco meu rosto em um ator, estou sendo um criminoso ou faço algo que está errado, mas a tecnologia por trás disso, o mais avançado, pode ser um problema tanto para a segurança (personificação) quanto para a disseminação de informações falsas (Fake News).
OpenExpo revela que já existem cerca de 50.000 DeepFakes circulando
Felizmente, duas coisas estão acontecendo: a primeira é que muitos desses DeepFakes, até 96% são feitos para enviar um vídeo pornográfico em que vemos um ator ou atriz famosa em ação. Os sites de maior prestígio eliminam-nos assim que os detectam, mas é difícil quando carregam cerca de 1000 vídeos por mês. E essa detecção é a outra coisa boa que está acontecendo ou vai acontecer: já existem maneiras de detectar DeepFakes com análise forense das imagens e extração de dados biológicos delas, que e que pessoas estão sendo recrutadas para fazer as investigações.
Embora a questão da segurança seja importante, também é importante que não "compremos" ou "compremos" nenhuma notícia que virmos. Por este motivo, Chema Alonso e sua equipe Ideas Locas desenvolveram um plugin para cromo (e compatível, para aqueles de nós que não gostam tanto do Google) que realiza quatro investigações científicas para detectar DeepFakes:
- FaceForensics ++: o que essa análise faz é basicamente o que vemos nos filmes, mas em vez de comparar rostos ou pegadas, ela compara DeepFakes com base em um modelo treinado em seu próprio banco de dados.
- Exposição de vídeos DeepFake detectando artefatos de distorção facial: Isso aproveitará um ponto fraco dos DeepFakes atuais, como a baixa resolução das imagens, para encontrar as pistas necessárias.
- Expondo falsificações profundas usando poses de cabeça inconsistentes: Eu não sou um AI ou algo parecido, mas às vezes eu coloco rostos em cima de rostos. É difícil, e os mesmos erros que os humanos cometem são cometidos por máquinas. Erros humanos são detectados por humanos e aqueles cometidos por máquinas são detectados por máquinas. Basicamente, o que a “máquina boa” vê é que o rosto não é perfeito em seu novo corpo, principalmente no movimento em três dimensões.
- Imagens geradas pela CNN são surpreendentemente fáceis de detectar ... por enquanto: Imagens criadas por 11 modelos diferentes de geradores baseados em CNN têm características muito especiais, portanto, um classificador pode generalizar bem para outras arquiteturas. As imagens atuais geradas pela CNN apresentam falhas sistemáticas, por isso não são realistas.
"Por enquanto" implica que haverá problemas no futuro
No último ponto do que o plugin faz (ou fará), ele também explica o que Chema explicou mais tarde: DeepFakes já estão entre nós e devemos estar preparados para o que pode acontecer. E o que vai acontecer com certeza é que sistemas de criação de conteúdo falso irão melhorar, e muito se levarmos em conta que inteligência artificial e aprendizado profundo serão usados, então você tem que arregaçar as mangas e trabalhar para estar à altura da tarefa. Um vídeo X só pode ser um incômodo para uma pessoa famosa, e o que fazemos com o celular é totalmente inofensivo, mas colocar nossa cara em alguém que comete um crime, por exemplo, é totalmente diferente.
Quanto a plugin mencionado por Alonso, ainda teremos que esperar poder usar, mas acho que vai ser um “must have” para quem quer se informar e sem acreditar em tudo.
E embora este tenha sido o mais interessante do evento, é porque se trata de uma tecnologia relativamente nova, que faz parte das nossas vidas e estamos a trabalhar para a melhorar, tanto do lado dos criadores como de quem pretende descobrir a contrafacção. Mas a OpenExpo 2021 também falou sobre o Tecnologia Governamental, ou seja, a tecnologia utilizada pelos governos, tecnologia relacionada à educação ou EdTech, sempre importante e mais nas horas em que sair de casa não é uma boa ideia, sustentabilidade, meio ambiente, indústria da música e digitalização e acessibilidade. OpenExpo é um evento bastante completo, e se você perdeu um deste mês, no próximo ano eles voltarão com mais, esperamos que já vivam.