Tal com avancem a principis de juny, aquest mes s'havia de celebrar la OpenExpo 2021, Un esdeveniment tecnològic que aquest any anava a fer ús de la tecnologia una mica més, perquè anava a ser tot virtual. Ja se sabia que per a tot amant de la tecnologia havia de ser interessant, però els que vam poder presenciar-no havíem pensat que tractarien temes que, si bé és cert que ja estan entre nosaltres, no tots els fem servir ni tenim en compte.
D'allò més interessant que es va tractar en la OpenExpo d'aquest any va ser la conferència que va impartir Chema Alonso, famós, en part, per tractar temes de ciberseguretat o seguretat en tot tipus d'equips. I és que aquests vídeos anomenats DeepFakes que tots estem veient en xarxes com una cosa graciós pot en realitat ser perillós. I no, no estem parlant que quan jo pujo un vídeo d'una escena d'una pel·lícula i li poso la meva cara a un actor estic sent un delinqüent o faig alguna cosa que estigui malament, però la tecnologia que hi ha darrere, la més avançada, pot ser un problema tant per la seguretat (suplantació) com per a la difusió de falsa informació (Fake News).
La OpenExpo revela que ja hi ha prop de 50.000 DeepFakes circulant
Per sort, estan passant dues coses: la primera és que molts d'aquests DeepFakes, fins al 96%, es fan per pujar un vídeo pornogràfic en el qual veiem un actor o actriu famosos en plena acció. Els webs més prestigioses els eliminen quant els detecten, però és difícil quan pugen uns 1000 vídeos a el mes. I això de la detecció és l'altre bo que està passant o passarà: ja hi ha maneres de detectar DeepFakes amb anàlisis forenses de les imatges i extracció de dades biològiques a partir de les mateixes, això i que s'està reclutant gent per realitzar les investigacions .
Encara que el tema de la seguretat és important, també ho és que no «comprem» o «ens empassem» qualsevol notícia que vegem. Per aquest motiu, Chema Alonso i el seu equip Idees Boges han desenvolupat un plugin per Chrome (I compatibles, per als que no ens agrada tant Google) que realitza quatre investigacions científica per detectar DeepFakes:
- FaceForensics ++: El que fa aquesta anàlisi és bàsicament el que veiem en les pel·lícules, però en comptes de comparar cares o empremtes, compara DeepFakes en base a un model entrenat sobre la seva pròpia base de dades.
- Exposing DeepFake Videos by Detecting Face Warping Artifacts: Això aprofitarà un punt feble de les actuals DeepFakes, com és la baixa resolució de les imatges, per trobar les pistes necessàries.
- Exposar falsificacions profundes amb postures inconsistents del cap: Jo no sóc una IA ni res per l'estil, però de vegades he posat cares sobre de cares. És una cosa difícil, i els mateixos errors que cometem els humans els cometen les màquines. Els errors humans els detectem els humans, i els que cometen les màquines els detecten les màquines. Bàsicament, el que la «màquina bona» veu és que la cara no queda perfecta en el seu nou cos, sobretot en el moviment en tres dimensions.
- CNN-generated images are surprisingly easy to espot ... for now: Les imatges creades per 11 models diferents generadors basats en CNN tenen unes característiques molt especials, de manera que un classificador pot generalitzar bé a altres arquitectures. Les imatges actuals generades per CNN tenen defectes sistemàtics, pel que no són realistes.
«For now» dóna a entendre que hi haurà problemes en el futur
En l'últim punt del que fa (o farà) el connector explica també el que Chema va explicar més endavant: els DeepFakes ja estan entre nosaltres i cal estar preparats per al que pugui passar. I el que passarà segur és que els sistemes de creació de fals contingut milloraran, I molt si tenim en compte que s'usarà intel·ligència artificial i deep learning, per la qual cosa cal arremangar i treballar per estar a l'alçada. Un vídeo X pot ser només una molèstia per a un famós, i el que fem nosaltres amb els mòbils és totalment inofensiu, però que posin la nostra cara sobre d'algú que comet un delicte, per exemple, això és totalment diferent.
Quant al connector que esmenta Alonso, encara caldrà esperar per poder usar-lo, però crec que serà un «must have" per al que vulgui estar informat i sense creure-s'ho tot.
I encara que això va ser d'allò més interessant de l'esdeveniment, ho és perquè és tecnologia relativament nova, que forma part de les nostres vides i s'està treballant per millorar-la, tant pel bàndol dels creadors com el dels que volen destapar la falsificació. Però la OpenExpo 2021 també va parlar de la GovTech, És a dir, la tecnologia que fan servir els governs, la tecnologia relacionada a l'educació o EdTech, sempre important i més en temps en què sortir de casa no és bona idea, la sostenibilitat, el medi ambient, el negoci de la música i digitalització i l'accessibilitat. OpenExpo és un event bastant complet, i si et vas perdre el d'aquest mes, l'any que ve tornaran amb més, esperem ja que en viu.