בדיוק כמו אנחנו מתקדמים בתחילת יוני, החודש Open Expo 2021, אירוע טכנולוגי שהשנה יעשה שימוש בטכנולוגיה קצת יותר, מכיוון שהכול יהיה וירטואלי. כבר היה ידוע שלכל חובב טכנולוגיה זה יהיה מעניין, אך אלו מאיתנו שהיו מסוגלים להיות עדים לכך לא חשבו שהם יעסקו בנושאים שלמרות שנכון הם כבר בינינו, לא כולנו להשתמש או לקחת בחשבון.
הדבר המעניין ביותר שנדון ב- OpenExpo השנה היה הכנס שערכה צ'מה אלונסו, המפורסמת, בין השאר, בנושא אבטחת סייבר או נושאי אבטחה בכל סוגי הציוד. וזה שהסרטונים האלה התקשרו DeepFakes שכולנו רואים ברשתות איך משהו מצחיק יכול להיות מסוכן. ולא, אנחנו לא מדברים על העובדה שכשאני מעלה סרטון של סצנה מסרט ושם את פני על שחקן, אני פושע או שאני עושה משהו לא בסדר, אבל הטכנולוגיה שמאחוריו, המתקדמים ביותר, יכול להוות בעיה הן לביטחון (התחזות) והן להפצת מידע כוזב (Fake News).
OpenExpo מגלה שכבר מסתובבים כ- 50.000 DeepFakes
למרבה המזל, שני דברים קורים: הראשון הוא שרבים מאותם DeepFakes, עד 96% מיועדים להעלות סרטון פורנוגרפי בו אנו רואים שחקן או שחקנית מפורסמים בפעולה. האתרים היוקרתיים ביותר מסלקים אותם ברגע שהם מזהים אותם, אך קשה כאשר הם מעלים כ -1000 סרטונים בחודש. וזיהוי זה הוא הדבר הטוב האחר שקורה או יקרה: יש כבר דרכים לזהות DeepFakes באמצעות ניתוח פלילי של התמונות והפקת נתונים ביולוגיים מהם, וכי וכי אנשים מגויסים לביצוע החקירות.
על אף שנושא הבטיחות חשוב, חשוב גם שלא "נקנה" ולא "נקנה" שום חדשות שאנחנו רואים. מסיבה זו, Chema Alonso וצוותו רעיונות Locas פיתחו תוסף לכרום (ותואם, לאלו מאיתנו שלא כל כך אוהבים את גוגל) שמבצעת ארבע חקירות מדעיות כדי לאתר את DeepFakes:
- FaceForensics ++: מה שהניתוח הזה עושה זה בעצם מה שאנחנו רואים בסרטים, אבל במקום להשוות פנים או עקבות, הוא משווה את DeepFakes בהתבסס על מודל שהוכשר על בסיס נתונים משלו.
- חשיפת סרטוני DeepFake על ידי איתור חפצי עיוות פנים: זה ינצל נקודת תורפה של DeepFakes הנוכחית, כמו הרזולוציה הנמוכה של התמונות, כדי למצוא את הרמזים הדרושים.
- חשיפת זיופים עמוקים באמצעות תנוחות ראש לא עקביות: אני לא AI או משהו כזה, אבל לפעמים עשיתי פרצופים על גבי פרצופים. זה קשה, ואותן טעויות שבני אדם עושים נעשות על ידי מכונות. טעויות אנושיות מזוהות על ידי בני אדם, ואלה שנעשות על ידי מכונות מזוהות על ידי מכונות. ביסודו של דבר, מה ש"מכונה הטובה "רואה זה שהפנים אינן מושלמות בגופו החדש, במיוחד בתנועה בתלת מימד.
- לפתע קל לזהות תמונות שנוצרו על ידי CNN ... לעת עתה- לתמונות שנוצרו על ידי 11 דגמי גנרטורים שונים מבוססי CNN יש מאפיינים מיוחדים מאוד, כך שמסווג יכול להכליל היטב לאדריכלות אחרות. לתמונות הנוכחיות שנוצרו על ידי CNN יש פגמים שיטתיים, ולכן הם לא מציאותיים.
"לעת עתה" מרמז כי יהיו בעיות בעתיד
בנקודה האחרונה של מה שהתוסף עושה (או יעשה) זה גם מסביר את מה שהסביר צ'מה מאוחר יותר: ה- DeepFakes כבר נמצאים בינינו ועלינו להיות מוכנים למה שעלול לקרות. ומה שיקרה בוודאות זה מערכות יצירת תכנים מזויפות ישתפרו, והרבה אם ניקח בחשבון שישמשו בינה מלאכותית ולמידה עמוקה, אז עליכם להפשיל שרוולים ולעבוד בכדי לעמוד במשימה. סרטון X יכול להוות סתם מטרד לסלבריטאי, ומה שאנחנו עושים עם טלפונים ניידים אינו מזיק לחלוטין, אבל לשים את הפנים שלנו על מישהו שמבצע פשע, למשל, זה לגמרי אחר.
באשר ל תוסף שהוזכר על ידי אלונסו, אנחנו עדיין נצטרך לחכות כדי להיות מסוגל להשתמש בו, אבל אני חושב שזה יהיה "חובה" למי שרוצה להיות מושכל ומבלי להאמין להכל.
ולמרות שזה היה המעניין ביותר באירוע, זה בגלל שמדובר בטכנולוגיה חדשה יחסית, שהיא חלק מחיינו ואנחנו פועלים לשפר אותה, גם על ידי היוצרים וגם אלה שרוצים לחשוף את הזיוף. אבל OpenExpo 2021 דיבר גם על GovTechכלומר הטכנולוגיה שמשמשת ממשלות, טכנולוגיה שקשורה לחינוך או EdTech, תמיד חשובה ויותר בזמנים שבהם היציאה מהבית אינה רעיון טוב, קיימות, איכות הסביבה, עסקי המוסיקה ודיגיטציה ונגישות. OpenExpo הוא אירוע די שלם, ואם התגעגעתם לחודש זה, בשנה הבאה הם יחזרו עם עוד, אנחנו מקווים שכבר חיים.