אז מה הבעיה? כולם, ללא יוצא מהכלל, פייקים מוחלטים, תוצר של מודלי בינה מלאכותית גנרטיבית (GenAI) או מערכות דיפ־פייק מבוססות AI אחרות, שמסתמכות על המוניטין של הדמויות המוכרות כדי ללכוד גולשים ברשת של הונאות.
3 צפייה בגלריה
מתוך הסרטונים המפוברקים. דמות AI של פרופ' אבי ג'וזף כהן מבית הספר למינהל עסקים באוניברסיטת קולומביה
(צילום מסך)
ואם תהיתם, במקרה, מה עושות הפלטפורמות, ובעיקר מטא, כדי להילחם בתופעה, התשובה הלא מפתיעה היא: את המינימום הכרחי, ולמטה מכך. אף שמדובר בפייקים מובהקים, וגולשים מזהים אותם ככאלו בתגובות לסרטונים, רבים מהסרטונים נותרים זמינים במשך ימים ארוכים, ומוסרים רק לאחר שזכו לחשיפה ניכרת במדיה המסורתית או בחשבונות פופולריים במדיה החברתית.
"הקטע המטורף הוא שמדווחים, ומטא אומרת שהכל בסדר", אמר לכלכליסט מיכה כתראן, יוצר תוכן פיננסי ובעלי "מיכה סטוקס", ערוץ יוטיוב בתחום שוק ההון, שפושעי סייבר עושים שימוש גם בדמותו כדי להונות גולשים. "דיווחתי על חשבון אחד לאינסטגרם, והם השיבו לי שזה לא מפר את כללי השימוש. וזו לא פעם ראשונה שזה מה שהם עונים. החשבונות האלו מקודמים באמצעות פרסום ממומן, אז לא אכפת להם".
הונאות פיננסיות מתועדות משחר ההיסטוריה. המוקדמת ביותר היא הונאת ביטוח שתועדה בסביבות 300 לפנה"ס ביוון: סוחר ביטח משלוח בספינה, וניסה להטביע את הספינה הריקה כדי לגבות את כספי הביטוח ובמקביל לשמור את המטען. הונאות פיננסיות שמתבססות על התחזות מתועדות כבר במאה ה־19. ב־1814 נוכל שהתחזה לקולונל בצבא בריטניה הופיע בדובר והכריז שנפוליאון הובס ושושלת בורבון הושבה לכס המלוכה בצרפת. החדשות הובילו לעלייה במחירי ניירות ערך ממשלתיים בבורסת לונדון. בהמשך התברר שהיתה זו מזימה שנועדה לבצע מניפולציה בשוק המניות. שמונה עשורים מאוחר יותר, בארה"ב, נוכלת בשם אליזבת ביגלי טענה שהיא בתו של איש העסקים הידוע אנדרו קרנגי והונתה בנקים במיליוני דולרים.
האינטרנט סיפק קפיצת מדרגה להונאות מסוג זה. הונאת "העוקץ הניגרי", שהחלה בימי הפקס, היא אחת המוקדמות לעבור לרשת ולנצל את פלטפורמת האימייל כדי להפיל קורבנות בכל העולם, עד היום. הונאות פישינג, שבהן התוקף מתחזה לארגון אמין במטרה לגרום לקורבן למסור פרטים אישיים רגישים, החלו באמצע שנות התשעים של המאה הקודמת.
כניסת מודלי GenAI לשימוש נרחב בשלוש השנים האחרונות נתנה דחיפה נוספת לענף ההונאות. ב־2022 הושקו פומבית Dall-E 2 ו־ChatGPT, ואיפשרו לקהל הרחב לג'נרט בקלות טקסטים, תמונות, סרטונים וקול. חלקם זמינים בקוד פתוח וניתנים להפעלה בצורה מקומית על מערכות עם כוח מחשוב קטן יחסית לזה של דאטה־סנטרים גדולים, ולמעשה ניתנים להפעלה ללא שום יכולת פיקוח ממשית. במהלך מערכת הבחירות לנשיאות ארה"ב בשנה שעברה העוצמה של מודלים אלו הודגמה היטב, כשתוצרים מג'ונרטים (למשל, תמונות AI של מעריצות טיילור סוויפט שמצהירות על תמיכה בטראמפ) זכו לתפוצה רחבה וזיהמו את השיח הציבורי.
בסרטוני ה־AI של הכלכלנים המשפיעים התוצרים עצמם אינם משכנעים מאוד, הקול משונה, הדמויות אינן נעות בצורה חלקה, לעתים יש קפיצות מוזרות בתנועת הידיים או הגוף – אבל הן משכנעות מספיק כדי להפיל שיעור כלשהו מהגולשים, ובתפוצה רחבה מספיק מדובר במספר מרשים של קורבנות.
סרטוני ההונאה פועלים בכמה מתווים. סוג אחד של הונאה נקרא Pump and Dump: המתחזים רוכשים בזול מניות בעלות היקף מסחר נמוך, ואז משכנעים את הקורבנות לרכוש אותן. כשמחיר המניה עולה זמנית, הם מוכרים את המניות שרכשו ועושים רווח מהיר.
בסוג אחר של הונאה המתחזים משכנעים את הקורבנות להעביר להם כספים לצורך השקעתם בצורה חכמה, ואז הם נעלמים עם הכסף. כתראן שמע גם על הונאה מסוג נוסף. "מדי פעם, לא הרבה, מישהו שואל אותי: 'מתי אני מקבל את הלינק לקורס?'. אני עונה לו: 'מה? איזה קורס? על מה אתה מדבר?'. והוא אומר: 'העברתי לך עכשיו כסף'. מישהו חשב שהעביר לי 30 אלף שקל. הסברתי שזה לא אני, שזו הונאה".
רבים מהמתחזים עושים שימוש במערכת הקידום הממומן של פלטפורמות כמו פייסבוק ואינסטגרם כדי להפיץ את הפוסטים והסרטונים השקריים. הרשתות החברתיות מצידן לא ממהרות להוריד תכנים גם כשהם מזוהים בבירור כזיופי AI.
כלכליסט ניטר בשבוע האחרון כמה סרטונים שמערכות אוטומטיות זיהו בוודאות גבוהה ככאלו שנוצרו על ידי AI (כלומר מערכות מטא היו צריכות לזהות ולחסום אותם עוד לפני פרסומם) או כאלו שגולשים מתריעים בתגובות שמדובר בזיופי AI (וסביר להניח שגם דיווחו על כך לפלטפורמה). אולם סרטונים אלו עדיין באוויר גם שבוע או יותר לאחר שפורסמו לראשונה, וממשיכים להפיל בפח גולשים תמימים.
בעקבות זאת אנשים שהסרטונים מתחזים אליהם נאלצים להשקיע משאבים כדי להתריע על הדבר. "נעצתי, גם באינסטגרם וגם בטיקטוק, סרטון שמתריע מזה", אמר כתראן. "בכל כמה ימים אני מעלה סטורי. בסוף אני צריך להתעסק בשטות הזו ולהתריע בפני אנשים במקום שמטא תוריד אותם, זה מגוחך. הם מקבלים מאות דיווחים על כל יוזר כזה מהעוקבים שלי. המתחזים עושים שימוש במערכת הפרסום של מטא, וזה מייצר ניגוד אינטרסים שלא מאפשר להם לחסום. אין לי הסבר אחר ללמה הם מסכנים את האנשים בפלטפורמה שלהם. מדווחים להם שזו הונאה, והם מתעלמים".
ואכן, בתשובות שקיבל כתראן ממטא במענה לדיווחים שלו נמסר שהוחלט שלא להסיר את הפוסטים או לחסום את החשבונות, מכיוון שהם "לא מפרים את כללי הקהילה בנושא התחזות והונאה". מנגד, כתראן מציין לשבח את הטיפול היעיל של X (לשעבר טוויטר), שהפתיע גם אותו. "כל חשבון הונאה שנפתח שם, אני מדווח ובתוך 24 שעות מעיפים", אמר. "לא היתה פעם אחת שאמרו לי שהעמוד הזה סבבה. הם מאוד יעילים, מתקתקים את זה חבל על הזמן".
התוצאה של המאבק המתמשך בחשבונות המתחזים היא פגיעה ארוכת טווח במוניטין. "אם אתה עוקב אחרי בן אדם שבכל יומיים־שלושה הוא מתעסק בזה שיש הונאה, אתה מפסיק לעקוב אחריו כי אתה לא רוצה לקחת את הסיכון", אומר כתראן. "זו פגיעה במוניטין, בהכנסות העתידיות שלי ובעיקר פגיעה בצופים. כואב לי על כל אחד שנופל. כשמישהו מהצופים שלי נפגע זו פגיעה באמון. לכן אני עסוק בלהפריך כדי שיידעו שזה קורה. ועדיין אנשים נופלים בזה".
ממטא נמסר בתגובה לפייננשל טיימס: "התחזות לדמויות ציבוריות מנוגדת למדיניות שלנו, והסרנו וחסמנו פרסומות, חשבונות ועמודים ששותפו אתנו. מבצעי הונאות הם חסרי מנוח וכל הזמן מפתחים את הטקטיקות שלהם כדי לנסות להתחמק מגילוי, ולכן אנחנו תמיד מפתחים דרכים חדשות כדי להקשות על מבצעי הונאות לרמות אחרים, כולל באמצעות שימוש בטכנולוגיית זיהוי פנים".
