כשתגיעו לקלפי כבר יהיה מאוחר מדי. ה-AI יצביע במקומכם

 

קרדיט - Chat GPT / ישראל היום 

המאמר התפרסם בגרסה מקבילה (פחות מקיפה, ללא קישורים וכו') בשישבת - המגזין הדיגיטלי של סוף השבוע של ישראל היום - https://www.israelhayom.co.il/magazine/shishabat/article/21323040

 ***

הסימנים היו שם כבר בבחירות במארס 2020. ראש הממשלה בנימין נתניהו הפיץ סרטון "מטופל" של יריבו, בני גנץ, קורא כביכול לא להצביע למפלגת כחול לבן שבראשה עמד אז. כשבע שעות חלפו מהגשת עתירה לוועדת הבחירות המרכזית ועד שהוועדה הורתה על הסרתו מכל הערוצים - שבע שעות שבמהלכן הפך הסרטון לוויראלי, והנזק כבר נעשה.

בנובמבר 2024, ברומניה, מועמד אנונימי ופרו-רוסי בשם קלין ג'ורג'סקו זינק מ-5% בסקרים למקום הראשון בבחירות לנשיאות. הבחירות נפסלו בידי בית המשפט, לאחר שהתגלה מבצע השפעה כמעט חסר תקדים בטיקטוק, שהופעל באמצעות צבא בוטים ובינה מלאכותית.

הבחירות הקרובות, על כך אין חולק, יהיו גורליות לעתידה של מדינת ישראל, וההתפתחויות המדאיגות בתחום ה עמידות מעליהן עננה של סכנה. אבל כדי לשים את האצבע על מקור האיום, ועל הדרכים שבהן הבינה המלאכותית עלולה להטות את ההצבעה שלכם, אנחנו חייבים לחזור 10 שנים אחורה.

מערכת הבחירות לנשיאות ארצות הברית ב – 2016 היוותה קו פרשת מים בהקשר זה. ואני מתייחסת כמובן לפרשת קיימברידג' אנליטיקה (Cambridge Analytica) שאל השלכותיה התוודענו בדיעבד. תזכורת קצרה. קיימברידג' אנליטיקה היתה חברת ייעוץ פוליטי בריטית שקיבלה מפייסבוק נתונים על 87 מיליון משתמשים, דרך אפליקציה מתווכת, כמובן ללא הסכמת המשתמשים לפגיעה בפרטיותם. קיימברידג' אנליטיקה ביצעה ניתוח פסיכוגרפי – אישיותי במטרה להשפיע פוליטית הן על קמפיין הברקזיט והן על הבחירות לנשיאות ארה"ב באותה שנה עבור לקוחותיה תומכי פרישה בריטית מן האיחוד האירופי  Britain Exit (Brexit) במשאל העם ודונלד טראמפ בהתאמה. בעקבות גילוי הפרשה הוגשה תביעת ענק ייצוגית נגד מטא אשר נסתיימה בהסדר יישוב תביעה על פיו שילמה 725 מיליון דולרים למשתמשיה בארה"ב אם כי ללא הודאה בפגיעה בפרטיות. במקביל חברת הייעוץ שלא עמדה בחובותיה נסגרה ופייסבוק נקטה במספר צעדים  שימנעו דליפת נתונים, בין היתר, ביטול החיבור האוטומטי לאפליקציות צד ג' ומניעת גישה מחקרית לדאטה. 

אולם בכך לא היה כדי לבטל את הפעולה שבוצעה ששינתה לעד את הקמפיינים המקוונים. הוברר כי הנתונים הפסיכוגרפיים הנוגעים לאישיותו של כל אדם ותכונותיו העיקריות (חמישה מימדי אופי – מוחצנות, נעימות, פתיחות לחוויות, מצפוניות ויציבות רגשית על פי מודל OCEAN), איפשרה לקמפיינרים ליצור עבור כל אחד מן המשתמשים בפייסבוק קמפיין אינדיבידואלי המותאם לו ולאישיותו (מיקרו טרגטינג – MicroTargeting) באמצעות הודעות מותאמות אישית: מודעות חשוכות וחבויות (Dark Ads) המוצגות רק למשתמש הספציפי ואינן מופיעות בחשבון הקמפיין הרשמי ו/או מדווחות ציבורית. בשונה מטירגוט דמוגרפי רגיל (המתמקד בגיל, מגדר, מקום מגורים והכנסה), טירגוט פסיכוגרפי מתמקד במצב המנטלי, האמונות, הערכים, הפחדים ותכונות האישיות של האדם. כך ייצרה המערכת אלפי גרסאות של מודעות פוליטיות לאותו נושא בדיוק (למשל: זכות החזקת נשק או הגירה), כאשר כל גרסה פנתה לחולשות, לפחדים, לתקוות של המשתמש המטורגט. נדגים – אדם המאופיין כנוירוטי ברמה גבוהה יקבל מסר פרסומי של תמונת פורץ חמוש (בעל זהות מובחנת של אדם זר / מהגר בלתי חוקי) המנפץ חלון של בית כדי לנצל את פחדיו, חרדותיו והצורך שלו בהגנה מיידית לצרכי הצבעה מסוימת. הטקטיקה התמקדה בעיקר בבוחרים הצפים (Swing Voters) במדינות המפתח, במטרה לעודד אותם לצאת להצביע, או לחלופין – לדכא את הצבעתם של תומכי היריב (למשל משתמשים שחורים שאופיינו כתומכי הילארי טורגטו בסרטונים "מטופלים" המציגים אותה כמי שמדברת בזלזול על אנשים שחורים ובכך מנעו מהם להצביע עבורה).

הפרשה הובילה להחמרת חוקי הגנת הפרטיות בעולם כגון הדירקטיבה האירופאית (GDPR) והגבלת האפשרויות של חברות טכנולוגיה לשתף מידע אישי של משתמשים עם צדדים שלישיים. אולם היכולת לאפיין אנשים על פי תכונותיהם, לפנות לכל אחד מהם באופן נקודתי ולשחק בתודעתם ועקב כך גם לגנוב את הבחירות, מבלי שמי מאיתנו יבחין בכך, רק התעצמה מאז. יכולת זו, בשונה מניטור נקודתי של סרטוני דיפ פייק אינה ניתנת לניהול או ניטרול אפקטיבי על ידי רשויות החוק.

בין השנים 2019-2022 נערכו בישראל חמש מערכות בחירות תוך שלוש וחצי שנים. מערכת הבחירות לכנסת ה-20 (2015) הייתה האחרונה שהשתייכה לדור הרביעי של הקמפיינים הפוליטיים מבוססי הנתונים שאפיינו את העשור וחצי הראשונים לאלף הנוכחי.

מערכות בחירות אלו סימנו מעבר לשלב חדש בתקשורת פוליטית אותו אני מכנה - הדור החמישי של הקמפיינים הפוליטיים: קמפיינים אלגוריתמיים (Algorithmic Campaigns). קמפיינים אלו מתאפיינים בשימוש נרחב באלגוריתמים ובטכניקות בינה מלאכותית המאפשרים מניפולציה מתוחכמת של דעת הקהל, תוך שהם נסתרים מעין הציבור ומתחמקים מפיקוח ואכיפה. אין מדובר רק בשידרוג טכנולוגי אלא שינוי עמוק ומניפולטיבי בכללי המשחק, איסוף נתונים אגרסיבי, ניסוח מסרים מותאמים אישית והפעלת בוחרים בזמן אמת בערוצים סמויים מן העין המתחמקים מכל פיקוח ואכיפה. אך אלו היו רק קדימון.

ואז בשלהי 2022, פרץ לחיינו מודל הבינה המלאכותית הפופולרי (במובן של בשימוש המוני ולא רק של יודעי ח"ן) הראשון, ה Chat GPT 3.5  והעצים את הקמפיינים האלגוריתמיים.

שנת 2024 הייתה שנת שיא בהיקף מערכות הבחירות שהתנהלו במהלכה מסביב לגלובוס. במהלך השנה, אזרחים ביותר מ 70 מדינות, ברחבי העולם, הלכו לקלפיות. אלו היו מערכות הבחירות הראשונות בהן ניכרה מעורבות בינה מלאכותית בקמפיינים של השפעה, דיסאינפורמציה והתערבות חיצונית שהלכה והתעצמה מאז במקביל לגידול המעריכי בשימוש בכלי בינה מלאכותית

בחזרה לעתיד

אנו עומדים בפני מערכת בחירות גורלית על עתידה של ישראל. השופט סולברג, יו"ר ועדת הבחירות המרכזית, כבר פסק בסוף החודש שעבר כי קיימת חובה לסמן תוכן שנוצר באמצעות בינה מלאכותית לצורך תעמולת בחירות. על פי החוק שיזמה וועדת הבחירות, כל פרסום תעמולתי שיש בו תוכן חזותי או קולי שנוצר כולו או חלקו באמצעים דיגיטליים או בבינה מלאכותית, או ששונה באופן מהותי באמצעים אלו, יחויב בצירוף הודעת גילוי ברורה ובולטת. הוועדה פרסמה שני סמלילים שחלה חובה לסמן באמצעותם את התכנים הרלוונטיים, והודיעה: "אי־עמידה בדרישות הסימון עלולה להיחשב הפרה של החוק, והאחריות לכך מוטלת על המפרסם". {ראו כאן את רשימת הכללים לגבי סימון תעמולת בחירות שנוצרה באמצעות בינה מלאכותית}. אבל האם באמת נוכל לזהות פעולות מניפולציה מתוחכמות יותר בפשטות? 

מבצעי השפעה זרה, מבצעי השפעה מקומיים והתווך שביניהם  או אשליית 'הבוט האיראני'

ההתמקדות הכמעט-אובססיבית של כלי התקשורת וגופי הביטחון בישראל ב"בוטים איראניים" או רוסיים מחמיצה את הלב הפועם של האיום הדיגיטלי החדש. כפי שמבהירה ד"ר תהילה שוורץ-אלטשולר, עמיתה בכירה במכון הישראלי לדמוקרטיה וראשת התכנית לדמוקרטיה בעידן המידע , המיקוד המוחלט באיומים חיצוניים מייצר "ראיית מנהרה מסוכנת". מבחינת האזרח הישראלי שנחשף לטקטיקות הפסולות, בין אם זו מניפולציה מקוונת, תוכן סינתטי מזויף או קמפיין השחרה של שחקן פוליטי, התוצאה אחת היא. אין שום הבדל מעשי הנובע ממיקום השרת ממנו מופעל הקמפיין. שחקנים פנים מדינתיים ואפילו פנים מפלגתיים משתמשים בטכניקות מאותו ארגז כלים רעיל של רשתות השפעה, חשבונות מזויפים ופעילות מתואמת לא אותנטית  על מנת להטות את דעת הקהל.

מבצעי השפעה מורכבים (Foreign Information Manipulation and Interference - FIMI ) העשויים להתמקד בהצפת תכנים במדיה החברתיים, מתוך הנחה שהאלגוריתמים יקפיצו אותם באופן ויראלי, או ב"פעילות מתואמת לא אותנטית" – הפעלת רשתות של בוטים, חשבונות מזויפים ו"בובות גרב", שיוצרים מצג שווא של תמיכה ציבורית רחבה, מסבירה ד"ר שוורץ-אלטשולר, לעולם אינם משנים את התודעה הציבורית לכשעצמם אלא רק כאשר הם נשענים על מה שהיא מכנה "קנוניה וירטואלית" (Virtual Collusion)  , חודרים לשיח הציבורי המקומי ומקבלים חיים חדשים מגורמים פוליטיים וציבוריים ישראלים המהדהדים אותם; לעיתים קרובות מבלי דעת, רק כדי לנגח יריבים פוליטיים פנימיים.

הארכיטקטורה הטכנולוגית – מטרות ואסטרטגיות ההשפעה המניפולטיבית

שוורץ-אלטשולר מבחינה בין מסרים המעמיקים את הקיטוב החברתי והפוליטי; מסרים המערערים את יכולתנו לפרש את המציאות נכוחה ולהבדיל בין אמת לזיוף (ממש כמו בספרו של אורוול 1984 שם האמת היא שקר והמלחמה היא שלום) ומסרים 'תפעוליים' המשפיעים על תהליכים דמוקרטיים החל ממנגנונים לדיכוי הצבעה כגון שליחת דיווחים מפוברקים על אירועים בטחוניים בקלפיות מסוימות או ציון חובת עטיית מסיכה במסר וואטסאפ ייעודי לציבור הערבי בבחירות 2020 עוד בטרם חלה חובה זו בבחירות 2020)  ועד לערעור האמון בתוצאות (למשל על ידי הכפשת חברי ועדת הבחירות המרכזית, הטלת ספק פומבית ביושרתם ועוד). אולם בעוד מטרות המסרים לא השתנו מזה שנים, דרכי הפצת המסרים עברו קפיצת מדרגה ענקית בארבע השנים שחלפו ממערכת הבחירות בנובמבר 2022. 

אם בסבבי הבחירות הקודמים התמקדו ניסיונות השכנוע בפוסטים אפלים וצ'טבוטים מובנים שהעבירו מסרים פוליטיים בפייסבוק כדוגמת הביבי-בוט, הרי שכעת החשש מפני העברת מסרים פוליטיים מתגמד מפני החשש כי הבוט משמש מנגנון לאיסוף מידע. פרופ' ענת בן דוד מזהירה כי אינטראקציה עם מודל בינה ייעודי פוליטי (הדור המתקדם של הצ'טבוט הפוליטי) עשויה לחשוף, אף בהיסח הדעת,  מידע אישי ופוליטי רב החל מזהויות חברתיות דרך עמדות בנושאים שנויים במחלוקת ועד מחויבות השיוך למחנה פוליטי מסוים. גם כאשר מידע כזה משתמע בלבד, יכולת ההסקה מדפוסי השיחה אפשרית. זאת ועוד, בעידן הביג דאטה ניתן בקלות לבצע אינטגרציה של מידע זה עם מאגרי מידע פוליטיים קיימים, מה גם שאנו עוסקים במערכות בעלות יכולת למידה עמוקות המסוגלות להגיב בזמן אמת ולהשתיל מסרים במהלך השיחה. ד"ר לימור זיו מחדדת את הסכנה הטמונה בצ'טבוטים הפוליטיים ומזהירה מפני השימוש באופטימיזציה למנועי בינה מלאכותית Generative Engine Optimization כדרך להשפיע על הבחירות. כך, קמפיינרים מציפים את הרשת במאמרים ובציטוטים ממוקדים, כדי שהמודלים יסרקו אותם ויפלטו את המסר הרצוי כעובדה נחרצת. מאחר ומחקרים העלו כי שיחה עם מודל שפה משנה עמדות בוחרים יותר מפרסום מסורתי, הסכנה מיידית וברורה.  כשהמפלגות עצמן יתחילו להפעיל צ׳אטבוטים לשיחה ישירה עם בוחרים כדי לשכנע, הם יעדיפו שכנוע על דיוק. נוסיף על אלו גם את הסקרים הפתוחים המופצים באינטרנט, עליהם משיבים אלפי בוטים שנקנו על ידי המפלגות במיוחד על מנת להטות את תוצאותיהם ואת מודיעין המודעות (Ad Intelligence – AdInt) המחבר בין השביל הדיגיטלי האנונימי לכאורה לזהותנו בעולם האמיתי ונמכר למפלגות.

מסרטוני DeepFake  וקטעי אודיו מזויפים לסלופגנדה Slopaganda ותשישות מחשבתית

עידן רינג מבהיר את פשר המונח סלופגנדה - : הלחם של AI slop תוכן בינה מלאכותית ירוד והמוני ושל פרופגנדה, אותו טבעו קלינצביץ׳, אלפנו ואברהימי פארד במאמר שפרסמו ב- 2025; במטרה לתאר  תעמולה המנצלת תוכן גנרטיבי זול והמוני כדי להשפיע על אמונות, רגשות ותשומת לב ולהשיג מטרות פוליטיות באמצעות פלטפורמות דיגיטליות המונעות בידי אלגוריתמים. הסלופגנדה "מתעלה" על התעמולה המסורתית בהיקף הייצור המהיר והזול, ביכולת הפשוטה להתאים תכנים לקהלים שונים ובקצב הפצה ויראלי. הסלופגנדה המרושלת מלכתחילה אינה נשענת על אמינות, ומטרתה קיבוע קיבוע אסוציאציות רגשיות מהירות (לעג, שנאה, פחד) תוך דחיקת כל דיון ענייני ועובדתי מהסדר הציבורי (למשל אייזנקוט מעדיף את מנצור עבאס על בנו שנפל בקרב) .

הצפת השיח בסרטונים וקטעי קול שמופרכותם וזיופם גלויים לכל מעכירה את השיח ומתישה את הציבור. התוצאה היא תשישות קוגניטיבית וקריסת קשב (Attention Collapse). כשהכל מזויף, מי יכול לבדוק בנקל מהי האמת. זאת ועוד, באופן אבסורדי, מסבירה ד"ר זיו, דווקא טענות לזיוף, מגבירות את התמיכה בפוליטיקאים, על פי אפקט דיבידנד השקרנים (צ'סני וסיטרון, 2018), בקרב תומכיו שבתגובה מתבצרים עוד יותר בפוליטיקת זהויות שבטית ללא שיח כלשהו.

פתרונות בעלמא – ריק רגולטורי והיעדר גורם מתכלל

על אף החלטותיו האחרונות של סולברג (חובת סימון תכני AI, תקדים מחיקת הסרטונים המטעים של סמוטריצ' למרות כתוביות ההבהרה (משום שמשתמשים גוללים במהירות בפיד והאיסור על חברי וועדות הקלפי להעביר למפלגותיהם בזמן אמת נתונים על זהות הבוחרים שכבר הגיעו להצביע), ועדת הבחירות המרכזית היא גוף חסר יכולות אכיפה משמעותיות המתמודד עם מקרים ספציפיים של זיופים דיגיטליים באמצעות סעיפים כלליים בחוק, ובעיקר לאחר שמוגשות עתירות. בנוסף, האחריות להתמודדות עם השפעה זדונית במרחב הדיגיטלי מפוצלת בין ועדת הבחירות המרכזית, השב"כ, משטרת ישראל, מחלקת הסייבר בפרקליטות ומערך הסייבר הלאומי. מחקר של מרכז המחקר והמידע של הכנסת מצביע על היעדר גורם ממשלתי מתכלל ועל חוסר בהירות בחלוקת הסמכויות, בעיקר בתקופות שבין מערכות בחירות. במקביל, פעילותן של פלטפורמות כמו מטא וגוגל בישראל מוסדרת כיום בעיקר על בסיס וולונטרי, בעוד שבאיחוד האירופי אותן חברות אף הפסיקו לאפשר פרסום פוליטי מסוים בשל החובות הרגולטוריות המחמירות (חוק הבינה המלאכותית וחוק השירותים הדיגיטליים).

לאור כל זאת, נראה כי נותרנו לבד בקרב על קיום בחירות הוגנות. אכן, על אף הצורך הברור במוסדות שלטוניים שיתפקדו כגופים פעילים, ביקורתיים ונשכניים המגנים על הזכות לאמת במיוחד בהקשרי פוליטיקה ובחירות, לא ניתן להתחמק מן המחשבה לגבי האזרח האחראי במאה ה- 21 שלו תפקיד פעיל בשימור המשטר הדמוקרטי ואת זאת לא ניתן לבצע ללא אוריינות דיגיטלית, חשיבה ביקורתית ובחינה מתמדת של המציאות הנשקפת אלינו, בעיקר, מן המסכים אליהם אנו צמודים.

אם מערכות הבחירות הקודמות לימדו אותנו משהו, הרי זו התובנה שהאיום כבר אינו חיצוני. הוא מסתתר בכל גלילה, בכל שיתוף, בכל רגע שבו אנחנו מעדיפים להזדעזע על פני לבדוק. הדמוקרטיה לא תישבר בידי בוט אחד; היא תישבר בידי מיליון אזרחים שהחליטו שלא מתפקידם לבדוק מה נכון.