הכלכלה הפוליטית מאחורי הבינה המלאכותית - רשמים מהרצאתה של דנה בויד

 

danah boyd – Avoiding Traps, Tracking Decoys: The Political Economy of AI (31.12.2025)

סיכום הרצאה והארות: דנה בויד: נמנעים ממלכודות ומנטרים פתיונות: הכלכלה הפוליטית מאחורי הבינה המלאכותית מרכז הנשיא שמגר למשפט דיגיטלי וחדשנות, אוניברסיטת תל אביב (31.12.2025)

חלפו לא מעט שנים מאז שסיקרתי כאן הרצאות אקדמיות שנכחתי בהן, אבל האירוע הזה סיפק לי הזדמנות מצוינת לשוב למקלדת ולחדד עבורכם מספר תובנות שאני מביאה איתי בדרך כלל לכיתה או לחדרי הישיבות. 

באיחור אופנתי של כשבוע מן המועד המתוכנן וממש ערב השנה האזרחית החדשה (31.12.2025) הגיעו חוקרי משפט וטכנולוגיה רבים לשמוע את פרופ' דנה בויד באירוע ההרצאה השנתית של מרכז הנשיא שמגר למשפט דיגיטלי וחדשנות בפקולטה למשפטים באוניברסיטת תל אביב. האווירה הייתה חגיגית ומחויכת למדי עם בופה קליל וסנגריה חמה כפתיח להרצאה על בינה מזווית אחרת. 

למי שלא מכיר את פרופ' דנה בויד (שמאייתת את שמה במכוון ללא אותיות רישיות גדולות danah boyd), דנה הייתה בין מקימי מכון המחקר של מיקרוסופט בסוף העשור הראשון של שנות ה 2000 ואף ייסדה את מכון המחקר Data & Society לאחרונה חזרה לאקדמיה והיא משמשת כפרופסור בחוג לתקשורת באוניברסיטת קורנל ופרופ' אורח באוניברסיטת ג'ורג'טאון. לאחר שבמשך שנים עסקה בנושא הפרקטיקה היומיומית של שימוש בני נוער ואנשים צעירים ברשתות החברתיות היא מתמקדת היום בשאלות הנוגעות לקשרים בין אי שוויון חברתי וטכנולוגיה כמו גם מה הופך שימוש בדאטה ללגיטימי. עוד תוכלו לקרוא עליה ועל עבודתה כאן - https://www.danah.org

 אני מביאה לכם כאן את עיקרי הרצאתה עם הסברים, הערות ותובנות שלי.

מלכודת הפתרון הטכנולוגי (הטכנולוגיה תפתור הכל) 

נקודת המוצא של ההרצאה הינה הצורך לבחון את הבינה המלאכותית בהקשר רחב ולא רק כטכנולוגיה. בויד מציעה לנו להחליף דיסקט ולהסתכל על הכלכלה הפוליטית העומדת בבסיס ההייפ הבינתי. ולצורך כך נבחן כמה מושגים 

 דטרמיניזם טכנולוגי ותפיסת פתרונות טכנולוגית (תרגום שלי ל – Technological Solutionism)

}דֵּטֶרְמִינִיזְם טכנולוגי הוא זרם במדעי החברה, הטוען כי התפתחות הטכנולוגיה מעצבת ומובילה את התפתחות החברה, ערכיה, כישורי האנשים החיים בחברה וצורת המחשבה שלהם. הטכנולוגיה היא שמשפיעה על החברה, ויש לה התפתחות עצמאית שאיננה מושפעת מגורמים חברתיים. מייסדי הזרם הם חוקרי התקשורת הרולד אדמס איניס ומרשל מקלוהן (אסכולת טורונטו) - הטכנולוגיה היא שמאפשרת לאמצעי תקשורת חדשים להתפתח. הם מתפתחים, ומשפיעים על כלל החברה. בהמשך לתפיסה הדטרמיניסטית הזו, תפיסת הפתרונות הטכנולוגית מציבה את הטכנולוגיה ככזו שתפתור את כל בעיות החברה.}

הדרך שבה מממנים פתרונות טכנולוגיים, אומרת דנה, מובילה להשלכות מסוימות. הדומיננטיות של הגישה משפיעה על דרך המחשבה והתוצאה מובחנת ומוחלטת. 

 כלכלה פוליטית – תחום הכלכלה הפוליטית מניח כי אנשים, שווקים, חברות, מערכות ומדינות קשורים וכרוכים זה בזה;  וזו נקודת מפתח להבנת ההייפ של הבינה המלאכותית. מאחורי הבינה המלאכותית יש אג'נדה כלכלית. כולם מתעסקים בטכנולוגיה ולא בכלכלה הפוליטית סביב הבינה.

פיננסיזציה  Financialization)) – המונח מתייחס לתהליך שבו הפיננסים (מגזר הבנקאות, ההשקעות, שוק ההון) הופכים דומיננטיים יותר בכלכלה ובחברה. מאחורי המונח, בהקשר בו אנו דנים, מסתתרת מטרה להפוך את טכנולוגיית הבינה המלאכותית לנכס כך שבעלי המניות ירוויחו וימשיכו להרוויח לאורך זמן. כל תוצאה אחרת אינה רצויה.

 דנה מזכירה גם את תופעת השיטיפיקציה (Enshittification) מונח שטבע הבלוגר והסופר קורי דוקטורוב Cory Doctorow  בספר בשם זה בנובמבר 2022. התופעה מתארת את התחושה המוכרת לרובנו של ירידה באיכות שירותים, מוצרים מקוונים ותכנים עד לרמה של זבל (אני עדינה בהשוואה למילה שבחר דוקטורוב 😉). ככל שלרשתות החברתיות נגמרה היכולת להתרחב בכדי להגדיל את רווחיהם, הן פשוט התחילו להציף בתכני זבל ואכן התחזיות היא שבעתיד המאד קרוב לא תהיה סיבה להיכנס לאינטרנט שיהפוך לשירותים הכימיים המקוונים של האנושות.

{אוף טופיק אבל באותו  הקשר רחב  – בימים אלו התפרסם מאמר העוסק בהשפעות הבינה על הכתיבה האקדמית – תהליך מקביל של ג'אנקיפיקציה  של המחקר  Junkification of Research  – ראו כאן:

https://journals.sagepub.com/doi/10.1177/13505084251399576  }

 

אוקיי, אז האינטרנט מחורבן, במה משקיעים?

בתקופת הקורונה, עסקים היו צריכים לחשב מסלול מחדש, עתיד הטכנולוגיה הפך לדבר הכי חשוב שניתן להשקיע בו. שלושה נושאים שעמדו על הפרק:

1. קריפטו – כלומר מטבעות קריפטוגרפיים או מבוזרים. כל נושא הקריפטו לא כל כך הצליח בלשון המעטה והתברר כבועה. לא הרבה משקיעים רצו לגשת לתחום זה במיוחד לאור ריבוי התרמיות (ראו לדוגמא סם בנקמן פריד SBF ובורסת הקריפטו שלו FTX)

2. המטאברס Metaverse –  זוכרים (או לא) את הבאז סביב המטאברס וההצהרות הבומבסטיות של מארק צוקרברג סביב הסו קולד השלב הבא של האינטרנט ואיך כולנו נעשה קניות במטאברס באמצעות אוואטרים? ופוף גם הבלון הזה התפוצץ וכולנו עושים קניות במטאברס בדיוק כמו שאנחנו עושים קניות ב Second Life.....עוד ענף השקעה שירד לטמיון

3. מה נשאר? הבינה המלאכותית. וב 30 לנובמבר 2022 בדיוק לפני 37 חודש פרץ לחיינו ChatGPT 3.  מיד כל ההון זרם לשם – גם מי שמשווק תחזיות טכנולוגיות וגם קרנות הון סיכון

 

שימו לב ל 7 המניות הכי חשובות בבורסה הניו יורקית – Magnificent Seven

1.     מיקרוסופט

2.     אלפבית = גוגל ויוטיוב וכו'....

3.     אפל

4.     מטא = פייסבוק, אינסטגרם, וואטסאפ וכו'

5.     אמזון

6.     טסלה

7.     אנבידיה

כל ההשקעות המדינתיות, קרנות ההשתלמות, חברות הביטוח וכו', הכל מושקע במניות אלו. לירידת ערך או נפילה של מניות אלו יש השפעה עצומה על כלל החברה והכלכלה ולא רק על החברות העסקיות הללו עצמן.

גם בישראל כל תחום ההשקעות בונה על החברות הללו – בתי ההשקעות, הפנסיה, חברות הביטוח, מוסדות ממשלתיים – ולכן חייבים לדאוג שהחברות הללו ימשיכו להרוויח.

 שוק העבודה 

גם שוק העבודה בהקשר הטכנולוגי נחל מפלה. החברות השקיעו בחומרה, הוסיפו עוד ועוד שרתים ושרתי מידע ושילמו שכר טוב מאד לטאלנטים. אחוז הלומדים מדעי המחשב באוניברסיטאות נסק מ 10% ל 25% עד שהתחום התרסק תעסוקתית. רוב האנשים שנכנסו לעבודה בענף המיחשוב במהלך תקופת הקורונה, נאלצו להשתלב במהלך תקופה של בידוד ומעבר לעבודה מרחוק, רובם לא הצליחו להסתגל ולקיים קשרי עבודה מרחוק לאורך זמן ולבסוף פוטרו בעוד הסברה הרווחת היא שהם פוטרו בשל התפתחות הבינה.

 שלל פתיונות למכור לנו את ההייפ 

הכלכלה הפוליטית משתמשת במגוון פתיונות כולל שימוש באמצעים רטוריים על מנת להעצים את ההייפ סביב תעשיית הבינה המלאכותית:

1. שימוש במונחים מלחמתיים ותיאור קצב תופים (Drum Beat)  - אנחנו תיכף שם, תיכף שם, תיכף שם.... (הנה הבינה הכללית משתלטת על העולם...)

2. 'וואו, כדאי לכם להשקיע בזה' (It’s worth it….) – כולם רוצים לחסוך כסף. כולם משתמשים בבינה המלאכותית כתירוץ לפטר...כי תיכף מגיעים לרמה של בינה מלאכותית כללית...כי תיכף המקצועות נכחדים מהעולם...כי תיכף הבינה תחליף את כולנו ...

 בל נשכח שהעלויות האמיתיות של שימושי הבינה חבויות בתוך המערכת כקופסה שחורה. הרי ה – 20$ שאנחנו משלמים לחודש על קלוד, ג'פטו או ג'מיני לא באמת מכסים על העלויות האמיתיות של הפיתוח, של הנזקים הסביבתיים שנגרמים לסביבה, של צריכת החשמל המוגברת וכו'

אז איך בוחנים את העלויות? זו שאלה של מדיניות. רוצים למכר אותנו שנשתמש עוד ועוד ועוד...כלומר נגביר את הצריכה של שימושי הבינה כך שלא נוכל בלעדיהם משום שהתמריץ הוא הגדלת הרווחים הכלכליים של החברות והמשקיעים.

אבל! מזהירה דנה....אנחנו כבר יודעים שאבטלה הולכת וגדלה מובילה לכיוון אלים!

 3. ושוב מגיעים לתפיסת ה – 'זה בלתי נמנע' It’s Inevitable) ) – אבל זהו פיתיון כי כל פעולה שלנו אינה בלתי נמנעת היא תלויה בנו. כך גם הבינה, התפתחותה ויישומה תלוי בערכים שלנו .

 4. אשליית השיבוש או שיבוש הוא טוב  (Disruption is Good) – מבחינת המגזר הטכנולוגי כי ההפרעות ייצרו בסוף תוצר יותר טוב, אבל זה לא בהכרח נכון.

{כאן בעצם דנה מתייחסת לתיאוריה הידועה במנהל עסקים כתיאוריית החדשנות המערערת של קלייטון כריסטיאנסן (Disruptive Innovation) - חדשנות מערערת / משבשת היא תהליך שבו מוצר / שירות מכה שורש תחילה ביישומים פשוטים בתחתית השוק ואז ללא הרף מתקדם במעלה השוק עד להחלפתם של המוצרים / שירותים המתחרים המבוססים כבר בשוק (הדוגמא הקלאסית לחברה ששיבשה את עצמה והגיעה רחוק היא אפל ומכשירי האייפון והאייפוד שלה). אבל כפי שאני מלמדת את הסטודנטים שלי. כבר מזה כעשור ישנן הוכחות הולכות ומתרבות לכך שהתיאוריה אינה בהכרח נכונה במרחק הזמן (ולכך מרמזת דנה). כבר לפני כעשור הלכו והתרבו ההוכחות שחידוש מערער לא בהכרח יצליח הן בגלל שהחברות הגדולות למדו לייצר חדשנות משמרת (עובדה – נטפליקס שהיתה המערערת הגדולה של ראשית האלף מבססת באמצעות חדשנות משמרת את מעמדה כגוף הכי חזק בסטרימינג הטלוויזיוני בעקבות הרכישה האחרונה); הן בגלל שהכסף מתחלק אחרת - קרנות הון סיכון, משקיעים אחרים ומנהלי כספים התחילו להפחית את השקעותיהם ביזמים צעירים בשלבים מוקדמים. במקום להשקיע מעט בכל מקום, היום הכסף נודד לחברות בשלבים מתקדמים יחסית ובהערכות שווי גבוהות במיוחד, היכן שההבטחה כבר כמעט התממש (הנה שוב מופיעה הבינה...) ולבסוף גם התעשיות המסורתיות התעוררו - החברות הוותיקות שפועלות בתעשיות המסורתיות, הכבדות והאיטיות, מבינות היום יותר מתמיד שאם הן רוצות להישאר רלוונטיות הן צריכות להתעורר ולהגן על עצמן.}

 דנה מזכירה את עמדתו של הסוציולוג הידוע מנואל קסטלס, אחד מראשוני חוקרי האינטרנט : תיאוריית הרשת של הכוח Network Theory of Power. קסטלס גורס כי העוצמה בחברת הרשת מבוטאת דרך הרשתות ולכן הרשתות מתחווטות מחדש גם במצב של שיבושים והפרעות בהתאם לאינטרסים הפנימיים של המושכים בחוטים.

הפתרון: ניהול מתוך התערבות ולא מתוך פאניקה

 פתרונות טכנו-משפטית (Techno-Legal Solutionism) – קובעים מדיניות שממנה המגזר הטכנולוגי מרוויח

 המסר של בויד (עליו אני חותמת כמי שנמנעת מתפיסות דטרמיניסטיות ומתעדפת תפיסות מורכבות בהן ההשפעות הן רב כיווניות) כשגם הטכנולוגיה וגם המשפט מתחתנים עם התפיסה הדטרמיניסטית זה פשוט נורא. היא פונה לחוקרים, לאנשי הטכנולוגיה והרגולציה ומבקשת שנוותר על תפיסת הפתרונות בנושא הבינה ובמקומה נבחר בביצוע התערבויות לאורך הדרך Interventions, not Solutionism. Just say NO to solution, use Intervention instead. התערבויות מאפשרות הסתגלות מהירה יותר ותיקונים בשונה מניסיון להציב אל מול דטרמיניזם טכנולוגי דטרמיניזם משפטי.

 דנה ממליצה על יישום גישת SCOT שארחיב גם עליה טיפה

אז בעצם גישת הסקוט = ראשי התיבות של  Social Construction Of Technology, מתייחסת להבניה חברתית של טכנולוגיה. למה הכוונה? גישה זו מציעה מודל לבחינת קשרי הגומלין שקיימים בין החברה לטכנולוגיה ומצביעה על ההשפעה ההדדית שקיימת בין הגורמים הפועלים. על פי גישה זו הטכנולוגיה משפיעה עלינו אך היא איננה אוטונומית ואיננה השחקן היחיד הפעיל במגרש. גם אנחנו כפרטים בחברה משפיעים עליה, מעצבים אותה, ומבנים אותה בהתאם לתפיסותינו התרבותיות, הכלכליות והפוליטיות. כלומר לנו כחברה וכפרטים היכולת לבחור מה מתאים לנו ומה לא מתאים לנו לאמץ.

אחת הדוגמאות הכי קלאסיות להבניה חברתית של טכנולוגיה היה הניסיון של גוגל להציג לעולם את המשקפיים החכמות (גוגל גלאס) ב 2012. המהלך נכשל כישלון חרוץ באותה עת ונגנז לתקופה ב 2015 משום שאנשים התקשו לקבל את השימוש הציבורי בו (באחד המקרים אדם שהרכיב משקפי גוגל גלאס כשנכנס למסעדה נתבקש לצאת ממנה לאחר שהסועדים האחרים נלחצו מהפרת פרטיותם); היום נראה שהרעיון יתקבל בפחות חשדנות.

מבט אישי לעתיד 

 כאמור, אני מסכימה עם בויד בהעדפת החשיבה המורכבת על פני תפיסת הטכנולוגיה כאומניפוטנטית. עם זאת, הניתוח שלה הוא אמריקנו-צנטרי בעיקר בגלל שחברות הטכנולוגיה הגדולות הן חברות אמריקאיות וכמובן היות והוא מתמקד בחברות קפיטליסטיות (רציונל הכלכלה הפוליטית לא רלבנטי במדינות ללא מדיניות שוק חופשי laisser faire ).

אולם לא ניתן להתעלם ממירוץ החימוש הבינלאומי אל עבר בינה מלאכותית כללית, מלוחמת העתיד (שדה הקרב העתידי) ומן המלחמות על התודעה.

הבינה המלאכותית אינה נחלת העולם המערבי בלבד; סין היא קונקורנציה משמעותית, רוסיה מפתחת בינה מלאכותית "ריבונית" (אם כי במירוץ הכללי היא נשרכת מאחור) וגם הסדר העולמי אינו כשהיה. כלומר, למירוץ אל עבר השגת בינה מלאכותית כללית ישנן השלכות גאו-אסטרטגיות רבות ומן הבחינה הזו הבחירה של ארה"ב לתעדף את הענף הכלכלי הזה נובעת מרצונה לעמוד בחזית מירוץ החימוש. כמובן שזה לא סותר את הכלכלה הפוליטית של הבינה אולם היא אינה יכולה להיבחן במובחן ובנפרד ממכלול השיקולים, המשפיעים על התיעדוף של הענף, שקצרה היריעה שלי מלהרחיב עליהם במסגרת זאת. חשוב לציין כי חברות, ארגונים ומוסדות שרוצים להבין לאן הטכנולוגיה הולכת חייבים להבין קודם כל את הכוחות המניעים אותה

קרדיט תמונה - www.freepik.com