הכנס השנתי השני של מכון ברנדייס – “רשתות חברתיות וביטחון לאומי”

הכנס השנתי ה-2 של מכון ברנדייס עסק השנה בנושא בוער במיוחד – “רשתות חברתיות וביטחון לאומי”. לאחר מתקפת הפתע על ישראל בשבעה באוקטובר 2023 לא ניתן היה להתעלם מהכתובת על הקיר: הרשתות החברתיות לא רק מזיקות לפרט אלא משמשות כלי אפקטיבי באופן חסר תקדים לריסוק מדינות וקהילות שלמות.

ישראל והתפוצות הן מקרה קיצון בסערה העולמית שמחוללות הרשתות החברתיות.  אין עוד מדינה בעולם המצויה במרכז מלחמה פיזית רב-זירתית, מתקפות סייבר ומתקפות השפעה זרה מצד גורמים עוינים הנתמכים על ידי מעצמות, הן על הציבור והן על הקהילות היהודיות בעולם וכל זאת במקביל להתמודדות עם שסע פוליטי-חברתי-כלכלי עמוק ותהליכי נסיגה דמוקרטית.

חלק ניכר מתופעות הרסניות אלה מתאפשרות בגלל פעילותן של הרשתות החברתיות – פייסבוק, טיקטוק, ווטסאפ, אינסטגרם, X (טוויטר), טלגרם, ואחרות. 

מיפוי הנזקים שמחוללות ומאפשרות הרשתות החברתיות לבטחון המדינה, מדוע הן מחוללות אותם ומה אפשר ואי אפשר לעשות כנגד האיום הקיומי הזה – אלה השאלות שעמדו  במוקד הכנס שנתי ה-2 של מכון ברנדייס. הכנס הוא חלק מפרויקט מחקר נרחב העוסק ברגולציה של הרשתות החברתיות ונתמך על ידי תורמי המכון ןעל ידי הקרן הישראלית לדמוקרטיה.

הכנס התקיים בקמפוס המכללה למינהל ב- 14 ביולי 2024, שהוא גם יום ציון נפילת הבסטיליה בצרפת – יום שמסמל מאבק למען חירות וצדק. בכנס השתתפו אנשי מערכת הבטחון, מומחי טכנולוגיה וסייבר, אנשי תקשורת ואנשי אקדמיה ממגוון תחומי ידע. תכני הכנס פתוחים לצפייה.

דברי ברכה

“התמונה המצטיירת ברשתות החברתיות היא תמונה מעוותת” אמר נשיא המדינה יצחק הרצוג בדברי הברכה בפתיחת הכנס.

עוד במברכים: נשיא המכללה למינהל פרופ’ יורם רבין, ויו”ר פורום המייסדים של מכון ברנדייס, ברק גונן.

"הנזק של הרשתות החברתיות לדמוקרטיה ולביטחון - לא מטופל"

ניתן לחלק את הנזקים שמחוללות הרשתות החברתיות לנזקים לפרט, לנזקים לעולם המסחר ולחדשנות, ולנזקים לאינטרס הציבורי.

ד”ר עידו באום, מנהל מכון ברנדייס, פתח את הכנס בהצגת הבעיות העיקריות שמייצרות הרשתות החברתיות והציג את רמת הרגולציה בכל אחד מהתחומים שבהן הרשתות מחללות נזקים וסיכונים.

"כוח, רווח ועיוותים - מאחורי הקלעים של הרשתות החברתיות" / פרופ' אריאל אזרחי

פרופ’ אריאל אזרחי מאוניברסיטת אוקספורד, חבר המועצה האקדמית המייעצת של מכון ברנדייס, הוא מהחוקרים המובילים בעולם בתחום דיני התחרות והשפעת האלגוריתמים של ענקיות האינטרנט על חיינו.

 

בהרצאתו מסביר פרופ’ אזרחי כיצד המודל העסקי של הרשתות החברתיות מיטיב עימן דווקא כאשר הן מזיקות לנו, ומדוע הסיכוי שהרשתות החברתיות יטמיעו באופן יעיל רגולציה עצמית שואף לאפס.

בהרצאתו המרכזית עמד פרופ’ אזרחי על התמריצים הכלכליים שמניעים את הרשתות החברתיות לפעול במסגרת האלגוריתם שמהדהד תוכן שלילי, מסית, ושקרי.

“שליליות מייצרת תוכן. לכן כשמייצרים תוכן שמעורר אחרים, מקבלים לייקים וכסף. זה מחנך את הקהל. האלגוריתמים מעודדים פייק ניוז ותיבות תהודה, לא מכוונת רוע אלא כי שם הכסף. יצרנו לחברות הטכנולוגיה תמריצים ליצור שליליות וחיכוך, כי שם הכסף”

פאנל: "האיום הבטחוני"

מדוע סין, רוסיה ואיראן מנהלות קמפיינים להשפעה על דעת הקהל בישראל? כיצד הן עושות זאת? האם זהו סיכון קיומי?

חמישה דוברים עתירי נסיון מתחומי הבטחון, המודיעין, הסייבר, המחקר וקמפיינים של השפעה זרה ברשתות מסבירים כיצד פועלת ההשפעה הזרה ברשת ומה רוצות המעצמות העוינות להשיג כאן.

ד”ר הראל מנשרי, ממקימי מערך הסייבר בשב”כ,
ראש תחום סייבר במכון הטכנולוגי חולון ועמית מחקר בכיר במכון ברנדייס: “טיקטוק זו סכנה גדולה.
לדמוקרטיות יש בטן רכה שקל לפגוע בה, לכל אחד יש קול וחופש להביעו. מ-2003 יש
לסינים מדיניות 3 אסטרטגיות: השפעה על קובעי מדיניות, השפעה על דעת קהל ועיתונות והשפעה על מערכות משפט.
האלגוריתם בטיקטוק מאפשר להשפיע על המשתמש, מה שהמתכנתים רצו שהוא יראה”.

ד”ר יעקב (קובי) פלקוב, מומחה להשפעה רוסית במכון
לחקר מתודולוגיה של המודיעין: “לנין דיבר על אידיוטים שימושיים – ניקח ממדינות המערב את
הטכנולוגיה שהן מפתחות ונותנות, ונשתמש בה כחבל כדי לתלות אותם”.

ליבי עוז, ראשת אגף דוברות והסברה וחברת צוות המדיניות
בנושא השפעה זרה במערך הסייבר הלאומי: “מתחילת המלחמה ראינו שהשפעה על הציבור באה בהרבה דרכים –
הטרדות, פישינג, קמפיינים. זיהינו פער: אף אחד לא מחזיק תמונת מצב, ונכנסנו
לאירוע. היום אנחנו עוסקים בהתמודדות עם קמפיינים של השפעה זרה שנועדו לפגוע בחוסן
הלאומי“.

שרון בר-לב, מומחה בניהול קמפייני השפעה, לשעבר במערכת הביטחון: “בזמן אינתיפאדת הבודדים לפני עשור, שב”כ זיהה ברשתות גם את הנרטיבים וגם את הקריאות לפעולה. שב”כ פנה אז לרשתות עם רשימות של 100 פרופילים שקראו לקחת סכין ולדקור את היהודי הראשון. מה קרה? סגרו 2 פרופילים”.

ד”ר גיתית בראון, מנהלת מחלקת המחקר בFakeReporter. “אנחנו מדווחים לרשתות על הפרת כללי הקהילה, אבל לצערנו רמת שיתוף הפעולה מצדן נמוכה. למה זה קורה? תשמע, יש פה הרבה אנשים מכובדים, אבל אין נציגים מהרשתות”; עידו באום מעיר: “הזמנו נציגים מהרשתות החברתיות, אבל הם לא באו”.

שיחה עם ד"ר איל חולתא

ד”ר איל חולתא, לשעבר היועץ לביטחון לאומי וראש המועצה לביטחון לאומי וכעת עמית מחקר במכון FDD בארה”ב מדבר על ההשפעה האיראנית, הרוסית והסינית באמצעות הרשתות החברתיות. וגם על מורכבות האינטרסים במערב, ומדוע לוקח זמן רב עד שממצאים מטרידים על קמפיינים של השפעה זרה מגיעים לידיעת הציבור.

“האיראנים, הסינים והרוסים לא מחוללים או ממציאים את נקודות המחלוקת, אבל כל כך קל לרכוב על הגלים. איראן מחפשת לפרק אותנו. היא בונה מעגל אש מסביבנו, מתדלקת טרור ולא מפספסת הזדמנות לפורר מבפנים. והרוסים רוצים להסיט תשומת לב ממה שהם עושים באירופה… הסינים… הם רק מספקים את הדלק. מבחינתנו זה כאוס”.

לדברי חולתא, “ראשת המודיעין הלאומי בארה”ב אווריל היינס פרסמה באיחור של 9 חודשים, שיש השפעה איראנית על דעת הקהל בארה”ב. למה? גם בוושינגטון יש פוליטיקה, לא נעים להודות. וכשמתחילים לבדוק את צינורות הכסף זה בעייתי. למה לוקח זמן לחקור את השפעת קטאר על הקמפוסים? יש דברים שמעדיפים לא לדעת”.

שיחה עם ח"כ אורית פרקש הכהן (המחנה הממלכתי)

טל שניידר, הכתבת המדינית והפוליטית של “זמן ישראל” מראיינת את ח”כ פרקש הכהן שמכהנת כיו”ר ועדת המשנה לענייני בינה מלאכותית וטכנולוגיות מתקדמות ובעבר היתה שרת המדע והחדשנות. פרקש הכהן מדברת על המודעות – הלוקה בחסר – בקרב מקבלי החלטות לסיכוני הסייבר וקמפיינים של השפעה זרה ומה ניתן לקדם במסגרת וועדת הכנסת הרלוונטית.

“יש ברית בין סין, רוסיה איראן שלא כפופה לשום כללי אתיקה”, ח”כ פרקש הכהן מזהירה כי בישראל החקיקה והאסדרה של התחום מצויה בחסר גדול לעומת שאר העולם. למשל, לא קיימת מגבלה על שימוש של פוליטיקאים ברשת טיקטוק במכשיר הנייד הקבוע שלהם למרות שהרשת אוספת מידע ויש חשש שהמידע מגיע לגורמי ממשל סינים.

"הרשתות החברתיות - איום קיומי" / גיא רולניק

גיא רולניק, מרצה באוניברסיטת שיקגו ומייסד TheMarker, בוחן את המיתוסים הסובבים את הרשתות החברתיות, ואת השפעתן המזיקה במיוחד בעשור האחרון – לאחר שינוי האלגוריתם באופן שהרשתות מקדמות בעיקר תוכן מסית, אנטישמי ושקרי.

“תחקיר הניו יורק טיימס מראה שקמפין ההשפעה הגדול בעולם בוצע נגד ישראל אחרי 7.10. בשלושת השבועות שאחרי הטבח, שווי הקמפיין היה רבע מיליארד דולר מבחינת היקף החשיפות. חצי שנה אחרי כמות החשיפות סביב ישראל זינקה, עשרת ההאשטגים הראשונים באינסטגרם היום הם לטובת הפלסטינים”.

פאנל: "הרשת, המשפט והביטחון הלאומי: בין חופש ביטוי לצנזורה"

מהם הכלים המשפטיים שבהם יכולה המדינה להתמודד עם איומים ברשתות החברתיות ומה יכולה הצנזורה הצבאית שהוקמה לצורך טיפול בסיכונים באמצעי התקשורת המסורתיים לעשות בתנאים הקיימים? בכך עסק פאנל מומחי משפט, טכנולוגיה וביטחון.

אלוף (מיל’) דני עפרוני, לשעבר הפצ”ר וחבר המועצה האקדמית המייעצת של מכון ברנדייס: “איך מיישמים את עיקרון הריבונות בסייבר? מה זה שימוש בכוח? מה זו התנהגות נאותה? הדברים לא ברורים. יש ניגוד עניינים ותחרות בין המעצמות, ארה”ב, רוסיה וסין, ולכן יש פערים גדולים בפרשנות. כך נוצר מבוי סתום, ומתאפשרים מתקפות סייבר, מבצעי השפעה והתערבות בתהליכים במדינות זרות”.

רון קרניאלי, סגן הצנזור הצבאי הראשי: “הרשתות זה עולם של תקשורת גלויה, יש ידיעות נכונות ויש ידיעות שקריות. לדעת לברור את המוץ מהתבן זו מלאכה מאוד מורכבת, ולא תמיד אפשרית. אנחנו פועלים רק במקרים שאנחנו סבורים שהמפרסם עלול לפגוע בביטחון המדינה, וגם אז בצורה מאוד מידתית, לפי הכללים שקבע לנו ביהמ”ש העליון”

עו”ד איתי גוהר, ראש צוות הסרת תכנים במחלקת סייבר בפרקליטות: “בהתחלה ביקרו אותנו שהדברים שאנחנו עושים מגבילים את חופש הביטוי. הפרקליטות ב-2015 התחילה לטפל בתכני הקצנה ברשתות סביב אינתיפאדת הבודדים. בחנו הפרה של תנאי השימוש של הרשתות, הכפפנו את חוק המדינה לחוק הרשתות. אז טיפלנו ב-2000 תכנים, היום ביותר ממאה אלף.”

ד”ר תומר שדמי, בית הספר למדעי המחשב באוניברסיטה העברית: “הסכנה היא שכחברה נאבד את ההבדל בין אמת לשקר בגלל הטכנולוגיה, נאבד את המציאות. חופש הביטוי חיוני לא רק לפרט אלא גם לדמוקרטיה. כל מהפכה, כולל הדפוס, הביאה חששות ואתגרים. כך נוצרו עיתונות ומוסדות, וזכויות יוצרים. גם עכשיו נחוצים חזון ומוסדות, צריך כללים”.

שיחה עם נועם ברדין ואורי שעשוע

נועם ברדין (מייסד Waze ובכיר לשעבר ב-Google) ואורי שעשוע (מייסד XPOZ) שוחחו עם גיא רולניק על האופן שבו פועל האלגוריתם של הרשתות החברתיות, על “בוטים”, “בובות גרב” וקמפיינים להנדסת תודעה בחסות הרשתות החברתיות.

נועם ברדין: “בסיליקון ואלי יש קבוצת אנשים חכמים מאוד, שהתנתקו מהעולם האמיתי בגיל 20. הדנ”א שלהם הוא להסביר למה מה שהם עושים טוב לעולם, תוך התעלמות מהעובדות. אין להם שום בעיה טכנולוגית, יש רק בעיית תמריץ. אין להם שום תמריץ לעיסוק בקיטוב”.

לדברי ברדין, “הבעיה שהרשתות החברתיות הן השופטות מה מותר, ואיכשהו מה שהן עושות ומרשות לעשות מתאים לאינטרס הכלכלי שלהן”

אורי שעשוע: “הבוטים מייצרים את ההתחלה של התהליך, את ההמשך עושים בני אדם והרשתות מרוויחות מהפרסום. עד שמורידים את הבוטים מהרשת, ההכנסות מהפרסומות כבר הגיעו לרשתות והמפרסמים קיבלו את הקליקים שלהם”.

לדברי שעשוע, “אנחנו ב-44% בוטים ברשתות, ועוד לא הגענו למערכת בחירות. עד שלא תהיה רגולציה, רואים איך רשתות בוטים מצליחות להגביר חשיפה לפוסטים אצל קהל אמיתי”.

פאנל: "מה החברה האזרחית יכולה לעשות?" וסיכום

בשנים האחרונות גוברת בכל העולם המערבי ההכרה בכך שיש לחברה האזרחית תפקיד חשוב בשמירה על הדמוקרטיה. מה יכולה החברה האזרחית לעשות כדי להגביר את החוסן של הציבור מול איומי קמפיינים של השפעה זרה?

עו”ד יהודית פינטוב, עמיתת מחקר בכירה במכון ברנדייס: ” ארגונים אזרחיים ממלאים פער של המדינה בטיפול בבעיה ובחינוך הציבור. חינוך של ילדים לאוריינות דיגיטלית זו בניה של חסינות לטווח ארוך”.

אחיה שץ, מנכ”ל FakeReporter: “הציבור היה מיואש, הרשתות לא טיפלו בכלום. אמרנו בארגון שלנו ‘תדווחו אלינו במקום לרשתות’. ואז הבנו שאנחנו מאתרים רשתות השפעה זרה ואת התוצרים הבאנו לתקשורת. מצער שרק דרך הזווית הביטחונית הצלחנו”.

עו”ד לינור דויטש, מייסדת-שותפה ומנכ”לית לובי 99: “גם לפוליטיקאים הרשתות הן כלי פעולה ראשי, ולכן יהיה מאד קשה לרתום אותם. שלא לדבר על זה שהלוביסטית של פייסבוק בארץ ג’ורדנה קוטלר היתה עוזרת של נתניהו. אני לא רואה פתרון אחר מלבד רגולציה, רק לחץ ציבורי”

ד”ר רועי פלד, הפקולטה למשפטים במכללה למינהל: “אנחנו יודעים שני דברים – הרשתות גורמות נזק עצום לילדים שלנו והפתרון הוא רגולציה, כי הרשתות לעולם לא יגבילו עצמן מרצונן, מעבר למה שמתחייב”.