כנס מיוחד של מכון ברנדייס בשיתוף REMEDY COLAB
מענים טכנולוגיים לדיסאינפורמציה והנדסת תודעה- Trust Tech
האם תעשיית ההייטק יכולה להציל בכלים טכנולוגיים את קריסת הדמוקרטיה בעולם ובישראל?
יש היום קונצנזוס עולמי: דיסאינפורמציה והנדסת תודעה הן איום ישיר על יסודות הדמוקרטיה ועל בחירות הוגנות.
במקרה של ישראל מדובר באיום קיומי. בשנתיים האחרונות ניכרים מאמצים גדולים של מדינות זרות (במיוחד איראן, אבל גם רוסיה, סין וקטאר) להשפיע על תודעת הציבור בישראל בכלים טכנולוגיים ובדרכים אחרות. למשל, יש ראיות לכך שקמפיין השפעה על תודעה ברשתות החברתיות הופעל על ידי אויבי ישראל בארה”ב במטרה לפצל את תומכי טראמפ במפלגה הרפובליקנית, ולהרתיע אותו מלהפגיז את מתקני הגרעין האיראניים במלחמת 12 הימים.
האם ניתן לפתח מענה טכנולוגי לאיומים של דיסאינפורמציה והשפעה על תודעה בזירה הדיגיטלית?
מכון ברנדייס חוקר את הנושאים האלה בשנה האחרונה וממפה את עלייתו של ענף טכנולוגי חדש בתעשיית ההייטק, שאנחנו קוראים לו Trust Tech.
בכנס, שהתקיים ב Tech29 -שרונה ת”א, הוצג מחקר של מכון ברנדייס שנעשה בשיתוף Remedy CoLab שמנתח את התפתחות הענף.
דברי פתיחה - עידו באום
“בעידן הדיגיטלי מרחב השיח הציבורי הפך לרווי מניפולציות, הסתה ותוכן מטעה. כדי שהשיח במרחב הדיגיטלי יחזור להיות הגון ואותנטי, יש לפעול בשלושה מישורים מרכזיים: חקיקה, אוריינות דיגיטלית ומענים טכנולוגיים.”
ד”ר עידו באום, מנהל מכון ברנדייס, פותח את הכנס בסקירת תחומי המחקר של מכון ברנדייס ועומד על הצורך הדחוף ביצירת מרחב שיח חדש במדיה הדיגיטלית.
דרור בין- מנכ"ל רשות החדשנות
“הנושא הזה קרוב מאוד לליבי, לאו דווקא כמנכ”ל רשות החדשנות אלא יותר כאזרח ישראל וכאזרח העולם. אני חושב שהרשתות והדיסאינפורמציה מפרקים אותנו מבפנים וזה אולי הסיכון הכי גדול שאנחנו עומדים בפניו היום”. דרור בין, מנכ”ל רשות החדשנות, פותח את דבריו בהדגשת החשיבות הרבה שהוא מייחס להשפעת הרשתות החברתיות ולסכנות הגוברות של דיסאינפורמציה במרחב הדיגיטלי, כאתגר מרכזי לחברה ולדמוקרטיה.
בהרצאתו מפרט דרור בין על תפקידה של רשות החדשנות, על המישורים המרכזיים בהם היא עוסקת, על המודל העיסקי שלה ואופי ההשקעות הייחודי של הרשות אל מול העולם.”
כמו כן, סוקר את תחום ההייטק הישראלי ובוחן את תחום Trust Tech כתחום עסקי, האם ישראל תהיה מובילה בתחום הזה? האם התחום ימשוך אליו יזמים ומשקיעים? האם הטכנולוגיה היא רק הבעיה או גם הפתרון? והאם יש צורך בהתערבות ממשלתית?
חשיפה של מחקר מקיף ראשון מסוגו על ענף סטארט-אפים חדש: Trust Tech
המחקר נכתב במכון ברנדייס על ידי צוות חוקרים בשיתוף חברת Remedy CoLab. צוות המחקר:
- ד”ר עידו באום, ראש מכון ברנדייס
- נעמי קריגר כרמי, שותפה מייסדת Remedy CoLab ועמיתת מחקר במכון ברנדייס
- הוד פליישמן, שות; מייסד Remedy CoLab ועמית מחקר במכון ברנדייס
- ד”ר רותם קדוש נוסבאום, ראשת תחום טכנולוגיה במכון ברנדייס
- ד”ר דלית גפני, דיקנית ביה”ס לכלכלה במכללה למינהל
מחקר ראשון מסוגו ממפה באופן מקיף ענף חדש בתעשיית חברות ההזנק – Trust Tech: פתרונות טכנולוגיים למניפולציות דיגיטליות בזירה העסקית, הביטחונית והחברתית – סיכונים שהוגדרו על ידי הפורום הכלכלי העולמי בדאבוס כגדולים ביותר לאנושות זו השנה השנייה ברציפות. המחקר מגלה כי ארה”ב, בריטניה וישראל מובילות את הענף וכי הצמיחה בענף מושפעת במיוחד מאירועים פוליטיים בעולם. המחקר בוצע במכון ברנדייס בשיתוף חברת Remedy CoLab המתמחה בפתרונות להשפעה ומניפולציה דיגיטלית.
החוקרים מיפו 256 חברות ברחבי העולם שנפתחו בעשורים האחרונים והתמקדו ב-Trust Tech. מתוכן פעילות עדיין 160 חברות. החברות בתחום גייסו למעלה מ 2 מיליארד דולר ממשקיעים במצטבר, והתחום נמצא בצמיחה מהירה עם גידול שנתי ממוצע של 17% במספר החברות בכל שנה בעשור האחרון. המיפוי של ענף ה-Trust Tech קריטי להתפתחות האסטרטגית והעסקית של הענף כתחום טכנולוגי עצמאי – כדי לזהות את ההזדמנויות, המגמות והאתגרים.
המהפכה הדיגיטלית וההתפתחות של רשתות חברתיות וטכנולוגיית בינה מלאכותית יצרו הזדמנויות כלכליות וחברתיות עצומות, אך לצידן התפתחו אתגרים חסרי תקדים. אחד האתגרים המרכזיים הוא המניפולציה הדיגיטלית, ובעיקר דיסאינפורמציה – מידע שקרי המופץ במכוון כדי להטעות ולהשפיע על תודעת הציבור והתנהגותו. השפעותיה של דיסאינפורמציה הרסניות, במיוחד בתקופות בחירות, שבהן מופעלות מניפולציות להטיית תוצאות, לדיכוי השתתפות או לערעור אמינות התהליך הדמוקרטי. כדי להתמודד עם האיום, נדרשים פתרונות טכנולוגיים חדשניים המסוגלים לזהות, לנטר ולנטרל דיסאינפורמציה בזמן אמת. חברות בתחום “Trust Tech” מפתחות טכנולוגיות מתקדמות להגנה על אמון הציבור מפני דיסאינפורמציה ומניפולציות נוספות במרחב הדיגיטלי.
פאנל: לאן הולך שוק ה -Trust Tech?
בשנים האחרונות מתפתח שוק חדש של פתרונות טכנולוגיים לאתגרי דיסאינפורמציה והנדסת תודעה במרחב הדיגיטלי. בפאנל עם מובילי פתרונות חדשניים מהתעשיה והחברה האזרחית דנו בפתרונות השונים, מה הם מצליחים לעשות וכיצד. האמנם נוצר כבר שוק של חברות, משקיעים ולקוחות? מה הן ההזדמנויות, האתגרים והחסמים, ומה נדרש על מנת שיתפתח אקוסיסטם משגשג?
מנחה: ענבל אורפז, חוקרת ויועצת חדשנות אסטרטגית
רייצ’ל לוי, סמנכ”לית סיכונים פוליטיים, ActiveFence
“חברות ה AI הולכות בדיוק באותה הדרך כמו הרשתות החברתיות, רק שהן בתחילת התהליך. אנחנו יכולים לראות מה יקרה עם הרשתות החברתיות כדי לנבא מה יקרה עם עולם ה LLM”
דניאל רבנר, מנכ”ל, Brinker ” לרשתות החברתיות אין דרך להראות גידול משתמשים בלי בוטים, ואם התחום העסקי הזה מבוסס על מעורבות משתמשים, בלי הפצת קונספירציות ושינאה אין להם דרך להראות גידול. אני חושב שיש שם אינטרס כלכלי אדיר, כי בסופו של דבר אם חמישה אנשים יחליטו לעצור מיסאינפורמציה זה יעצור עוד שבוע”.
טל-אור כהן מונטמאיור, מנכ”לית, CyberWell
” Open AI מתבססת בעיקר על Reddit שמכילה תוכן שמכיל דיסאינפורמציה, מיסאינפורמציה וקהילות תאוריות קוספירציה קיצוניות. אם נושא ה Trust & Safty והדרך שבה המידע מיוצר, משותף ומקודם ברשתות החברתיות כולל תוכן שנאה נמצא במצב משברי, כמו שהוא באמת וכפי שישראלים ויהודים מבינים זאת היטב, האתגר הזה מחמיר על ידי Gen AI”.
הוד פליישמן, שותף מייסד, REMEDYCOLAB
” אין ספק שה LLM הולכים להיות חלק מאוד גדול מהעתיד של החברות האזרחיות והכלכליות ואין ספק שאם המידע והדאטה שהן יתנו לא יהיה מהימן אפשר לזרוק את הדבר הזה לפח. יש כרגע המון בעיות אבל זה יצטרך קבל פיתרון באיזושהי צורה”.
