- אהוד שם טוב
- לפני יומיים
- זמן קריאה 4 דקות
עודכן: לפני יומיים
איך ייראו הבחירות הבאות בישראל?
הבחירות הבאות בישראל צפויות להיות הראשונות שבהן הבינה המלאכותית הופכת לשחקנית מרכזית. לא סיסמה מהודרת, אלא מציאות שמומחים כמו ד"ר תהילה שוורץ אלטשולר מהמכון הישראלי לדמוקרטיה, מזהירים מפניה. ככל שהבחירות יתאחרו, כך ההשפעה של ה-AI תהיה עמוקה יותר, פשוט כי הטכנולוגיה מתקדמת בקצב שאין לנו זמן להדביק.
אנחנו כבר בתוך עידן שבו קשה להבחין בין אמת למניפולציה שנראית אמיתית מדי. עבור מי שעוסקים בחברה, קהילה ודמוקרטיה - להבין את האתגר הזה הוא לא מותרות, זו חובה.
מאמר זה מבוסס על הפרק: בחירות ה-AI הראשונות בישראל, בפודקאסט המעולה "סקרנית" בהנחייתה של שרון קנטור בו התארחה ד"ר שוורץ אלטשולר.
הסכנה המשולשת: שלושה אתגרי AI שכדאי להכיר
כדי להתחיל להתמודד עם המציאות החדשה, עלינו להבין תחילה את אופי האיומים. בראיון עימה, זיהתה ד"ר שוורץ אלטשולר שלושה מרחבים מרכזיים שבהם הבינה המלאכותית צפויה לשבש את התהליך הדמוקרטי. הבנת הסכנות הללו היא הצעד הראשון בבניית חוסן אישי וארגוני.
1. מפעל הזיופים (ג'ינרוט תוכן) 🎭
האתגר המוכר ביותר הוא היכולת לייצר תכנים מזויפים ברמה שנראית אמיתית לחלוטין. כלים כמו ChatGPT (לטקסט), Midjourney (לתמונות) ו-Sora (לסרטונים) ורבים אחרים פחות שמרניים, מאפשרים לכל אחד, בלחיצת כפתור, ליצור תמונה של פוליטיקאי במעמד שלא היה ולא נברא, קטע קול שבו הוא אומר דברים שלא אמר, או סרטון שלם שנראה אותנטי לחלוטין. הטכנולוגיות הללו מערערות את האמון הבסיסי ביותר שלנו במציאות הנראית לעין ומקשות על היכולת שלנו לברר מה אמיתי ומה שקרי.
דוגמה לכך, תמונה שפורסמה בחשבון הטוויטר (X) הרשמי באנגלית של משרד ראש ממשלת ישראל, וזכתה לאזכורים נרחבים. בתמונה שנוצרה על ידי AI רואים את נשיא ארה"ב דונלד טראמפ, עונד מדליית פרס נובל לשלום מוגדלת, כאשר נתניהו לצידו. מאחוריהם נראה שלט הנושא את הכיתוב "peace through strength" (שלום מתוך עוצמה).
התמונה צברה מעל 5 מיליון צפיות.
2. החבר הדיגיטלי שלכם הוא לא מה שחשבתם (הרעלת מודלים) 🤫
מעבר לזיופים, קיים אתגר עמוק וערמומי יותר. רבים מאיתנו מפתחים מערכת יחסים אישית, כמעט אינטימית, עם צ'אטבוטים. אנחנו מתייעצים איתם, משתפים אותם וסומכים על התשובות שהם מספקים. כאן נכנס לתמונה מושג שנקרא "הרעלת מודלים". גורמים פוליטיים יכולים להקים מאות אתרי אינטרנט פיקטיביים, המלאים במידע מוטה, במטרה "להאכיל" את מודלי השפה במידע הזה. כך, כשנשאל את הצ'אט שאלה תמימה כמו "למי כדאי לי להצביע?", במקום לקבל תשובה ניטרלית, הוא עלול להשיב בדרכו החנפנית: "שמעתי שיש איזה מפלגה חדשה, אולי שווה לך לבדוק אותה", ובכך להטות את דעתנו. התחום הזה, המכונה "מחשוב רגשי", מנצל את האמון שאנו רוחשים למכונה כדי לשכנע אותנו בצורה יעילה ומדויקת. הסכנה גוברת כאשר במקביל מרעילים את המודלים במידע כוזב.
3. הדאטה עלינו הופך לנשק (שימוש במידע על בוחרים) 🎯
האתגר השלישי נוגע לאיסוף ועיבוד מידע עלינו, הבוחרים. מפלגות תמיד אספו מידע, אך הבינה המלאכותית מאפשרת להן לקחת את היכולת הזו לרמה חדשה לחלוטין. היא מאפשרת למכונות לעבד כמויות אדירות של מידע (מספר הבוחרים, דרך היסטוריית אשראי והתנהגות ברשתות החברתיות), ולהסיק תובנות פסיכולוגיות עמוקות על כל אחד ואחת מאיתנו. עם התובנות האלה, קמפיינים פוליטיים יכולים לייצר מסרים סופר-ממוקדים ומניפולטיביים, המותאמים אישית לנקודות התורפה, לפחדים ולתקוות שלנו, באופן שאף פעם לא היה אפשרי בעבר.
אז מה זה אומר עבורנו, בארגונים החברתיים?
שלושת האתגרים הללו אינם בעיה טכנולוגית רחוקה; הם פוגעים ישירות גם בליבת העשייה של המגזר החברתי ודורשים מאיתנו היערכות אסטרטגית. כמנהיגות ומנהיגים קהילתיים, מוטלת עלינו אחריות כבדה: להגן על הקהילות שלנו, לפעול לשמירה על שיח ציבורי בריא, ולהבטיח שתהליך הבחירות לא יהפוך ל"פארסה", כפי שהוגדר בראיון עם ד"ר תהילה שוורץ אלטשולר.
"מפעל הזיופים" משמעו שהקהילות שאנו משרתים, שלעיתים קרובות פגיעות יותר לדיסאינפורמציה, עלולות להיחשף לסרטונים מזויפים של מנהיגים קהילתיים או פוליטיקאים, המכוונים ישירות לחרדות ולתקוות שלהן.
"הרעלת המודלים" פירושה שאנשים הפונים לצ'אטבוטים לקבלת מידע אמין על זכויות, שירותים חברתיים או סוגיות פוליטיות, עלולים לקבל ייעוץ מוטה ומניפולטיבי מבלי שידעו זאת כלל.
"הדאטה כנשק" מסכן במיוחד אוכלוסיות מוחלשות. המידע עליהן יכול לשמש ליצירת קמפיינים מתוחכמים של דיכוי הצבעה (Voter Suppression), הממוקדים בדיוק בחסמים ובחששות הייחודיים שלהן כדי למנוע מהן להגיע לקלפי.
אבל יש מה לעשות! כלים להתמודדות 💡
התמונה אולי נראית מדאיגה, אבל חוסר אונים הוא לא אופציה. מהשיחות עם המומחים עולות דרכי פעולה קונקרטיות שניתן לחלק לשני כיוונים משלימים: פתרונות מערכתיים ופעולות מהשטח.
פתרונות "מלמעלה למטה": דרישה לאחריות ממסדית
סימון שקוף: לקדם חקיקה, כפי שהציע ד"ר גל יבץ, שתחייב הוספת "סימן מים" (Watermark) ברור ובולט על כל תוכן שנוצר על ידי בינה מלאכותית. כך, הציבור יוכל לזהות בקלות מהו תוכן סינתטי. לדוגמה בתמונה המומצאת בה נראה טראמפ זוכה בפרס נובל הוטמעו סימני מים שניתנים לזיהוי ע"י גלאי של גוגל, בדומה למכשיר שמזהה שטרות כסף מזויפים.
היערכות מוקדמת: לתמוך בהצעה של ד"ר שוורץ אלטשולר להקמת "שולחן עגול" בראשות יו"ר ועדת הבחירות המרכזית, שיכלול מומחי טכנולוגיה, סייבר ותקשורת. גוף כזה יוכל להיערך מראש לתרחישי שיבוש ולגבש דרכי תגובה מהירות.
פתרונות "מלמטה למעלה": בניית חוסן מהשטח
הובלת קריאה ציבורית: לפוליטיקאים, באופן טבעי, אין אינטרס להגביל את הכלים שעומדים לרשותם. כפי שציינה ד"ר שוורץ אלטשולר, "המקסימום שהיית יכולה להוביל אותם אליו זה שהמתחרים שלהם לא יעשו את זה יותר טוב מהם". לכן, עלינו, כחברה אזרחית, לייצר לחץ ציבורי חזק שידרוש פיקוח והסדרה של התחום, וישים את טוהר הבחירות בראש סדר העדיפויות.
חינוך והכשרה מעשיים: בסופו של יום, קו ההגנה החשוב ביותר הוא אנחנו והקהילות שלנו. עלינו לקחת אחריות ולפעול באופן יזום: לשלב סדנאות "אוריינות AI" בתוכניות הקיימות שלנו, להפיץ בקהילותינו "רשימות תיוג" פשוטות לזיהוי פייק ניוז, ולקיים שיחות עם מובילי ומובילות דעה על הסכנות ודרכי ההתמודדות.
קריאה לפעולה
האתגרים שהוצגו אינם תרחיש עתידני, אלא מציאות מתהווה. התגובה להם אינה יכולה להישאר נחלתם של טכנולוגים ומחוקקים בלבד. לנו, כמובילי ומנהיגות החברה האזרחית, יש תפקיד מכריע בבניית החוסן הדמוקרטי מהשטח, קהילה אחר קהילה.
המהפכה כבר כאן, והשאלה אינה אם ניתקל בתכני AI במערכת הבחירות הבאה, אלא עד כמה נהיה מוכנים.