מאז אירועי ה-7 באוקטובר, מדינת ישראל מנהלת מערכה רב-זירתית. בעוד שתשומת הלב הציבורית מופנית לחזיתות הביטחוניות והמדיניות, מתנהלת בצללים מערכה שקטה וקריטית לא פחות: המלחמה על הידע והזיכרון הדיגיטלי. בדיקה של ערכים מרכזיים בוויקיפדיה באנגלית, החל ממושגי יסוד בסכסוך ועד לביוגרפיות של אישי ציבור ישראלים, מגלה מגמה מדאיגה של שינויים עקביים, המטים את הנרטיב בצורה שיטתית.
מי שמבקשת להציף את חומרת ההשלכות היא ד"ר שרון ילוב-הנדזל, ראש התוכנית למערכות תבוניות (AI) באפקה, המכללה האקדמית להנדסה בתל אביב. לדבריה, לא מדובר בשינויי סגנון גרידא, אלא בתהליך מצטבר שעלול להפוך לסיכון אסטרטגי ממשי למדינת ישראל.
התשתית שמעצבת את דעת הקהל העולמית
"אנשים נוטים לחשוב שמדובר בוויכוח נקודתי על ניסוח כזה או אחר בוויקיפדיה", מסבירה ד"ר ילוב-הנדזל, "אבל ויקיפדיה באנגלית היא תשתית הידע העולמית. כשאתה משנה באופן עקבי את האופן שבו מושגים מוצגים, או כשערכים על אישי ציבור ישראלים מדגישים רק היבטים שליליים וגורעים הישגים ופעילות חיובית, אתה לא משפיע רק על הקורא האנושי, אתה משפיע על המודלים של הבינה המלאכותית״.
לדבריה, מאז אוקטובר ניתן לזהות שינוי מגמה בערכים שונים, החל ממינוחי 'מטא' ועד לביוגרפיות של חברי כנסת מהעבר. "דמויות שנתפסו כמרכזיות בזירה הביטחונית זוכות לערכים שבהם מודגשות ביקורות וטענות מתקופת כהונתן, בעוד ההקשרים הרחבים והחיוביים יותר נעלמים. כשהתבנית הזו חוזרת על עצמה, זה כבר לא מקרה נקודתי; זוהי הנדסת תודעה דיגיטלית״.
מעגל הקסמים של המידע המוטה
כאן נכנסת הבינה המלאכותית לתמונה, והתחזית של ד"ר ילוב-הנדזל הופכת לקודרת יותר. מודלי AI גנרטיביים (כמו ChatGPT או Claude) מאומנים על מקורות פתוחים, ובראשם ויקיפדיה באנגלית. "המודלים לומדים מהדאטה הקיים", היא מסבירה. "אם הדאטה מוטה, ההטיה נטמעת בתשובות, בסיכומים ובכלים תומכי החלטה. המשתמש מקבל תשובה שנשמעת אובייקטיבית וסמכותית, אך היא נשענת על בסיס ידע שכבר עבר עיוות״.
הבעיה אינה מסתיימת בנקודה זו. ד"ר ילוב-הנדזל מזהירה מפני תרחיש המכונה "קריסת מודלים" (Model Collapse). זהו מצב שבו מערכות AI חדשות מתאמנות על תוכן שנוצר על ידי מערכות AI קודמות. אם המודלים הראשונים הושפעו מהטיות בערכי ויקיפדיה, והתוכן שהם מייצרים מוזן חזרה לרשת ומשמש לאימון נוסף, נוצרת "לולאת משוב" שמעצימה את העיוות עד שהוא הופך ל'אמת' היחידה הזמינה.
מאתגר תדמיתי לאיום אסטרטגי
המשמעות, לטענתה, חורגת מהשיח האקדמי. בטווח של עשור, המציאות המעוותת הזו עלולה להפוך לאמת המקובלת במרחב הדיגיטלי. חוקרים, עיתונאים, סטודנטים ואפילו מקבלי החלטות הנשענים על מערכות AI כדי לקבל תמונת מצב מהירה, יצרכו מידע מוטה בבסיסו.
כראש תוכנית למערכות תבוניות, היא מדגישה כי קיימים כלים טכנולוגיים לזיהוי הטיות ולביקורת מקורות מידע, אך הטיפול בבעיה חייב להיות לאומי. "זה לא רק עניין של אלגוריתם טוב יותר. זו שאלה של אחריות על תשתיות ידע. אם לא נתייחס לכך כאל סוגיה אסטרטגית, נגלה מאוחר מדי שהמרחב הדיגיטלי כבר עיצב עבורנו מציאות מעוותת״.
ד"ר ילוב-הנדזל מחדדת כי בעיניה, הזירה הזו אינה עוד "קרב על התדמית", אלא עניין של תשתית חיונית. "מדינות משקיעות בהגנה על גבולות פיזיים ועל תשתיות אנרגיה וסייבר", היא אומרת, "אבל תשתית הידע הגלובלית היא לא פחות קריטית. אם שכבת הדאטה שעליה מתאמנים המודלים תישחק ותוטה לאורך זמן, בתוך עשור נמצא את עצמנו עם מציאות שקשה מאוד לתקן״.
להצטרפות לערוץ הטלגרם של The Gadget Reviews
מאמר ואזהרה חשובים מאוד. אזהרות כאלה שמענו לפני 20 שנה ויותר לגבי פעילות התודעה של הBDS בקמפוסים בארה"ב והמדינה כמעט לא עשתה דבר. ב7/10 הפקרת הנושא פגעה בנו קשות.
הפעם צריך לפעול