בינה מלאכותית (AI) הפכה לכלי מרכזי בשנים האחרונות במאבק בטרור בישראל. גורמי ביטחון משקיעים משאבים עצומים בפיתוח מערכות מתקדמות שמטרתן לנבא מראש פיגועים, לזהות מחבלים פוטנציאליים, ולסכל בזמן אמת כוונות לפגיעה באוכלוסייה האזרחית. נשמע כמו מדע בדיוני? זה כבר כאן, ועולה שאלה גדולה: האם באמת אפשר לסמוך על כלי החיזוי המתוחכמים הללו – או שמא מדובר בפצצה מתקתקת של טעויות והטעיות?
ביסוד טכנולוגיות חיזוי הטרור עומדים אלגוריתמים הלומדים לעבד כמות אדירה של נתונים: מצלמות רחוב, רשתות חברתיות, תיקי עבר פליליים, תקשורת מוצפנת ועוד. הכלים מנתחים התנהגויות, מזוהים דפוסי חריגה, לפעמים אפילו נוצרים "פרופילים דיגיטליים" של אזרחים. האלגוריתמים לומדים – אבל על מה הם מסתמכים? כאן טמון אחד החסרונות הקריטיים של מערכות AI לחיזוי טרור. בפועל, לא תמיד יש משוב רציף או ודאות נתונים מלאה: דפוסים שבעבר נחשבו כ"חשודים" עשויים להשתנות תוך זמן קצר, התרעות שמתגלות כמוטעות עלולות להביא למעצרים שווא, ופשעים שפשוט לא מדווחים או שלא זוהו ממילא – אף מערכת לא תוכל להתחשב בהן מראש.
חוסר האמינות עלול להתבטא בשני מישורים עיקריים. מצד אחד, 'False Positives' – התרעות שווא רבות שמובילות להוצאה מיותרת של כוח ומשאבים, פגיעה באמון הציבור ואף יצירת איומי סרק. מצד אחר, 'False Negatives' – כשמערכת מפספסת דפוסים סמויים שמתקיימים באמת, ולכן נשארים מתחת לרדאר עד ליום הפיגוע. בישראל נרשמו מקרים שבהם מערכות AI סימנו כחשודים אזרחים תמימים רק בשל קרבתם למקום מסוים או בשל מידע שגוי שהוזן למערכת. פוטנציאל הפגיעה בזכויות פרט ברור, ומעלה שאלות אתיות קשות.
יתרה מכך, המתודולוגיה של בינה מלאכותית לומדת מדאטה שמוזן לה – ואם הדאטה הזה מוטה או לא שלם, יהיו לכך השלכות חמורות. באקלים הישראלי המורכב, נטול ודאות ומבוסס תרחישים דינאמיים, דאטה היסטורית לא תמיד מנבאת נכונה את העתיד. יתרה מזו, ארגוני טרור יודעים לתעתע, להסתנן ולהשתנות במהירות – הם עצמם הופכים למשתמשי בינה מלאכותית, ומפתחים פריצות חדשות ומעקפים לאותן מערכות שמוגדרות "חכמות".
חלק מגורמי הביטחון סבורים שבסופו של דבר, כפי שבינה מלאכותית שינתה את אופי הלחימה – כך היא משמשת רק כשכבת הגנה אחת מתוך כמה, ולא כתחליף לביון אנושי, סוכנים בשטח ואינטואיציה של חוקרים מנוסים. סודיות מכריעה את הכף: הציבור אינו רואה את האלגוריתמים עצמם והחלטותיהם, ולעיתים גם המפעילים לא יודעים להסביר כיצד בדיוק התקבלה התרעה מסוימת. יש אומנם כלים שפועלים היטב, בעיקר כדי לחזות "פיגועי השראה" (בהם טרוריסט בודד מושפע מתכני רשת), אך העלות של שגיאות – חברתית, משפטית וביטחונית – עשויה להיות כבדה ביותר.
בסופו של דבר, ההבטחה גדולה והפיתוי לאמץ פתרונות אוטומטיים למלחמה בטרור ברור. אך עד שלא יווסדו מנגנוני פיקוח ושקיפות אמיתיים, המהפכה עלולה להניב תוצאות מעורבות, ואפילו מסוכנות. המאבק בטרור דורש דיוק מירבי – ורובוטים, לפחות בשלב זה, עדיין רחוקים מלהיות נטולי טעות.