אוטומציה במערכות הצבא היא כבר מזמן לא מדע בדיוני. כיום, אלגוריתמים, רובוטים וכלי נשק אוטונומיים הופכים חלק בלתי נפרד מהשדה הקרב המודרני. אבל האם אנחנו באמת מוכנים להפקיע מהידיים האנושיות את ההחלטות הגורליות ביותר ולתת לרובוטים לנהל קרבות?
כבר עתה כלי טיס בלתי מאוישים (כטב"מים), רובוטים לנטרול מטענים, ומערכות הגנה אוטונומיות מחליפים חיילים במצבים מסוכנים. היתרה ברורה: צמצום נפגעים, יעילות משופרת ויכולת תגובה מהירה למצבים משתנים. הניסיון מלמד כי טכנולוגיית אוטומציה מצליחה להתמודד מהר ובדייקנות עם איומים – הרבה לפני שלוחם אנושי מספיק בכלל להבין מה מתרחש.
עם זאת, הצצה לעתיד הקרוב מצביעה על מגמה ברורה: יחד עם שיפור הביצועים, הצבא יתמודד עם דילמות מורכבות פי כמה. כשאינטליגנציה מלאכותית נתפסת לא רק כאמצעי אלא כ"מפעיל" עצמאי שמסוגל להחליט מתי לפתוח באש, לסמן מטרות ולבצע משימות – האחריות המוסרית, החוקית והמבצעית הופכת מעורפלת בהרבה.
אחת הסכנות המרכזיות נמצאת בתחום ה"הבנה" – או, ליתר דיוק, היעדרה. רובוטים נוהגים לפי אלגוריתמים וחוקים שנכתבו מראש. אך מה יקרה כאשר תיווצר סיטואציה חדשה ובלתי צפויה? האם ניתן לסמוך על מכונה שתבצע שיקול דעת מוסרי תחת לחץ, במיוחד כשהשדה רווי אזרחים, שבויים ומטרות מתעתעות?
הדילמה חוקית לא פחות מהמוסרית: החוקים הבינלאומיים הקיימים לא נכתבו לעידן שבו מכונות נלחמות זו בזו. מיהם "האחראים" כאשר התרחש אסון? המפתחים? המפקדים? החייל שלחץ על כפתור ההפעלה? הבעיה מסתבכת עוד יותר כאשר מדובר במסגרות מרובות לאום, בהן מפתחי הרובוט יושבים במדינה אחת, הצבא פועל במדינה שנייה והשדה הקרב במקום שלישי.
לצד האתגרים קיימים גם יתרונות ברורים: אוטונומציה יכולה לצמצם באופן דרמטי את הסיכון לחיי אדם, למזער טעויות אנוש ולבצע משימות רוטיניות, מורכבות ואף מסוכנות בלי לחרוץ גורלה של משפחה או קהילה שלמה. ניתן לכוון רובוטים לאש כירורגית שלא ניתן אפילו לחלום עליה בקרב של לוחמים בשר ודם. כמו כן, נשים וגברים צעירים יוכלו לבחור שלא להיחשף לנזקי קרב מחד, ומאידך המדינה תשמור על איכות כוח האדם שלה לטווח הרחוק.
אבל, בהתלהבות מהטכנולוגיה אסור לזנוח את השיח הציבורי. אם נרוץ לאוטומציה מתוך עיוורון, נגלה שהשתחררנו מאחריות בשאלות בסיסיות של חיים, מוות, אתיקה וערכים. החזון להניח את ההחלטות בידיים של מכונות – מפתה ככל שיהיה – מחייב הצבת גבולות. האם אנחנו מתייחסים רק ליעילות צבאית או שמבינים את כובד האחריות המונחת על כפות המאזניים?
בסופו של דבר, שילוב אוטונומציה בלחימה הוא בלתי נמנע. המצב מחייב את הצבא, המחוקק והחברה האזרחית לחשוב מחדש על הערכים שמנחים אותנו בשדה הקרב הדיגיטלי. השאלות הן רבות: האם נאפשר פתיחת אש אוטומטית? אילו עקרונות מוסריים יוטמעו באלגוריתמים? ועד כמה ניתן לפקח ולהגביל טכנולוגיה שמתקדמת הרבה יותר מהר מהחקיקה או המוסר האנושי?
שדה הקרב של המחר יהיה חכם מתמיד, יעיל מתמיד – אך אולי גם מסוכן מתמיד. התשובה לשאלה "האם אנחנו מוכנים?" תלוייה בנו, ברמת השיח, בעומק ההכנה ובהגדרה ברורה של גבולות מוסריים וטכנולוגיים – לפני שיישברו על ידי המציאות.