שדה הקרב המודרני עובר מהפכה: לצד טנקים, מטוסי קרב וחיילים בשטח, נכנסים למערכה רובוטים, רחפנים חכמים ומערכות שמקבלות החלטות בעצמן – והכול באמצעות בינה מלאכותית. נשק אוטונומי, שהולך ומתפתח במהירות, מעניק לצבאות יכולות מכריעות – מהדיוק הבלתי נתפס ועד להפעלת אש בלחיצת כפתור. אלא שאיתו מגיעה גם סוגיה מוסרית כבדת משקל, שהופכת לרלוונטית מתמיד: האם ראוי לאפשר למכונה להחליט מי יחיה ומי ימות?
אחת הדילמות המרכזיות בפיתוח נשק מבוסס בינה מלאכותית נובעת ממהות הבינה מלאכותית עצמה: היא אינה חווה רגשות, אינה שופטת סיטואציות בפרספקטיבה ערכית, ואינה יודעת חמלה. כשהמכונה מקבלת אוטונומיה להחליט על פתיחה באש – אפילו בהתאם לאלגוריתם מחמיר ולקריטריונים ברורים – האם היא יכולה להבחין בין לוחם לאזרח תמים? האם היא באמת מבינה, במובן המוסרי, את משמעות המוות?
תומכי פיתוח הנשק האוטונומי טוענים כי דווקא מכונות מצמצמות טעויות אנוש, אינן נתונות ללחץ, פחד או שנאה, ועשויות לפעול בצורה ממוקדת ויעילה יותר מבני אדם – ובכך אף לצמצם פגיעה בחפים מפשע. יש המוסיפים כי מיכון שדה הקרב עשוי להפחית את הצורך לחשוף חיילים לסכנה ישירה. אולם מנגד, רבים מודאגים שאיבוד שליטה ודה-אנושיות עלולים להוביל לקטסטרופות: תאונות בלתי צפויות, טעויות בזיהוי, והיעדר אחריות ברורה לפגיעה בחפים מפשע.
מוסדות בינלאומיים, כמו האו"ם וארגוני זכויות אדם, מתריעים כי קיים קושי מהותי בשיוך אחריות לנזק שנגרם כשמכונה "החליטה" בעצמה – מי יהיה אחראי במקרה של טעות קטלנית: מהנדס התוכנה, המפעיל הבכיר, המשטרה הצבאית או הרובוט עצמו? בנוסף, קיים חשש ממשי ממרוץ חימוש בו מדינות שונות יפתחו נשקים אוטונומיים מבלי לנסח כללי מוסר והגנות מתאימות – מה שעלול להוביל לאירועים בלתי צפויים ואיומים על שלום האנושות.
שיח המוסר סביב הנושא דורש לשאול שאלות נוספות: האם בכלל ניתן ללמד מכונה להתחשב בהקשר מוסרי, כמו שמקבלים בני אדם בהחלטות מלחמה או בטיפול בפצועים? האם הטמעת "קוד מוסרי" בקווי המתאר של האלגוריתם תספיק, או שזו רק אשליה של שליטה? ומה יקרה אם נשק שכזה ייפול לידיים לא אחראיות – או לגרוע מכך, בידי קבוצות טרור וחמושים שאינם כפופים לאתיקה צבאית?
הפתרון, אם בכלל קיים, יידרש לשילוב ייחודי בין טכנולוגיה, פיקוח אנושי הדוק, רגולציה בינלאומית, ושיח מוסרי מתמשך – תוך קבלת ההבנה שככל שהבינה המלאכותית חודרת לתחום הביטחון, כך גדלה האחריות של כולנו. ייתכן שבסופו של יום, השאלה המוסרית על תפקיד המכונה בשדה הקרב אינה שאלה של "אם" אלא של "איך" – והאם נוכל להבטיח שנותרנו בני אדם, גם כשהלחימה תתנהל על ידי חיישנים ורובוטים.