ההתפתחות המהירה של טכנולוגיות בינה מלאכותית יצרה בעשור האחרון כלים רבי עוצמה ליצירה ועריכה של תכנים ויזואליים, קוליים וטקסטואליים. אחת הטכנולוגיות הבולטות והמטרידות ביותר בהקשר זה היא "דיפ פייק" (Deepfake) – יצירת חיקוי דיגיטלי משכנע של בני אדם באמצעות אלגוריתמים הלומדים ומזייפים מראה, תנועות קול ודיבור של אנשים אמיתיים. בעוד לשימושים אלו יש מגוון יישומים חיוביים – קולנוע, בידור, פרסומות ואפילו הנגשה לאנשים עם מוגבלויות – הפוטנציאל שלהן לשימוש לרעה עצום, ולכן הן מעלות שאלות אתיות רבות וחשובות שמחייבות התייחסות מחודשת.
בראש ובראשונה, יכולת יצירת מציאות בדויה אמינה כל כך מטשטשת את הגבולות שבין אמת לשקר, בין עובדה לבדיה. סרטון דיפ פייק מקצועי עשוי להציג פוליטיקאי נושא נאום שמעולם לא התרחש, או מגיש חדשות מפיץ מידע כוזב. זיהוי ההונאה אינו תמיד פשוט, במיוחד כשהכלים לשם כך אינם נגישים לקהל הרחב. החשש הוא שמציאות מזויפת זו תשמש למניפולציות רחבות היקף – פגיעה בשמם הטוב של אנשים פרטיים ואישים ציבוריים, השפעות הרסניות על מערכות בחירות, הפצת דיסאינפורמציה ומבצעי סחיטה וסחר בזהות.
מעבר לפגיעות ישירות, החשש מתמקד בפגיעות מערכתיות באמון הציבור בכלל זרועות המדיה והתוכן. אם לא ניתן לסמוך על אלו שעינינו רואות ואוזנינו שומעות, הקשר בין האזרח למציאות הממסדית, החברתית, הפוליטית והמדעית מתערער. עלולה להיווצר אדישות ביקורתית, שבה אזרחים פוטרים כל עדות חדשה כ"זיוף" פוטנציאלי, או מנגד – מאמצים תכנים מזויפים כאמיתיים בשל האפקט הרגשי והוויזואלי החזק שהם מייצרים.
היבט אתי קריטי נוסף קשור לזכות לפרטיות ולשליטה בזהות. דיפ פייק עלול לשמש ליצירת חומרים מביכים או אינטימיים תוך גניבה של דימויים קוליים ופנים – מבלי שהמושא נתן לכך את רשותו או אף מודע לכך. מעבר לפגיעה האישית והחברתית, מדובר בהפרה בוטה של זכויות בסיס לזיהוי עצמי ופרטיות.
הדיון האתי מקיף גם את שאלת האחריות: למי יש אחריות למניעת הפצת דיפ פייק? האם החובה מוטלת על יוצרי הפלטפורמות, על מחוקקים, על המשתמשים עצמם או על התקשורת? באופן דומה, יש לברר כיצד לאזן בין חופש היצירה והביטוי לבין מניעת נזקים חמורים. המדע והטכנולוגיה קדמו לחקיקה ולכלים רגולטוריים, והחברה נדרשת להשלים פערים במהירות.
במענה לחששות אלו, יש לפתח כלי זיהוי אוטומטיים, להגביר את מודעות הציבור לסכנות ולשפר את מערכת החינוך להתמודדות עם מידע וריבוי מקורות. כמו כן, דרושה חשיבה מוסרית ורגולטורית חדשה: חוקים ברורים, אכיפה טכנולוגית רוחבית ואחריות אישית וקהילתית לשתף, להפיץ ולנתח תכנים בזהירות.
לסיכום, עידן ה-Deepfake מחייב שינוי עמוק במבנה החשיבה שלנו בנוגע למהימנות מידע, אותנטיות וערכים מוסריים – במישור הפרטי, החברתי והמשפטי כאחד. רק עירנות, חינוך ומדיניות אחראית יאפשרו לצמצם את הנזקים ולשמר את אמון הציבור במציאות שלנו.