Abstract

דמיון מתחולל בחלקו מחוץ לראש באמצעות עזרים טכנולוגיים. עובדה זו כשלעצמה אינה חדשה, אולם ‏טכנולוגיות חדשות משנות את טיבו של הדמיון. מחוללי מדיה סינתטית, כגון דָאלִי, ופריטי מדיה סינתטיים, ‏כגון זיופים עמוקים (‏דיפ-פייקס; תמונות וסרטונים ריאליסטיים שנוצרו באופן אלגוריתמי ושמציגים אנשים ‏מבצעים או אומרים משהו שלא עשו או אמרו) מערערים על אמות המידה האפיסטמיות הבסיסיות שלנו. עם ‏זאת, טבעו של האיום האפיסטמי החדש הנשקף מהם נותר חמקמק, שכן ייצוגים בדיוניים או מעוותים של ‏המציאות הם עתיקים לפחות כמו הצילום עצמו. אפיונים קיימים באפיסטמולוגיה חברתית של האיום הגלום ‏בזיופים עמוקים מתקשים לזהות מה בעצם חדש בו. למאמר זה שתי מטרות: לאפיין את האיום האפיסטמי ‏החדש הנשקף ממדיה סינתטית, ולזהות את התנאים שבהם פריט מדיה סינתטית הוא בעייתי מבחינה ‏אפיסטמית. אנו טוענים שהאיום האפיסטמי הגלום בזיופים עמוקים בפרט, ובמדיה סינתטית בכלל, הוא ‏שלראשונה למשתמשי מחשב רגילים זמינה האפשרות המעשית ליצור בזול וללא מאמץ עולמות בדיוניים שלא ‏ניתן להבחין ביניהם לבין העולם האמיתי ולשתפם בתפוצה רחבה. פריט מדיה סינתטי הוא רעיל מבחינה ‏אפיסטמית בהקשר נתון כאשר אדם בעל הכרה כלשהי של ההקשר עלול לבלבל את העולם הבדיוני המתואר בו ‏עם העולם הממשי או עם ייצוגים מהימנים שלו בנושאים בעלי חשיבות מוסרית או אפיסטמית. ‏ Imagination takes place partly outside the mind, through technological aids. This fact is not new in ‎itself, but new technologies are changing the nature of imagination. Synthetic media generators, ‎such as DALL·E, and synthetic media items, such as deepfakes (realistic images and videos ‎algorithmically generated to depict people doing or saying things they never actually did or said), ‎challenge our fundamental epistemic standards. But the nature of the new epistemic threat they ‎pose remains elusive, since fictional or distorted representations of reality are at least as old as ‎photography itself. Existing characterizations in social epistemology of the threat posed by ‎deepfakes struggle to pinpoint what exactly is novel about it. This paper has two aims: to ‎characterize the new epistemic threat posed by synthetic media, and to identify the conditions ‎under which a synthetic media item is epistemically malignant or toxic. We argue that the ‎epistemic threat posed by deepfakes in particular, and by synthetic media more broadly, lies in the ‎unprecedented practicable possibility afforded to ordinary computer users to cheaply and ‎effortlessly create fictional worlds that are indistinguishable from the real world and share them ‎widely. A synthetic media item is epistemically toxic or malignant in a given context when a person ‎acquainted with the context is liable to confuse the fictional world depicted in it with the real ‎world or with credible representations thereof on matters of moral or epistemic significance.‎